Finanzämter: BfDI sieht KI-Training mit echten Steuerdaten kritisch
Die oberste Datenschutzbehörde fordert besondere Sicherheitsmaßnahmen beim Training von KI-Modellen mit echten Steuerdaten der Bürger. "Gerade bei KI-Systemen, insbesondere bei Sprachmodellen, können Trainingsdaten im Modell 'memorisiert' werden", sagte ein Sprecher der Bundesdatenschutzbeauftragten (BfDI) Louisa Specht-Riemenschneider auf Anfrage von Golem.
Daher könnten personenbezogene Informationen aus den Trainingsdaten sich im Modell niederschlagen und unter Umständen später wieder ausgegeben oder rekonstruiert werden. "In einem solchen Fall kann nicht nur die Eingabe oder Ausgabe, sondern auch das Modell selbst Personenbezug aufweisen", hieß es weiter.
Aus dem Entwurf des Bundesfinanzministeriums zum Jahressteuergesetz 2026 geht hervor, dass Finanzbehörden von Bund und Ländern künftig KI-basierte Systeme mit unveränderten und nicht anonymisierten oder pseudonymisierten Daten von Bürgern trainieren und nutzen sollen.
Keine ausdrücklichen Forderungen der BfDI
In der Gesetzesbegründung wird darauf verwiesen, dass mit der gesetzlichen Änderung entsprechenden Forderungen der BfDI "nach einer expliziten gesetzlichen Regelung für das Training von KI-Systemen durch Finanzbehörden nachgekommen werden" solle. Eine solche Forderung der Behörde, die sich auf die Finanzbehörden bezieht, gibt es nach Angaben des Sprechers jedoch nicht.
Demnach gibt es lediglich eine allgemeine Forderung der BfDI nach gesetzlichen Regelungen für das KI-Training in der Verwaltung. So heißt es in der datenschutzpolitischen Agenda für die 21. Wahlperiode des Deutschen Bundestages(öffnet im neuen Fenster) (PDF) vom Dezember 2024: "Es sind spezifische gesetzliche Regelungen (etwa für die Sozialverwaltung) notwendig, die die Voraussetzungen für die Verarbeitung personenbezogener Daten zum Zweck des Trainings von KI normenklar festlegen und ein hinreichendes Schutzniveau für die Grundrechte der betroffenen Personen sichern."
Darüber hinaus veröffentlichte die BfDI im Dezember 2025 eine Handreichung für Behörden(öffnet im neuen Fenster) (PDF) für das KI-Training. Darin macht Specht-Riemenschneider dem Sprecher zufolge deutlich: "Wenn das Training eines KI-Systems mit personenbezogenen Daten über eine nur geringfügige Nutzung hinausgeht, muss der Gesetzgeber klar regeln, zu welchem Zweck, in welchem Umfang und unter welchen Schutzvorkehrungen solche Daten für KI-Training genutzt werden dürfen."
Möglichst Daten ohne Personenbezug verwenden
Mit Blick auf die Finanzbehörden ist demnach aus Sicht der BfDI entscheidend, "ob und in welchem Umfang personenbezogene Daten in das KI-Modell selbst eingehen können". Die Nutzung eines personenbezogenen KI-Modells erfordere "eine tragfähige Rechtsgrundlage". Auch bei memorisierten Daten seien die Grundsätze der Datenminimierung und der Erforderlichkeit zu beachten, so dass bei der Entwicklung eines KI-Modells vorrangig nicht-personenbezogene Daten zum Training genutzt werden sollten.
Die Memorisierung personenbezogener Trainingsdaten sei durch geeignete technische Maßnahmen möglichst zu vermeiden. "Dazu gehören insbesondere Schutzmaßnahmen bereits bei der Entwicklung des Modells, Maßnahmen zur Verringerung des Risikos einer späteren Wiedergabe memorisierter Daten auch im Betrieb sowie regelmäßige Prüfungen, ob der Personenbezug durch technische Weiterentwicklungen weiter reduziert oder beseitigt werden kann", sagte der Sprecher.
Klare Löschregeln gefordert
Zudem sei fortlaufend zu prüfen, ob neue Angriffsmethoden eine Extraktion memorisierter Daten ermöglichen könnten. Ebenso erforderlich seien "klare interne Regeln für den Einsatz von KI, der Aufbau von KI-Kompetenz bei den Nutzenden und angemessene Löschroutinen". Im Entwurf des Finanzministeriums bleibt die tatsächliche Nutzungsdauer der Daten für die beschriebenen Zwecke jedoch offen. Denn die gesetzlich vorgeschriebene Löschfrist von einem Jahr beginnt erst dann, wenn "die Daten für die Fortsetzung eines ordnungsgemäßen Betriebs des automatisierten Systems nicht länger erforderlich sind."
Der Bundesregierung zufolge ist der Einsatz von KI-Systemen erforderlich, um "die gesetzlich vorgesehene Besteuerung auch gegenüber jedermann gleichmäßig durchzusetzen". Die Daten sollen nur auf Servern der Finanzverwaltung (On-Premise) und nicht auf Cloudservern außerhalb des Anwendungsbereichs der EU-Datenschutz-Grundverordnung (DSGVO) verarbeitet werden.
Bis zum 12. Juni 2026 konnten Verbände eine Stellungnahme zum Referentenentwurf(öffnet im neuen Fenster) (PDF) abgeben. Nach einem Kabinettsbeschluss müssen Bundestag und Bundesrat dem Gesetzentwurf noch zustimmen.
- Anzeige Hier geht es zu Künstliche Intelligenz: Wissensverarbeitung bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.