AISI Deutschland: KI-Institut soll Gefahren von KI-Modellen bewerten
Mit Unterstützung eines neu eingerichteten Instituts will die Bundesregierung Chancen und Risiken fortschrittlicher KI-Modelle besser einschätzen. Nachdem der Nationale Sicherheitsrat im Juni 2026 den Aufbau eines solches Instituts beschlossen hatte(öffnet im neuen Fenster), nahm das AISI Deutschland am 31. August 2026 in Berlin seine Arbeit auf.
Unter der Seite bsi.bund.de/dok/aisi(öffnet im neuen Fenster) findet sich eine erste Aufgabenbeschreibung des Instituts. Demnach erfolgt der Auf- und Ausbau des AI Safety and Security Institute Deutschland schrittweise. Zunächst sollen das Bundesamt für Sicherheit in der Informationstechnik (BSI) und die Bundesnetzagentur (BNetzA) in einer ersten Phase einen "virtuellen" Kern des KI-Sicherheitsinstituts bilden. Das bedeutet, dass sowohl das Digitalministerium als auch das Bundesinnenministerium für das AISI zuständig sind.
Das Institut orientiert sich demnach an internationalen Vorbildern, werde aber "eigenständig und anhand der spezifischen deutschen Bedarfe ausgestaltet". Es soll die Regierung in die Lage versetzen:
- sicherheitsrelevante Risiken frühzeitig zu identifizieren,
- evidenzbasierte Handlungsoptionen abzuleiten,
- Deutschlands digitale Souveränität im KI-Zeitalter zu stärken und
- internationale Entwicklungen strategisch einzuordnen.
Es handele sich ausdrücklich nicht um eine Regulierungsbehörde, sondern um "ein analytisch-operatives Kompetenzzentrum an der Schnittstelle von Sicherheit, Technologieanalyse, Innovation und strategischer Beratung".
Ministerium befürchtet Kontrollverlust
Neben der technischen Evaluierung leistungsfähiger KI-Modelle gehört die Analyse sicherheitsrelevanter Auswirkungen von KI zu den Aufgaben des Instituts. Es soll zudem die Bundesregierung in KI-Fragen strategisch beraten und nationale Expertise und Kooperationsfähigkeit im Bereich KI-Sicherheit aufbauen.
Das Bundesdigitalministerium verwies zum Start des AISI(öffnet im neuen Fenster) auf die jüngsten Veröffentlichungen zu aktuellen KI-Sicherheitsvorfällen und auf sich "zunehmend konkretisierende Risiken durch Kontrollverlust". Sehr leistungsfähige KI-Modelle könnten damit eine Bedrohung unserer digitalen Lebenswelt und der Resilienz unserer Wirtschaft, Gesellschaft und Demokratie darstellen, hieß es in der Mitteilung.
Eine besondere Bedeutung soll demnach der Kooperation mit europäischen und transatlantischen Partnern zukommen. "Bereits jetzt findet ein fachlicher Austausch zwischen den beteiligten Behörden sowie mit internationalen Partnerinstitutionen, unter anderem mit Frankreich, dem Vereinigten Königreich und dem EU AI Office, statt", schreibt das Ministerium.
Aus der Mitteilung geht nicht hervor, wie viele Stellen und welches Budget für das Institut vorgesehen sind. Der IT-Branchenverband Bitkom forderte in einem Positionspapier(öffnet im neuen Fenster) (PDF), dass ein deutsches KI-Sicherheitsinstitut mit einem Anfangsbudget von mindestens 100 Millionen Euro für die ersten zwei Jahre sowie einer langfristig gesicherten Anschlussfinanzierung von mindestens 75 Millionen Euro jährlich ausgestattet werden sollte.
Nachtrag vom 2. September 2026, 9:28 Uhr
Auf Anfrage von Golem teilte das Digitalministerium mit, dass das AISI in der ersten Phase auf den bestehenden Ressourcen des BSI und der Bundesnetzagentur aufbaue. Spezialisierte Expertise der Sicherheitsbehörden wie beispielsweise die Zentralen Stelle für Informationstechnik im Sicherheitsbereich (Zitis) werde einbezogen.
Der Ressourcenbedarf für die spätere Ausbaustufe werde noch ermittelt. Zu weitergehenden Detailplanungen des späteren Ausbaus könnten derzeit noch keine Angaben gemacht werden. "Insbesondere ist die konkrete Ausgestaltung des Instituts, seines Aufgabenzuschnitts sowie weiterer organisatorischer und haushalterischer Fragen Gegenstand laufender regierungsinterner Abstimmungen", teilte das Ministerium mit. Die federführenden Ministerien würden zeitnah ein Konzept für den weiteren Auf- und Ausbau erarbeiten. Die Ministerien übernähmen weiterhin die gemeinsame Fachaufsicht.
- Anzeige Hier geht es zu Künstliche Intelligenz: Wissensverarbeitung bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.