Künstliche Intelligenz: Geheime KI ohne Risikoabschätzung bei Sicherheitsbehörden

Polizeien und Geheimdienste in Deutschland nutzen KI-Systeme. Wofür, soll aber geheim bleiben. Eine Risikoabschätzung gibt es kaum.

Artikel veröffentlicht am ,
Auch die Bundespolizei setzt auf KI-Systeme.
Auch die Bundespolizei setzt auf KI-Systeme. (Bild: Ralph Orlowski/Reuters)

Kommerziell genutzte KI-Systeme sind oft diskriminierend. Deshalb hat Twitter etwa Bug-Bounties dafür ausgeschrieben, große Software-Unternehmen wie Microsoft oder Deepmind halten die Software deshalb teils zurück. Darüber hinaus hat die stark umstrittene Nutzung von KI-Techniken durch die Polizei in den USA mehrfach zu falschen Beschuldigungen oder anderen Problemen geführt, so dass etwa die Nutzung von Gesichtserkennungssystemen ausgesetzt worden ist. Von diesen Entwicklungen scheint bei deutschen Behörden jedoch noch nicht viel angekommen zu sein, wie die Antwort auf ein kleine Anfrage von Anke Domscheit-Berg (Die Linke) nahelegt.

Stellenmarkt
  1. SAP Basis Berater (m/w/x)
    über duerenhoff GmbH, Raum Berlin
  2. Automation Expert (d/m/w)
    OSRAM Opto Semiconductors Gesellschaft mit beschränkter Haftung, Regensburg
Detailsuche

Domscheit-Berg fragte die Bundesregierung einerseits nach dem Einsatz von KI-Systemen in Bundesbehörden und Ministerien sowie andererseits danach, ob und welche Risikoklassenmodelle genutzt werden, um diesen Einsatz zu bewerten. Die Frage nach der Risikoabschätzung wird demnach in den meisten Fällen nicht beantwortet oder ist offenbar falsch verstanden worden. Darüber hinaus hält sich die Bundesregierung in ihrer Antwort insbesondere zum Einsatz bei den Sicherheitsbehörden bedeckt und stuft diese Informationen teils als geheim ein.

Beantwortet worden sind die Fragen nach dem Einsatz überhaupt nicht zu den KI-Systemen, die beim Bundesamt für Verfassungsschutz (BfV) sowie zu zwei Systemen, die beim Bundeskriminalamt (BKA) im Einsatz sind. Darüber hinaus werden 3 KI-Systeme beim Zitis (Zentrale Stelle für Informationstechnik im Sicherheitsbereich), 2 Systeme bei der Bundespolizei sowie 2 weitere beim BKA als "Nur für den Dienstgebrauch" eingestuft. Domscheit-Berg erhält damit zwar eine Antwort, darf diese aber nicht der Allgemeinheit zur Verfügung stellen.

Die Politikerin schreibt dazu: "Ausgerechnet dort, wo potenziell Grundrechte von Bürger:innen besonders berührt sein können, wo also auch Risiken durch einen fehlerhaften Einsatz von KI besonders hoch sind, wird die parlamentarische Kontrolle sowie die gesellschaftliche Debatte eklatant eingeschränkt. Dies widerspricht dem Grundgedanken aller Empfehlungen der Gremien, die sich mit den ethischen Folgen des Einsatzes von KI befasst haben." Probleme für die Grundrechte von Menschen durch den KI-Einsatz sieht die Politikerin außerdem durch die Verwendung im Bundesamt für Migration und Flüchtlinge (BAMF).

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Aktuell auf der Startseite von Golem.de
Halbleiter & SMIC
Chip-Nachfrage für Smartphones und PC fällt "wie ein Stein"

Chinesische Kunden von SMIC haben volle Lager und ordern weniger Chips. Andere Halbleiter sollen den Einbruch auffangen.

Halbleiter & SMIC: Chip-Nachfrage für Smartphones und PC fällt wie ein Stein
Artikel
  1. Google: Russland will Youtube aus Selbstschutz nicht blockieren
    Google
    Russland will Youtube aus Selbstschutz nicht blockieren

    Die zahlreichen Drohungen der russischen Zensurbehörde zur Blockade von Youtube werden wohl nicht umgesetzt. Die Auswirkungen wären zu stark.

  2. Arclight Rumble: Wegen Warcraft Mobile sollte sich Blizzard selbst verklagen!
    Arclight Rumble
    Wegen Warcraft Mobile sollte sich Blizzard selbst verklagen!

    Golem.de hat es gespielt: Arclight Rumble entpuppt sich als gelungenes Mobile Game - aber wie ein echtes Warcraft fühlt es sich nicht an.
    Von Peter Steinlechner

  3. Biontech: Mainz kann 365-Euro-ÖPNV-Ticket dank Corona einführen
    Biontech
    Mainz kann 365-Euro-ÖPNV-Ticket dank Corona einführen

    In Mainz ist Biontech beheimatet, was die Steuereinnahmen explodieren lässt. Mit dem Geld wird nun ein 365-Euro-Jahresticket für Schüler und Azubis finanziert.

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Daily Deals • PS5 jetzt bestellbar • Cyber Week: Bis zu 900€ Rabatt auf E-Bikes • MindStar (u. a. Intel Core i9 529€, MSI RTX 3060 Ti 609€) • Gigabyte Waterforce Mainboard günstig wie nie: 480,95€ • Razer Ornata V2 Gaming-Tastatur günstig wie nie: 54,99€ • AOC G3 Gaming-Monitor 34" 165 Hz günstig wie nie: 404€ [Werbung]
    •  /