Künstliche Intelligenz: Geheime KI ohne Risikoabschätzung bei Sicherheitsbehörden

Polizeien und Geheimdienste in Deutschland nutzen KI-Systeme. Wofür, soll aber geheim bleiben. Eine Risikoabschätzung gibt es kaum.

Artikel veröffentlicht am ,
Auch die Bundespolizei setzt auf KI-Systeme.
Auch die Bundespolizei setzt auf KI-Systeme. (Bild: Ralph Orlowski/Reuters)

Kommerziell genutzte KI-Systeme sind oft diskriminierend. Deshalb hat Twitter etwa Bug-Bounties dafür ausgeschrieben, große Software-Unternehmen wie Microsoft oder Deepmind halten die Software deshalb teils zurück. Darüber hinaus hat die stark umstrittene Nutzung von KI-Techniken durch die Polizei in den USA mehrfach zu falschen Beschuldigungen oder anderen Problemen geführt, so dass etwa die Nutzung von Gesichtserkennungssystemen ausgesetzt worden ist. Von diesen Entwicklungen scheint bei deutschen Behörden jedoch noch nicht viel angekommen zu sein, wie die Antwort auf ein kleine Anfrage von Anke Domscheit-Berg (Die Linke) nahelegt.

Stellenmarkt
  1. Business Intelligence Entwickler (IBM Planning Analytics/TM1) (m/w/d)
    Hays AG, Frankfurt am Main, Köln, Mannheim, deutschlandweit (Homeoffice)
  2. Trend- und Technology Analyst Innovationsabteilung (m/w/d)
    Hays AG, Köln, Mannheim, München, deutschlandweit (Homeoffice)
Detailsuche

Domscheit-Berg fragte die Bundesregierung einerseits nach dem Einsatz von KI-Systemen in Bundesbehörden und Ministerien sowie andererseits danach, ob und welche Risikoklassenmodelle genutzt werden, um diesen Einsatz zu bewerten. Die Frage nach der Risikoabschätzung wird demnach in den meisten Fällen nicht beantwortet oder ist offenbar falsch verstanden worden. Darüber hinaus hält sich die Bundesregierung in ihrer Antwort insbesondere zum Einsatz bei den Sicherheitsbehörden bedeckt und stuft diese Informationen teils als geheim ein.

Beantwortet worden sind die Fragen nach dem Einsatz überhaupt nicht zu den KI-Systemen, die beim Bundesamt für Verfassungsschutz (BfV) sowie zu zwei Systemen, die beim Bundeskriminalamt (BKA) im Einsatz sind. Darüber hinaus werden 3 KI-Systeme beim Zitis (Zentrale Stelle für Informationstechnik im Sicherheitsbereich), 2 Systeme bei der Bundespolizei sowie 2 weitere beim BKA als "Nur für den Dienstgebrauch" eingestuft. Domscheit-Berg erhält damit zwar eine Antwort, darf diese aber nicht der Allgemeinheit zur Verfügung stellen.

Die Politikerin schreibt dazu: "Ausgerechnet dort, wo potenziell Grundrechte von Bürger:innen besonders berührt sein können, wo also auch Risiken durch einen fehlerhaften Einsatz von KI besonders hoch sind, wird die parlamentarische Kontrolle sowie die gesellschaftliche Debatte eklatant eingeschränkt. Dies widerspricht dem Grundgedanken aller Empfehlungen der Gremien, die sich mit den ethischen Folgen des Einsatzes von KI befasst haben." Probleme für die Grundrechte von Menschen durch den KI-Einsatz sieht die Politikerin außerdem durch die Verwendung im Bundesamt für Migration und Flüchtlinge (BAMF).

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Aktuell auf der Startseite von Golem.de
Sicherheitslücke
Die Schadsoftware, die auf ausgeschalteten iPhones aktiv ist

Forschern ist es gelungen, eine Schadsoftware auf ausgeschalteten iPhones mit vermeintlich leerem Akku auszuführen. Denn ganz aus sind diese nicht.

Sicherheitslücke: Die Schadsoftware, die auf ausgeschalteten iPhones aktiv ist
Artikel
  1. Bundeswehr: Das Heer will sich nicht abhören lassen
    Bundeswehr
    Das Heer will sich nicht abhören lassen

    Um sicher zu kommunizieren, halten die Landstreitkräfte in NATO-Missionen angeblich ihre Panzer an und verabreden sich "von Turm zu Turm".
    Ein Bericht von Matthias Monroy

  2. Einstieg in Linux mit drei Online-Workshops
     
    Einstieg in Linux mit drei Online-Workshops

    Linux-Systeme verstehen und härten sowie die Linux-Shell programmieren - das bieten drei praxisnahe Online-Workshops der Golem Akademie.
    Sponsored Post von Golem Akademie

  3. Milliarden-Übernahme: Musk spricht von günstigerem Übernahmeangebot für Twitter
    Milliarden-Übernahme  
    Musk spricht von günstigerem Übernahmeangebot für Twitter

    Mit Blick auf die Zählung von Spam-Konten bei Twitter hat Elon Musk gefragt, ob die mehr als 200 Millionen Twitter-Nutzer angerufen worden seien.

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Daily Deals • Cyber Week: Bis zu 400€ Rabatt auf Gaming-Stühle • AOC G3 Gaming-Monitor 34" UWQHD 165 Hz günstig wie nie: 404€ • Xbox Series X bestellbar • MindStar (u.a. Gigabyte RTX 3090 24GB 1.699€) • LG OLED TV (2021) 65" 120 Hz 1.499€ statt 2.799€ [Werbung]
    •  /