Abo
  • Services:

Algorithmen: Maas schlägt digitales Antidiskriminierungsgesetz vor

Wenn Software allein entscheidet, was mit Menschen passiert, kann das schlimme Folgen haben. Justizminister Heiko Maas fordert deshalb mehr Transparenz von den Entwicklern.

Artikel von Patrick Beuth/Zeit Online veröffentlicht am
Bundesjustizminister Heiko Maas
Bundesjustizminister Heiko Maas (Bild: Adam Berry/Getty Images)

Handydaten, die beeinflussen, ob jemand einen Kleinkredit bekommt. Software in der US-Justiz, die das künftige Verhalten von verurteilten Straftätern vorhersagt und dabei nach Ansicht von Kritikern Schwarze benachteiligt. Ein Programm, das Sozialhilfebetrüger in Australien erkennen soll, aber häufig Unschuldigen gigantische Rechnungen schickt. Es gibt viele Beispiele für automatisierte Entscheidungsfindungen, die längst Realität sind und manchmal haarsträubende bis beängstigende Folgen für die Betroffenen haben. Justiz- und Verbraucherschutzminister Heiko Maas (SPD) plädiert deshalb für ein staatliches Eingreifen. Auch wenn die von ihm selbst genannten Beispiele in Deutschland so noch gar nicht möglich, weil schlicht nicht erlaubt wären.

Inhalt:
  1. Algorithmen: Maas schlägt digitales Antidiskriminierungsgesetz vor
  2. Reicht nicht einfach das Datenschutzrecht?

Auf einer Veranstaltung seines Ministeriums schlug Maas am Montag drei Neuerungen vor: erstens ein "digitales Antidiskriminierungsgesetz", um zu verhindern, dass Teile der Bevölkerung durch Softwareentscheidungen benachteiligt werden. Zweitens ein Transparenzgebot für Algorithmen, also Erklärungen der Anbieter oder Betreiber über ihre Personalisierungsmechanismen, "damit Nutzer selbst entscheiden können, welche Filter sie akzeptieren und welche nicht". Drittens die Gründung einer Digitalagentur, "um im Austausch mit Wissenschaft, Wirtschaft und Verbrauchern mehr Expertise zu erlangen - über Algorithmen, über das Internet der Dinge und das Leben in der digitalen Welt".

Spiegel Online hatte vorab unter Berufung auf das Redemanuskript berichtet, Maas verlange auch "eine behördliche Kontrolle, um die Funktionsweise, Grundlagen und Folgen von Algorithmen überprüfen zu können". Diese Aufgabe könne die Digitalagentur übernehmen. Das wäre gleichbedeutend mit einer Aufsichtsbehörde, der Unternehmen wie Google Einblick in ihre Quellcodes und damit Geschäftsgeheimnisse geben müssten. Vor Ort sagte Maas diese Sätze allerdings nicht, und auch im offiziellen Manuskript stehen sie nicht.

Seit Jahren redet Maas darüber

Seine Vorschläge für Gesetze und Gebote bleiben deshalb äußerst vage. Maas hat aber bereits mit dem inhaltlich umstrittenen Netzwerkdurchsetzungsgesetz gezeigt, dass er willens ist, die Regulierung von Internetunternehmen zu verschärfen. So ist wohl auch sein neuer Vorstoß zu verstehen: "Bis zu welchem Grad sind wir bereit, unsere Handlungsfreiheit durch Algorithmen beschneiden zu lassen?", fragte er am Montag, nachdem er die Antwort zuvor schon selbst gegeben hatte: "Menschen dürfen nicht von Technik beherrscht werden."

Stellenmarkt
  1. über duerenhoff GmbH, Neuruppin
  2. Lufthansa Industry Solutions TS GmbH, Oldenburg

Sein Timing allerdings und ein Seitenhieb auf die Kabinettskollegen verraten, dass die Bundesregierung insgesamt noch keinen allzu dringenden Handlungsbedarf sieht. Denn schon vor drei Jahren hatte Maas mehr Transparenz von Unternehmen wie Google angemahnt. Und Ende 2015 schrieb er dann in einem Gastbeitrag für Die Zeit: "Wir brauchen einen Algorithmen-TÜV, der die Lauterkeit der Programmierung gewährleistet und auch sicherstellt, dass unsere Handlungs- und Entscheidungsfreiheit nicht manipuliert wird."

Maas: "Die nächste Bundesregierung sollte ..."

Nun aber ist die Legislaturperiode praktisch beendet und ein Vorstoß des Gesetzgebers ist ausgeblieben. Maas stellte am Montag fest: "Die nächste Bundesregierung sollte sich mit der Gründung einer Digitalagentur ernsthaft auseinandersetzen. Das hat die jetzige auch schon getan." Was den unausgesprochenen Vorwurf enthält, dass dieses Auseinandersetzen zu nichts Greifbarem geführt hat.

Forscher und Aktivisten, die sich mit dem Thema beschäftigen, freuen sich prinzipiell über die neue Aufmerksamkeit für ihr Anliegen. Aber Matthias Spielkamp von der Initiative Algorithm Watch befürchtet, dass Maas mit seinen vagen Vorschlägen nur Wahlkampf macht. "Was nicht passieren darf", sagt Spielkamp, "ist, dass plötzlich 'der Algorithmus' an allem schuld ist." Denn nicht eine Software diskriminiere, sondern immer das Unternehmen, das sie einsetzt. Und da es bereits ein Antidiskriminierungsgesetz gebe, sehe er nicht, warum das unbedingt ins Digitale übertragen werden müsse. Es würde reichen, das bestehende auch gegen Internetunternehmen durchzusetzen. Ebenso hielte er "eine Bundesalgorithmenprüfungsanstalt", wie er es ausdrückt, für den falschen Weg.

Reicht nicht einfach das Datenschutzrecht? 
  1. 1
  2. 2
  3.  


Anzeige
Hardware-Angebote
  1. 57,99€
  2. 107,85€ + Versand

logged_in 05. Jul 2017

Fast immer wenn ich im Internet meine Daten eingeben muss/will, werde ich nach dem Titel...

MFGSparka 05. Jul 2017

Ich tippe mal darauf, dass es ihm darum geht die Diskriminierung politisch zu lenken...

Palerider 05. Jul 2017

Sollte es sowas geben wie das Beispiel der amerikanischen Justiz oder australischen...

paulhff 05. Jul 2017

Und was ist, wenn keiner mehr versteht, wie eine Entscheidung zustande kommt, weil ein...

Sharra 05. Jul 2017

Sorry, aber diese Ausage ist, ohne Angabe der Zeiträume, und was sich in der...


Folgen Sie uns
       


Far Cry 5 - Fazit

Im Fazit zu Far Cry 5 zeigen wir dumme Gegner, schöne Grafik und erklären, wie Ubisoft erneut viel Potenzial verschenkt.

Far Cry 5 - Fazit Video aufrufen
Razer Nommo Chroma im Test: Blinkt viel, klingt weniger
Razer Nommo Chroma im Test
Blinkt viel, klingt weniger

Wenn die Razer Nommo Chroma eines sind, dann auffällig. Dafür sorgen die ungewöhnliche Form und die LED-Ringe, die sich beliebig konfigurieren lassen. Die Lautsprecher sind aber eher ein Hingucker als ein Hinhörer.
Ein Test von Oliver Nickel

  1. Razer Kiyo und Seiren X im Test Nicht professionell, aber schnell im Einsatz
  2. Stereolautsprecher Razer Nommo "Sind das Haartrockner?"
  3. Nextbit Cloud-Speicher für Robin-Smartphone wird abgeschaltet

P20 Pro im Kameratest: Huaweis Dreifach-Kamera schlägt die Konkurrenz
P20 Pro im Kameratest
Huaweis Dreifach-Kamera schlägt die Konkurrenz

Mit dem P20 Pro will Huawei sich an die Spitze der Smartphone-Kameras katapultieren. Im Vergleich mit der aktuellen Konkurrenz zeigt sich, dass das P20 Pro tatsächlich über eine sehr gute Kamera verfügt: Die KI-Funktionen können unerfahrenen Nutzern zudem das Fotografieren erleichtern.
Ein Test von Tobias Költzsch

  1. Android Huawei präsentiert drei neue Smartphones ab 120 Euro
  2. Wie Samsung Huawei soll noch für dieses Jahr faltbares Smartphone planen
  3. Porsche Design Mate RS Huawei bringt 512-GByte-Smartphone für 2.100 Euro

BeA: Rechtsanwaltsregister wegen Sicherheitslücke abgeschaltet
BeA
Rechtsanwaltsregister wegen Sicherheitslücke abgeschaltet

Das deutsche Rechtsanwaltsregister hat eine schwere Sicherheitslücke. Schuld daran ist eine veraltete Java-Komponente, die für einen Padding-Oracle-Angriff verwundbar ist. Das Rechtsanwaltsregister ist Teil des besonderen elektronischen Anwaltspostfachs, war aber anders als dieses weiterhin online.
Eine Exklusivmeldung von Hanno Böck

  1. BeA Secunet findet noch mehr Lücken im Anwaltspostfach
  2. EGVP Empfangsbestätigungen einer Klage sind verwertbar
  3. BeA Anwälte wollen Ende-zu-Ende-Verschlüsselung einklagen

    •  /