• IT-Karriere:
  • Services:

Algorithmen: Maas schlägt digitales Antidiskriminierungsgesetz vor

Wenn Software allein entscheidet, was mit Menschen passiert, kann das schlimme Folgen haben. Justizminister Heiko Maas fordert deshalb mehr Transparenz von den Entwicklern.

Artikel von Patrick Beuth/Zeit Online veröffentlicht am
Bundesjustizminister Heiko Maas
Bundesjustizminister Heiko Maas (Bild: Adam Berry/Getty Images)

Handydaten, die beeinflussen, ob jemand einen Kleinkredit bekommt. Software in der US-Justiz, die das künftige Verhalten von verurteilten Straftätern vorhersagt und dabei nach Ansicht von Kritikern Schwarze benachteiligt. Ein Programm, das Sozialhilfebetrüger in Australien erkennen soll, aber häufig Unschuldigen gigantische Rechnungen schickt. Es gibt viele Beispiele für automatisierte Entscheidungsfindungen, die längst Realität sind und manchmal haarsträubende bis beängstigende Folgen für die Betroffenen haben. Justiz- und Verbraucherschutzminister Heiko Maas (SPD) plädiert deshalb für ein staatliches Eingreifen. Auch wenn die von ihm selbst genannten Beispiele in Deutschland so noch gar nicht möglich, weil schlicht nicht erlaubt wären.

Inhalt:
  1. Algorithmen: Maas schlägt digitales Antidiskriminierungsgesetz vor
  2. Reicht nicht einfach das Datenschutzrecht?

Auf einer Veranstaltung seines Ministeriums schlug Maas am Montag drei Neuerungen vor: erstens ein "digitales Antidiskriminierungsgesetz", um zu verhindern, dass Teile der Bevölkerung durch Softwareentscheidungen benachteiligt werden. Zweitens ein Transparenzgebot für Algorithmen, also Erklärungen der Anbieter oder Betreiber über ihre Personalisierungsmechanismen, "damit Nutzer selbst entscheiden können, welche Filter sie akzeptieren und welche nicht". Drittens die Gründung einer Digitalagentur, "um im Austausch mit Wissenschaft, Wirtschaft und Verbrauchern mehr Expertise zu erlangen - über Algorithmen, über das Internet der Dinge und das Leben in der digitalen Welt".

Spiegel Online hatte vorab unter Berufung auf das Redemanuskript berichtet, Maas verlange auch "eine behördliche Kontrolle, um die Funktionsweise, Grundlagen und Folgen von Algorithmen überprüfen zu können". Diese Aufgabe könne die Digitalagentur übernehmen. Das wäre gleichbedeutend mit einer Aufsichtsbehörde, der Unternehmen wie Google Einblick in ihre Quellcodes und damit Geschäftsgeheimnisse geben müssten. Vor Ort sagte Maas diese Sätze allerdings nicht, und auch im offiziellen Manuskript stehen sie nicht.

Seit Jahren redet Maas darüber

Seine Vorschläge für Gesetze und Gebote bleiben deshalb äußerst vage. Maas hat aber bereits mit dem inhaltlich umstrittenen Netzwerkdurchsetzungsgesetz gezeigt, dass er willens ist, die Regulierung von Internetunternehmen zu verschärfen. So ist wohl auch sein neuer Vorstoß zu verstehen: "Bis zu welchem Grad sind wir bereit, unsere Handlungsfreiheit durch Algorithmen beschneiden zu lassen?", fragte er am Montag, nachdem er die Antwort zuvor schon selbst gegeben hatte: "Menschen dürfen nicht von Technik beherrscht werden."

Stellenmarkt
  1. Lidl Digital, Neckarsulm
  2. EDAG Engineering GmbH, Ulm

Sein Timing allerdings und ein Seitenhieb auf die Kabinettskollegen verraten, dass die Bundesregierung insgesamt noch keinen allzu dringenden Handlungsbedarf sieht. Denn schon vor drei Jahren hatte Maas mehr Transparenz von Unternehmen wie Google angemahnt. Und Ende 2015 schrieb er dann in einem Gastbeitrag für Die Zeit: "Wir brauchen einen Algorithmen-TÜV, der die Lauterkeit der Programmierung gewährleistet und auch sicherstellt, dass unsere Handlungs- und Entscheidungsfreiheit nicht manipuliert wird."

Maas: "Die nächste Bundesregierung sollte ..."

Nun aber ist die Legislaturperiode praktisch beendet und ein Vorstoß des Gesetzgebers ist ausgeblieben. Maas stellte am Montag fest: "Die nächste Bundesregierung sollte sich mit der Gründung einer Digitalagentur ernsthaft auseinandersetzen. Das hat die jetzige auch schon getan." Was den unausgesprochenen Vorwurf enthält, dass dieses Auseinandersetzen zu nichts Greifbarem geführt hat.

Forscher und Aktivisten, die sich mit dem Thema beschäftigen, freuen sich prinzipiell über die neue Aufmerksamkeit für ihr Anliegen. Aber Matthias Spielkamp von der Initiative Algorithm Watch befürchtet, dass Maas mit seinen vagen Vorschlägen nur Wahlkampf macht. "Was nicht passieren darf", sagt Spielkamp, "ist, dass plötzlich 'der Algorithmus' an allem schuld ist." Denn nicht eine Software diskriminiere, sondern immer das Unternehmen, das sie einsetzt. Und da es bereits ein Antidiskriminierungsgesetz gebe, sehe er nicht, warum das unbedingt ins Digitale übertragen werden müsse. Es würde reichen, das bestehende auch gegen Internetunternehmen durchzusetzen. Ebenso hielte er "eine Bundesalgorithmenprüfungsanstalt", wie er es ausdrückt, für den falschen Weg.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed
Reicht nicht einfach das Datenschutzrecht? 
  1. 1
  2. 2
  3.  


Anzeige
Spiele-Angebote
  1. (u.a. Battlefield V für 21,49€ und Dying Light - The Following Enhanced Edition für 11,49€)
  2. 4,32€
  3. 4,99€
  4. 4,98€

logged_in 05. Jul 2017

Fast immer wenn ich im Internet meine Daten eingeben muss/will, werde ich nach dem Titel...

MFGSparka 05. Jul 2017

Ich tippe mal darauf, dass es ihm darum geht die Diskriminierung politisch zu lenken...

Palerider 05. Jul 2017

Sollte es sowas geben wie das Beispiel der amerikanischen Justiz oder australischen...

paulhff 05. Jul 2017

Und was ist, wenn keiner mehr versteht, wie eine Entscheidung zustande kommt, weil ein...

Sharra 05. Jul 2017

Sorry, aber diese Ausage ist, ohne Angabe der Zeiträume, und was sich in der...


Folgen Sie uns
       


Nintendo Ring Fit Adventure angespielt

Mit Ring Fit Adventure können Spieler auf der Nintendo Switch einen Drachen bekämpfen - und dabei gleichzeitig Sport machen.

Nintendo Ring Fit Adventure angespielt Video aufrufen
Confidential Computing: Vertrauen ist schlecht, Kontrolle besser
Confidential Computing
Vertrauen ist schlecht, Kontrolle besser

Die IT-Welt zieht in die Cloud und damit auf fremde Rechner. Beim Confidential Computing sollen Daten trotzdem während der Nutzung geschützt werden, und zwar durch die Hardware - keine gute Idee!
Ein IMHO von Sebastian Grüner

  1. Gaia-X Knoten in Altmaiers Cloud identifzieren sich eindeutig
  2. Gaia-X Altmaiers Cloud-Pläne bleiben weiter wolkig
  3. Cloud Ex-SAP-Chef McDermott will Servicenow stark expandieren

Mi Note 10 im Kamera-Test: Der Herausforderer
Mi Note 10 im Kamera-Test
Der Herausforderer

Im ersten Hands on hat Xiaomis Fünf-Kamera-Smartphone Mi Note 10 bereits einen guten ersten Eindruck gemacht, jetzt ist der Vergleich mit anderen Smartphones dran. Dabei zeigt sich, dass es einen neuen, ernstzunehmenden Konkurrenten unter den besten Smartphone-Kameras gibt.
Von Tobias Költzsch

  1. Mi Note 10 im Hands on Fünf Kameras, die sich lohnen
  2. Xiaomi Neues Redmi Note 8T mit Vierfachkamera kostet 200 Euro
  3. Mi Note 10 Xiaomis neues Smartphone mit 108 Megapixeln kostet 550 Euro

Handelskrieg: Zartbittere Zeiten für Chinas Technikbranche
Handelskrieg
Zartbittere Zeiten für Chinas Technikbranche

"Bitterkeit essen" heißt es in China, wenn schlechte Zeiten überstanden werden müssen. Doch so schlimm wie Donald Trump es darstellt, wird der Handelskrieg mit den USA für Chinas Technikbranche wohl nicht werden.
Eine Analyse von Finn Mayer-Kuckuk

  1. Smarter Türöffner Nello One soll weiter nutzbar sein
  2. Bonaverde Berliner Kaffee-Startup meldet Insolvenz an
  3. Unitymedia Vodafone plant großen Stellenabbau in Deutschland

    •  /