Gesetze als Code? Funktionieren nicht

Wir könnten ein trainiertes neuronales Netzwerk nehmen, das auf Bildern Katzen erkennt, all die statistischen Werte extrahieren und in ein mathematisches Gleichungssystem umwandeln, das ebenfalls Katzen erkennen kann. Und das wäre ein beeindruckendes Gleichungssystem! Aber auch das wäre nicht intelligent.

Letztlich existiert künstliche Intelligenz nicht. Und sie ist auch nicht nah. Es existieren leistungsfähige Statistiksysteme, denen durch einen attraktiven Namen eine gewisse Magie zugesprochen werden soll. Künstliche Intelligenz ist nur ein Werbebegriff.

Irrtum 4: Diskriminierung durch Algorithmen ist schlimmer als Diskriminierung durch Menschen

Dieser Irrtum ist in der technikkritischen Szene sehr beliebt, aber bei weitem nicht nur dort. Automatische Entscheidungssysteme haben heute eine massive Macht: Sie entscheiden, wie teuer eine bestimmte Versicherung für mich ist, ob ich - wie in Österreich - vom Arbeitsamt eine Förderung bekomme oder nicht, oder im Falle von autonomen Kampfdrohnen potenziell sogar, wer getötet wird.

Diese Systeme werden zu Recht stark kritisiert: Wie kann es sein, dass solche Entscheidungen - im wahrsten Sinne über Leben und Tod - an irgendwelche Maschinen ausgelagert werden?

Aber nicht die Systeme sind der Kern des Problems, sondern die Menschen, die sie bauen. Während der Entwicklung dieser Systeme automatisieren Personen bestehende, tief in organisatorische Prozesse integrierte Formen der Diskriminierung und strukturellen Gewalt. Der Unterschied zu vorherigen Entscheidungsprozessen besteht lediglich darin, dass nun eine Maschine entscheidet, ob ich einen Kredit bekomme, nicht der Mensch. Zwar minimiert der Prozess die Möglichkeit, noch mal über eine Entscheidung zu reden. Aber strukturell ändert sich wenig: Schon heute sind Entscheidungen von Menschen massiv computerisiert. Menschen bestimmen formal über die Kreditvergabe, aber wenn der Schufa-Algorithmus Nein sagt, dann ist egal, wie freundlich ich mit der Person reden kann, die die Ablehnung abnickt. Die Entscheidung bleibt dieselbe.

Man könnte jetzt argumentieren, dass die dem Prozess und seinen Datenstrukturen innewohnende Benachteiligung durch die Automatisierung sichtbar und damit änderbar gemacht würde. Doch ehrlicherweise ist natürlich die in viele Prozesse eingebaute Diskriminierung kein Fehler oder Nebeneffekt, sondern Ziel des Prozesses. Diese politischen und sozialen Fragen als Technikproblem zu bezeichnen, verschleiert den Kernpunkt und akzeptiert sogar implizit die bestehenden Diskriminierungsstrukturen. Die Technik kann die Ausübung oft unkontrollierter struktureller Gewalt nicht lösen.

Irrtum 5: Gesetze und Verträge können in Code ausgedrückt werden, um ihre Anwendung zu standardisieren

Nicht nur in der Blockchain-Szene ist die Idee beliebt, Gesetze und Verträge in Programmcode auszudrücken. Auch Datenschützerinnen und Datenschützer diskutieren immer wieder, wie sich beispielsweise die Regeln der EU-Datenschutz-Grundverordnung automatisiert durchsetzen ließen. Die Hoffnung der Befürworter solcher Ansätze: faire, transparente und objektive Systeme der Regelauslegung zu schaffen.

Leider funktionieren so weder Verträge noch das Gesetz. Natürlich versuchen sowohl der Gesetzgeber wie auch Anwälte, ihre Regelwerke so präzise und wasserdicht wie möglich zu formulieren, alle Sonderfälle zu beschreiben, alle Begriffe eindeutig zu definieren und zukünftige Szenarien vorherzusehen. Und es ist ja nicht so, als würde dieses System nicht funktionieren. In den meisten Fällen greift es. Aber nicht in allen.

Wenn Gesetze und Verträge wirklich so einfach wären, wie einige Technologen sich das vorstellen, hätten wir weit weniger Gerichte und deutlich weniger Anwaltskanzleien. Seit Jahrzehnten versuchen Wissenschaftler, kleine Teile des Rechts - wie zum Beispiel Teile des Steuerrechts - in Code abzubilden. Alle diese Ansätze sind gescheitert, weil die Modelle beziehungsweise der Code zu simpel waren, um die Komplexität der Welt abzubilden. Denn an irgendeinem Punkt muss eine Software die gegebene Situation interpretieren und schließlich das Gesetz anwenden. Das besteht aber nicht aus mathematischen Formeln, sondern muss immer wieder neu ausgelegt werden. Genau deshalb gibt es ja Erwägungsgründe, die erklären, wie ein Gesetz gemeint ist. Der nackte Text alleine bildet die Realität meistens nicht ab.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed
 Was ist eigentlich Intelligenz?Open Source ist nicht gleich Freiheit 
  1.  
  2. 1
  3. 2
  4. 3
  5. 4
  6.  


HighZ 19. Dez 2018

Ethik wird in den Kommentaren nur auf "töten oder nicht" begrenzt. (Thema Kreissäge: Die...

Diether 16. Dez 2018

...programmieren, das nach außen hin einer - wie auch immer zu definierenden - "Ethik...

Ach 12. Dez 2018

Z.B. klassische Situation, dass ein Kind zwischen parkenden Autos hervorspringt, der...

GeXX 12. Dez 2018

An sich ein gut geschriebener Artikel, wenn hier nicht die KI mit Deep Learning und...



Aktuell auf der Startseite von Golem.de
Der Herr der Ringe
Lego bringt Bruchtal aus 6.100 Teilen und mit 15 Figuren

Die gesamte Gemeinschaft des Ringes versammelt sich in den Hallen von Bruchtal, das als Lego-Diorama Herr-der-Ringe-Fans erfreuen kann.

Der Herr der Ringe: Lego bringt Bruchtal aus 6.100 Teilen und mit 15 Figuren
Artikel
  1. Microsoft: Bing bekommt ChatGPT-Integration und kann getestet werden
    Microsoft
    Bing bekommt ChatGPT-Integration und kann getestet werden

    Microsoft hat KI-basierte Updates für die Bing-Suchmaschine und den Edge-Browser angekündigt. Die Beta ist schon verfügbar.

  2. Stress reduzieren: Runter mit der Hasskappe!
    Stress reduzieren
    Runter mit der Hasskappe!

    Viele ITler stehen unter enormen Stress und ruinieren sich damit die Gesundheit und den Spaß an der Arbeit - und anderen den Tag. Psychologen empfehlen als Lösung: mit Affirmationen die eigenen Gedanken umprogrammieren.
    Ein Bericht von Marc Favre

  3. Spacejet: Mitsubishi beendet die Entwicklung seines Regionalflugzeugs
    Spacejet
    Mitsubishi beendet die Entwicklung seines Regionalflugzeugs

    Mitsubishi hat die bereits pausierte Entwicklung eines eigenen Passagierflugzeugs beendet. Es hätte die erste japanische Verkehrsmaschine nach 50 Jahren werden sollen.

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Daily Deals • Powercolor RX 7900 XTX 1.119€ • WSV-Finale bei MediaMarkt • Samsung 980 Pro 2TB (PS5-komp.) 174,99€ • MSI RTX 4080 1.349€ • Samsung 55" 4K QLED Curved Gaming-Monitor -25% • Asus RX 7900 XT 939,90€ • DAMN-Deals: AMD CPUs zu Tiefstpreisen • PCGH Cyber Week nur bis 9.2. [Werbung]
    •  /