Gesetze als Code? Funktionieren nicht

Wir könnten ein trainiertes neuronales Netzwerk nehmen, das auf Bildern Katzen erkennt, all die statistischen Werte extrahieren und in ein mathematisches Gleichungssystem umwandeln, das ebenfalls Katzen erkennen kann. Und das wäre ein beeindruckendes Gleichungssystem! Aber auch das wäre nicht intelligent.

Letztlich existiert künstliche Intelligenz nicht. Und sie ist auch nicht nah. Es existieren leistungsfähige Statistiksysteme, denen durch einen attraktiven Namen eine gewisse Magie zugesprochen werden soll. Künstliche Intelligenz ist nur ein Werbebegriff.

Irrtum 4: Diskriminierung durch Algorithmen ist schlimmer als Diskriminierung durch Menschen

Dieser Irrtum ist in der technikkritischen Szene sehr beliebt, aber bei weitem nicht nur dort. Automatische Entscheidungssysteme haben heute eine massive Macht: Sie entscheiden, wie teuer eine bestimmte Versicherung für mich ist, ob ich - wie in Österreich - vom Arbeitsamt eine Förderung bekomme oder nicht, oder im Falle von autonomen Kampfdrohnen potenziell sogar, wer getötet wird.

Diese Systeme werden zu Recht stark kritisiert: Wie kann es sein, dass solche Entscheidungen - im wahrsten Sinne über Leben und Tod - an irgendwelche Maschinen ausgelagert werden?

Aber nicht die Systeme sind der Kern des Problems, sondern die Menschen, die sie bauen. Während der Entwicklung dieser Systeme automatisieren Personen bestehende, tief in organisatorische Prozesse integrierte Formen der Diskriminierung und strukturellen Gewalt. Der Unterschied zu vorherigen Entscheidungsprozessen besteht lediglich darin, dass nun eine Maschine entscheidet, ob ich einen Kredit bekomme, nicht der Mensch. Zwar minimiert der Prozess die Möglichkeit, noch mal über eine Entscheidung zu reden. Aber strukturell ändert sich wenig: Schon heute sind Entscheidungen von Menschen massiv computerisiert. Menschen bestimmen formal über die Kreditvergabe, aber wenn der Schufa-Algorithmus Nein sagt, dann ist egal, wie freundlich ich mit der Person reden kann, die die Ablehnung abnickt. Die Entscheidung bleibt dieselbe.

Man könnte jetzt argumentieren, dass die dem Prozess und seinen Datenstrukturen innewohnende Benachteiligung durch die Automatisierung sichtbar und damit änderbar gemacht würde. Doch ehrlicherweise ist natürlich die in viele Prozesse eingebaute Diskriminierung kein Fehler oder Nebeneffekt, sondern Ziel des Prozesses. Diese politischen und sozialen Fragen als Technikproblem zu bezeichnen, verschleiert den Kernpunkt und akzeptiert sogar implizit die bestehenden Diskriminierungsstrukturen. Die Technik kann die Ausübung oft unkontrollierter struktureller Gewalt nicht lösen.

Irrtum 5: Gesetze und Verträge können in Code ausgedrückt werden, um ihre Anwendung zu standardisieren

Nicht nur in der Blockchain-Szene ist die Idee beliebt, Gesetze und Verträge in Programmcode auszudrücken. Auch Datenschützerinnen und Datenschützer diskutieren immer wieder, wie sich beispielsweise die Regeln der EU-Datenschutz-Grundverordnung automatisiert durchsetzen ließen. Die Hoffnung der Befürworter solcher Ansätze: faire, transparente und objektive Systeme der Regelauslegung zu schaffen.

Leider funktionieren so weder Verträge noch das Gesetz. Natürlich versuchen sowohl der Gesetzgeber wie auch Anwälte, ihre Regelwerke so präzise und wasserdicht wie möglich zu formulieren, alle Sonderfälle zu beschreiben, alle Begriffe eindeutig zu definieren und zukünftige Szenarien vorherzusehen. Und es ist ja nicht so, als würde dieses System nicht funktionieren. In den meisten Fällen greift es. Aber nicht in allen.

Wenn Gesetze und Verträge wirklich so einfach wären, wie einige Technologen sich das vorstellen, hätten wir weit weniger Gerichte und deutlich weniger Anwaltskanzleien. Seit Jahrzehnten versuchen Wissenschaftler, kleine Teile des Rechts - wie zum Beispiel Teile des Steuerrechts - in Code abzubilden. Alle diese Ansätze sind gescheitert, weil die Modelle beziehungsweise der Code zu simpel waren, um die Komplexität der Welt abzubilden. Denn an irgendeinem Punkt muss eine Software die gegebene Situation interpretieren und schließlich das Gesetz anwenden. Das besteht aber nicht aus mathematischen Formeln, sondern muss immer wieder neu ausgelegt werden. Genau deshalb gibt es ja Erwägungsgründe, die erklären, wie ein Gesetz gemeint ist. Der nackte Text alleine bildet die Realität meistens nicht ab.