• IT-Karriere:
  • Services:

Gesetze als Code? Funktionieren nicht

Wir könnten ein trainiertes neuronales Netzwerk nehmen, das auf Bildern Katzen erkennt, all die statistischen Werte extrahieren und in ein mathematisches Gleichungssystem umwandeln, das ebenfalls Katzen erkennen kann. Und das wäre ein beeindruckendes Gleichungssystem! Aber auch das wäre nicht intelligent.

Stellenmarkt
  1. über InterSearch Personalberatung GmbH & Co. KG, Raum Münster/Osnabrück
  2. ESG InterOp Solutions GmbH, Wilhelmshaven, Koblenz

Letztlich existiert künstliche Intelligenz nicht. Und sie ist auch nicht nah. Es existieren leistungsfähige Statistiksysteme, denen durch einen attraktiven Namen eine gewisse Magie zugesprochen werden soll. Künstliche Intelligenz ist nur ein Werbebegriff.

Irrtum 4: Diskriminierung durch Algorithmen ist schlimmer als Diskriminierung durch Menschen

Dieser Irrtum ist in der technikkritischen Szene sehr beliebt, aber bei weitem nicht nur dort. Automatische Entscheidungssysteme haben heute eine massive Macht: Sie entscheiden, wie teuer eine bestimmte Versicherung für mich ist, ob ich - wie in Österreich - vom Arbeitsamt eine Förderung bekomme oder nicht, oder im Falle von autonomen Kampfdrohnen potenziell sogar, wer getötet wird.

Diese Systeme werden zu Recht stark kritisiert: Wie kann es sein, dass solche Entscheidungen - im wahrsten Sinne über Leben und Tod - an irgendwelche Maschinen ausgelagert werden?

Aber nicht die Systeme sind der Kern des Problems, sondern die Menschen, die sie bauen. Während der Entwicklung dieser Systeme automatisieren Personen bestehende, tief in organisatorische Prozesse integrierte Formen der Diskriminierung und strukturellen Gewalt. Der Unterschied zu vorherigen Entscheidungsprozessen besteht lediglich darin, dass nun eine Maschine entscheidet, ob ich einen Kredit bekomme, nicht der Mensch. Zwar minimiert der Prozess die Möglichkeit, noch mal über eine Entscheidung zu reden. Aber strukturell ändert sich wenig: Schon heute sind Entscheidungen von Menschen massiv computerisiert. Menschen bestimmen formal über die Kreditvergabe, aber wenn der Schufa-Algorithmus Nein sagt, dann ist egal, wie freundlich ich mit der Person reden kann, die die Ablehnung abnickt. Die Entscheidung bleibt dieselbe.

Man könnte jetzt argumentieren, dass die dem Prozess und seinen Datenstrukturen innewohnende Benachteiligung durch die Automatisierung sichtbar und damit änderbar gemacht würde. Doch ehrlicherweise ist natürlich die in viele Prozesse eingebaute Diskriminierung kein Fehler oder Nebeneffekt, sondern Ziel des Prozesses. Diese politischen und sozialen Fragen als Technikproblem zu bezeichnen, verschleiert den Kernpunkt und akzeptiert sogar implizit die bestehenden Diskriminierungsstrukturen. Die Technik kann die Ausübung oft unkontrollierter struktureller Gewalt nicht lösen.

Irrtum 5: Gesetze und Verträge können in Code ausgedrückt werden, um ihre Anwendung zu standardisieren

Nicht nur in der Blockchain-Szene ist die Idee beliebt, Gesetze und Verträge in Programmcode auszudrücken. Auch Datenschützerinnen und Datenschützer diskutieren immer wieder, wie sich beispielsweise die Regeln der EU-Datenschutz-Grundverordnung automatisiert durchsetzen ließen. Die Hoffnung der Befürworter solcher Ansätze: faire, transparente und objektive Systeme der Regelauslegung zu schaffen.

Leider funktionieren so weder Verträge noch das Gesetz. Natürlich versuchen sowohl der Gesetzgeber wie auch Anwälte, ihre Regelwerke so präzise und wasserdicht wie möglich zu formulieren, alle Sonderfälle zu beschreiben, alle Begriffe eindeutig zu definieren und zukünftige Szenarien vorherzusehen. Und es ist ja nicht so, als würde dieses System nicht funktionieren. In den meisten Fällen greift es. Aber nicht in allen.

Wenn Gesetze und Verträge wirklich so einfach wären, wie einige Technologen sich das vorstellen, hätten wir weit weniger Gerichte und deutlich weniger Anwaltskanzleien. Seit Jahrzehnten versuchen Wissenschaftler, kleine Teile des Rechts - wie zum Beispiel Teile des Steuerrechts - in Code abzubilden. Alle diese Ansätze sind gescheitert, weil die Modelle beziehungsweise der Code zu simpel waren, um die Komplexität der Welt abzubilden. Denn an irgendeinem Punkt muss eine Software die gegebene Situation interpretieren und schließlich das Gesetz anwenden. Das besteht aber nicht aus mathematischen Formeln, sondern muss immer wieder neu ausgelegt werden. Genau deshalb gibt es ja Erwägungsgründe, die erklären, wie ein Gesetz gemeint ist. Der nackte Text alleine bildet die Realität meistens nicht ab.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed
 Was ist eigentlich Intelligenz?Open Source ist nicht gleich Freiheit 
  1.  
  2. 1
  3. 2
  4. 3
  5. 4
  6.  


Anzeige
Top-Angebote
  1. 199,90€ (Bestpreis!)
  2. (u. a. Fallout Bombs Drop Event (u. a. Fallout 76 für 14,99€, Fallout 4: Game of the Year...
  3. (u. a. be quiet! PURE BASE 600 Window Tower-Gehäuse für 74,90€, Sharkoon QuickStore Portable...
  4. (u. a. Samsung Galaxy S10+ 512 GB 6,4 Zoll Dynamic AOMLED für 634,90€, Huawei MateBook D 14...

HighZ 19. Dez 2018

Ethik wird in den Kommentaren nur auf "töten oder nicht" begrenzt. (Thema Kreissäge: Die...

Diether 16. Dez 2018

...programmieren, das nach außen hin einer - wie auch immer zu definierenden - "Ethik...

Ach 12. Dez 2018

Z.B. klassische Situation, dass ein Kind zwischen parkenden Autos hervorspringt, der...

GeXX 12. Dez 2018

An sich ein gut geschriebener Artikel, wenn hier nicht die KI mit Deep Learning und...

pumok 12. Dez 2018

Das schliesst den Vorschglag nicht aus. Der liebe Gott muss dann halt den...


Folgen Sie uns
       


Ghost of Tsushima - Fazit

Mit Ghost of Tsushima macht Sony der Playstation 4 ein besonderes Abschiedsgeschenk. Statt auf massenkompatible Bombastgrafik setzt es auf eine stellenweise fast schon surreal-traumhafte Aufmachung, bei der wir an Indiegames denken. Dazu kommen viele Elemente eines Assassin's Creed in Japan - und wir finden sogar eine Prise Gothic.

Ghost of Tsushima - Fazit Video aufrufen
Apple: iPhone 12 bekommt Magnetrücken und kleinen Bruder
Apple
iPhone 12 bekommt Magnetrücken und kleinen Bruder

Das iPhone 12 ist mit einem 6,1-Zoll- und das iPhone 12 Mini mit einem 5,4-Zoll-Display ausgerüstet. Ladegerät und Kopfhörer fallen aus Gründen des Umweltschutzes weg.

  1. Apple iPhone 12 Pro und iPhone 12 Pro Max werden größer
  2. Apple iPhone 12 verspätet sich
  3. Back Tap iOS 14 erkennt Trommeln auf der iPhone-Rückseite

Shifoo: Golem.de startet Betatest seiner Karriere-Coaching-Plattform
Shifoo
Golem.de startet Betatest seiner Karriere-Coaching-Plattform

Beratung, die IT-Profis in Job & Karriere effizient und individuell unterstützt: Golem.de startet die Video-Coaching-Plattform Shifoo. Hilf uns in der Betaphase, sie für dich perfekt zu machen, und profitiere vom exklusiven Angebot!

  1. Stellenanzeige Golem.de sucht Verstärkung für die Redaktion
  2. Stellenanzeige Golem.de sucht CvD (m/w/d)
  3. In eigener Sache Die 24-kernige Golem Workstation ist da

Tutorial: Was ein On Screen Display alles kann
Tutorial
Was ein On Screen Display alles kann

Werkzeugkasten Viele PC-Spieler schwören auf ein OSD. Denn damit lassen sich Limits erkennen, die Bildqualität verbessern und Ruckler verringern.
Von Marc Sauter


      •  /