• IT-Karriere:
  • Services:

Digitalisierung: Nein, Ethik kann man nicht programmieren

Ethik kann man in Code festschreiben und künstliche Intelligenz ist in 20 Jahren besser als der Mensch? Nein. Sechs Digitalisierungsmythen, über die wir reden müssen.

Artikel von Jürgen Geuter/Zeit Online veröffentlicht am
Heutige Technologien wie etwa neuronale Netze sind weit entfernt von allem, was wir Intelligenz nennen würden.
Heutige Technologien wie etwa neuronale Netze sind weit entfernt von allem, was wir Intelligenz nennen würden. (Bild: Pixabay)

Welche sozialen und politischen Konsequenzen haben automatisierte Entscheidungen von Computern? Wie beeinflussen sie unser alltägliches Leben? Und was passiert, wenn Maschinen diskriminieren? Diskutiert man über die Digitalisierung, geht es immer auch um diese Fragen.

Inhalt:
  1. Digitalisierung: Nein, Ethik kann man nicht programmieren
  2. Was ist eigentlich Intelligenz?
  3. Gesetze als Code? Funktionieren nicht
  4. Open Source ist nicht gleich Freiheit

Die Antworten darauf sind kompliziert, dementsprechend kontrovers sind die laufenden Debatten, müssen es auch sein: Schließlich drehen sie sich darum, wie wir die Gegenwart und Zukunft dieser Gesellschaft gestalten. Doch viele Debatten kranken an falschen Vorstellungen und Annahmen über die Struktur und Eigenschaften des Digitalen. Dabei fallen sechs zentrale Irrtümer auf, die sich immer wieder in Argumenten finden. Zentral, weil sie sich nicht nur innerhalb einer speziellen gesellschaftlichen Gruppe finden, sondern sich quer durch nahezu alle beteiligten Fraktionen ziehen. Politiker, Technologieskeptiker, Journalisten, die Wissenschaft, die Liste ließe sich beliebig fortsetzen.

Die zentralen Irrtümer zu identifizieren und sie sich bewusst zu machen, ist heute notwendiger denn je: Die Bundesregierung hat gerade ein Förderprogramm für künstliche Intelligenz beschlossen, nach der Einführung der EU-Datenschutz-Grundverordnung im Mai zeichnen sich langsam die ersten - nicht immer geplanten - Folgen ab. Gleichzeitig vergeht keine Woche, in der Menschen nicht auf die eine oder andere Weise Algorithmen anprangern und in den Himmel loben. Leider oft, ohne wirklich klar zu benennen, was genau ein Algorithmus ist und was so ein Softwareartefakt eigentlich kann.

Weder Politik noch die breite Öffentlichkeit können einen am Wohl der Menschen und der Gemeinschaft ausgerichteten Einsatz neuer Technologien gestalten, wenn Argumente weiterhin auf Treibsand stehen. Das Adressieren der folgenden Irrtümer schafft hoffentlich ein solideres Fundament für die Debatten der kommenden Jahre.

Irrtum 1: Die Anwendung von Ethik kann man in Computerprogrammen formulieren

Stellenmarkt
  1. Deutsche Rentenversicherung Bund, Berlin
  2. Fachhochschule Aachen, Aachen

Softwaresysteme finden sich zunehmend in Kontexten wieder, in denen von ihnen ethisches oder auch moralisches Verhalten gefordert wird: Selbstfahrende Autos müssen künftig entscheiden, ob sie eher einen Erwachsenen umfahren oder ein Kind. Eine Software soll in Österreich künftig automatisch bewerten, welche Chancen Arbeitssuchende auf eine Stelle haben. Die Diskussion dreht sich dabei häufig um die Frage, wie man Ethik in diese Systeme hineinprogrammieren kann, wie also gewünschtes Verhalten zu automatisieren ist.

Grundsätzlich meint die Operationalisierung von Ethik die Übersetzung abstrakter Regeln und Modelle guten Verhaltens in berechenbare, deterministische und objektive Regelsysteme. Diese können Menschen dann unabhängig überprüfen und ausprogrammieren, um sicherzustellen, dass sich der betreffende Roboter oder das betreffende Softwaresystem ethisch verhält.

Leider ist das ein Mythos. Aktuelle Ansätze scheitern und produzieren entweder Systeme, die in der realen Welt schlicht nicht funktionieren, oder viel schlimmer: zutiefst diskriminierende Ergebnisse. Am renommierten Massachusetts Institute of Technology (MIT) wollten Wissenschaftlerinnen und Wissenschaftler beispielsweise mit Hilfe der Plattform Moral Machine wichtige ethische Entscheidungen aushandeln - etwa, wie sich ein Auto auf der Straße zu verhalten habe. Doch das führte unter anderem zu dem Ergebnis, das Auto solle lieber Kriminelle überfahren als Hunde (wie auch immer das Auto eine Verurteilung soll feststellen können).

Die Vorstellung, dass sich Ethik in einfache Regeln gießen lässt, mag in Videospielen funktionieren. In der realen Welt sind ethische Entscheidungsprozesse aber komplexe soziale und psychologische Vorgänge, die trotz identischer ethischer Regeln je nach sozialem, politischem, religiösem oder kulturellem Hintergrund der entscheidenden Person zu ganz unterschiedlichen Ergebnissen führen können.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed
Was ist eigentlich Intelligenz? 
  1. 1
  2. 2
  3. 3
  4. 4
  5.  


Anzeige
Spiele-Angebote
  1. (-40%) 32,99€
  2. (-40%) 23,99€
  3. 26,99€
  4. 4,32€

HighZ 19. Dez 2018

Ethik wird in den Kommentaren nur auf "töten oder nicht" begrenzt. (Thema Kreissäge: Die...

Diether 16. Dez 2018

...programmieren, das nach außen hin einer - wie auch immer zu definierenden - "Ethik...

Ach 12. Dez 2018

Z.B. klassische Situation, dass ein Kind zwischen parkenden Autos hervorspringt, der...

GeXX 12. Dez 2018

An sich ein gut geschriebener Artikel, wenn hier nicht die KI mit Deep Learning und...

pumok 12. Dez 2018

Das schliesst den Vorschglag nicht aus. Der liebe Gott muss dann halt den...


Folgen Sie uns
       


Alienware Concept Ufo - Hands on (CES 2020)

Das Handheld-Konzept von Dell ähnelt dem der Switch, das Alienware Concept Ufo eignet sich aber eher für ernsthafte Gamer.

Alienware Concept Ufo - Hands on (CES 2020) Video aufrufen
Energiewende: Norddeutschland wird H
Energiewende
Norddeutschland wird H

Japan macht es vor, die norddeutschen Bundesländer ziehen nach: Im November haben sie den Aufbau einer Wasserstoffwirtschaft beschlossen. Die Voraussetzungen dafür sind gegeben. Aber das Ende der Förderung von Windkraft kann das Projekt gefährden.
Eine Analyse von Werner Pluta

  1. Energiewende Brandenburg bekommt ein Wasserstoff-Speicherkraftwerk
  2. Energiewende Dänemark plant künstliche Insel für Wasserstofferzeugung
  3. Energiewende Nordländer bauen gemeinsame Wasserstoffwirtschaft auf

Kailh-Box-Switches im Test: Besser und lauter geht ein klickender Switch kaum
Kailh-Box-Switches im Test
Besser und lauter geht ein klickender Switch kaum

Wer klickende Tastatur-Switches mag, wird die dunkelblauen Kailh-Box-Schalter lieben: Eine eingebaute Stahlfeder sorgt für zwei satte Klicks pro Anschlag. Im Test merken unsere Finger aber schnell den hohen taktilen Widerstand.
Ein Test von Tobias Költzsch

  1. Charachorder Schneller tippen als die Tastatur erlaubt
  2. Brydge+ iPad-Tastatur mit Multi-Touch-Trackpad
  3. Apex Pro im Test Tastatur für glückliche Gamer und Vielschreiber

Shitrix: Das Citrix-Desaster
Shitrix
Das Citrix-Desaster

Eine Sicherheitslücke in Geräten der Firma Citrix zeigt in erschreckender Weise, wie schlecht es um die IT-Sicherheit in Behörden steht. Es fehlt an den absoluten Grundlagen.
Ein IMHO von Hanno Böck

  1. Perl-Injection Citrix-Geräte mit schwerer Sicherheitslücke und ohne Update

    •  /