• IT-Karriere:
  • Services:

Datenethik: Regierungskommission bringt Verbot von Algorithmen ins Spiel

Eine Regierungskommission macht Vorschläge für eine umfassende Regulierung von Algorithmen. Sie fordert unter anderem eine Kontrollinstanz, Algorithmus-Beauftragte in Unternehmen und sogar das Verbot von Algorithmen mit "unvertretbarem Schädigungspotenzial".

Ein Bericht von Dietmar Neuerer/Handelsblatt veröffentlicht am
Symbolbild: Datenethikkommission fordert Regeln für Algorithmen.
Symbolbild: Datenethikkommission fordert Regeln für Algorithmen. (Bild: Getty Images)

Der Einsatz von Algorithmen und künstlicher Intelligenz sowie der Umgang mit Daten birgt große Potenziale. Gleichzeitig stellen sich zahlreiche ethische und rechtliche Fragen. Um Antworten zu finden, hat sich die Bundesregierung fachliche Unterstützung geholt. Im Juli 2018 nahm die vom Innen- und dem Justizministerium eingesetzte sogenannte Datenethikkommission ihre Arbeit auf. Die 16 Mitglieder aus den Bereichen Medizin, Recht, Informatik, Statistik, Volks- und Betriebswirtschaft, Theologie, Ethik und Journalismus sollten eine Reihe an Leitfragen beantworten.

Inhalt:
  1. Datenethik: Regierungskommission bringt Verbot von Algorithmen ins Spiel
  2. Kontrollinstanz für Algorithmen

An diesem Mittwoch legen die Experten ihren Abschlussbericht vor. In dem 240-seitigen Bericht (PDF) skizziert die Kommission einen umfassenden Regulierungsrahmen für den Umgang mit Daten und algorithmischen Systemen.

Die Experten sehen etwa Handlungsbedarf bei "ethisch nicht vertretbaren Datennutzungen". Dazu zählen sie beispielsweise die Totalüberwachung, eine die Integrität der Persönlichkeit verletzende Profilbildung und eine "dem Demokratieprinzip zuwiderlaufende Beeinflussung politischer Wahlen". Auch gegen eine "systematische Schädigung von Verbrauchern sowie viele Formen des Handels mit personenbezogenen Daten" müssten Maßnahmen ergriffen werden, heißt es in dem Bericht.

Die Experten bemängeln in diesem Zusammenhang Defizite bei der Anwendung geltenden Rechts. Sowohl das Datenschutzrecht als auch die übrige Rechtsordnung würden bislang "nicht in ausreichender Weise genutzt - insbesondere gegenüber marktmächtigen Unternehmen". Dabei gebe es eine "Fülle von Instrumenten", um gegen ethisch nicht vertretbare Datennutzungen vorzugehen.

Stellenmarkt
  1. Interhyp Gruppe, München
  2. Bundeskriminalamt, Berlin

Folgerichtig mahnt die Kommission eine "Schärfung des Bewusstseins bei handelnden Akteuren" wie den Aufsichtsbehörden für die bereits bestehenden Möglichkeiten an. Um die "Wirkungskraft der Aufsichtsbehörden" zu erhöhen, müssten diese zudem personell besser ausgestattet werden. Das hatten die Behördenchefs in der Vergangenheit immer wieder gefordert, angesichts der angespannten Haushaltslage in den Bundesländern konnten sie sich damit aber nicht durchsetzen.

Algorithmen mit "unvertretbarem Schädigungspotenzial" sollen verboten werden

Dessen ungeachtet hält das Ethikgremium auch eine Konkretisierung und "punktuelle Verschärfung" des geltenden Rechtsrahmens für geboten, etwa für Profilbildungen und Scoring wie auch für den Datenhandel. Darauf hatte auch schon der Bundesdatenschutzbeauftragte Ulrich Kelber hingewiesen. "Auf europäischer Ebene müssen Profiling und Scoring in einer weiterentwickelten Datenschutz-Grundverordnung detaillierter behandelt werden", hatte Kelber, der Mitglied in der Datenethikkommission ist, zu Jahresbeginn dem Handelsblatt gesagt.

Ein weiteres Thema für die Kommission war die künstliche Intelligenz (KI), also Systeme, die auf Basis früherer Entscheidungen "lernen" können. "Wie kann sichergestellt werden, dass Maschinen, die auf KI-Basis arbeiten, kontrollierbar sind?", lautete eine Frage für die Kommission.

In dem Bericht stellen die Experten die Kontrolle algorithmischer Systeme in einen Zusammenhang mit ihrem "Schädigungspotenzial". Anhand der Gefährlichkeit der Algorithmen, die die Kommission in fünf Risikoklassen einteilt, sollen den Betreibern von Algorithmen künftig bestimmte Pflichten auferlegt werden. Bei Anwendungen mit einem "gewissen Schädigungspotenzial" müssen die Unternehmen etwa eine "angemessene Risikofolgenabschätzung" erstellen und veröffentlichen. Algorithmen mit "unvertretbarem Schädigungspotenzial" sollen nach Vorstellung der Ethiker auch verboten werden können.

Die Grünen unterstützen die Vorschläge. "Es ist richtig, die gesetzlich zu verankernden Pflichten der Betreiber danach zu staffeln, wie kritisch die Auswirkungen des angewandten Algorithmus sein können und auch Verbote bestimmter Anwendungen, wie komplett automatisierte Entscheidungen, nicht von vornherein auszuschließen", erklärten Konstantin von Notz, Stellvertretender Fraktionsvorsitzender, und Tabea Rößner, Sprecherin für Netz- und Verbraucherschutzpolitik.

Um Verbrauchern eine Orientierung über vertrauenswürdige algorithmische Systeme zu geben, regt die Kommission zudem ein "spezifisches Gütesiegel als freiwilliges oder verpflichtendes Schutzzeichen" an. Dies könne gleichzeitig "marktwirtschaftliche Anreize für Entwickler und Betreiber setzen, vertrauenswürdige Systeme zu entwickeln und zu verwenden", heißt es in dem Bericht.

Außerdem schlagen die Experten eine Pflicht für Unternehmen zur Benennung eines Algorithmus-Beauftragten vor.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed
Kontrollinstanz für Algorithmen 
  1. 1
  2. 2
  3.  


Anzeige
Hardware-Angebote
  1. täglich neue Deals bei Alternate.de
  2. (reduzierte Überstände, Restposten & Co.)
  3. 555,55€ (zzgl. Versandkosten)

theSens 24. Okt 2019 / Themenstart

Es mag ja wirklich unrealistisch sein, jedes Programm das geschrieben wird erst auf...

Rainbow 24. Okt 2019 / Themenstart

... damit niemand mehr die Schulden addieren kann. So viel Blödsinn muss man erstmal auf...

David64Bit 24. Okt 2019 / Themenstart

Die Algorithmen sind zwar auch ein Problem, aber das liegt eher daran wie sie verwendet...

M.P. 24. Okt 2019 / Themenstart

Aber irgendwie fehlt wohl ein treffender Name für das, was man verbieten will...

ap (Golem.de) 24. Okt 2019 / Themenstart

Es handelte sich um einen Irrtum und der Thread befindet sich wieder an seinem Platz.

Kommentieren


Folgen Sie uns
       


Apple TV Plus ausprobiert

Wir haben uns Apple TV+ auf einem Apple TV angeschaut. Apples eigener Abostreamingdienst lässt viele Komfortfunktionen vermissen.

Apple TV Plus ausprobiert Video aufrufen
Confidential Computing: Vertrauen ist schlecht, Kontrolle besser
Confidential Computing
Vertrauen ist schlecht, Kontrolle besser

Die IT-Welt zieht in die Cloud und damit auf fremde Rechner. Beim Confidential Computing sollen Daten trotzdem während der Nutzung geschützt werden, und zwar durch die Hardware - keine gute Idee!
Ein IMHO von Sebastian Grüner

  1. Gaia-X Knoten in Altmaiers Cloud identifzieren sich eindeutig
  2. Gaia-X Altmaiers Cloud-Pläne bleiben weiter wolkig
  3. Cloud Ex-SAP-Chef McDermott will Servicenow stark expandieren

Ryzen 9 3950X im Test: AMDs konkurrenzlose 16 Kerne
Ryzen 9 3950X im Test
AMDs konkurrenzlose 16 Kerne

Der Ryzen 9 3950X ist vorerst die Krönung für den Sockel AM4: Die CPU rechnet schneller als alle anderen Mittelklasse-Chips, selbst Intels deutlich teurere Modelle mit 18 Kernen überholt das AMD-Modell locker.
Ein Test von Marc Sauter

  1. Zen-CPUs AMD nennt konkrete Termine für Ryzen 3950X und Threadripper
  2. Castle Peak AMDs Threadripper v3 sollen am 19. November erscheinen
  3. OEM & China AMD bringt Ryzen 3900 und Ryzen 3500X

Google Stadia im Test: Stadia ist (noch) kein Spiele-PC- oder Konsolenkiller
Google Stadia im Test
Stadia ist (noch) kein Spiele-PC- oder Konsolenkiller

Tschüss, Downloads, Datenträger und Installationsroutinen: Mit Google Stadia können wir einfach losspielen. Beim Test hat das unter Echtweltbedingungen schon ziemlich gut geklappt - trotz der teils enormen Datenmengen und vielen fehlenden Funktionen.
Von Peter Steinlechner

  1. Google Stadia Assassin's Creed Odyssey bis Samurai Showdown zum Start
  2. Nest Wifi Googles Mesh-Router priorisiert Stadia
  3. Spielestreaming Google stiftet Verwirrung über Start von Stadia

    •  /