• IT-Karriere:
  • Services:

Datenethik: Regierungskommission bringt Verbot von Algorithmen ins Spiel

Eine Regierungskommission macht Vorschläge für eine umfassende Regulierung von Algorithmen. Sie fordert unter anderem eine Kontrollinstanz, Algorithmus-Beauftragte in Unternehmen und sogar das Verbot von Algorithmen mit "unvertretbarem Schädigungspotenzial".

Ein Bericht von Dietmar Neuerer/Handelsblatt veröffentlicht am
Symbolbild: Datenethikkommission fordert Regeln für Algorithmen.
Symbolbild: Datenethikkommission fordert Regeln für Algorithmen. (Bild: Getty Images)

Der Einsatz von Algorithmen und künstlicher Intelligenz sowie der Umgang mit Daten birgt große Potenziale. Gleichzeitig stellen sich zahlreiche ethische und rechtliche Fragen. Um Antworten zu finden, hat sich die Bundesregierung fachliche Unterstützung geholt. Im Juli 2018 nahm die vom Innen- und dem Justizministerium eingesetzte sogenannte Datenethikkommission ihre Arbeit auf. Die 16 Mitglieder aus den Bereichen Medizin, Recht, Informatik, Statistik, Volks- und Betriebswirtschaft, Theologie, Ethik und Journalismus sollten eine Reihe an Leitfragen beantworten.

Inhalt:
  1. Datenethik: Regierungskommission bringt Verbot von Algorithmen ins Spiel
  2. Kontrollinstanz für Algorithmen

An diesem Mittwoch legen die Experten ihren Abschlussbericht vor. In dem 240-seitigen Bericht (PDF) skizziert die Kommission einen umfassenden Regulierungsrahmen für den Umgang mit Daten und algorithmischen Systemen.

Die Experten sehen etwa Handlungsbedarf bei "ethisch nicht vertretbaren Datennutzungen". Dazu zählen sie beispielsweise die Totalüberwachung, eine die Integrität der Persönlichkeit verletzende Profilbildung und eine "dem Demokratieprinzip zuwiderlaufende Beeinflussung politischer Wahlen". Auch gegen eine "systematische Schädigung von Verbrauchern sowie viele Formen des Handels mit personenbezogenen Daten" müssten Maßnahmen ergriffen werden, heißt es in dem Bericht.

Die Experten bemängeln in diesem Zusammenhang Defizite bei der Anwendung geltenden Rechts. Sowohl das Datenschutzrecht als auch die übrige Rechtsordnung würden bislang "nicht in ausreichender Weise genutzt - insbesondere gegenüber marktmächtigen Unternehmen". Dabei gebe es eine "Fülle von Instrumenten", um gegen ethisch nicht vertretbare Datennutzungen vorzugehen.

Stellenmarkt
  1. LÖWEN ENTERTAINMENT GmbH, Rellingen
  2. TOPdesk Deutschland GmbH, Kaiserslautern

Folgerichtig mahnt die Kommission eine "Schärfung des Bewusstseins bei handelnden Akteuren" wie den Aufsichtsbehörden für die bereits bestehenden Möglichkeiten an. Um die "Wirkungskraft der Aufsichtsbehörden" zu erhöhen, müssten diese zudem personell besser ausgestattet werden. Das hatten die Behördenchefs in der Vergangenheit immer wieder gefordert, angesichts der angespannten Haushaltslage in den Bundesländern konnten sie sich damit aber nicht durchsetzen.

Algorithmen mit "unvertretbarem Schädigungspotenzial" sollen verboten werden

Dessen ungeachtet hält das Ethikgremium auch eine Konkretisierung und "punktuelle Verschärfung" des geltenden Rechtsrahmens für geboten, etwa für Profilbildungen und Scoring wie auch für den Datenhandel. Darauf hatte auch schon der Bundesdatenschutzbeauftragte Ulrich Kelber hingewiesen. "Auf europäischer Ebene müssen Profiling und Scoring in einer weiterentwickelten Datenschutz-Grundverordnung detaillierter behandelt werden", hatte Kelber, der Mitglied in der Datenethikkommission ist, zu Jahresbeginn dem Handelsblatt gesagt.

Ein weiteres Thema für die Kommission war die künstliche Intelligenz (KI), also Systeme, die auf Basis früherer Entscheidungen "lernen" können. "Wie kann sichergestellt werden, dass Maschinen, die auf KI-Basis arbeiten, kontrollierbar sind?", lautete eine Frage für die Kommission.

In dem Bericht stellen die Experten die Kontrolle algorithmischer Systeme in einen Zusammenhang mit ihrem "Schädigungspotenzial". Anhand der Gefährlichkeit der Algorithmen, die die Kommission in fünf Risikoklassen einteilt, sollen den Betreibern von Algorithmen künftig bestimmte Pflichten auferlegt werden. Bei Anwendungen mit einem "gewissen Schädigungspotenzial" müssen die Unternehmen etwa eine "angemessene Risikofolgenabschätzung" erstellen und veröffentlichen. Algorithmen mit "unvertretbarem Schädigungspotenzial" sollen nach Vorstellung der Ethiker auch verboten werden können.

Die Grünen unterstützen die Vorschläge. "Es ist richtig, die gesetzlich zu verankernden Pflichten der Betreiber danach zu staffeln, wie kritisch die Auswirkungen des angewandten Algorithmus sein können und auch Verbote bestimmter Anwendungen, wie komplett automatisierte Entscheidungen, nicht von vornherein auszuschließen", erklärten Konstantin von Notz, Stellvertretender Fraktionsvorsitzender, und Tabea Rößner, Sprecherin für Netz- und Verbraucherschutzpolitik.

Um Verbrauchern eine Orientierung über vertrauenswürdige algorithmische Systeme zu geben, regt die Kommission zudem ein "spezifisches Gütesiegel als freiwilliges oder verpflichtendes Schutzzeichen" an. Dies könne gleichzeitig "marktwirtschaftliche Anreize für Entwickler und Betreiber setzen, vertrauenswürdige Systeme zu entwickeln und zu verwenden", heißt es in dem Bericht.

Außerdem schlagen die Experten eine Pflicht für Unternehmen zur Benennung eines Algorithmus-Beauftragten vor.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed
Kontrollinstanz für Algorithmen 
  1. 1
  2. 2
  3.  


Anzeige
Hardware-Angebote
  1. (reduzierte Überstände, Restposten & Co.)
  2. täglich neue Deals bei Alternate.de

theSens 24. Okt 2019 / Themenstart

Es mag ja wirklich unrealistisch sein, jedes Programm das geschrieben wird erst auf...

Rainbow 24. Okt 2019 / Themenstart

... damit niemand mehr die Schulden addieren kann. So viel Blödsinn muss man erstmal auf...

David64Bit 24. Okt 2019 / Themenstart

Die Algorithmen sind zwar auch ein Problem, aber das liegt eher daran wie sie verwendet...

M.P. 24. Okt 2019 / Themenstart

Aber irgendwie fehlt wohl ein treffender Name für das, was man verbieten will...

ap (Golem.de) 24. Okt 2019 / Themenstart

Es handelte sich um einen Irrtum und der Thread befindet sich wieder an seinem Platz.

Kommentieren


Folgen Sie uns
       


VW-Elektroautos aus Zwickau - Bericht

Der Volkswagen-Konzern will ab 2020 in Zwickau nur noch Elektroautos bauen - wir haben uns die Umstellung angesehen.

VW-Elektroautos aus Zwickau - Bericht Video aufrufen
Echo Dot mit Uhr und Nest Mini im Test: Amazon hängt Google ab
Echo Dot mit Uhr und Nest Mini im Test
Amazon hängt Google ab

Amazon und Google haben ihre kompakten smarten Lautsprecher überarbeitet. Wir haben den Nest Mini mit dem neuen Echo Dot mit Uhr verglichen. Google hat es sichtlich schwer, konkurrenzfähig zu Amazon zu bleiben.
Ein Test von Ingo Pakalski

  1. Digitale Assistenten Amazon verkauft dreimal mehr smarte Lautsprecher als Google
  2. Googles Hardware-Chef Osterloh weist Besuch auf smarte Lautsprecher hin
  3. Telekom Smart Speaker im Test Der smarte Lautsprecher, der mit zwei Zungen spricht

Mobile-Games-Auslese: Märchen-Diablo für Mobile-Geräte
Mobile-Games-Auslese
Märchen-Diablo für Mobile-Geräte

"Einarmiger Schmied" als Klasse? Diablo bietet das nicht - das wunderschöne Yaga schon. Auch sonst finden sich in der neuen Mobile-Games-Auslese viele spannende und originelle Perlen.
Von Rainer Sigl

  1. Mobile-Games-Auslese Fantasypixel und Verkehrsplanung für unterwegs
  2. Mobile-Games-Auslese Superheld und Schlapphutträger zu Besuch im Smartphone
  3. Mobile-Games-Auslese Verdrehte Räume und verrückte Zombies für unterwegs

Smarter Akku-Lautsprecher im Praxistest: Bose zeigt Sonos, wie es geht
Smarter Akku-Lautsprecher im Praxistest
Bose zeigt Sonos, wie es geht

Der Portable Home Speaker ist Boses erster smarter Lautsprecher mit Akkubetrieb. Aus dem kompakten Gehäuse wird ein toller Klang und eine lange Akkulaufzeit geholt. Er kann anders als der Sonos Move sinnvoll als smarter Lautsprecher verwendet werden. Ganz ohne Schwächen ist er aber nicht.
Ein Praxistest von Ingo Pakalski

  1. ANC-Kopfhörer Bose macht die Noise Cancelling Headphones 700 besser
  2. Anti-Schnarch-Kopfhörer Bose stellt Sleepbuds wegen Qualitätsmängeln ein
  3. Noise Cancelling Headphones 700 im Test Boses bester ANC-Kopfhörer sticht Sony vielfach aus

    •  /