• IT-Karriere:
  • Services:

Datenethik: Regierungskommission bringt Verbot von Algorithmen ins Spiel

Eine Regierungskommission macht Vorschläge für eine umfassende Regulierung von Algorithmen. Sie fordert unter anderem eine Kontrollinstanz, Algorithmus-Beauftragte in Unternehmen und sogar das Verbot von Algorithmen mit "unvertretbarem Schädigungspotenzial".

Ein Bericht von Dietmar Neuerer/Handelsblatt veröffentlicht am
Symbolbild: Datenethikkommission fordert Regeln für Algorithmen.
Symbolbild: Datenethikkommission fordert Regeln für Algorithmen. (Bild: Getty Images)

Der Einsatz von Algorithmen und künstlicher Intelligenz sowie der Umgang mit Daten birgt große Potenziale. Gleichzeitig stellen sich zahlreiche ethische und rechtliche Fragen. Um Antworten zu finden, hat sich die Bundesregierung fachliche Unterstützung geholt. Im Juli 2018 nahm die vom Innen- und dem Justizministerium eingesetzte sogenannte Datenethikkommission ihre Arbeit auf. Die 16 Mitglieder aus den Bereichen Medizin, Recht, Informatik, Statistik, Volks- und Betriebswirtschaft, Theologie, Ethik und Journalismus sollten eine Reihe an Leitfragen beantworten.

Inhalt:
  1. Datenethik: Regierungskommission bringt Verbot von Algorithmen ins Spiel
  2. Kontrollinstanz für Algorithmen

An diesem Mittwoch legen die Experten ihren Abschlussbericht vor. In dem 240-seitigen Bericht (PDF) skizziert die Kommission einen umfassenden Regulierungsrahmen für den Umgang mit Daten und algorithmischen Systemen.

Die Experten sehen etwa Handlungsbedarf bei "ethisch nicht vertretbaren Datennutzungen". Dazu zählen sie beispielsweise die Totalüberwachung, eine die Integrität der Persönlichkeit verletzende Profilbildung und eine "dem Demokratieprinzip zuwiderlaufende Beeinflussung politischer Wahlen". Auch gegen eine "systematische Schädigung von Verbrauchern sowie viele Formen des Handels mit personenbezogenen Daten" müssten Maßnahmen ergriffen werden, heißt es in dem Bericht.

Die Experten bemängeln in diesem Zusammenhang Defizite bei der Anwendung geltenden Rechts. Sowohl das Datenschutzrecht als auch die übrige Rechtsordnung würden bislang "nicht in ausreichender Weise genutzt - insbesondere gegenüber marktmächtigen Unternehmen". Dabei gebe es eine "Fülle von Instrumenten", um gegen ethisch nicht vertretbare Datennutzungen vorzugehen.

Stellenmarkt
  1. Dürr Systems AG, Bietigheim-Bissingen
  2. ZytoService Deutschland GmbH, Hamburg

Folgerichtig mahnt die Kommission eine "Schärfung des Bewusstseins bei handelnden Akteuren" wie den Aufsichtsbehörden für die bereits bestehenden Möglichkeiten an. Um die "Wirkungskraft der Aufsichtsbehörden" zu erhöhen, müssten diese zudem personell besser ausgestattet werden. Das hatten die Behördenchefs in der Vergangenheit immer wieder gefordert, angesichts der angespannten Haushaltslage in den Bundesländern konnten sie sich damit aber nicht durchsetzen.

Algorithmen mit "unvertretbarem Schädigungspotenzial" sollen verboten werden

Dessen ungeachtet hält das Ethikgremium auch eine Konkretisierung und "punktuelle Verschärfung" des geltenden Rechtsrahmens für geboten, etwa für Profilbildungen und Scoring wie auch für den Datenhandel. Darauf hatte auch schon der Bundesdatenschutzbeauftragte Ulrich Kelber hingewiesen. "Auf europäischer Ebene müssen Profiling und Scoring in einer weiterentwickelten Datenschutz-Grundverordnung detaillierter behandelt werden", hatte Kelber, der Mitglied in der Datenethikkommission ist, zu Jahresbeginn dem Handelsblatt gesagt.

Ein weiteres Thema für die Kommission war die künstliche Intelligenz (KI), also Systeme, die auf Basis früherer Entscheidungen "lernen" können. "Wie kann sichergestellt werden, dass Maschinen, die auf KI-Basis arbeiten, kontrollierbar sind?", lautete eine Frage für die Kommission.

In dem Bericht stellen die Experten die Kontrolle algorithmischer Systeme in einen Zusammenhang mit ihrem "Schädigungspotenzial". Anhand der Gefährlichkeit der Algorithmen, die die Kommission in fünf Risikoklassen einteilt, sollen den Betreibern von Algorithmen künftig bestimmte Pflichten auferlegt werden. Bei Anwendungen mit einem "gewissen Schädigungspotenzial" müssen die Unternehmen etwa eine "angemessene Risikofolgenabschätzung" erstellen und veröffentlichen. Algorithmen mit "unvertretbarem Schädigungspotenzial" sollen nach Vorstellung der Ethiker auch verboten werden können.

Die Grünen unterstützen die Vorschläge. "Es ist richtig, die gesetzlich zu verankernden Pflichten der Betreiber danach zu staffeln, wie kritisch die Auswirkungen des angewandten Algorithmus sein können und auch Verbote bestimmter Anwendungen, wie komplett automatisierte Entscheidungen, nicht von vornherein auszuschließen", erklärten Konstantin von Notz, Stellvertretender Fraktionsvorsitzender, und Tabea Rößner, Sprecherin für Netz- und Verbraucherschutzpolitik.

Um Verbrauchern eine Orientierung über vertrauenswürdige algorithmische Systeme zu geben, regt die Kommission zudem ein "spezifisches Gütesiegel als freiwilliges oder verpflichtendes Schutzzeichen" an. Dies könne gleichzeitig "marktwirtschaftliche Anreize für Entwickler und Betreiber setzen, vertrauenswürdige Systeme zu entwickeln und zu verwenden", heißt es in dem Bericht.

Außerdem schlagen die Experten eine Pflicht für Unternehmen zur Benennung eines Algorithmus-Beauftragten vor.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed
Kontrollinstanz für Algorithmen 
  1. 1
  2. 2
  3.  


Anzeige
Top-Angebote
  1. (u. a. Seagate BarraCuda Compute 8 TB für 158,90€ + 6,79€ Versand und Edifier Studio 1280T...
  2. 60,99€ (Vergleichspreis 77,81€)
  3. (u. a. MX500 1 TB für 93,10€ mit Gutschein: NBBCRUCIALDAYS)
  4. (u. a. ASUS TUF Gaming VG32VQ1B WQHD/165 Hz für 330,45€ statt 389€ im Vergleich und Tastaturen...

theSens 24. Okt 2019

Es mag ja wirklich unrealistisch sein, jedes Programm das geschrieben wird erst auf...

Rainbow 24. Okt 2019

... damit niemand mehr die Schulden addieren kann. So viel Blödsinn muss man erstmal auf...

David64Bit 24. Okt 2019

Die Algorithmen sind zwar auch ein Problem, aber das liegt eher daran wie sie verwendet...

M.P. 24. Okt 2019

Aber irgendwie fehlt wohl ein treffender Name für das, was man verbieten will...

ap (Golem.de) 24. Okt 2019

Es handelte sich um einen Irrtum und der Thread befindet sich wieder an seinem Platz.


Folgen Sie uns
       


Windows Powertoys - Tutorial

Wir geben einen kurzen Überblick der Funktionen von Powertoys für Windows 10.

Windows Powertoys - Tutorial Video aufrufen
    •  /