Datenethik: Regierungskommission bringt Verbot von Algorithmen ins Spiel

Eine Regierungskommission macht Vorschläge für eine umfassende Regulierung von Algorithmen. Sie fordert unter anderem eine Kontrollinstanz, Algorithmus-Beauftragte in Unternehmen und sogar das Verbot von Algorithmen mit "unvertretbarem Schädigungspotenzial".

Ein Bericht von Dietmar Neuerer/Handelsblatt veröffentlicht am
Symbolbild: Datenethikkommission fordert Regeln für Algorithmen.
Symbolbild: Datenethikkommission fordert Regeln für Algorithmen. (Bild: Getty Images)

Der Einsatz von Algorithmen und künstlicher Intelligenz sowie der Umgang mit Daten birgt große Potenziale. Gleichzeitig stellen sich zahlreiche ethische und rechtliche Fragen. Um Antworten zu finden, hat sich die Bundesregierung fachliche Unterstützung geholt. Im Juli 2018 nahm die vom Innen- und dem Justizministerium eingesetzte sogenannte Datenethikkommission ihre Arbeit auf. Die 16 Mitglieder aus den Bereichen Medizin, Recht, Informatik, Statistik, Volks- und Betriebswirtschaft, Theologie, Ethik und Journalismus sollten eine Reihe an Leitfragen beantworten.

Inhalt:
  1. Datenethik: Regierungskommission bringt Verbot von Algorithmen ins Spiel
  2. Kontrollinstanz für Algorithmen

An diesem Mittwoch legen die Experten ihren Abschlussbericht vor. In dem 240-seitigen Bericht (PDF) skizziert die Kommission einen umfassenden Regulierungsrahmen für den Umgang mit Daten und algorithmischen Systemen.

Die Experten sehen etwa Handlungsbedarf bei "ethisch nicht vertretbaren Datennutzungen". Dazu zählen sie beispielsweise die Totalüberwachung, eine die Integrität der Persönlichkeit verletzende Profilbildung und eine "dem Demokratieprinzip zuwiderlaufende Beeinflussung politischer Wahlen". Auch gegen eine "systematische Schädigung von Verbrauchern sowie viele Formen des Handels mit personenbezogenen Daten" müssten Maßnahmen ergriffen werden, heißt es in dem Bericht.

Die Experten bemängeln in diesem Zusammenhang Defizite bei der Anwendung geltenden Rechts. Sowohl das Datenschutzrecht als auch die übrige Rechtsordnung würden bislang "nicht in ausreichender Weise genutzt - insbesondere gegenüber marktmächtigen Unternehmen". Dabei gebe es eine "Fülle von Instrumenten", um gegen ethisch nicht vertretbare Datennutzungen vorzugehen.

Stellenmarkt
  1. Business Analyst Business Intelligence & Analytics (m/w/d)
    ALDI SÜD Dienstleistungs-SE & Co. oHG, Mülheim an der Ruhr
  2. Full Stack Developer (w/m/d) Schwerpunkt Microservices & Testautomatisierung
    ING Deutschland, Frankfurt am Main
Detailsuche

Folgerichtig mahnt die Kommission eine "Schärfung des Bewusstseins bei handelnden Akteuren" wie den Aufsichtsbehörden für die bereits bestehenden Möglichkeiten an. Um die "Wirkungskraft der Aufsichtsbehörden" zu erhöhen, müssten diese zudem personell besser ausgestattet werden. Das hatten die Behördenchefs in der Vergangenheit immer wieder gefordert, angesichts der angespannten Haushaltslage in den Bundesländern konnten sie sich damit aber nicht durchsetzen.

Algorithmen mit "unvertretbarem Schädigungspotenzial" sollen verboten werden

Dessen ungeachtet hält das Ethikgremium auch eine Konkretisierung und "punktuelle Verschärfung" des geltenden Rechtsrahmens für geboten, etwa für Profilbildungen und Scoring wie auch für den Datenhandel. Darauf hatte auch schon der Bundesdatenschutzbeauftragte Ulrich Kelber hingewiesen. "Auf europäischer Ebene müssen Profiling und Scoring in einer weiterentwickelten Datenschutz-Grundverordnung detaillierter behandelt werden", hatte Kelber, der Mitglied in der Datenethikkommission ist, zu Jahresbeginn dem Handelsblatt gesagt.

Ein weiteres Thema für die Kommission war die künstliche Intelligenz (KI), also Systeme, die auf Basis früherer Entscheidungen "lernen" können. "Wie kann sichergestellt werden, dass Maschinen, die auf KI-Basis arbeiten, kontrollierbar sind?", lautete eine Frage für die Kommission.

In dem Bericht stellen die Experten die Kontrolle algorithmischer Systeme in einen Zusammenhang mit ihrem "Schädigungspotenzial". Anhand der Gefährlichkeit der Algorithmen, die die Kommission in fünf Risikoklassen einteilt, sollen den Betreibern von Algorithmen künftig bestimmte Pflichten auferlegt werden. Bei Anwendungen mit einem "gewissen Schädigungspotenzial" müssen die Unternehmen etwa eine "angemessene Risikofolgenabschätzung" erstellen und veröffentlichen. Algorithmen mit "unvertretbarem Schädigungspotenzial" sollen nach Vorstellung der Ethiker auch verboten werden können.

Die Grünen unterstützen die Vorschläge. "Es ist richtig, die gesetzlich zu verankernden Pflichten der Betreiber danach zu staffeln, wie kritisch die Auswirkungen des angewandten Algorithmus sein können und auch Verbote bestimmter Anwendungen, wie komplett automatisierte Entscheidungen, nicht von vornherein auszuschließen", erklärten Konstantin von Notz, Stellvertretender Fraktionsvorsitzender, und Tabea Rößner, Sprecherin für Netz- und Verbraucherschutzpolitik.

Um Verbrauchern eine Orientierung über vertrauenswürdige algorithmische Systeme zu geben, regt die Kommission zudem ein "spezifisches Gütesiegel als freiwilliges oder verpflichtendes Schutzzeichen" an. Dies könne gleichzeitig "marktwirtschaftliche Anreize für Entwickler und Betreiber setzen, vertrauenswürdige Systeme zu entwickeln und zu verwenden", heißt es in dem Bericht.

Außerdem schlagen die Experten eine Pflicht für Unternehmen zur Benennung eines Algorithmus-Beauftragten vor.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed
Kontrollinstanz für Algorithmen 
  1. 1
  2. 2
  3.  


theSens 24. Okt 2019

Es mag ja wirklich unrealistisch sein, jedes Programm das geschrieben wird erst auf...

Rainbow 24. Okt 2019

... damit niemand mehr die Schulden addieren kann. So viel Blödsinn muss man erstmal auf...

David64Bit 24. Okt 2019

Die Algorithmen sind zwar auch ein Problem, aber das liegt eher daran wie sie verwendet...

M.P. 24. Okt 2019

Aber irgendwie fehlt wohl ein treffender Name für das, was man verbieten will...



Aktuell auf der Startseite von Golem.de
Ryzen 7950X/7700X im Test
Brachialer Beginn einer neuen AMD-Ära

Nie waren die Ryzen-CPUs besser: extrem schnell, DDR5-Speicher, PCIe Gen5, integrierte Grafik. Der (thermische) Preis dafür ist jedoch hoch.
Ein Test von Marc Sauter und Martin Böckmann

Ryzen 7950X/7700X im Test: Brachialer Beginn einer neuen AMD-Ära
Artikel
  1. US-Whistleblower: Putin verleiht Snowden die russische Staatsbürgerschaft
    US-Whistleblower
    Putin verleiht Snowden die russische Staatsbürgerschaft

    US-Whistleblower Edward Snowden ist nun auch russischer Staatsbürger. Für den Krieg gegen die Ukraine kann er aber vorerst nicht eingezogen werden.

  2. Rechenzentren: IT des Bundes ignoriert eigene umweltpolitische Vorgaben
    Rechenzentren
    IT des Bundes ignoriert eigene umweltpolitische Vorgaben

    Bei 184 Rechenzentren und einem hohen Einkaufsvolumen für Technik hat die Bundes-IT eine große Bedeutung. Doch die Abwärme und erneuerbare Energien werden viel zu wenig genutzt.

  3. Revision CFI 1202A: Die neue PS5 hat einen 6-nm-Chip
    Revision CFI 1202A
    Die neue PS5 hat einen 6-nm-Chip

    Sony hat damit begonnen, eine neue Revision der PS5 auszuliefern. Sowohl für Kunden als auch für den Hersteller bietet das Modell Vorteile.

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Daily Deals • PS5-Verkauf bei MMS • CyberWeek: PC-Zubehör, Werkzeug & Co. • Günstig wie nie: Gigabyte RX 6900 XT 864,15€, MSI RTX 3090 1.159€, Fractal Design RGB Tower 129,90€ • MindStar (Palit RTX 3070 549€) • Thrustmaster T300 RS GT 299,99€ • Alternate (iPad Air (2022) 256GB 949,90€) [Werbung]
    •  /