• IT-Karriere:
  • Services:

Kontrollinstanz für Algorithmen

"Ähnlich wie schon heute Unternehmen ab einer bestimmten Größe einen Datenschutzbeauftragten benennen müssen, sollten (...) künftig auch solche Unternehmen und Behörden, die kritische algorithmische Systeme betreiben, einen Ansprechpartner benennen müssen." Er solle für die Kommunikation mit Behörden zur Verfügung stehen und zu einer Mitwirkung verpflichtet sein, schreibt das Ethikgremium in seinem Abschlussbericht.

Stellenmarkt
  1. soft-nrg Development GmbH, Aschheim Dornach
  2. AKDB Anstalt für kommunale Datenverarbeitung in Bayern, verschiedene Standorte

Als oberste Kontrollinstanz soll die Bundesregierung nach Ansicht der Kommission ein bundesweites "Kompetenzzentrum Algorithmische Systeme" einrichten. Es soll die bestehenden Aufsichtsbehörden durch "technischen und regulatorischen Sachverstand" dabei unterstützen, "algorithmische Systeme im Hinblick auf die Einhaltung von Recht und Gesetz zu kontrollieren".

Zur Umsetzung der vorgeschlagenen Maßnahmen empfiehlt das Expertengremium überdies eine Regulierung auf EU-Ebene - in einer, wie es in dem Bericht heißt, "Verordnung für Algorithmische Systeme". Darin sollen "zentrale Grundprinzipien" enthalten sein, angelehnt an den von der Datenethikkommission benannten Anforderungen. Was auf der Ebene der EU geregelt wird, soll schließlich in den einzelnen Mitgliedstaaten eine "Konkretisierung" erfahren, so die Idee.

"Algorithmen unter Generalverdacht"

Der Präsident des IT-Verbands Bitkom, Achim Berg, kritisierte die Vorschläge zur Algorithmen-Regulierung scharf. Das Gremium sei hier über das Ziel hinausgeschossen. Anstatt eine enge Kategorie von Algorithmen zu identifizieren, die wegen ihres Gefährdungspotenzials einer besonderen Regulierung bedürfen könnten, würden in dem heute vorgelegten Abschlussbericht der Kommission "fast alle Algorithmen unter einen Generalverdacht gestellt", sagte Berg dem Handelsblatt.

Algorithmen seien bereits heute Teil des täglichen Lebens, von der Route des Navigationsgeräts über die Wettervorhersage bis hin zur Empfehlung eines Musiktitels, erläuterte der Bitkom-Präsident. "Die allerwenigsten davon bergen das Risiko von Diskriminierung oder Gefahr für Leib und Leben." Eine Risikobewertung für jeden einzelnen Algorithmus sei nicht nur nicht notwendig, sondern angesichts der Fülle an Anwendungen auch in der Praxis überhaupt nicht durchführbar.

Um Missbrauch oder Fehlverhalten auszuschließen, sollte in den meisten Fällen das geltende Recht wie Vertrags- und Verbraucherrecht, Antidiskriminierungsgesetze, das Haftungsrecht oder Datenschutzgesetze ausreichend sein, betonte Berg. "Wir brauchen mehr Verständnis von Algorithmen, nicht mehr Verbote", mahnte der Bitkom-Präsident. "Dazu gehört eine größtmögliche Transparenz, gerade im Bereich Künstliche Intelligenz und maschinelles Lernen, an der nicht zuletzt die Unternehmen selbst interessiert sind."

Inwieweit die Bundesregierung die Empfehlungen der Datenethikkommission aufgreift und in Gesetze gießt, lässt sich derzeit nicht abschätzen. Andererseits haben Union und SPD in ihrem Koalitionsvertrag bereits angekündigt, dass Verbraucher bei Entscheidungen, Dienstleistungen und Produkten, die auf Algorithmen und künstlicher Intelligenz (KI) basieren, einen besonderen Schutz bekommen sollen.

Konkret will die Koalition möglichen unzulässigen Diskriminierungen, Benachteiligungen und Betrügereien einen Riegel vorschieben. Wie genau, dazu liefert der Koalitionsvertrag keine Hinweise.

Das Ethikgremiums gibt in dieser Hinsicht nützliche Denkanstöße. Was daraus wird? Innenminister Horst Seehofer (CSU) erklärte dazu bereits im vergangenen Jahr: Nach der Vorlage des Abschlussberichts bleibe noch genug Zeit, Vorschläge vor der nächsten Bundestagswahl im Herbst 2021 auch umzusetzen.

Die Experten hoffen trotz ihrer teilweise sehr detaillierten Vorgaben für den Einsatz von Algorithmen und künstlicher Intelligenz sowie den Umgang mit Daten auf eine Regulierung mit Augenmaß. "Allzu starre und detaillierte Gesetze können Handlungsspielräume einschränken und bürokratischen Aufwand auf eine Weise erhöhen, dass innovative Prozesse in Deutschland der Geschwindigkeit der internationalen technologischen Entwicklungen nicht mehr folgen können."

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed
 Datenethik: Regierungskommission bringt Verbot von Algorithmen ins Spiel
  1.  
  2. 1
  3. 2


Anzeige
Top-Angebote
  1. 179€ bei expert
  2. 60,98€ bei expert
  3. (u. a. Gigabyte Geforce RTX 3080 Gaming OC 10G 10.240 MB GDDR6X für 825,04€, Inno3D GeForce RTX...
  4. (u. a. Marvel's Spider-Man: Miles Morales 59,99€, Horizon: Forbidden West für 79,99€, Gran...

theSens 24. Okt 2019

Es mag ja wirklich unrealistisch sein, jedes Programm das geschrieben wird erst auf...

Rainbow 24. Okt 2019

... damit niemand mehr die Schulden addieren kann. So viel Blödsinn muss man erstmal auf...

David64Bit 24. Okt 2019

Die Algorithmen sind zwar auch ein Problem, aber das liegt eher daran wie sie verwendet...

M.P. 24. Okt 2019

Aber irgendwie fehlt wohl ein treffender Name für das, was man verbieten will...

ap (Golem.de) 24. Okt 2019

Es handelte sich um einen Irrtum und der Thread befindet sich wieder an seinem Platz.


Folgen Sie uns
       


    •  /