Kontrollinstanz für Algorithmen

"Ähnlich wie schon heute Unternehmen ab einer bestimmten Größe einen Datenschutzbeauftragten benennen müssen, sollten (...) künftig auch solche Unternehmen und Behörden, die kritische algorithmische Systeme betreiben, einen Ansprechpartner benennen müssen." Er solle für die Kommunikation mit Behörden zur Verfügung stehen und zu einer Mitwirkung verpflichtet sein, schreibt das Ethikgremium in seinem Abschlussbericht.

Stellenmarkt
  1. Domänenarchitekt (w/m/d) Komposit
    W&W Informatik GmbH, Ludwigsburg
  2. Operations Manager (m/w/d)
    Gunnar Kühne Executive Search GmbH, Frankfurt am Main
Detailsuche

Als oberste Kontrollinstanz soll die Bundesregierung nach Ansicht der Kommission ein bundesweites "Kompetenzzentrum Algorithmische Systeme" einrichten. Es soll die bestehenden Aufsichtsbehörden durch "technischen und regulatorischen Sachverstand" dabei unterstützen, "algorithmische Systeme im Hinblick auf die Einhaltung von Recht und Gesetz zu kontrollieren".

Zur Umsetzung der vorgeschlagenen Maßnahmen empfiehlt das Expertengremium überdies eine Regulierung auf EU-Ebene - in einer, wie es in dem Bericht heißt, "Verordnung für Algorithmische Systeme". Darin sollen "zentrale Grundprinzipien" enthalten sein, angelehnt an den von der Datenethikkommission benannten Anforderungen. Was auf der Ebene der EU geregelt wird, soll schließlich in den einzelnen Mitgliedstaaten eine "Konkretisierung" erfahren, so die Idee.

"Algorithmen unter Generalverdacht"

Der Präsident des IT-Verbands Bitkom, Achim Berg, kritisierte die Vorschläge zur Algorithmen-Regulierung scharf. Das Gremium sei hier über das Ziel hinausgeschossen. Anstatt eine enge Kategorie von Algorithmen zu identifizieren, die wegen ihres Gefährdungspotenzials einer besonderen Regulierung bedürfen könnten, würden in dem heute vorgelegten Abschlussbericht der Kommission "fast alle Algorithmen unter einen Generalverdacht gestellt", sagte Berg dem Handelsblatt.

Golem Akademie
  1. Kotlin für Java-Entwickler: virtueller Zwei-Tage-Workshop
    14.–15. Oktober 2021, Virtuell
  2. CEH Certified Ethical Hacker v11: virtueller Fünf-Tage-Workshop
    10.–14. Januar 2022, Virtuell
Weitere IT-Trainings

Algorithmen seien bereits heute Teil des täglichen Lebens, von der Route des Navigationsgeräts über die Wettervorhersage bis hin zur Empfehlung eines Musiktitels, erläuterte der Bitkom-Präsident. "Die allerwenigsten davon bergen das Risiko von Diskriminierung oder Gefahr für Leib und Leben." Eine Risikobewertung für jeden einzelnen Algorithmus sei nicht nur nicht notwendig, sondern angesichts der Fülle an Anwendungen auch in der Praxis überhaupt nicht durchführbar.

Um Missbrauch oder Fehlverhalten auszuschließen, sollte in den meisten Fällen das geltende Recht wie Vertrags- und Verbraucherrecht, Antidiskriminierungsgesetze, das Haftungsrecht oder Datenschutzgesetze ausreichend sein, betonte Berg. "Wir brauchen mehr Verständnis von Algorithmen, nicht mehr Verbote", mahnte der Bitkom-Präsident. "Dazu gehört eine größtmögliche Transparenz, gerade im Bereich Künstliche Intelligenz und maschinelles Lernen, an der nicht zuletzt die Unternehmen selbst interessiert sind."

Inwieweit die Bundesregierung die Empfehlungen der Datenethikkommission aufgreift und in Gesetze gießt, lässt sich derzeit nicht abschätzen. Andererseits haben Union und SPD in ihrem Koalitionsvertrag bereits angekündigt, dass Verbraucher bei Entscheidungen, Dienstleistungen und Produkten, die auf Algorithmen und künstlicher Intelligenz (KI) basieren, einen besonderen Schutz bekommen sollen.

Konkret will die Koalition möglichen unzulässigen Diskriminierungen, Benachteiligungen und Betrügereien einen Riegel vorschieben. Wie genau, dazu liefert der Koalitionsvertrag keine Hinweise.

Das Ethikgremiums gibt in dieser Hinsicht nützliche Denkanstöße. Was daraus wird? Innenminister Horst Seehofer (CSU) erklärte dazu bereits im vergangenen Jahr: Nach der Vorlage des Abschlussberichts bleibe noch genug Zeit, Vorschläge vor der nächsten Bundestagswahl im Herbst 2021 auch umzusetzen.

Die Experten hoffen trotz ihrer teilweise sehr detaillierten Vorgaben für den Einsatz von Algorithmen und künstlicher Intelligenz sowie den Umgang mit Daten auf eine Regulierung mit Augenmaß. "Allzu starre und detaillierte Gesetze können Handlungsspielräume einschränken und bürokratischen Aufwand auf eine Weise erhöhen, dass innovative Prozesse in Deutschland der Geschwindigkeit der internationalen technologischen Entwicklungen nicht mehr folgen können."

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed
 Datenethik: Regierungskommission bringt Verbot von Algorithmen ins Spiel
  1.  
  2. 1
  3. 2


theSens 24. Okt 2019

Es mag ja wirklich unrealistisch sein, jedes Programm das geschrieben wird erst auf...

Rainbow 24. Okt 2019

... damit niemand mehr die Schulden addieren kann. So viel Blödsinn muss man erstmal auf...

David64Bit 24. Okt 2019

Die Algorithmen sind zwar auch ein Problem, aber das liegt eher daran wie sie verwendet...

M.P. 24. Okt 2019

Aber irgendwie fehlt wohl ein treffender Name für das, was man verbieten will...

ap (Golem.de) 24. Okt 2019

Es handelte sich um einen Irrtum und der Thread befindet sich wieder an seinem Platz.



Aktuell auf der Startseite von Golem.de
Resident Evil (1996)
Grauenhaft gut

Resident Evil zeigte vor 25 Jahren, wie Horror im Videospiel auszusehen hat. Wir schauen uns den Klassiker im Golem retro_ an.

Resident Evil (1996): Grauenhaft gut
Artikel
  1. Kanadische Polizei: Diebe nutzen Apples Airtags zum Tracking von Luxuswagen
    Kanadische Polizei
    Diebe nutzen Apples Airtags zum Tracking von Luxuswagen

    Autodiebe in Kanada nutzen offenbar Apples Airtags, um Fahrzeuge heimlich zu orten.

  2. 4 Motoren und 4-Rad-Lenkung: Tesla aktualisiert Cybertruck
    4 Motoren und 4-Rad-Lenkung
    Tesla aktualisiert Cybertruck

    Tesla-Chef Elon Musk hat einige Änderungen am Cybertruck angekündigt. Der elektrische Pick-up-Truck wird mit vier Motoren ausgerüstet.

  3. Blender Foundation: Blender 3.0 ist da
    Blender Foundation
    Blender 3.0 ist da

    Die freie 3D-Software Blender bekommt ein Update - wir haben es uns angesehen.
    Von Martin Wolf

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Daily Deals • Saturn-Advent: SanDisk Ultra 3D 1 TB 77€ • KFA2 Geforce RTX 3070 OC 8GB 1.019€ • Alternate (u. a. AKRacing Core SX 269,98€) • Sharkoon PureWriter RGB 44,90€ • Corsair K70 RGB MK.2 139,99€ • 2x Canton Plus GX.3 49€ • Gaming-Monitore günstiger (u. a. Samsung G3 27" 144Hz 219€) [Werbung]
    •  /