Kontrollinstanz für Algorithmen

"Ähnlich wie schon heute Unternehmen ab einer bestimmten Größe einen Datenschutzbeauftragten benennen müssen, sollten (...) künftig auch solche Unternehmen und Behörden, die kritische algorithmische Systeme betreiben, einen Ansprechpartner benennen müssen." Er solle für die Kommunikation mit Behörden zur Verfügung stehen und zu einer Mitwirkung verpflichtet sein, schreibt das Ethikgremium in seinem Abschlussbericht.

Stellenmarkt
  1. Leiter*in (m/w/d) des Referats IT-Anwendungen
    Zentral- und Landesbibliothek Berlin, Berlin
  2. Projektleitung (m/w/d) DMS
    Ruhrverband, Essen
Detailsuche

Als oberste Kontrollinstanz soll die Bundesregierung nach Ansicht der Kommission ein bundesweites "Kompetenzzentrum Algorithmische Systeme" einrichten. Es soll die bestehenden Aufsichtsbehörden durch "technischen und regulatorischen Sachverstand" dabei unterstützen, "algorithmische Systeme im Hinblick auf die Einhaltung von Recht und Gesetz zu kontrollieren".

Zur Umsetzung der vorgeschlagenen Maßnahmen empfiehlt das Expertengremium überdies eine Regulierung auf EU-Ebene - in einer, wie es in dem Bericht heißt, "Verordnung für Algorithmische Systeme". Darin sollen "zentrale Grundprinzipien" enthalten sein, angelehnt an den von der Datenethikkommission benannten Anforderungen. Was auf der Ebene der EU geregelt wird, soll schließlich in den einzelnen Mitgliedstaaten eine "Konkretisierung" erfahren, so die Idee.

"Algorithmen unter Generalverdacht"

Der Präsident des IT-Verbands Bitkom, Achim Berg, kritisierte die Vorschläge zur Algorithmen-Regulierung scharf. Das Gremium sei hier über das Ziel hinausgeschossen. Anstatt eine enge Kategorie von Algorithmen zu identifizieren, die wegen ihres Gefährdungspotenzials einer besonderen Regulierung bedürfen könnten, würden in dem heute vorgelegten Abschlussbericht der Kommission "fast alle Algorithmen unter einen Generalverdacht gestellt", sagte Berg dem Handelsblatt.

Golem Karrierewelt
  1. Jira für Anwender: virtueller Ein-Tages-Workshop
    17.01.2023, virtuell
  2. Advanced Python – Fortgeschrittene Programmierthemen: virtueller Drei-Tage-Workshop
    23.-25.01.2023, Virtuell
Weitere IT-Trainings

Algorithmen seien bereits heute Teil des täglichen Lebens, von der Route des Navigationsgeräts über die Wettervorhersage bis hin zur Empfehlung eines Musiktitels, erläuterte der Bitkom-Präsident. "Die allerwenigsten davon bergen das Risiko von Diskriminierung oder Gefahr für Leib und Leben." Eine Risikobewertung für jeden einzelnen Algorithmus sei nicht nur nicht notwendig, sondern angesichts der Fülle an Anwendungen auch in der Praxis überhaupt nicht durchführbar.

Um Missbrauch oder Fehlverhalten auszuschließen, sollte in den meisten Fällen das geltende Recht wie Vertrags- und Verbraucherrecht, Antidiskriminierungsgesetze, das Haftungsrecht oder Datenschutzgesetze ausreichend sein, betonte Berg. "Wir brauchen mehr Verständnis von Algorithmen, nicht mehr Verbote", mahnte der Bitkom-Präsident. "Dazu gehört eine größtmögliche Transparenz, gerade im Bereich Künstliche Intelligenz und maschinelles Lernen, an der nicht zuletzt die Unternehmen selbst interessiert sind."

Inwieweit die Bundesregierung die Empfehlungen der Datenethikkommission aufgreift und in Gesetze gießt, lässt sich derzeit nicht abschätzen. Andererseits haben Union und SPD in ihrem Koalitionsvertrag bereits angekündigt, dass Verbraucher bei Entscheidungen, Dienstleistungen und Produkten, die auf Algorithmen und künstlicher Intelligenz (KI) basieren, einen besonderen Schutz bekommen sollen.

Konkret will die Koalition möglichen unzulässigen Diskriminierungen, Benachteiligungen und Betrügereien einen Riegel vorschieben. Wie genau, dazu liefert der Koalitionsvertrag keine Hinweise.

Das Ethikgremiums gibt in dieser Hinsicht nützliche Denkanstöße. Was daraus wird? Innenminister Horst Seehofer (CSU) erklärte dazu bereits im vergangenen Jahr: Nach der Vorlage des Abschlussberichts bleibe noch genug Zeit, Vorschläge vor der nächsten Bundestagswahl im Herbst 2021 auch umzusetzen.

Die Experten hoffen trotz ihrer teilweise sehr detaillierten Vorgaben für den Einsatz von Algorithmen und künstlicher Intelligenz sowie den Umgang mit Daten auf eine Regulierung mit Augenmaß. "Allzu starre und detaillierte Gesetze können Handlungsspielräume einschränken und bürokratischen Aufwand auf eine Weise erhöhen, dass innovative Prozesse in Deutschland der Geschwindigkeit der internationalen technologischen Entwicklungen nicht mehr folgen können."

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed
 Datenethik: Regierungskommission bringt Verbot von Algorithmen ins Spiel
  1.  
  2. 1
  3. 2


theSens 24. Okt 2019

Es mag ja wirklich unrealistisch sein, jedes Programm das geschrieben wird erst auf...

Rainbow 24. Okt 2019

... damit niemand mehr die Schulden addieren kann. So viel Blödsinn muss man erstmal auf...

David64Bit 24. Okt 2019

Die Algorithmen sind zwar auch ein Problem, aber das liegt eher daran wie sie verwendet...

M.P. 24. Okt 2019

Aber irgendwie fehlt wohl ein treffender Name für das, was man verbieten will...



Aktuell auf der Startseite von Golem.de
El-Ali-Meteorit
Forscher entdecken zwei neue Minerale in einem Meteoriten

In einer Probe aus einem in Somalia niedergegangenen Meteoriten wurden zwei Mineralien entdeckt, die auf der Erde so bisher nicht gefunden wurden.

El-Ali-Meteorit: Forscher entdecken zwei neue Minerale in einem Meteoriten
Artikel
  1. Kraftfahrt-Bundesamt: Elektrischer Corsa sollte zur Abgasuntersuchung
    Kraftfahrt-Bundesamt
    Elektrischer Corsa sollte zur Abgasuntersuchung

    Das Kraftfahrt-Bundesamt ruft den Opel Corsa samt der Elektro-Variante zurück, weil ein Softwarefehler im Auto eine Messung verhindert.

  2. Recruiting: Personalauswahl mit KI kann Unternehmen schaden
    Recruiting
    Personalauswahl mit KI kann Unternehmen schaden

    Software ist objektiv und kennt keine Vorurteile, das macht Künstliche Intelligenz interessant für die Personalauswahl. Ist KI also besser als Personaler? Die Bewerber sind skeptisch und die Wissenschaft liefert keinen Beweis dafür.
    Ein Bericht von Peter Ilg

  3. Gerichtsurteil: MDR darf Facebook-Kommentare ohne Sendungsbezug löschen
    Gerichtsurteil
    MDR darf Facebook-Kommentare ohne Sendungsbezug löschen

    Öffentlich-rechtliche Sender begehen keine Zensur, wenn sie nicht strafbare Kommentare auf Facebook löschen. Manchmal sind sie eher dazu verpflichtet.

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Daily Deals • PS5 bestellbar • Tiefstpreise: Crucial SSD 4TB 319€, Palit RTX 4080 1.499€, HTC Vive Pro 2 659€ • Alternate: Team Group SSD 512GB 29,99€, AOC Curved 27" 240 Hz 199,90€ • Samsung Cyber Week • Top-TVs (2022) LG & Samsung über 40% günstiger • AOC Curved 34" WQHD 389€ [Werbung]
    •  /