• IT-Karriere:
  • Services:

Kontrollinstanz für Algorithmen

"Ähnlich wie schon heute Unternehmen ab einer bestimmten Größe einen Datenschutzbeauftragten benennen müssen, sollten (...) künftig auch solche Unternehmen und Behörden, die kritische algorithmische Systeme betreiben, einen Ansprechpartner benennen müssen." Er solle für die Kommunikation mit Behörden zur Verfügung stehen und zu einer Mitwirkung verpflichtet sein, schreibt das Ethikgremium in seinem Abschlussbericht.

Stellenmarkt
  1. MEIERHOFER AG, München, Berlin, Leipzig
  2. MVV EnergySolutions GmbH, Mannheim

Als oberste Kontrollinstanz soll die Bundesregierung nach Ansicht der Kommission ein bundesweites "Kompetenzzentrum Algorithmische Systeme" einrichten. Es soll die bestehenden Aufsichtsbehörden durch "technischen und regulatorischen Sachverstand" dabei unterstützen, "algorithmische Systeme im Hinblick auf die Einhaltung von Recht und Gesetz zu kontrollieren".

Zur Umsetzung der vorgeschlagenen Maßnahmen empfiehlt das Expertengremium überdies eine Regulierung auf EU-Ebene - in einer, wie es in dem Bericht heißt, "Verordnung für Algorithmische Systeme". Darin sollen "zentrale Grundprinzipien" enthalten sein, angelehnt an den von der Datenethikkommission benannten Anforderungen. Was auf der Ebene der EU geregelt wird, soll schließlich in den einzelnen Mitgliedstaaten eine "Konkretisierung" erfahren, so die Idee.

"Algorithmen unter Generalverdacht"

Der Präsident des IT-Verbands Bitkom, Achim Berg, kritisierte die Vorschläge zur Algorithmen-Regulierung scharf. Das Gremium sei hier über das Ziel hinausgeschossen. Anstatt eine enge Kategorie von Algorithmen zu identifizieren, die wegen ihres Gefährdungspotenzials einer besonderen Regulierung bedürfen könnten, würden in dem heute vorgelegten Abschlussbericht der Kommission "fast alle Algorithmen unter einen Generalverdacht gestellt", sagte Berg dem Handelsblatt.

Algorithmen seien bereits heute Teil des täglichen Lebens, von der Route des Navigationsgeräts über die Wettervorhersage bis hin zur Empfehlung eines Musiktitels, erläuterte der Bitkom-Präsident. "Die allerwenigsten davon bergen das Risiko von Diskriminierung oder Gefahr für Leib und Leben." Eine Risikobewertung für jeden einzelnen Algorithmus sei nicht nur nicht notwendig, sondern angesichts der Fülle an Anwendungen auch in der Praxis überhaupt nicht durchführbar.

Um Missbrauch oder Fehlverhalten auszuschließen, sollte in den meisten Fällen das geltende Recht wie Vertrags- und Verbraucherrecht, Antidiskriminierungsgesetze, das Haftungsrecht oder Datenschutzgesetze ausreichend sein, betonte Berg. "Wir brauchen mehr Verständnis von Algorithmen, nicht mehr Verbote", mahnte der Bitkom-Präsident. "Dazu gehört eine größtmögliche Transparenz, gerade im Bereich Künstliche Intelligenz und maschinelles Lernen, an der nicht zuletzt die Unternehmen selbst interessiert sind."

Inwieweit die Bundesregierung die Empfehlungen der Datenethikkommission aufgreift und in Gesetze gießt, lässt sich derzeit nicht abschätzen. Andererseits haben Union und SPD in ihrem Koalitionsvertrag bereits angekündigt, dass Verbraucher bei Entscheidungen, Dienstleistungen und Produkten, die auf Algorithmen und künstlicher Intelligenz (KI) basieren, einen besonderen Schutz bekommen sollen.

Konkret will die Koalition möglichen unzulässigen Diskriminierungen, Benachteiligungen und Betrügereien einen Riegel vorschieben. Wie genau, dazu liefert der Koalitionsvertrag keine Hinweise.

Das Ethikgremiums gibt in dieser Hinsicht nützliche Denkanstöße. Was daraus wird? Innenminister Horst Seehofer (CSU) erklärte dazu bereits im vergangenen Jahr: Nach der Vorlage des Abschlussberichts bleibe noch genug Zeit, Vorschläge vor der nächsten Bundestagswahl im Herbst 2021 auch umzusetzen.

Die Experten hoffen trotz ihrer teilweise sehr detaillierten Vorgaben für den Einsatz von Algorithmen und künstlicher Intelligenz sowie den Umgang mit Daten auf eine Regulierung mit Augenmaß. "Allzu starre und detaillierte Gesetze können Handlungsspielräume einschränken und bürokratischen Aufwand auf eine Weise erhöhen, dass innovative Prozesse in Deutschland der Geschwindigkeit der internationalen technologischen Entwicklungen nicht mehr folgen können."

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed
 Datenethik: Regierungskommission bringt Verbot von Algorithmen ins Spiel
  1.  
  2. 1
  3. 2


Anzeige
Top-Angebote
  1. (u. a. Day 1 Edition PS4/Xbox One für 29,99€, Day 1 Edition PC für 49,99€)
  2. 219,99€ (Release 7.05.)
  3. (u. a. WD Blue SN550 1TB PCIe-SSD für 88€, Philips 65OLED855/12 65 Zoll OLED für 1.999€)

theSens 24. Okt 2019

Es mag ja wirklich unrealistisch sein, jedes Programm das geschrieben wird erst auf...

Rainbow 24. Okt 2019

... damit niemand mehr die Schulden addieren kann. So viel Blödsinn muss man erstmal auf...

David64Bit 24. Okt 2019

Die Algorithmen sind zwar auch ein Problem, aber das liegt eher daran wie sie verwendet...

M.P. 24. Okt 2019

Aber irgendwie fehlt wohl ein treffender Name für das, was man verbieten will...

ap (Golem.de) 24. Okt 2019

Es handelte sich um einen Irrtum und der Thread befindet sich wieder an seinem Platz.


Folgen Sie uns
       


Zoom Escaper ausprobiert

Der Zoom Escaper ist eine Möglichkeit, sich aus Videokonferenzen zu schummeln. Wir haben ihn ausprobiert.

Zoom Escaper ausprobiert Video aufrufen
Programm für IT-Jobeinstieg: Hoffen auf den Klebeeffekt
Programm für IT-Jobeinstieg
Hoffen auf den Klebeeffekt

Aktuell ist der Jobeinstieg für junge Ingenieure und Informatiker schwer. Um ihnen zu helfen, hat das Land Baden-Württemberg eine interessante Idee: Es macht sich selbst zur Zeitarbeitsfirma.
Ein Bericht von Peter Ilg

  1. Arbeitszeit Das Sechs-Stunden-Experiment bei Sipgate
  2. Neuorientierung im IT-Job Endlich mal machen!
  3. IT-Unternehmen Die richtige Software für ein Projekt finden

Weclapp-CTO Ertan Özdil: Wir dürfen nicht in Schönheit und Perfektion untergehen!
Weclapp-CTO Ertan Özdil
"Wir dürfen nicht in Schönheit und Perfektion untergehen!"

Der CTO von Weclapp träumt von smarter Software, die menschliches Eingreifen in der nächsten ERP-Generation reduziert. Deutschen Perfektionismus hält Ertan Özdil aber für gefährlich.
Ein Interview von Maja Hoock


    Fiat 500 als E-Auto im Test: Kleinstwagen mit großem Potenzial
    Fiat 500 als E-Auto im Test
    Kleinstwagen mit großem Potenzial

    Fiat hat einen neuen 500er entwickelt. Der Kleine fährt elektrisch - und zwar richtig gut.
    Ein Test von Peter Ilg

    1. Vierradlenkung Elektrischer GMC Hummer SUV fährt im Krabbengang seitwärts
    2. MG Cyberster MG B Roadster mit Lasergürtel und Union Jack
    3. Elektroauto E-Auto-Prämie übersteigt in 2021 schon Vorjahressumme

      •  /