KI: FTC eröffnet Untersuchung gegen Anthropic, OpenAI und Co.
KI-Unternehmen wie Anthropic und OpenAI sollen Ziel einer Untersuchung der US-Verbraucherschutzbehörde FTC (Federal Trade Commission) werden: Die Behörde wird die Firmen hinsichtlich der Gefahren, die durch die KI-Entwicklung ausgehen können, untersuchen, wie Reuters(öffnet im neuen Fenster) unter Berufung auf einen hochrangigen Beamten berichtet.
Demnach soll die FTC planen, Informationen und Aussagen von Entscheidern der Unternehmen anzufordern. Neben KI-Unternehmen sollen diese Auskunftsaufforderungen auch an die Forschungsgruppe Metr gehen, die unter anderem für Anthropic und OpenAI Sicherheitsverstöße untersucht hat.
Dem FTC-Insider zufolge hatte der Chef der Behörde, Andrew Ferguson, bereits vor den jüngsten Zwischenfällen Bedenken gegenüber den KI-Unternehmen. In den vergangenen Monaten brachen immer wieder KI-Agenten während Trainings und Tests aus ihren Sicherheitsbegrenzungen aus. KI-Agenten von OpenAI hackten beispielsweise die Webseite Hugging Face.
KI-Unternehmen sollen Sicherheitsregeln ignoriert haben
KI-Wissenschaftler warnten in der Folge vor den negativen Folgen der aktuellen KI-Entwicklung für die Menschheit. So wurde etwa den großen KI-Entwicklungsunternehmen vorgeworfen, Sicherheitsstandards zu ignorieren, um schneller Fortschritte zu machen.
Der Hack von Hugging Face soll dem Untersuchungsprozess neue Dringlichkeit verliehen haben. Der FTC-Vorsitzende schlug in einem Interview vor, dass KI-Forscher, deren Tests in Hacks resultieren, persönlich für die Schäden haftbar sein sollen. Sollte dies umgesetzt werden, dürften viele KI-Entwickler wesentlich zurückhaltender bei ihrer Forschung sein.
Das Vorgehen der FTC steht im Widerspruch zu der Linie, die US-Präsident Donald Trump im Hinblick auf die KI-Entwicklung verfolgt. Trump sieht keine Gefahr durch KI und setzt auf freiwillige Kontrolle der Entwicklungsunternehmen. Gerade erst vereinbarte er mit den großen KI-Unternehmen eine freiwillige Selbstkontrolle.
Fast täglich gibt es Neues aus der KI-Welt – ein neues Produkt hier, aktuelle Forschung da: Vielleicht ist es ein Durchbruch! Doch wie ist das zu bewerten? Mit dem Golem-Newsletter AI Lab Report behaltet ihr den Überblick über die wichtigsten Entwicklungen. Der Newsletter ist kostenlos, ihr könnt ihn hier abonnieren.
- Anzeige Hier geht es zu Künstliche Intelligenz: Wissensverarbeitung bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.