Anlernen neuer KI-Systeme: Anthropic wirft Alibaba unerlaubte Kopier-Attacke vor
Die KI-Firma Anthropic wirft dem chinesischen Alibaba-Konzern einen großangelegten Versuch vor, widerrechtlich Fähigkeiten seiner Software mit künstlicher Intelligenz abzugreifen. Anthropic fordert deswegen vom US-Kongress Maßnahmen, die solche Attacken verhindern sollen, wie aus einem von der Financial Times(öffnet im neuen Fenster) veröffentlichten Brief(öffnet im neuen Fenster) an US-Senatoren hervorgeht. Alibaba äußerte sich zunächst nicht zu den Vorwürfen.
Dem Brief zufolge interagierten mit Alibaba verbandelte Angreifer über nahezu 25.000 betrügerische Konten von Ende April bis Anfang Juni fast 29 Millionen Mal mit Anthropics KI-Software Claude. Dabei hätten sie mehr über zentrale Aspekte wie den Aufbau der Software und deren Logik beim Ausführen von Aufgaben erfahren wollen.
Die Angreifer hätten zu einer unter dem Begriff Destillation bekannten Methode gegriffen, bei der Entwickler neuer KI-Software diese mit künstlicher Intelligenz von einem bereits existierenden Modell anlernen lassen. Solche Zugriffe sind in Nutzungsbedingungen untersagt.
Anthropic will stärker gegen Destillation vorgehen
Tech-Milliardär Elon Musk räumte allerdings jüngst in einem Gerichtsverfahren ein, dass er mit dieser Technik seinen KI-Chatbot Grok von KI-Modellen des ChatGPT-Entwicklers OpenAI lernen ließ. Anthropic gilt aktuell als größte Konkurrenz von OpenAI und warf chinesischen Unternehmen wiederholt vor, die Methode zu verwenden.
In dem Brief forderte Anthropic vom Kongress unter anderem ein härteres Vorgehen gegen chinesische Unternehmen, die zur Destillation greifen. Auch sollten US-KI-Firmen die Freiheit bekommen, einander vor solchen Attacken zu warnen. Zudem rief Anthropic dazu auf, den Zugang chinesischer Unternehmen zu Technik wie KI-Chips weiter einzuschränken.
Anthropic im Konflikt mit der US-Regierung
Damit bekräftigte die KI-Firma den Konfrontationskurs zum Chiphersteller Nvidia. Das Unternehmen wirbt bei der US-Regierung dafür, auch die Ausfuhr leistungsstärkerer KI-Systeme nach China zu erlauben.
Anthropic steckt dabei selbst in einem Konflikt mit der US-Regierung. Diese zwang die Firma jüngst, ihre Topsoftware mit künstlicher Intelligenz vorläufig vom Markt zu nehmen. Zur Begründung wurde auf angebliche Schwachstellen verwiesen, über die Einschränkungen des KI-Programms mit dem Namen Fable 5 ausgehebelt werden könnten.
Bei dem Programm ist unter anderem die Fähigkeit zur Suche nach Sicherheitslücken in anderer Software blockiert. Die Sorge ist, dass KI für Cyberattacken verwendet werden könnte. Anthropic konterte, die Probleme seien nicht schwerwiegend. Verhandlungen mit der US-Regierung über die Sperre laufen noch.
- Anzeige Hier geht es zu Künstliche Intelligenz: Wissensverarbeitung bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.