Anthropic fordert Meldesystem für KI-Vorfälle
Der Anthropic-Chef regte an, die globale Eindämmung von KI-Risiken zunächst mit enggefassten Abkommen zu beginnen, denen jedes Land zustimmen könne. Das könne beispielsweise das Verbot von KI-Nutzung zur Herstellung biologischer Waffen betreffen.
Weitere Schritte könnten im Aufbau von Evaluations- und Verifizierungssysteme bestehen, "damit Staaten Einblick in die Fähigkeiten von Frontier-Modellen erhalten und die Zusagen der anderen verifizieren können". Zudem sollte die internationale Gemeinschaft "globale Standards für die Prüfung von KI-Modellen hinsichtlich Kontrollverlust, Risiken und Missbrauchsgefahren sowie ein Meldesystem für KI-Vorfälle einführen".
Hugging Face warnt vor Asymmetrie
Der CEO von Hugging Face, Clément Delangue, warnte vor dem Sicherheitsrat vor der Asymmetrie bei leistungsstarker KI. Das sei eine der Lehren aus dem erfolgreichen Angriff von OpenAIs KI-Agenten auf das Unternehmen. "Wir haben erkannt, dass das größte Risiko nicht die leistungsstarke KI selbst ist, sondern die Asymmetrie der leistungsstarken KI. Die Asymmetrie zwischen Angreifern und Verteidigern, zwischen einigen wenigen Unternehmen und dem Rest der Welt, zwischen einigen wenigen Ländern und dem Rest der Welt. Die Asymmetrie bei der Kontrolle von Fähigkeiten, Rechenkapazität und Macht."
Delangue hob die Vorteile der KI bei der Abwehr von Angriffen hervor. KI könne "die Cybersicherheit fundamental und bedeutungsvoll stärken – wenn wir die richtigen Anreize setzen, die Verteidiger stärker ausstatten als die Angreifer und die Asymmetrie zwischen ihnen nicht vergrößern".
USA lehnen globale Kontrollsysteme ab
Die Reaktionen von Vertretern der USA, Chinas und Russlands war ablehnend bis verhalten. Der Vertreter des Weißen Hauses, Michael Kratsios, verwies auf Äußerungen von US-Präsident Donald Trump am Vortag vor der UN-Generalversammlung, wonach die USA jeden Versuch entschieden ablehnten, "ein globalistisches Kontrollsystem für Superintelligenz zu errichten". Kratsios vermied konsequent den Begriff KI, da Trump in seiner Rede eine neue Sprachregelung angekündigt hatte.
Nach Einschätzung Russland ist der UN-Sicherheitsrat nicht das geeignete Gremium, um die Fragen der KI-Risiken zu diskutieren. Allerdings habe Russland grundsätzlich keine Einwände gegen einen multilateralen Dialog über die Anwendungsbereiche der KI, wozu auch militärische Anwendungen der KI gehörten.
Der Vertreter Chinas kritisierte die Initiative der KI-Firmenchefs. "Sich im IT-Bereich zu einer Clique nach dem Motto 'Wir gegen die anderen' zusammenzuschließen und andere Länder zur Parteinahme zu zwingen, kommt einer Politisierung und Instrumentalisierung technischer Fragen gleich", sagte Chinas Repräsentant Fu Cong und fügte hinzu: "Dies dient dem Versuch bestimmter Großmächte, ihren technischen Vorsprung durch Monopole zu wahren und digitale Hegemonie zu erlangen."
Nach Ansicht Chinas muss verhindert werden, "dass sich die digitale Kluft und die Kluft im KI-Bereich die Entwicklungsunterschiede weiter verschärfen". Die UN sollten als zentrales Forum für die globale KI-Governance unterstützt werden, Entwicklungsländer sollten mehr Repräsentation und Mitsprache erhalten.
- Anzeige Hier geht es zu The Apprentice - The Trump Story bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.