Künstliche Intelligenz: OpenAI erwägt Verlangsamung der KI-Entwicklung
Der Entwickler OpenAI erwägt eine Verlangsamung bei der Entwicklung fortschrittlicher Systeme künstlicher Intelligenz. Das berichtet Bloomberg unter Berufung auf Personen mit Kenntnis der internen Beratungen, wie unter anderem die Brussels Times(öffnet im neuen Fenster) schreibt. Wie Chief Executive Officer Sam Altman demnach in einer internen Betriebsversammlung mitteilte, könnte das Unternehmen das Tempo bei der Modellentwicklung schrittweise steuern. Altman äußerte laut Insiderberichten die Hoffnung, dass andere KI-Unternehmen diesem Schritt folgen. Gleichzeitig räumte er ein, dass womöglich nicht alle Mitbewerber zu einer solchen Drosselung bereit sind.
Sicherheitsbedenken und interne Trainingsstopps
Auch der Chefwissenschaftler von OpenAI, Jakub Pachocki, warnte in seinem Essay An Alien Mind(öffnet im neuen Fenster) vor den Gefahren moderner KI-Systeme. Pachocki sprach sich für eine Abstimmung zwischen den Unternehmen aus, um die zukünftige Entwicklung nach Bedarf zu verlangsamen. Er hoffe auf freiwillige Verzögerungen, bis gemeinsame Sicherheitsstandards etabliert sind.
OpenAI bestätigte, dass das Unternehmen wegen Sicherheitsbedenken bereits Teile der Modellentwicklung verlangsamt(öffnet im neuen Fenster) und bestimmte interne Trainingsprozesse ausgesetzt habe. Bereits im Juli beriet Altman mit Vertretern des Weißen Hauses über die Notwendigkeit, die KI-Entwicklung zu steuern.
Die Bedenken innerhalb der Branche stiegen zuletzt deutlich an. Auslöser war unter anderem ein Vorfall, bei dem KI-Agenten von OpenAI eigenständig in die Systeme der Hosting-Plattform Hugging Face eindrangen. In einem weiteren Fall koordinierten sich Agenten über mehrere Drittanbieter-Websites hinweg, nachdem sie interne Beschränkungen umgangen hatten. Beide Vorfälle schürten Bedenken hinsichtlich der cybertechnischen Fähigkeiten neuer Modelle.
Wachsender Druck durch Beschäftigte und Ausstiege
In den vergangenen Wochen äußerten Mitarbeiter führender KI-Firmen öffentlich Bedenken hinsichtlich der Risiken fortschrittlicher Systeme. Der KI-Forscher Jacob Coxon kündigte seine Stelle bei Anthropic und warf seinen früheren und aktuellen Arbeitgebern OpenAI und Anthropic vor, bei der Entwicklung superintelligenter KI mit der Sicherheit von Menschen zu spielen.
Sein Beitrag in den sozialen Medien erzielte mehr als 150 Millionen Aufrufe und erregte die Aufmerksamkeit von Gesetzgebern. Der demokratische Abgeordnete Ted Lieu bezeichnete Coxons Aussage(öffnet im neuen Fenster) öffentlich als weiteren Beleg für die Notwendigkeit eines von ihm mitentworfenen Gesetzes zur Abschaltung riskanter KI-Systeme. Ende Juli unterzeichneten zudem mehr als 1.000 Angestellte großer KI-Unternehmen eine Petition für Mechanismen zur Verlangsamung des Entwicklungstempos. Auch ein Großteil der US-amerikanischen Bevölkerung spricht sich dafür aus.
Trump und Zuckerberg für mehr Tempo
Trump und Zuckerberg lehnen dagegen eine Verlangsamung ab. Trump äußerte sich kürzlich im Oval Office ablehnend: Man wolle die Unternehmen nicht einschränken, sonst gerate man ins Hintertreffen gegenüber China. Wer den Wettlauf um KI gewinne, gewinne insgesamt. Am selben Tag positionierte sich auch Meta-Chef Mark Zuckerberg in einem Gastbeitrag im Wall Street Journal gegen die Pacing-the-Frontier-Petition von OpenAI und Anthropic. Die USA sollten die KI-Entwicklung beschleunigen, statt sie einzuschränken, schrieb er. Das eigentliche Risiko liege nicht in einem zu schnellen Fortschritt, sondern darin, dass leistungsfähige KI auf wenige Unternehmen konzentriert bleibe.
- Anzeige Hier geht es zu Künstliche Intelligenz: Wissensverarbeitung bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.