Open Secure AI Alliance: Warum Microsoft, OpenAI und Nvidia plötzlich auf Open-Source-KI setzen
In einem offenen Brief (PDF)(öffnet im neuen Fenster) setzen sich große Tech-Organisationen wie Microsoft, Nvidia, Meta, Mistral, Hugging Face, IBM, Dell Technologies, Palantir, Crowdstrike, Servicenow, Mozilla, OpenAI, die Linux Foundation und viele mehr dafür ein, quelloffene Software zur Abwehr KI-gestützter Cyberangriffe einzusetzen.
Damit soll dem Problem begegnet werden, dass geschlossene Systeme oft nur unflexibel auf Angriffe reagieren können, und die notwendige Unabhängigkeit der Software gewahrt werden, die Verteidigern zur Verfügung steht.
Da die US-Regierung zur Verhinderung von Technologiediebstahl Open-Source-Modelle stark einschränken will, spricht sich der als Open Secure AI Alliance(öffnet im neuen Fenster) bezeichnete Zusammenschluss auch gegen derartige Regulierungen aus.
Cybersicherheit soll nicht von geschlossenen Systemen abhängig sein
Grundsätzlich lesen sich die Forderungen der Allianz sehr sinnvoll. Um die Cybersicherheit im Zeitalter der künstlichen Intelligenz neu auszurichten, wollen die beteiligten Unternehmen offene Technologien, Techniken und Werkzeuge entwickeln und teilen, um Software und KI-Agenten zu schützen.
Cybersicherheit soll dabei nicht hinter geschlossenen und undurchsichtigen Systemen weniger Anbieter verborgen bleiben, sondern in offenen Frontier-Modellen, Testumgebungen und Tools bereitgestellt werden, die jeder untersuchen, anpassen und einsetzen kann. Der Einsatz fortschrittlicher KI auf der eigenen Infrastruktur soll helfen, die Reaktionsgeschwindigkeit im Falle eines Angriffs zu erhöhen.
Die dabei notwendige Transparenz, Anpassungsfähigkeit und souveräne Kontrolle könne nur durch offene Systeme erreicht werden, heißt es in dem offenen Brief. Die Forderungen beschränken sich dabei nicht auf KI-Modelle, sondern sehen den Aufbau eines kompletten Agenten-Stacks vor.
Forderungen an die Politik nach weniger Einschränkungen
Dazu gehören Frameworks wie SPIFFE/SPIRE für Zero-Trust-Identitäten, sichere Dateiformate und Codierungsworkflows sowie Werkzeuge zur Überwachung und Prüfung, wie etwa Microsofts KI-basiertes Cybersecurity-System MDash, sowie Frameworks, die das Verhalten von KI-Agenten testbar, rückverfolgbar und prüfbar machen sollen.
An die Politik richten die Unterzeichner des offenen Briefs die Forderung, offene Modelle und Sicherheitstools als defensive Vorteile und nicht als Haftungsrisiko zu betrachten. Pauschale Beschränkungen würden deren Fähigkeiten schwächen und die Abhängigkeit von wenigen großen Anbietern verstärken, heißt es weiter. Investitionen in die Infrastruktur zum Betrieb der offenen KI-Systeme sollten gemeinsam von Unternehmen und Regierungen vorgenommen werden.
Statt blindem Vertrauen fordert die Allianz eine Kombination aus Offenheit und klaren Sicherheitsvorkehrungen sowie strenge Regeln gegen den Missbrauch der verfügbaren KI-Tools. Stetige Evaluierungen und die schnelle Behebung von Schwachstellen sollen dazu beitragen, starke Systeme zu entwickeln, die nicht nur der Überprüfung durch die Öffentlichkeit standhalten, sondern Sicherheit statt durch Geheimhaltung mit Transparenz gewährleisten.
Der Golem-Blick
Von großen KI-Unternehmen und Tech-Konzernen kommen immer wieder blumige Worte und Forderungen mit teils hehren Zielen, von denen sich erst mit der Zeit zeigen wird, ob sie wirklich ernst zu nehmen sind. Microsoft etwa änderte 2024 seine Grundhaltung und unterstützt seitdem die Open-Source-Community. Auch Google, Meta, IBM und Amazon beteiligen sich an oder finanzieren Stiftungen wie die Linux Foundation.
Die jüngsten Meldungen zu den durch KI erzielten Erfolgen lassen aber die Frage aufkommen, wie viel Eigennutz hinter den im offenen Brief der Open Secure AI Alliance genannten Forderungen steckt. Die behauptete Gefährlichkeit von KI im Bereich der Cybersicherheit und Fantastereien von der erreichten Singularität mischen sich auffallend stark mit dem Eindruck, dass es sich um Marketingphrasen handelt, die den Unternehmen über den Kopf gewachsen sein könnten.
Was etwa wirklich hinter dem Rückzug von Claude Fable und Mythos durch Anthropic steckte, wofür das Unternehmen deren Gefährlichkeit als Grund nannte, und was davon reines Marketing war (g+), lässt sich von außen nur schwer abschätzen.
Von den KI-Fähigkeiten überrascht
Dasselbe gilt für den Ausbruch von OpenAIs GPT-5.6 Sol aus seiner Sandbox-Umgebung und den anschließenden Hack der KI-Hosting-Plattform Hugging Face. Es ist gut möglich, dass OpenAI einfach nur schauen wollte, was passiert, und die Ereignisse nutzte, um Werbung für die Fähigkeiten seines KI-Modells zu machen.
Es ist aber ebenso möglich, dass die Verantwortlichen davon überrascht wurden, dass ihr KI-Modell aus der offenbar nicht ausreichend gesicherten Testumgebung ausbrechen konnte und Schaden in der realen Welt anrichtete. Neben den durchaus realen Gefahren und sinnvollen Forderungen, die nun genannt werden, schwingt deshalb leider auch ein Rückzug aus der Verantwortlichkeit mit.
Die großen KI-Anbieter können problemlos ihre Open-Weight-Modelle als Open Source zur Verfügung stellen und den verantwortungsvollen Umgang damit der Allgemeinheit überlassen. Und jedem, der mehr möchte, wird dann immer noch das teure Foundry-Modell im geschlossenen System verkauft.
Wenn etwas passiert, ist es dann nicht mehr die Schuld des Unternehmens, weil sich dieses auf die offenen Techniken und Tools berufen kann, die ja jeder hätte einsetzen können, um ausufernde Sicherheitsvorfälle zu vermeiden.
Hinzu kommt: Auch wenn in dem offenen Brief viel von Open Source die Rede ist, wird bei den zu verwendenden KI-Modellen lediglich von Open-Weight-Modellen gesprochen, bei denen Quellcode und Trainingsdaten voraussichtlich geschlossen bleiben werden.
- Anzeige Hier geht es zu Künstliche Intelligenz: Wissensverarbeitung bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.