Künstliche Intelligenz: Nvidia will ausbrechende KI-Systeme mit neuen Tools eindämmen
Nvidia hat zwei Open-Source-Werkzeuge vorgestellt, die das Ausbrechen von KI-Agenten während des Trainings verhindern sollen. Das berichtet Bloomberg(öffnet im neuen Fenster). Nvidias Vice President of Enterprise AI, Justin Boitano, zufolge, hätten die Tools OpenAIs Angriff auf Hugging Face im Juli 2026 verhindern können.
In den vergangenen Monaten kamen immer mehr Vorfälle zutage, in denen KI-Systeme aus ihren eigentlich abgeschirmten Trainingsbereichen ausbrechen konnten und anschließend Webseiten und Sicherheitssysteme von echten Unternehmen angriffen. Ob OpenAI oder andere KI-Unternehmen Nvidias neue Werkzeuge einsetzen wollen, hat Boitano nicht bekanntgegeben.
Die Software Openshell soll auf Nvidias Vera-CPUs laufen. Sentry ist für den Einsatz auf Bluefield-Systemen gedacht. Beide Werkzeuge erlauben es Nutzern, Regeln aufzustellen, die eingesetzte KI-Modelle nicht verletzen dürfen. Boitano zufolge sollen die Werkzeuge "verdächtige Agenten in Millisekunden" in Quarantäne stecken können.
Für Nvidia-Chef sind KI-Probleme technischer Natur
Nvidia-Chef Jensen Huang hatte kürzlich erklärt, dass Sicherheitsbedenken bezüglich KI ein technisches Problem seien, und keines, das mehr Regulierung erfordere. Der freie Markt übe bereits genügend Druck auf die Hersteller aus, keine unsicheren Produkte zu veröffentlichen. Wenn Bedenken bestünden, sollten Entwickler eigenständig die Veröffentlichungen pausieren.
Whistleblowern zufolge kam es in der Vergangenheit bei einigen großen KI-Unternehmen zu einem regelrechten Wettlauf, bei dem Sicherheitsbedenken beiseitegeschoben wurden. Einige Insider befürchten, dass die KI-Entwicklung eine Gefahr für die Menschheit werden könne.
Fast täglich gibt es Neues aus der KI-Welt – ein neues Produkt hier, aktuelle Forschung da: Vielleicht ist es ein Durchbruch! Doch wie ist das zu bewerten? Mit dem Golem-Newsletter AI Lab Report behaltet ihr den Überblick über die wichtigsten Entwicklungen. Der Newsletter ist kostenlos, ihr könnt ihn hier abonnieren.
- Anzeige Hier geht es zu Künstliche Intelligenz: Wissensverarbeitung bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.