PyRIT: Microsoft gibt KI-Testsystem frei
PyRIT (Python Risk Identification Toolkit for generative AI) wurde von Microsoft entwickelt(öffnet im neuen Fenster), um bösartige Prompts zu erzeugen, mit denen generative KI-Modelle getestet und ihre Reaktionen bewertet werden können, berichtet ZDNet(öffnet im neuen Fenster).
Ziel ist es, die mit generativen KI-Systemen verbundenen Risiken zu erkennen und zu mindern. Das Python Risk Identification Toolkit für generative KI (PyRIT) wurde von Microsofts KI-Red-Team(öffnet im neuen Fenster) verwendet, um die Risiken in seinen KI-Systemen wie Copilot zu bewerten. Microsoft hat im vergangenen Jahr mehr als 60 generative KI-Systeme getestet.
Eine der größten Herausforderungen beim Testen von KI-Systemen ist die große Vielfalt der Architektur und der möglichen Ergebnisse bei gleicher Eingabe. Die manuelle Suche nach Risiken kann zeitaufwendig und ineffizient sein, so dass Automatisierungswerkzeuge wie PyRIT erforderlich sind.
Dieses Toolkit sendet bösartige Prompts an das generative KI-System. Um dessen Reaktion zu bewerten, verwendet das Toolkit einen Bewertungsagenten. Daraufhin lassen sich an der KI Änderungen und erneute Tests vornehmen, um zu validieren, dass der Eingriff erfolgreich war.
Microsoft betont, dass PyRIT die Effizienz seiner Red-Teaming-Aktivitäten erheblich verbessert hat, da Aufgaben, die sonst Wochen in Anspruch genommen hätten, nun in wenigen Stunden erledigt werden können.
Auf Github verfügbar
Das Toolkit ist ab sofort für die Öffentlichkeit zugänglich(öffnet im neuen Fenster) und enthält Demos, die den Nutzern helfen, die Funktionalität zu verstehen. Darüber hinaus wird Microsoft ein Webinar zu PyRIT veranstalten, in dem die Verwendung von PyRIT beim Red Teaming von generativen KI-Systemen demonstriert wird, so dass interessierte Personen die Möglichkeit haben, mehr über das Tool zu erfahren.
- Anzeige Hier geht es zu Künstliche Intelligenz: Wissensverarbeitung bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.