ChatGPT Agent: Sam Altman warnt vor Agent-Funktion von ChatGPT
Der CEO von OpenAI, Sam Altman, hat vor den Gefahren der jüngst vorgestellten Agenten-Funktion von ChatGPT gewarnt(öffnet im neuen Fenster) . Trotz "vieler Sicherheitsvorkehrungen und Warnungen" , die OpenAI eingebaut habe, könne man nicht mit allen Reaktionen rechnen. Die KI könne durch Kriminelle ausgetrickst werden, um persönliche Informationen der Nutzer preiszugeben.
Der ChatGPT Agent kann eigenständig Aufgaben durchführen, ohne dass Nutzer selbst eingreifen müssen. Bei der Vorstellung der Funktion zeigte OpenAI beispielsweise, wie der Agent eine Hochzeit vorbereitet - inklusive des Kaufes der Kleidung und der Reisebuchungen. Der ChatGPT Agent kann, falls Nutzer dies erlauben, eigenständig Kaufentscheidungen treffen.
Sam Altman erklärt allerdings, dass er den Agenten noch nicht in "riskanten Nutzungsszenarien" verwenden würde. Altman definiert diese nicht genauer, gemeint sein dürften allerdings Anwendungsfälle, in denen die KI beispielsweise viel Geld ausgeben könnte. Auch würde er dem Agenten noch nicht so viele persönliche Informationen zukommen lassen.
Nur wirklich notwendige Informationen bereitstellen
OpenAI empfiehlt stattdessen, dass Nutzer dem Agenten nur den minimalen Zugang gewähren sollten, damit die gestellte Aufgabe erfüllt werden könne. Altman gibt als Beispiel einen Kalenderzugang, wenn ein Termin für ein Dinner gefunden werden soll. Wenn der Agent allerdings Kleidung kaufen soll, ist ein solcher Kalenderzugang nicht notwendig.
Grundsätzlich seien Aufgaben mit sehr breitem Handlungsspielraum riskant, so Altman. Eine Formulierung wie "Schaue dir meine E-Mails von letzter Nacht an und bearbeite sie, ohne Nachfragen zu stellen" eröffne Betrügern die Möglichkeit, über E-Mails an persönliche Informationen zu gelangen.