OpenAI: Sam Altman sucht Risikomanager
In Zukunft soll es einen Verantwortlichen für Risikovorsorge bei OpenAI geben. Eine entsprechende Stellenanzeige findet sich auf der Webseite der Firma(öffnet im neuen Fenster) . OpenAI-CEO Sam Altman teilte diese Anzeige auf seinem X-Account und fügte hinzu, dass es sich um eine stressige Aufgabe handeln werde.
Laufende Klagen wegen fehlender Sicherheitsschranken
OpenAI brauche ein Verständnis dafür, wie die Fähigkeiten ihrer KI missbraucht werden könnten, erklärt Altman. Außerdem müssten die internen Sicherheitsrichtlinien konstant überwacht und angepasst werden. Diesen Job vergütet OpenAI mit 555.000 US-Dollar im Jahr, zusätzlich winken Firmenanteile.
Wegen möglicher mangelnder Sicherheitsmaßnahmen in ChatGPT steht OpenAI aktuell in den USA vor Gericht. Sieben Familien hatten hier geklagt . Der Chatbot solle die psychischen Probleme der Nutzer verstärkt und in vier Fällen sogar zum Suizid geführt haben.
Konkret weist auch Altman in seinem Beitrag auf die Gefahr von KI-Modellen für die geistige Gesundheit hin. Zudem seien die Modelle inzwischen dazu fähig, kritische Sicherheitslücken in Computersystemen zu erkennen. Der neue Manager soll neue Richtlinien und Sicherheitsmaßnahmen entwerfen, die es Nutzern erschweren, die Fähigkeiten der KI auszunutzen, und diese überprüfen.
Dabei kommt es immer wieder vor, dass Nutzer die Sicherheitsschranken von ChatGPT überlisten. Zuletzt etwa um freizügige Bilder von Frauen zu erstellen .