Leitbild: OpenAI will Erstellung von KI-Pornografie prüfen
OpenAI hat angekündigt(öffnet im neuen Fenster) , zu prüfen, ob Nutzern erlaubt werden solle, KI-generierte Pornografie und erotische Inhalte zu erstellen, sogenannte NSFW-Inhalte (Not Safe for Work).
OpenAI schreibt dazu: "Wir sind der Meinung, dass Entwickler und Nutzer die Flexibilität haben sollten, unsere Dienste so zu nutzen, wie sie es für richtig halten, solange sie sich an unsere Nutzungsrichtlinien halten. Wir untersuchen, ob wir auf verantwortungsvolle Weise die Möglichkeit bieten können, NSFW-Inhalte in altersgerechten Kontexten über die API und ChatGPT zu erzeugen."
Die Definition des Unternehmens, was unter Pornografie zu verstehen sei, bleibt jedoch unklar. Die OpenAI-Mitarbeiterin Joanne Jang sagte dem Guardian(öffnet im neuen Fenster) , dass dies "von Ihrer Definition abhängt" .
Der Vorstoß von OpenAI stieß in der Politik auf Kritik. Die britische Abgeordnete Beeban Kidron(öffnet im neuen Fenster) , die auch Aktivistin für die Sicherheit von Kindern im Internet ist, warf dem Unternehmen im Guardian vor, mit der Idee von KI-generierter Erotik "seine eigene Mission zu untergraben" .
Bisherige Schutzmechanismen gegen explizite Inhalte
Derzeit verfügt die Technologie von OpenAI über Schutzmechanismen, um die Erstellung expliziter Inhalte zu verhindern. ChatGPT erzeugt negative Antworten auf Aufforderungen zur Erstellung nicht jugendfreien Materials.
Die Regeln für Drittentwickler, welche die Technologie des Unternehmens verwenden, verbieten auch "sexuell eindeutige oder anzügliche Inhalte" , wobei Ausnahmen für wissenschaftliches oder pädagogisches Material gemacht werden.
Viele Hersteller von KI-Systemen unterbinden deren Nutzung für pornografische Inhalte per Vertrag. Ausnahme sind die Betreiber der Software Stable Diffusion . Auf Basis des Stable-Diffusion-Modells, das aus Textparametern Kunstwerke und Bilder generieren kann, bildete sich eine kleine Community namens Unstable Diffusion. Ihr Ziel: die KI für erotische und pornografische Inhalte zu personalisieren.
- Anzeige Hier geht es zu Künstliche Intelligenz: Wissensverarbeitung bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.