OpenAI: KI zur Bilderzeugung soll Missbrauch verhindern

Die Beta des KI-Modells Dall-E 2 von OpenAI soll einer Million Interessierten bereit stehen.

Artikel veröffentlicht am ,
Ein Bild erstellt von Dall-E 2.
Ein Bild erstellt von Dall-E 2. (Bild: OpenAI)

Das Entwicklungsteam von OpenAI hat die Beta seiner Bilderzeugungs-KI Dall-E 2 vorgestellt. "Das KI-System, das realistische Bilder und Kunst aus einer Beschreibung in natürlicher Sprache erstellt", wie es in der Beschreibung von OpenAI heißt, soll mit der Beta-Phase rund einer Million Menschen von der Warteliste zur Verfügung gestellt werden. Für die Beta-Version hat das Team eigenen Angaben zufolge vor allem Forschungsergebnisse in Bezug auf Diskriminierungen in Dall-E integriert. Erstmals vorgestellt worden ist das System im Frühjahr diesen Jahres.

Stellenmarkt
  1. Head (m/w/d) of Managed Service/on Premise Solutions Automotive
    operational services GmbH & Co. KG, verschiedene Standorte
  2. IT-Koordinatorin/IT-Koordina- tor
    Universitätsklinikum Frankfurt, Frankfurt am Main
Detailsuche

Um zu verhindern, dass Dall-E dafür missbraucht werde, irreführende Inhalte zu erstellen, erkennt das System nun die Gesichter bekannter Personen beim Upload und verhindert diese. So sollen KI-Inhalte mit den Gesichtern von Prominenten oder Politikern unterbunden werden. Außerdem soll die Software die photorealistische Darstellung der Gesichter echter Menschen vermeiden.

Die von dem Modell erzeugten Bilder sollen nun außerdem besser gefiltert werden als bisher, sodass diese den eigenen Inhalterichtlinien von OpenAI entsprechen. Neben anderen Kategorien sollen etwa "gewalttätige, nicht jugendfreie oder politische Inhalte" erkannt und nicht mehr bereit gestellt werden. Auch die Trainingsdaten für Dall-E 2 seien von sehr expliziten Inhalten bereinigt worden, sodass das Modell diese auch schlicht nicht mehr erzeugen kann.

Darüber hinaus sollen die von dem Modell erzeugten Bilder nun stärker die reale Diversität der weltweiten menschlichen Bevölkerung widerspiegeln. Das gelte vor allem für jene Fälle, in denen keine weiteren Details in der Eingabe genannt werden, sondern nur unspezifische Bezeichnungen wie zum Beispiel CEO. Details dazu und einen Anschauungsbeispiel hat das Team von OpenAI bereits vor einigen Tagen bereitgestellt.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Aktuell auf der Startseite von Golem.de
Videostandards
Wie das Bild auf den Schirm kommt

Was ist der Unterschied zwischen Displayport und HDMI? In einer kleinen Geschichtsstunde erklären wir, wie Bilddaten zum Monitor kommen.
Von Johannes Hiltscher

Videostandards: Wie das Bild auf den Schirm kommt
Artikel
  1. Halbleiterfertigung: Hafniumdioxid ist mehr als ein guter Isolator
    Halbleiterfertigung
    Hafniumdioxid ist mehr als ein guter Isolator

    Speicher, konfigurierbare Transistoren und Energy Harvesting: Hafniumdioxid kann viel, Globalfoundries integriert es in die Serienfertigung.
    Ein Bericht von Johannes Hiltscher

  2. Data Mesh: Herr der Daten
    Data Mesh
    Herr der Daten

    Von Datensammelwut und Data Lake zu Pragmatismus und Data Mesh - ein Kulturwandel.
    Von Mario Meir-Huber

  3. iPhone-Bildschirm: iOS 16 mit abermals veränderter Akkuanzeige
    iPhone-Bildschirm
    iOS 16 mit abermals veränderter Akkuanzeige

    Apple hat teilweise auf die Kritik an der Akkuanzeige in iOS 16 reagiert. In der Beta 6 gibt es mehr Einstellmöglichkeiten im Energiesparmodus.

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Daily Deals • Günstig wie nie: Zotac RTX 3080 12GB 829€, Mac mini 16GB 1.047,26€. WD SSD 2TB (PS5) 199,99€ • MindStar (Sapphire RX 6900XT 939€, G.Skill DDR4-3200 32GB 98€) • PS5 bestellbar • Alternate (Apple iPad günstiger) • Games für PS5/PS4 bis 84% günstiger • Bester 2.000€-Gaming-PC[Werbung]
    •  /