OpenAI: KI zur Bilderzeugung soll Missbrauch verhindern
Die Beta des KI-Modells Dall-E 2 von OpenAI soll einer Million Interessierten bereit stehen.
Das Entwicklungsteam von OpenAI hat die Beta seiner Bilderzeugungs-KI Dall-E 2 vorgestellt. "Das KI-System, das realistische Bilder und Kunst aus einer Beschreibung in natürlicher Sprache erstellt", wie es in der Beschreibung von OpenAI heißt, soll mit der Beta-Phase rund einer Million Menschen von der Warteliste zur Verfügung gestellt werden. Für die Beta-Version hat das Team eigenen Angaben zufolge vor allem Forschungsergebnisse in Bezug auf Diskriminierungen in Dall-E integriert. Erstmals vorgestellt worden ist das System im Frühjahr diesen Jahres.
Um zu verhindern, dass Dall-E dafür missbraucht werde, irreführende Inhalte zu erstellen, erkennt das System nun die Gesichter bekannter Personen beim Upload und verhindert diese. So sollen KI-Inhalte mit den Gesichtern von Prominenten oder Politikern unterbunden werden. Außerdem soll die Software die photorealistische Darstellung der Gesichter echter Menschen vermeiden.
Die von dem Modell erzeugten Bilder sollen nun außerdem besser gefiltert werden als bisher, sodass diese den eigenen Inhalterichtlinien von OpenAI entsprechen. Neben anderen Kategorien sollen etwa "gewalttätige, nicht jugendfreie oder politische Inhalte" erkannt und nicht mehr bereit gestellt werden. Auch die Trainingsdaten für Dall-E 2 seien von sehr expliziten Inhalten bereinigt worden, sodass das Modell diese auch schlicht nicht mehr erzeugen kann.
Darüber hinaus sollen die von dem Modell erzeugten Bilder nun stärker die reale Diversität der weltweiten menschlichen Bevölkerung widerspiegeln. Das gelte vor allem für jene Fälle, in denen keine weiteren Details in der Eingabe genannt werden, sondern nur unspezifische Bezeichnungen wie zum Beispiel CEO. Details dazu und einen Anschauungsbeispiel hat das Team von OpenAI bereits vor einigen Tagen bereitgestellt.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
- ohne Werbung
- mit ausgeschaltetem Javascript
- mit RSS-Volltext-Feed
Kommentieren