OpenAI: KI erfindet Geschichten von Gimli, Legolas und dem Brexit

GPT-2 ist ein Textgenerator, der schon jetzt sehr glaubwürdige Texte erfinden kann. Die Software hat etwa ein Abenteuer im Herr-der-Ringe-Universum und einen Artikel zum Brexit verfasst. Beim genauen Hinsehen erkennen Menschen aber die falschen Texte.

Artikel veröffentlicht am 15. Februar 2019, 13:50 Uhr, Oliver Nickel

Wahrheit und Fiktion liegen immer dichter beieinander. (Bild: Pixabay.com/CC0 1.0)

Entwickler der gemeinnützigen Organisation OpenAI haben einen Textgenerator erstellt, der sehr überzeugende Texte schreiben kann. Das Besondere ist, dass die Software sich deren Inhalt einfach ausdenkt. So habe sie etwa zum eigentlich unsinnigen Thema "Recycling ist schlecht für die Umwelt" einen "sehr kompetenten, sehr gut begründeten Aufsatz" geschrieben, sagt OpenAI-Entwickler und Bereichsleiter David Luan dem US-Magazin The Verge. "Das war etwas, womit man im College-Eignungstest US-SAT eine gute Punktzahl hätte erreichen können", ergänzt er.

Der Algorithmus wird GPT-2 (PDF) genannt und spezialisiert sich auf Sprachmodellierung. Er schätzt dabei ein, welche Wörter auf gegebene Wörter folgen könnten und setzt einen Text zusammen. Dadurch kann die Software etwa Statistiken, Zitate und Geschichten erfinden, nachdem ihr eine Überschrift oder ein paar erste Absätze eines Textes gegeben werden.

Gimli und Legolas gegen die Orcs

Einige englischsprachige Textbeispiele zeigen, dass das System zumindest grammatisch täuschend echt wirkt. Menschen erkennen die erfundenen Textpassagen allerdings an Wiederholungen von Worten und Wortgruppen. So hat der Algorithmus eine Geschichte über die Herr-der-Ringe-Figuren Legolas und Gimli erfunden. Zwei Absätze beginnen mit dem Satz: "Die Orks waren allerdings noch nicht fertig." Außerdem wird Gimli, der ein kleiner bärtiger Zwerg ist, als großer starker Mann beschrieben. Zumindest errät auch die Software, dass er einen Bart hat.

Die Grundlage von GPT-2 bilden laut den Forschern diverse Texte aus Blogs, Büchern, Webseiten und wissenschaftlichen Dokumenten. Das Gute an diesen ist, dass sie sich recht einfach von einem Computer interpretieren lassen. Außerdem ist das Internet eine recht umfangreiche Quelle für weitere Trainingsdaten. Dass der Algorithmus noch nicht perfekt ist, könnte sich daher schnell ändern.

Das britische Magazin The Guardian beschreibt ihn schon jetzt als "zu gefährlich, um ihn zu veröffentlichen" und bezieht sich dabei wohl auf Aussagen der OpenAI-Entwickler selbst, die ihre Projekte normalerweise öffentlich machen. Das Magazin habe auch einen eigenen Artikel über den Brexit von GPT-2 verfassen lassen. Das Egebnis sei ein glaubwürdiger Zeitungsartikel, inklusive Erwähnungen der irischen Grenze und erfundenen Zitaten des Politikers Jeremy Corbyn. Die Vorlage bildeten die ersten Zeilen eines Artikels zu genau diesem Thema.