Jigsaw Assembler: Googles Software soll bei Erkennung von Fälschungen helfen

Noch sind Deep-Fake-Videos oder maschinell erstellte Fotomontagen meist mit bloßen Augen als Fälschungen erkennbar. Allerdings könnte sich dies schnell ändern, weshalb Googles Jigsaw an einem Detektor arbeitet, der echt von falsch unterscheiden können soll.

Artikel veröffentlicht am 7. Februar 2020, 15:06 Uhr, Oliver Nickel

Künftig könnten gefälschte Videos überhandnehmen. (Bild: Buzzfeed/Youtube)

Das Entwicklerteam von Googles Subabteilung Jigsaw arbeitet derzeit an einem Algorithmus, der gefälschte Bilder gut erkennen soll. Die Software wird Fachleuten zur Verfügung gestellt, die mit Fotomontagen zu tun haben. "Assembler ist eine experimentelle Plattform von Jigsaw und Google Research, welche die Beurteilung manipulierter Medien erleichtern und die Verbreitung von Desinformationen verhindern soll", schreiben die Entwickler in einem Blogeintrag.

Wie bei bereits existierenden Programmen soll das Projekt Assembler dazu spezialisierte Identifikatoren verwenden, die anhand verschiedener Bilder trainiert werden. Der Unterschied: Jigsaw will einen einzelnen Identifikator entwickeln, der Entscheidungen auf Basis von vielen verschiedenen anderen Identifikatoren trifft. Das System soll so im Durchschnitt genauer arbeiten. Dabei ist jeder einzelne Teil für die Erkennung einer anderen Fälschungsmethode verantwortlich. Während ein Teilprogramm Unterschiede in der Helligkeit analysiert, geht ein weiteres Programm auf die Suche nach Copy-and-Paste-Ausschnitten und identischen Bildinhalten.

Assembler soll auch mit vergleichsweise niedrig auflösenden Bildern umgehen können, wie sie normalerweise in sozialen Medien zu finden sind. Dazu integrieren die Entwickler das Produkt Tineye. Dieses durchsucht Quellen nach höher auflösenden Versionen des gleichen Bildes. Das ist wichtig, da laut Jigsaw Erkennungssysteme am besten mit hochauflösenden Inhalten funktionieren.

In Zukunft könnten zuverlässige Detektoren wichtiger werden. Machine-Learning-Experimente wie Deep Fakes zeigen nämlich, dass die Fälschung von Videos und Bildern schon sehr zuverlässig funktioniert. In sozialen Medien können so schnell Falschinformationen verteilt werden. Sowohl diese Algorithmen als auch die Detektoren sind allerdings noch nicht uneingeschränkt überzeugend. In ein paar Jahren könnte das anders sein.