Wie Tiktok gegen die KI-Fälschungen vorgehen will
Plattformbetreiber sehen sich durch den Anstieg von Spam-Accounts verstärkt gezwungen, bei ihren Regelwerken und Kennzeichnungssystemen aufzurüsten. Im Juli kündigte Tiktok in einem Blogeintrag(öffnet im neuen Fenster) etwa neue Erkennungssysteme an.
Der Fokus liegt dabei auf Profilen, die automatisierten KI-Inhalt zu Politik, Finanzen und Gesundheit verbreiten. Die Plattform will damit nicht mehr lediglich einzelne Beiträge löschen, sondern auch gegen entsprechende Accounts durchgreifen. Nach eigenen Angaben wurden allein in diesem Jahr innerhalb der ersten drei Monate mehr als 86 Millionen Fake-Konten gelöscht.
Zudem soll an der technischen Kennzeichnung gefeilt werden. Tiktok markierte nach eigenen Angaben bereits Milliarden von Videos per Ersteller-Label, Wasserzeichen oder Content Credentials (also digitalen Herkunftsnachweisen) als KI-generiert.
Die Einführung des offenen technischen Standards C2PA (Coalition for Content Provenance and Authenticity)(öffnet im neuen Fenster) soll auch dabei helfen, Herkunft und Bearbeitungsverlauf der Inhalte transparent nachzuvollziehen. Das digitale Siegel soll Informationen darüber offenlegen, mit welchen Werkzeugen oder KI-Modellen Medien wie Bilder oder Videos erstellt oder bearbeitet wurden.
Neben den Initiativen der Plattformen verpflichtet die EU mit ihrer KI-Verordnung (AI Act)(öffnet im neuen Fenster) Anbieter dazu, KI-Inhalte sichtbar zu kennzeichnen. Gegen verdeckt agierende Netzwerke und autonome AI-Slops greift der Transparenzansatz aber zu kurz, da sich Betreiber von Engagement-Baiting-Fluten oder sogar ganze Desinformationskampagnen kaum an Kennzeichnungspflichten halten werden.
Solange KI-Engagement-Baiting auf Tiktok und Co. nach wie vor florieren kann und viele Nutzer die Täuschungen kaum durchschauen, bleibt der Handlungsbedarf hoch. Auch wenn Tiktok bereits Gegenmaßnahmen angekündigt hat. Denn solange die Algorithmen der Plattformen künstliche Empörung monetarisieren, reicht reine Selbstregulierung nicht aus.
Vielmehr benötigt es echte Sanktionen bei kommerzieller Desinformation, um den Geldfluss der Accountbetreiber zu unterbinden. Doch auch Medienkompetenz ist in Zeiten von realistischeren KI-Videos wichtiger denn je. Andernfalls geht das Vertrauen in digitale Medien weiter verloren.
Alexander Riechelmann ist freier Autor und Content-Creator. Auf seinen Kanälen(öffnet im neuen Fenster) behandelt er Netzpolitik und digitale Trends. Zuvor volontierte er bei den Nachrichtenportalen der Funke Mediengruppe und schrieb dort neben politischen auch über netzpolitische Themen.
- Anzeige Hier geht es zu Künstliche Intelligenz: Wissensverarbeitung bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.

