Metas Ray-Ban-KI-Brillen: Mitarbeiter werten intime Aufnahmen aus
Die schwedischen Tageszeitungen Göteborgs-Posten und Svenska Dagbladet(öffnet im neuen Fenster) haben in einer umfassenden Recherche problematische Datenschutzrisiken bei der Verwendung von Metas neuen Ry-Ban-KI-Brillen aufgedeckt. Die Zeitungen haben unter anderem festgestellt, dass Tausende Mitarbeiter der Datenannotationsfirma Sama private Aufnahmen manuell verarbeitet hatten.
Bei der manuellen Datenannotation beschreiben und kennzeichnen Sama-Mitarbeiter Bilder und Videos für das Training von Metas KI-Modellen. Dabei sichten sie regelmäßig intimes Material, wie Aufnahmen von Badezimmerbesuchen, nackten Personen und Sexszenen, sowie die Eingabe von PINs am Bankautomaten.
Die Analyse des Materials findet in einer Sama-Außenstelle in Kenia, Nairobi, statt. Dortige Angestellte sagten den Zeitungen, dass sie sich unwohl dabei fühlten, solche privaten Aufnahmen ansehen zu müssen. Hinzu komme, dass die Anonymisierung häufig fehlschlage und Gesichter von Personen, die eigentlich unkenntlich gemacht sein sollten, klar zu erkennen seien.
Falsche Angaben zum Datenschutz
Viele Beschäftigte hätten zudem das Gefühl, dass sich die Träger von Ray-Ban-KI-Brillen nicht bewusst seien, dass ihre Aufnahmen ausgewertet werden. Bei Besuchen in schwedischen Brillengeschäften stellten Reporter der Zeitungen fest, dass Verkäufer oft falsche Angaben machten und sagten, dass die Daten privat blieben oder nur lokal auf dem Gerät gespeichert würden.
Tests der Journalisten zeigten allerdings, dass die KI-Funktionen zwingend eine Verarbeitung auf den Servern von Meta erfordern und nicht lokal bleiben. Die Nutzungsbedingungen von Meta bestätigen ebenfalls, dass die Interaktionen mit der KI sowohl automatisiert als auch manuell durch Menschen überprüft werden können.
Datenschutzexperten und Juristen kritisieren eine mangelnde Transparenz gemäß der DSGVO, da Nutzer nicht ausreichend darüber informiert werden, wann die Kamera der Ray-Ban-Brillen aufzeichnet und dass ihre Daten für das Training von KI verwendet werden. Hinzu komme laut den Zeitungen, dass die Übermittlung der Daten nach Kenia rechtlich umstritten ist, da für das Land derzeit kein EU-Beschluss über ein angemessenes Datenschutzniveau vorliegt.
Meta musste sich bereits in der Vergangenheit mit Datenschutzbedenken wegen Funktionen seiner smarten Brillen auseinandersetzen. Auch die geplante Wiedereinführung der automatischen Gesichtserkennung stößt auf Bedenken.
- Anzeige Hier geht es zum Meta Quest 3 mit Asgarth's Wrath 2 bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.