ScreenAvoider: Lernfähige Selbstzensur zum Schutz der Privatsphäre
Unter dem Namen ScreenAvoider haben US-Wissenschaftler ein System beschrieben, das dabei helfen soll, die Privatsphäre zu schützen. Diese sehen sie vor allem durch Fotos von Bildschirmen aller Art gefährdet. Die Forscher beziehen sich dabei ausdrücklich auf Lifelogging-Geräte und andere Wearables wie Google Glass . Diese könnten, wie die Wissenschaftler in ihrer Arbeit ( PDF(öffnet im neuen Fenster) ) beschreiben, immer öfter auch Bildschirme von fremden Personen abfotografieren.
Der Nutzer der Geräte ist sich also nicht einmal bewusst, dass er möglicherweise vertrauliche Daten durch eine Übertragung in die Cloud verbreitet. Daher reicht es nun auch nicht mehr aus, einfach nur jedes Bild eines Displays zu löschen – ein bestimmtes Foto eines Bildschirms kann vom Nutzer ja ausdrücklich erwünscht sein.
Vielmehr müssen die Algorithmen, welche die Bilder auswerten, auch den Inhalt einer Computerdarstellung erkennen können. Dafür lassen sich dann Regeln festlegen, zum Beispiel in der Art von: Fotos von Spielen sind ok, Bilder von E-Mails nicht. Dafür ist eine komplexe Auswertung der Bildinhalte nötig, die unter anderem von GPUs in der Cloud erledigt werden soll.
Dort sollen die Bilder dann umgehend gelöscht werden, zumindest dem ersten Speicherort in der Datenwolke muss man also trauen. Um das zu stärken, sollen Bilder nur verschlüsselt übertragen werden. Die Forscher weisen in ihrer Arbeit auch ausdrücklich auf die Privatfotos hin, die kürzlich aus Apples iCloud gestohlen wurden.
Erschwert wird die Bilderkennung bei Fotos von Wearables bisher durch deren geringe Auflösung, hohe Kompression und die oft verzerrte Perspektive. Als ein Beispiel für ein falsch erkanntes Bild zeigen die Wissenschaftler ein Foto eines Schriftstücks, das der Vollbilddarstellung eines Dokuments auf einem Computermonitor ähnelt. Der Inhalt kann zwar harmlos sein, aber um vertrauliche von öffentlichen Informationen zu unterscheiden, ist eine Analyse des Kontextes der Inhalte nötig.
Deep Learning erkennt immer mehr Bilder
Dafür soll das System von ScreenAvoider zunächst durch von Hand beschriebene Bilder trainiert werden. Diese enthalten bestimmte Inhalte, die als öffentlich oder privat markiert sind. Durch die Methoden des " Deep Learning(öffnet im neuen Fenster) " werden dann auch neue Bilder mit immer höherer Genauigkeit erkannt. Dabei kommen aktuelle Techniken des maschinellen Lernens wie neuronale Netze und Ähnlichkeitsanalyse zum Einsatz.
Ein so trainiertes System erkennt mit einer Fehlerquote von im Schnitt unter einem halben Prozent zuverlässig verschiedene Anwendungen wie eine Facebook-Webseite, GMail oder verschiedene Messenger. Die Wissenschaftler gehen davon aus, dass mit zunehmender Zahl der Bilder die Erkennung immer genauer werde. Trainiert wurden die Algorithmen bisher nur mit Datensätzen von rund 1.800 und 10.000 Bildern. Eine Lifelogging-Kamera kann schon in wenigen Wochen deutlich mehr Fotos produzieren.
Das Lernen der Maschinen kann aber nur langsam neue Inhalte von Bildschirmen erkennen – beispielsweise, wenn eine neue Messenger-App beliebt wird. Daher schlagen die Forscher auch einen QR-Code vor, den Anwendungen selbst in ihrer Darstellung einblenden können. Dieser Code soll Informationen über die Art des Programms und die Einstellungen der Vertraulichkeit enthalten. Das System nennt sich Screen Tag und erinnert an die Offline Tags(öffnet im neuen Fenster) für Personen im öffentlichen Raum.
Erstellt wurde die Arbeit zu ScreenAvoider von einem Informatiker der Indiana-Universität in Bloomington, einem Studenten des technischen Olin College sowie einem Mitarbeiter der US-Marine. Finanziell unterstützt wurde die Forschung von der Forschungsstiftung NSF(öffnet im neuen Fenster) und Google.