Überwachung: Apple nennt neue Details zum Foto-Scan auf iPhones

Fehlalarme bei der Suche nach Fotos mit Kindesmissbrauch sollen möglichst vermieden werden. Grundsätzlich hält Apple aber an dem Verfahren fest.

Artikel veröffentlicht am ,
Apple will den Missbrauch der Fotodetekton verhindern.
Apple will den Missbrauch der Fotodetekton verhindern. (Bild: Mike Segar/Reuters)

Der US-Computerkonzern Apple reagiert auf die Kritik an der geplanten Überwachungsfunktion seiner Geräte. In einem am 13. August 2021 veröffentlichten Hintergrundpapier erläutert das Unternehmen Details zu der geplanten Überwachungsfunktion. Dabei geht es unter anderem um die Frage, auf welcher Basis welcher Datenbanken die Fotos der Nutzer mit bekannten Missbrauchsbildern verglichen werden sollen. Einen Verzicht auf die umstrittene Funktion, mit der im Grunde die Ende-zu-Ende-Verschlüsselung von Inhalten aufgeweicht wird, plant der Konzern jedoch nicht.

Stellenmarkt
  1. IT-Referent*in (m/w/d)
    Bundesnetzagentur, Bonn, Berlin, Cottbus, Mainz, Saarbrücken
  2. Software Engineer Industry 4.0 - Frontend Web Applications (m/w/d)
    SCHOTT AG, Mainz
Detailsuche

Apple will ab Herbst die Fotos von iPhone- und iPad-Nutzern auf kinderpornografisches Material scannen, bevor diese in die iCloud geladen werden. Der Scan der Fotos soll direkt auf den Geräten der Nutzer erfolgen. Dazu werden Hashes von den vorhandenen Dateien gebildet und lokal mit einer Datenbank abgeglichen, die Hashes von bekanntem kinderpornografischen Material (englisch: child sexual abuse material (CSAM)) enthält.

Dem Papier zufolge (PDF) sollen die Hashwerte der Nutzerfotos künftig nicht nur mit einer, sondern mit zwei oder mehr Datenbanken verglichen werden. "Die auf dem Gerät verschlüsselte CSAM-Datenbank enthält nur Einträge, die unabhängig von zwei oder mehr Kinderschutzorganisationen eingereicht wurden, die in unabhängigen Gebietskörperschaften tätig sind, das heißt nicht unter der Kontrolle derselben Regierung stehen", schreibt Apple.

Alarm erst bei 30 Treffern

Weiter heißt es: "Mathematisch ist das Ergebnis jeder Übereinstimmung dem Gerät unbekannt. Das Gerät codiert dieses unbekannte und verschlüsselte Ergebnis nur in einen sogenannten Sicherheitsbeleg (safety voucher), zusammen mit jedem Bild, das in iCloud Photos hochgeladen wird. Die iCloud-Photos-Server können die Sicherheitsbelege für positive Übereinstimmungen entschlüsseln, wenn und nur wenn das iCloud-Photos-Konto dieses Benutzers eine bestimmte Anzahl von Übereinstimmungen überschreitet, die als Trefferschwelle bezeichnet wird."

Golem Karrierewelt
  1. Deep Dive: Data Governance Fundamentals: virtueller Ein-Tages-Workshop
    22.02.2023, Virtuell
  2. IT-Grundschutz-Praktiker mit Zertifikat: Drei-Tage-Workshop
    21.-23.11.2022, Virtuell
Weitere IT-Trainings

Apple geht davon aus, dass diese Schwelle zunächst bei 30 Treffern liegen soll. Dieser Wert enthalte eine hohe Sicherheitsmarge, die eine Worst-Case-Annahme über die tatsächliche Leistung des Systems widerspiegele. Der Wert könne nach einer empirischen Bewertung noch verändert werden. Jedoch soll es nur in einem von einer Billion Fällen zu einem Fehlalarm bei einem Nutzerkonto kommen.

Das Unternehmen versicherte, dass weltweit auf allen Geräten dieselbe Software für das Verfahren verbreitet werde. Daher sei es nicht möglich, den Hashalgorithmus, den Schwellenwert oder Vergleichssoftware bei bestimmten Nutzern individuell zu ändern.

Apple iPhone 12 Pro Max (128 GB) - Silber

Wenn die Trefferschwelle überschritten wird, führt Apple einen weiteren Datenbankabgleich durch, um mögliche Fehltreffer auf den Geräten auszuschließen. Erst danach sollen Apple-Mitarbeiter überprüfen, ob die beanstandeten Fotos tatsächlich Missbrauchsmaterial enthalten. "In diesem Fall deaktivieren die Prüfer das betreffende Konto und melden den Benutzer der Kindersicherheitsorganisation, die mit den Strafverfolgungsbehörden zusammenarbeitet, um den Fall weiter zu bearbeiten", schreibt Apple.

Heimliche Änderungen an der CSAM-Hash-Datenbank reichten daher nicht aus, um unschuldige Personen zur Anzeige zu bringen. Apple werde alle Anfragen zum Hinzufügen von Nicht-CSAM-Bildern in die Datenbanken ablehnen. Apple werde zudem alle Forderungen zurückweisen, wonach die Prüfer auch andere Fotos als Missbrauchsdarstellungen an die Behörden weiterleiten sollen.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Grob Notoriker 16. Aug 2021

...

Trollversteher 16. Aug 2021

Öhm exakt das schrieb ich doch? Auf den falschen Beitrag geantwortet?

Trollversteher 16. Aug 2021

Um die Verschlüsselung nicht aufheben zu müssen scanned man ja lokal auf dem Gerät...

Trollversteher 16. Aug 2021

Ja, das kann man ja alles kritisieren, mir ging es hier in diesem Kommentar tatsächlich...



Aktuell auf der Startseite von Golem.de
Meta
"Es ist euer Job, euch in Horizon Worlds zu verlieben!"

Amüsante Auszüge aus Memos von Meta zeigen, dass nicht mal die Entwickler von Horizon Worlds gerne in ihre virtuelle Welt eintauchen.

Meta: Es ist euer Job, euch in Horizon Worlds zu verlieben!
Artikel
  1. Corning: Moderne Glasfaser ist ihren Vorgängern nur wenig ähnlich
    Corning
    Moderne Glasfaser ist ihren Vorgängern nur wenig ähnlich

    Lichtwellenleiter sind eine alte Technik. Heute müssen sie für Glasfaser-Verkabelung in Gebäuden fast neu erfunden werden.

  2. Klage gegen Datenschutzaufsicht: Bundeskriminalamt weigert sich, Funkzellendaten zu löschen
    Klage gegen Datenschutzaufsicht
    Bundeskriminalamt weigert sich, Funkzellendaten zu löschen

    Das BKA will gesammelte Überwachungsdaten nicht löschen müssen. Deswegen klagt die Polizei gegen einen Bescheid des obersten Datenschützers.
    Eine Exklusivmeldung von Lennart Mühlenmeier

  3. Vodafone: Partner für Überbau des Kabelnetzes offenbar gefunden
    Vodafone
    Partner für Überbau des Kabelnetzes offenbar gefunden

    Vodafone wird wohl zusammen mit KKR sein Koaxialnetz mit Glasfaser überbauen. Der US-Private-Equity-Investor dürfte zwei Milliarden US-Dollar beitragen.

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Daily Deals • Prime-Filme leihen für je 0,99€ • iPhone 14 Plus jetzt erhältlich • Günstig wie nie: Gigabyte RTX 3090 Ti 1.099€, KF DDR5-5600 16GB 99,39€, Logitech Gaming-Maus 69,99€, MSI Curved 27" WQHD 165Hz 289€ • AMD Ryzen 7 5800X3D 429€ • NfS Unbound vorbestellbar • 3 Spiele für 49€ [Werbung]
    •  /