Überwachung: Apple nennt neue Details zum Foto-Scan auf iPhones

Fehlalarme bei der Suche nach Fotos mit Kindesmissbrauch sollen möglichst vermieden werden. Grundsätzlich hält Apple aber an dem Verfahren fest.

Artikel veröffentlicht am ,
Apple will den Missbrauch der Fotodetekton verhindern.
Apple will den Missbrauch der Fotodetekton verhindern. (Bild: Mike Segar/Reuters)

Der US-Computerkonzern Apple reagiert auf die Kritik an der geplanten Überwachungsfunktion seiner Geräte. In einem am 13. August 2021 veröffentlichten Hintergrundpapier erläutert das Unternehmen Details zu der geplanten Überwachungsfunktion. Dabei geht es unter anderem um die Frage, auf welcher Basis welcher Datenbanken die Fotos der Nutzer mit bekannten Missbrauchsbildern verglichen werden sollen. Einen Verzicht auf die umstrittene Funktion, mit der im Grunde die Ende-zu-Ende-Verschlüsselung von Inhalten aufgeweicht wird, plant der Konzern jedoch nicht.

Stellenmarkt
  1. Systemspecialist (Linux, DB2-LUW, PL1) (m/w/d)
    Allianz Technology SE, Unterföhring (bei München)
  2. Softwareentwickler (m/w/d) Forschung 3D Sensoren
    wenglor MEL GmbH, Eching
Detailsuche

Apple will ab Herbst die Fotos von iPhone- und iPad-Nutzern auf kinderpornografisches Material scannen, bevor diese in die iCloud geladen werden. Der Scan der Fotos soll direkt auf den Geräten der Nutzer erfolgen. Dazu werden Hashes von den vorhandenen Dateien gebildet und lokal mit einer Datenbank abgeglichen, die Hashes von bekanntem kinderpornografischen Material (englisch: child sexual abuse material (CSAM)) enthält.

Dem Papier zufolge (PDF) sollen die Hashwerte der Nutzerfotos künftig nicht nur mit einer, sondern mit zwei oder mehr Datenbanken verglichen werden. "Die auf dem Gerät verschlüsselte CSAM-Datenbank enthält nur Einträge, die unabhängig von zwei oder mehr Kinderschutzorganisationen eingereicht wurden, die in unabhängigen Gebietskörperschaften tätig sind, das heißt nicht unter der Kontrolle derselben Regierung stehen", schreibt Apple.

Alarm erst bei 30 Treffern

Weiter heißt es: "Mathematisch ist das Ergebnis jeder Übereinstimmung dem Gerät unbekannt. Das Gerät codiert dieses unbekannte und verschlüsselte Ergebnis nur in einen sogenannten Sicherheitsbeleg (safety voucher), zusammen mit jedem Bild, das in iCloud Photos hochgeladen wird. Die iCloud-Photos-Server können die Sicherheitsbelege für positive Übereinstimmungen entschlüsseln, wenn und nur wenn das iCloud-Photos-Konto dieses Benutzers eine bestimmte Anzahl von Übereinstimmungen überschreitet, die als Trefferschwelle bezeichnet wird."

Golem Karrierewelt
  1. ITIL 4® Foundation: virtueller Zwei-Tage-Workshop
    29./30.08.2022, virtuell
  2. Adobe Premiere Pro Aufbaukurs: virtueller Zwei-Tage-Workshop
    17./18.10.2022, Virtuell
Weitere IT-Trainings

Apple geht davon aus, dass diese Schwelle zunächst bei 30 Treffern liegen soll. Dieser Wert enthalte eine hohe Sicherheitsmarge, die eine Worst-Case-Annahme über die tatsächliche Leistung des Systems widerspiegele. Der Wert könne nach einer empirischen Bewertung noch verändert werden. Jedoch soll es nur in einem von einer Billion Fällen zu einem Fehlalarm bei einem Nutzerkonto kommen.

Das Unternehmen versicherte, dass weltweit auf allen Geräten dieselbe Software für das Verfahren verbreitet werde. Daher sei es nicht möglich, den Hashalgorithmus, den Schwellenwert oder Vergleichssoftware bei bestimmten Nutzern individuell zu ändern.

Apple iPhone 12 Pro Max (128 GB) - Silber

Wenn die Trefferschwelle überschritten wird, führt Apple einen weiteren Datenbankabgleich durch, um mögliche Fehltreffer auf den Geräten auszuschließen. Erst danach sollen Apple-Mitarbeiter überprüfen, ob die beanstandeten Fotos tatsächlich Missbrauchsmaterial enthalten. "In diesem Fall deaktivieren die Prüfer das betreffende Konto und melden den Benutzer der Kindersicherheitsorganisation, die mit den Strafverfolgungsbehörden zusammenarbeitet, um den Fall weiter zu bearbeiten", schreibt Apple.

Heimliche Änderungen an der CSAM-Hash-Datenbank reichten daher nicht aus, um unschuldige Personen zur Anzeige zu bringen. Apple werde alle Anfragen zum Hinzufügen von Nicht-CSAM-Bildern in die Datenbanken ablehnen. Apple werde zudem alle Forderungen zurückweisen, wonach die Prüfer auch andere Fotos als Missbrauchsdarstellungen an die Behörden weiterleiten sollen.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Grob Notoriker 16. Aug 2021

...

Trollversteher 16. Aug 2021

Öhm exakt das schrieb ich doch? Auf den falschen Beitrag geantwortet?

Trollversteher 16. Aug 2021

Um die Verschlüsselung nicht aufheben zu müssen scanned man ja lokal auf dem Gerät...

Trollversteher 16. Aug 2021

Ja, das kann man ja alles kritisieren, mir ging es hier in diesem Kommentar tatsächlich...



Aktuell auf der Startseite von Golem.de
Kia-Challenge
US-Jugendliche knacken Autos mit USB-Kabeln

Auf Tiktok und Youtube machen Videos die Runde, in denen Jugendliche Autos von Kia und Hyundai klauen. Wäre das auch hier möglich?
Von Dirk Kunde

Kia-Challenge: US-Jugendliche knacken Autos mit USB-Kabeln
Artikel
  1. Elektroauto: XPeng G9 soll in 5 Minuten 200 km Reichweite nachladen
    Elektroauto
    XPeng G9 soll in 5 Minuten 200 km Reichweite nachladen

    XPeng hat technische Details zu seinem elektrischen SUV G9 veröffentlicht. Das Elektroauto soll sich besonders schnell laden lassen.

  2. Financial Modeling World Cup: Excel-E-Sport im Fernsehen
    Financial Modeling World Cup
    Excel-E-Sport im Fernsehen

    Ein TV-Sender in den USA übertrug erstmals die Ausscheidung der Excel-Weltmeisterschaft.

  3. Führung in der IT: Über das Unentbehrlichsein
    Führung in der IT
    Über das Unentbehrlichsein

    Wie ich als Chef zum wandelnden Lexikon wurde und dabei meinen Spaß an der Arbeit verlor - und wie ich versuche, es besser zu machen.
    Ein Erfahrungsbericht von @SoFuckingAgile

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Daily Deals • PS5 jetzt bestellbar • Asus: Bis 840€ Cashback • MindStar (MSI RTX 3090 Ti 1.299€, AMD Ryzen 7 5800X 288€) • Microsoft Controller (Xbox&PC) 48,99€ • Neuer MM-Flyer • AVM Fritz-Box günstig wie nie • Top-SSDs 1TB/2TB (PS5) zu Hammerpreisen • MSI-Sale: Gaming-Laptops/PCs -30% [Werbung]
    •  /