Wie kann so ein Scan funktionieren

Die Entdeckung von bereits bekanntem Missbrauchsmaterial könnte über Verfahren wie Photo-DNA erfolgen. Doch die Anbieter sollen nicht nur bekanntes, sondern auch neues Material erkennen und dessen Verbreitung verhindern. Das wäre beispielsweise per Mustererkennung mit Hilfe künstlicher Intelligenz (KI) möglich. Dazu setzt die Software Safer des Kinderschutzprojekts Thorn auch perzeptuelle statt kryptografische Hashing-Algorithmen ein. Darüber hinaus sollen die Anbieter auch Anbahnungsversuche aufspüren.

Stellenmarkt
  1. Spezialist (w/m/d) Conversational AI
    EnBW Energie Baden-Württemberg AG, Karlsruhe
  2. Manager (m/w/d) Digitalisierung Klinische Anwendungen
    Helios IT Service GmbH, Berlin
Detailsuche

Zum Erkennen von Grooming heißt es in dem Entwurf: "Der Erkennungsprozess ist im Allgemeinen der invasivste für Nutzer (...), da er das automatische Durchsuchen von Texten in der zwischenmenschlichen Kommunikation erfordert. Dabei ist zu beachten, dass ein solches Scannen oft die einzig mögliche Erkennungsmöglichkeit darstellt und die eingesetzte Technik den Inhalt der Kommunikation nicht 'versteht', sondern nach bekannten, vorab identifizierten Mustern sucht, die auf mögliches Grooming hindeuten."

Microsoft gibt demnach die Erfolgsquote seines Anti-Grooming-Projekts Artemis mit 88 Prozent an. Die Fehltreffer sollen durch eine menschliche Überprüfung erkannt werden. Das bedeutet jedoch, dass sämtliche verdächtigen Konversationen von den Anbietern gelesen werden müssen.

In einem Gutachten bezeichneten die Wissenschaftlichen Dienste des Europaparlaments bereits Anfang 2021 sämtliche Verfahren mit Ausnahme von Photo-DNA als rechtsstaatlich bedenklich. Dazu zählten neben Safer und Artemis auch die Facebook-Algorithmen PDQ und TMK+PDQF.

Golem Karrierewelt
  1. Adobe Photoshop für Social Media Anwendungen: virtueller Zwei-Tage-Workshop
    29./30.06.2022, virtuell
  2. Informationssicherheit in der Automobilindustrie nach VDA-ISA und TISAX® mit Zertifikat: Zwei-Tage-Workshop
    19./20.07.2022, Virtuell
Weitere IT-Trainings

In ihrer 282-seitigen Folgenabschätzung (PDF) verweist die EU-Kommission darauf, dass Safer eine Erkennungsrate von 99,9 Prozent habe. Das bedeutet, dass jeder tausendste Treffer falsch ist.

Wie funktioniert das bei verschlüsselter Kommunikation?

Bei einer Ende-zu-Ende-Verschlüsselung (E2E) können nur Sender und Empfänger die ausgetauschten Nachrichten einsehen. Entsprechend funktioniert ein Scan mit Programmen wie Photo-DNA auf den Servern des jeweiligen Anbieters technisch nicht.

Die Kommission beharrt jedoch darauf, dass es keine Ausnahme für Dienste wie Whatsapp oder Signal gibt, die E2E einsetzen. Um eine entsprechende Kontrolle zu ermöglichen, müssten die Anbieter entweder einen Zweitschlüssel generieren, mit denen die Nachrichten entschlüsselt und analysiert werden können.

Hacking & Security: Das umfassende Handbuch. 2. aktualisierte Auflage des IT-Standardwerks (Deutsch) Gebundene Ausgabe

Alternativ können sie auf das sogenannte Client-Side-Scanning setzen. Dabei sollen die eigentlich weiterhin Ende-zu-Ende-verschlüsselten Inhalte vor der Verschlüsselung oder nach dem Entschlüsseln auf dem jeweiligen Gerät vom Messenger analysiert werden. Findet sich ein Match, werden die Inhalte oder Dateien an Dritte ausgeleitet, bei denen sich letztlich Menschen die Inhalte zur Prüfung durchsehen. Gemeinsam haben die Ansätze, dass sie die Ende-zu-Ende-Verschlüsselung faktisch abschaffen, weil die Inhalte nicht mehr nur von den beiden Endpunkten eingesehen werden können.

Ohne eine sichere Ende-zu-Ende-Verschlüsselung ist auch keine sichere Kommunikation mehr möglich. Das gilt insbesondere für Journalisten, Anwälte und Menschenrechtsorganisationen, aber im Prinzip für jedwede private Kommunikation.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed
 Kampf gegen Kindesmissbrauch: Die wichtigsten Antworten zur ChatkontrolleWarum ist die Chatkontrolle problematisch? 
  1.  
  2. 1
  3. 2
  4. 3
  5. 4
  6.  


SpartanDelta 20. Mai 2022 / Themenstart

wäre meine Antwort darauf. Zur Not schuster ich mir selber eine zusammen und verteil sie...

SpartanDelta 20. Mai 2022 / Themenstart

Auf das Bundesverfassungsgericht würde ich keine Hoffnungen bauen. Die handeln zunehmend...

AFUFO 18. Mai 2022 / Themenstart

Politiker werden aus dem System automatisch herausgenommen die sind doch staatlich...

win.ini 16. Mai 2022 / Themenstart

Also ein Tempolimit bringt doch sehr wohl etwas?!

Kommentieren



Aktuell auf der Startseite von Golem.de
Künstliche Intelligenz
Wie erklären Menschen die Entscheidungen von Computern?

Je komplexer eine KI, desto schwerer können Menschen ihre Entscheidungen nachvollziehen. Das ängstigt viele. Doch künstliche Intelligenz ist keine Blackbox mehr.
Von Florian Voglauer

Künstliche Intelligenz: Wie erklären Menschen die Entscheidungen von Computern?
Artikel
  1. Prehistoric Planet: Danke, Apple, für so grandiose Dinosaurier!
    Prehistoric Planet
    Danke, Apple, für so grandiose Dinosaurier!

    Musik von Hans Zimmer, dazu David Attenborough als Sprecher: Apples Prehistoric Planet hat einen Kindheitstraum zum Leben erweckt.
    Ein IMHO von Marc Sauter

  2. Star Wars: Cal Kestis kämpft in Jedi Survivor weiter
    Star Wars
    Cal Kestis kämpft in Jedi Survivor weiter

    EA hat offiziell den Nachfolger zu Star Wars Jedi Fallen Order angekündigt. Hauptfigur ist erneut Cal Kestis mit seinem Roboterkumpel BD-1.

  3. Fahrgastverband Pro Bahn: Wo das 9-Euro-Ticket sicher gilt
    Fahrgastverband Pro Bahn
    Wo das 9-Euro-Ticket sicher gilt

    Die Farbe der Züge ist entscheidend, was bei der Reiseplanung in der Deutsche-Bahn-App wenig nützt. Dafür laufen Fahrscheinkontrollen ins Leere.

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Daily Deals • PS5 evtl. bestellbar • Prime Video: Filme leihen für 0,99€ • Gigabyte RTX 3080 12GB günstig wie nie: 1.024€ • MSI Gaming-Monitor 32" 4K günstig wie nie: 999€ • Mindstar (u. a. AMD Ryzen 5 5600 179€, Palit RTX 3070 GamingPro 669€) • Days of Play (u. a. PS5-Controller 49,99€) [Werbung]
    •  /