• IT-Karriere:
  • Services:

Machine Learning: Software soll Fake News und Hasskommentare erkennen

Per KI-Software wollen Wissenschaftler des Fraunhofer-Institutes die Merkmale von Fake-News und Hate Speech erkennen und filtern. Das seien oft merkwürdige Formulierungen und Beleidigungen. Für subtilere Kommentare könnte das nicht ausreichen.

Artikel veröffentlicht am ,
Einige Politiker benutzen Wörter wie Fake News und Hasskommentare gern.
Einige Politiker benutzen Wörter wie Fake News und Hasskommentare gern. (Bild: Pixabay.com)

Forscher des Fraunhofer-Institutes für Kommunikation, Informationsverarbeitung und Ergonomie (FKIE) haben einen Machine-Learning-Algorithmus entwickelt und trainiert, der Fake News, Hate Speech und andere irreführende Beiträge in sozialen Netzwerken erkennen können soll. Auf Basis der Trainingsdaten kann die Software Fehler im Satzbau, Begriffe im falschen Kontext oder umständliche Formulierungen in Texten identifizieren. Diese seien ein Indiz für Falschaussagen, heißt es in der Ankündigung.

Stellenmarkt
  1. OKV-Ostdeutsche Kommunalversicherung a.G., Berlin
  2. Alfred-Wegener-Institut Helmholtz-Zentrum für Polar- und Meeresforschung, Bremerhaven

Die Forscher gehen davon aus, dass Verfasser von Fake News oftmals keine Muttersprachler sind und die deutsche Sprache daher in merkwürdiger Weise anwenden. So seien Begriffe wie "die aktuelle Kanzlerin" ein Indiz für einen einfach übersetzten Text. Auch falsche Gedankenstriche, Rechtschreibfehler und andere Merkmale seien Beweis dafür, heißt es.

Offensichtliche Merkmale erkennen

Das Team um den Linguisten und Mathematiker Dr. Ulrich Schade hat das System mittels diverser normaler Beiträge, gemischt mit von den Forschern definitieren Fake News, trainiert. Außerdem bringt das Team Hasskommentare mit Fake News in Verbindung: "Beiträge, die sich als Nachrichten ausgeben, aber in Passagen Hate Speech verwenden, verweisen gern über Links auf Fake News", schreibt das Institut. Hasskommentare werden etwa durch offensichtliche Beleidigungen, wie "Politischer Abschaum" weiter identifiziert.

Das Projekt klingt nach einem Filter, der es schaffen könnte, zumindest die sehr offensichtlichen Fälle von Fake News und Hasskommentaren zu erkennen und zu kategorisieren. Allerdings sind es meist die subtilen Nachrichten, auf die Menschen reagieren und sich von ihnen beeinflussen lassen. Das Konzept ist daher wohl nur ein erster Schritt im Vorgehen gegen diese immer mehr verbreitete Form der Kommunikation im Internet.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Anzeige
Top-Angebote
  1. 949,90€ (Bestpreis)
  2. (u. a. Gigabyte GeForce RTX 3080 Gaming OC 10G für 1.199€)
  3. (u. a. Ghost Recon Breakpoint - Free Weekend, Gearbox-Promo (u. a. We Happy Few für 5,50€), 1954...
  4. (u. a. Razer Basilisk Ultimate für 149€, WD Black SN850 PCIe-4.0-SSD 1TB 199€ (inkl...

HorkheimerAnders 06. Feb 2019

Das Problem ist doch, dass es noch "einfache Bürger" gibt. Egal wieviel Mittel wir bereit...

Hotohori 04. Feb 2019

Eben, die Erkennung ist erstmal nur der erste wichtige Schritt, weil ohne die kannst du...

Hotohori 04. Feb 2019

Und beides braucht kein Mensch.

Abakus 04. Feb 2019

Orange man bad! :D Wir bräuchten einfach ein Wahrheitsministerium mit REST API, fertig.

Schatzueh 04. Feb 2019

Richtig. So sieht eine saubere Formulierung im Optimalfall aus.


Folgen Sie uns
       


Xbox Series X und S - Fazit

Im Video zum Test der Xbox Series X und S zeigt Golem.de die Hardware und das Dashboard der Konsolen von Microsoft.

Xbox Series X und S - Fazit Video aufrufen
Moodle: Was den Lernraum Berlin in die Knie zwang
Moodle
Was den Lernraum Berlin in die Knie zwang

Eine übermäßig große Datenbank und schlecht optimierte Abfragen in Moodle führten zu Ausfällen in der Online-Lernsoftware.
Eine Recherche von Hanno Böck


    Antivirus: Das Jahr der unsicheren Sicherheitssoftware
    Antivirus
    Das Jahr der unsicheren Sicherheitssoftware

    Antivirus-Software soll uns eigentlich schützen, doch das vergangene Jahr hat erneut gezeigt: Statt Schutz gibt es Sicherheitsprobleme frei Haus.
    Von Moritz Tremmel

    1. NortonLifeLock Norton kauft deutschen Antivirenhersteller Avira
    2. Sicherheitslücke 28 Antivirenprogramme konnten sich selbst zerstören

    Blackwidow V3 im Test: Razers Tastaturklassiker mit dem Ping
    Blackwidow V3 im Test
    Razers Tastaturklassiker mit dem Ping

    Die neue Version der Blackwidow mit Razers eigenen Klickschaltern ist eine grundsolide Tastatur mit tollen Keycaps - der metallische Nachhall der Switches ist allerdings gewöhnungsbedürftig.
    Ein Test von Tobias Költzsch

    1. Gaming-Notebook Razer Blade 15 mit Geforce RTX 3080 und gestecktem RAM
    2. Project Brooklyn Razer zeigt skurrilen Gaming-Stuhl mit ausrollbarem OLED
    3. Tomahawk Gaming Desktop Razers winziger Gaming-PC erhält Geforce RTX 3080

      •  /