Machine Learning: Software soll Fake News und Hasskommentare erkennen

Per KI-Software wollen Wissenschaftler des Fraunhofer-Institutes die Merkmale von Fake-News und Hate Speech erkennen und filtern. Das seien oft merkwürdige Formulierungen und Beleidigungen. Für subtilere Kommentare könnte das nicht ausreichen.

Artikel veröffentlicht am ,
Einige Politiker benutzen Wörter wie Fake News und Hasskommentare gern.
Einige Politiker benutzen Wörter wie Fake News und Hasskommentare gern. (Bild: Pixabay.com)

Forscher des Fraunhofer-Institutes für Kommunikation, Informationsverarbeitung und Ergonomie (FKIE) haben einen Machine-Learning-Algorithmus entwickelt und trainiert, der Fake News, Hate Speech und andere irreführende Beiträge in sozialen Netzwerken erkennen können soll. Auf Basis der Trainingsdaten kann die Software Fehler im Satzbau, Begriffe im falschen Kontext oder umständliche Formulierungen in Texten identifizieren. Diese seien ein Indiz für Falschaussagen, heißt es in der Ankündigung.

Stellenmarkt
  1. IT and Solution Expert - Bill of Materials (w/m/d)
    Mercedes-Benz AG, Böblingen
  2. Product Owner (m/w/d)
    Interhyp Gruppe, München
Detailsuche

Die Forscher gehen davon aus, dass Verfasser von Fake News oftmals keine Muttersprachler sind und die deutsche Sprache daher in merkwürdiger Weise anwenden. So seien Begriffe wie "die aktuelle Kanzlerin" ein Indiz für einen einfach übersetzten Text. Auch falsche Gedankenstriche, Rechtschreibfehler und andere Merkmale seien Beweis dafür, heißt es.

Offensichtliche Merkmale erkennen

Das Team um den Linguisten und Mathematiker Dr. Ulrich Schade hat das System mittels diverser normaler Beiträge, gemischt mit von den Forschern definitieren Fake News, trainiert. Außerdem bringt das Team Hasskommentare mit Fake News in Verbindung: "Beiträge, die sich als Nachrichten ausgeben, aber in Passagen Hate Speech verwenden, verweisen gern über Links auf Fake News", schreibt das Institut. Hasskommentare werden etwa durch offensichtliche Beleidigungen, wie "Politischer Abschaum" weiter identifiziert.

Das Projekt klingt nach einem Filter, der es schaffen könnte, zumindest die sehr offensichtlichen Fälle von Fake News und Hasskommentaren zu erkennen und zu kategorisieren. Allerdings sind es meist die subtilen Nachrichten, auf die Menschen reagieren und sich von ihnen beeinflussen lassen. Das Konzept ist daher wohl nur ein erster Schritt im Vorgehen gegen diese immer mehr verbreitete Form der Kommunikation im Internet.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


HorkheimerAnders 06. Feb 2019

Das Problem ist doch, dass es noch "einfache Bürger" gibt. Egal wieviel Mittel wir bereit...

Hotohori 04. Feb 2019

Eben, die Erkennung ist erstmal nur der erste wichtige Schritt, weil ohne die kannst du...

Hotohori 04. Feb 2019

Und beides braucht kein Mensch.

Abakus 04. Feb 2019

Orange man bad! :D Wir bräuchten einfach ein Wahrheitsministerium mit REST API, fertig.



Aktuell auf der Startseite von Golem.de
Geleaktes One Outlook ausprobiert
Wie Outlook Web, nur besser

Endlich wird das schreckliche Mail-Programm in Windows 10 und 11 ersetzt. One Outlook ist zudem mehr, als nur Outlook im Browser.
Ein Hands-on von Oliver Nickel

Geleaktes One Outlook ausprobiert: Wie Outlook Web, nur besser
Artikel
  1. Elektroauto: Cadillac Lyriq wird teurer und kann wieder bestellt werden
    Elektroauto
    Cadillac Lyriq wird teurer und kann wieder bestellt werden

    Das Elektroauto Cadillac Lyriq kann nach Angaben von General Motors bald wieder bestellt werden. Die Preise wurden teilweise angehoben.

  2. Verkehrswende: Autohersteller fordern Vorgaben für Ladeinfrastruktur von EU
    Verkehrswende
    Autohersteller fordern Vorgaben für Ladeinfrastruktur von EU

    Die EU will Verbrenner abschaffen. Sie soll dafür sorgen, dass die Mitgliedsstaaten auch eine entsprechende Ladeinfrastruktur bauen, fordert die Industrie.

  3. Milliarden-Übernahme: Musk spricht von günstigerem Übernahmeangebot für Twitter
    Milliarden-Übernahme  
    Musk spricht von günstigerem Übernahmeangebot für Twitter

    Mit Blick auf die Zählung von Spam-Konten bei Twitter hat Elon Musk gefragt, ob die mehr als 200 Millionen Twitter-Nutzer angerufen worden seien.

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Daily Deals • Cyber Week: Bis zu 400€ Rabatt auf Gaming-Stühle • AOC G3 Gaming-Monitor 34" UWQHD 165 Hz günstig wie nie: 404€ • Xbox Series X bestellbar • MindStar (u.a. Gigabyte RTX 3090 24GB 1.699€) • LG OLED TV (2021) 65" 120 Hz 1.499€ statt 2.799€ [Werbung]
    •  /