Machine Learning: Software soll Fake News und Hasskommentare erkennen

Per KI-Software wollen Wissenschaftler des Fraunhofer-Institutes die Merkmale von Fake-News und Hate Speech erkennen und filtern. Das seien oft merkwürdige Formulierungen und Beleidigungen. Für subtilere Kommentare könnte das nicht ausreichen.

Artikel veröffentlicht am ,
Einige Politiker benutzen Wörter wie Fake News und Hasskommentare gern.
Einige Politiker benutzen Wörter wie Fake News und Hasskommentare gern. (Bild: Pixabay.com)

Forscher des Fraunhofer-Institutes für Kommunikation, Informationsverarbeitung und Ergonomie (FKIE) haben einen Machine-Learning-Algorithmus entwickelt und trainiert, der Fake News, Hate Speech und andere irreführende Beiträge in sozialen Netzwerken erkennen können soll. Auf Basis der Trainingsdaten kann die Software Fehler im Satzbau, Begriffe im falschen Kontext oder umständliche Formulierungen in Texten identifizieren. Diese seien ein Indiz für Falschaussagen, heißt es in der Ankündigung.

Stellenmarkt
  1. Ingenieur (m/w/d) OT-Datennetze
    Dortmunder Energie- und Wasserversorgung GmbH DEW21, Dortmund
  2. (Junior) Business Analyst (m/w/d) Schwerpunkt Analyse / Reporting
    Bruno Bader GmbH + Co.KG, Pforzheim
Detailsuche

Die Forscher gehen davon aus, dass Verfasser von Fake News oftmals keine Muttersprachler sind und die deutsche Sprache daher in merkwürdiger Weise anwenden. So seien Begriffe wie "die aktuelle Kanzlerin" ein Indiz für einen einfach übersetzten Text. Auch falsche Gedankenstriche, Rechtschreibfehler und andere Merkmale seien Beweis dafür, heißt es.

Offensichtliche Merkmale erkennen

Das Team um den Linguisten und Mathematiker Dr. Ulrich Schade hat das System mittels diverser normaler Beiträge, gemischt mit von den Forschern definitieren Fake News, trainiert. Außerdem bringt das Team Hasskommentare mit Fake News in Verbindung: "Beiträge, die sich als Nachrichten ausgeben, aber in Passagen Hate Speech verwenden, verweisen gern über Links auf Fake News", schreibt das Institut. Hasskommentare werden etwa durch offensichtliche Beleidigungen, wie "Politischer Abschaum" weiter identifiziert.

Das Projekt klingt nach einem Filter, der es schaffen könnte, zumindest die sehr offensichtlichen Fälle von Fake News und Hasskommentaren zu erkennen und zu kategorisieren. Allerdings sind es meist die subtilen Nachrichten, auf die Menschen reagieren und sich von ihnen beeinflussen lassen. Das Konzept ist daher wohl nur ein erster Schritt im Vorgehen gegen diese immer mehr verbreitete Form der Kommunikation im Internet.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Aktuell auf der Startseite von Golem.de
Clubhouse  
3,8 Milliarden Telefonnummern werden im Darknet verkauft

Die Telefonnummern und Kontakte aller Clubhouse-Konten werden wohl im Darknet angeboten. Nummern werden nach ihrer Wichtigkeit eingestuft.

Clubhouse: 3,8 Milliarden Telefonnummern werden im Darknet verkauft
Artikel
  1. iPhone 12: Youtuber findet Akkukapazität von Apples Magsafe-Pack heraus
    iPhone 12
    Youtuber findet Akkukapazität von Apples Magsafe-Pack heraus

    Ein Youtuber nimmt das Apple Magsafe-Akkupack auseinander. Im Video gibt er einen Einblick in die Technik und die Akkuladung des Produktes.

  2. Teilautonomes Fahren: Magna übernimmt Fahrerassistenz-Spezialisten Veoneer
    Teilautonomes Fahren
    Magna übernimmt Fahrerassistenz-Spezialisten Veoneer

    Für insgesamt 3,8 Milliarden US-Dollar will Magna International sein Geschäftsfeld autonome Fahrfunktionen ausbauen und übernimmt Veoneer.

  3. Elon Musk: Tesla Model S bekommt ausschließlich Knight-Rider-Lenkrad
    Elon Musk
    Tesla Model S bekommt ausschließlich Knight-Rider-Lenkrad

    Elon Musk hat klargestellt, dass es für das Model S und das Model X kein normales Lenkrad mehr geben wird. Das D-förmige Lenkrad ist Pflicht.

HorkheimerAnders 06. Feb 2019

Das Problem ist doch, dass es noch "einfache Bürger" gibt. Egal wieviel Mittel wir bereit...

Hotohori 04. Feb 2019

Eben, die Erkennung ist erstmal nur der erste wichtige Schritt, weil ohne die kannst du...

Hotohori 04. Feb 2019

Und beides braucht kein Mensch.

Abakus 04. Feb 2019

Orange man bad! :D Wir bräuchten einfach ein Wahrheitsministerium mit REST API, fertig.

Schatzueh 04. Feb 2019

Richtig. So sieht eine saubere Formulierung im Optimalfall aus.



  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Schnäppchen • 30% auf Amazon Warehouse • LG 55NANO867NA 573,10€ • Fractal Design Meshify C Mini 69,90€ • Amazon: PC-Spiele von EA im Angebot (u. a. FIFA 21 19,99€) • Viewsonic VG2719-2K (WQHD, 99% sRGB) 217,99€ • Alternate (u. a. Fractal Design Define S2 106,89€) • Roccat Horde Aimo 49€ [Werbung]
    •  /