• IT-Karriere:
  • Services:

Machine Learning: Software soll Fake News und Hasskommentare erkennen

Per KI-Software wollen Wissenschaftler des Fraunhofer-Institutes die Merkmale von Fake-News und Hate Speech erkennen und filtern. Das seien oft merkwürdige Formulierungen und Beleidigungen. Für subtilere Kommentare könnte das nicht ausreichen.

Artikel veröffentlicht am ,
Einige Politiker benutzen Wörter wie Fake News und Hasskommentare gern.
Einige Politiker benutzen Wörter wie Fake News und Hasskommentare gern. (Bild: Pixabay.com)

Forscher des Fraunhofer-Institutes für Kommunikation, Informationsverarbeitung und Ergonomie (FKIE) haben einen Machine-Learning-Algorithmus entwickelt und trainiert, der Fake News, Hate Speech und andere irreführende Beiträge in sozialen Netzwerken erkennen können soll. Auf Basis der Trainingsdaten kann die Software Fehler im Satzbau, Begriffe im falschen Kontext oder umständliche Formulierungen in Texten identifizieren. Diese seien ein Indiz für Falschaussagen, heißt es in der Ankündigung.

Stellenmarkt
  1. CompuGroup Medical SE & Co. KGaA, Osnabrück
  2. thyssenkrupp System Engineering GmbH, Mühlacker

Die Forscher gehen davon aus, dass Verfasser von Fake News oftmals keine Muttersprachler sind und die deutsche Sprache daher in merkwürdiger Weise anwenden. So seien Begriffe wie "die aktuelle Kanzlerin" ein Indiz für einen einfach übersetzten Text. Auch falsche Gedankenstriche, Rechtschreibfehler und andere Merkmale seien Beweis dafür, heißt es.

Offensichtliche Merkmale erkennen

Das Team um den Linguisten und Mathematiker Dr. Ulrich Schade hat das System mittels diverser normaler Beiträge, gemischt mit von den Forschern definitieren Fake News, trainiert. Außerdem bringt das Team Hasskommentare mit Fake News in Verbindung: "Beiträge, die sich als Nachrichten ausgeben, aber in Passagen Hate Speech verwenden, verweisen gern über Links auf Fake News", schreibt das Institut. Hasskommentare werden etwa durch offensichtliche Beleidigungen, wie "Politischer Abschaum" weiter identifiziert.

Das Projekt klingt nach einem Filter, der es schaffen könnte, zumindest die sehr offensichtlichen Fälle von Fake News und Hasskommentaren zu erkennen und zu kategorisieren. Allerdings sind es meist die subtilen Nachrichten, auf die Menschen reagieren und sich von ihnen beeinflussen lassen. Das Konzept ist daher wohl nur ein erster Schritt im Vorgehen gegen diese immer mehr verbreitete Form der Kommunikation im Internet.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Anzeige
Spiele-Angebote
  1. (-47%) 21,00€
  2. 58,48€ (PC), 68,23€ (PS4) 69,99€ (Xbox One)
  3. (-87%) 2,50€

HorkheimerAnders 06. Feb 2019

Das Problem ist doch, dass es noch "einfache Bürger" gibt. Egal wieviel Mittel wir bereit...

Hotohori 04. Feb 2019

Eben, die Erkennung ist erstmal nur der erste wichtige Schritt, weil ohne die kannst du...

Hotohori 04. Feb 2019

Und beides braucht kein Mensch.

Abakus 04. Feb 2019

Orange man bad! :D Wir bräuchten einfach ein Wahrheitsministerium mit REST API, fertig.

Schatzueh 04. Feb 2019

Richtig. So sieht eine saubere Formulierung im Optimalfall aus.


Folgen Sie uns
       


Horror-Thriller Unsubscribe: Wie ein Zoom-Film die Nummer 1 an der Kinokasse wurde
Horror-Thriller Unsubscribe
Wie ein Zoom-Film die Nummer 1 an der Kinokasse wurde

Zwei US-Filmemacher haben mit Zoom den Horror-Film Unsubscribe gedreht. Sie landeten damit sogar an der Spitze der US-Box-Office-Charts. Zumindest für einen Tag.
Von Peter Osteried

  1. Film Wie sich Science-Fiction-Autoren das Jahr 2020 vorstellten
  2. Alien Im Weltall hört dich keiner schreien
  3. Terminator: Dark Fate Die einzig wahre Fortsetzung eines Klassikers?

Laravel/Telescope: Die Sicherheitslücke bei einer Bank, die es nicht gibt
Laravel/Telescope
Die Sicherheitslücke bei einer Bank, die es nicht gibt

Ein Leser hat uns auf eine Sicherheitslücke auf der Webseite einer Onlinebank hingewiesen. Die Lücke war echt und betrifft auch andere Seiten - die Bank jedoch scheint es nie gegeben zu haben.
Ein Bericht von Hanno Böck

  1. IT-Sicherheitsgesetz Regierung streicht Passagen zu Darknet und Passwörtern
  2. Callcenter Sicherheitsexperte hackt Microsoft-Betrüger
  3. Sicherheit "E-Mail ist das Fax von morgen"

Außerirdische Intelligenz: Warum haben wir noch keine Aliens gefunden?
Außerirdische Intelligenz
Warum haben wir noch keine Aliens gefunden?

Seit Jahrzehnten gucken wir mit Teleskopen tief ins All. Außerirdische haben wir zwar bisher nicht entdeckt, das ist aber kein Grund, an ihrer Existenz zu zweifeln.
Von Miroslav Stimac


      •  /