Abo
  • IT-Karriere:

Echtzeitsuche: Mensch ersetzt Maschine

Meint ein Nutzer, der nach "Bayern" sucht, das Land, seine Bewohner oder den Fußballclub? Und wie können Suchanfragen eingeordnet werden, die erstmals oder in neuem Kontext auftauchen? Wenn Maschinen zu langsam lernen, können Menschen helfen.

Artikel veröffentlicht am ,
Echtzeitsuche: Mensch ersetzt Maschine
(Bild: Sherwin Crasto/Reuters)

Wie kann eine Suchmaschine erkennen, worum es bei einer Suchanfrage geht, die erstmals oder plötzlich in einem ganz anderen Kontext als üblich auftaucht? Wie beispielsweise die Suche nach "Big Bird", die im letzten US-Präsidentschaftswahlkampf plötzlich eine ganz neue Bedeutung bekam, oder der Hashtag "#bindersfullofwomen" (Ordner voller Frauen), der eine politische Bedeutung erhielt.

Stellenmarkt
  1. Joyson Safety Systems Aschaffenburg GmbH, Berlin
  2. Landkreis Hameln-Pyrmont, Hameln-Pyrmont

Um Nutzern auf solche kurzfristig auftretende Suchanfragen bessere Antworten liefern und passende Werbung einblenden zu können, hat Twitter ein System entwickelt, bei dem Maschinen durch Menschen ersetzt werden. Maschinelles Lernen ist zu langsam, setzt es doch eine gewisse Datenmenge voraus, die anfangs noch gar nicht existiert. Twitter benötigt die Antworten aber sehr zeitnah, denn sie sind nur für wenige Stunden relevant.

In manchen Fällen kann eine bestimmte Suchanfrage nur für sehr kurze Zeit eine andere Bedeutung haben als sonst. So ist die Wahrscheinlichkeit groß, dass ein Nutzer mit der Suche nach "Bayern" während des Champions-League-Finales unter Beteiligung des FC Bayern München andere Ergebnisse als relevant betrachtet als zu anderen Zeiten. Beispielsweise können Tweets von @FCBayern relevanter sein als solche von @Bayern.

Die Technik

Da es unmöglich ist, jede Suchanfrage von einem Menschen beantworten zu lassen, schleust Twitter alle Suchanfragen durch einen Storm-Cluster. Dabei handelt es sich um ein von Twitter entwickeltes, verteiltes, verlässliches und fehlertolerantes System zur Verarbeitung von Datenströmen - eine Art Hadoop für Echtzeitdaten. Damit kann Twitter feststellen, wie populär eine Suchanfrage ist, und erkennt so auch, wenn eine Suchanfrage plötzlich besonders populär ist.

Stellt das System also fest, dass auf einmal ungewöhnlich häufig nach "Big Bird" gesucht wird, leitet es die Anfrage an einen Menschen weiter, der bei der Einordnung der Suchanfrage hilft. Dazu nutzt Twitter Amazons Crowdsourcing-Dienst Mechanical Turk, um Aufgaben automatisiert an vorab von Twitter ausgewählte Menschen weiterzugeben.

Laut Twitter hat sich dies als besser erwiesen, als eigene Mitarbeiter einzustellen. Zum einen sitzen die Auftragsnehmer, die über Mechanical Turk zu erreichen sind, auf der ganzen Welt verteilt, so dass Fragen rund um die Uhr beantwortet werden können, zum anderen kann so sehr schnell auf eine schwankende Zahl an Aufträgen reagiert werden.

Die Menschen ordnen die Suchanfragen thematisch ein, legen also fest, dass "Bayern" derzeit eher eine Sportthema ist. Sie beantworten zudem weitere Fragen und stellen mitunter Recherchen an, um zum Beispiel herauszufinden, dass "Big Bird" gerade in einer Wahlkampfdebatte von Präsidentschaftskandidat Mitt Romney erwähnt wurde. So kann Twitter dann Big-Bird-Tweets Barack Obama und Mitt Romney zuordnen, die andernfalls mit dem Begriff eher wenig zu tun hätten. Zudem kann Twitter so deutlich besser zuordnen, welche Werbung relevant ist.

Um die menschliche Beteiligung effizient abzuwickeln, hat Twitter Clockwork Raven entwickelt, eine Webapplikation, mit der sich Daten leicht an Mechanical Turk zur Prüfung durch Menschen übermitteln lassen. Clockwork Raven hat Twitter bereits im August 2012 als Open Source freigegeben.

Twitter hat seine "Echtzeitsuche mit Menschen" in einem Blogeintrag recht ausführlich erläutert.



Anzeige
Hardware-Angebote
  1. 139,00€ (Bestpreis!)
  2. 49,70€

tupolew 10. Jan 2013

Hoffentlich wird das nur als DAU-Modus eingesetzt für Leute die nicht in der Lage sind...

Mac Jack 10. Jan 2013

Ja, du vielleicht, so ein Almöi der seit letztem Jahr stolzer Besitzer eines DSL1000...

Mac Jack 10. Jan 2013

Natürlich hängt die Werbung da mit drin. Ist ja gekoppelt an die Suchanfragen. Wäre doch...


Folgen Sie uns
       


Sonos Move ausprobiert (Ifa 2019)

Wir haben den Move ausprobiert, Sonos' ersten Lautsprecher mit Akku, Bluetooth-Zuspielung und Auto-Trueplay.

Sonos Move ausprobiert (Ifa 2019) Video aufrufen
Astrobiologie: Woher kommen das Leben, das Universum und der ganze Rest?
Astrobiologie
Woher kommen das Leben, das Universum und der ganze Rest?

Erst kam der Urknall, dann entstand zufällig Leben - oder es war alles vollkommen anders. Statt Materie und Energie könnten Informationen das Wichtigste im Universum sein, und vielleicht leben wir in einer Simulation.
Von Miroslav Stimac

  1. Astronomie Amateur entdeckt ersten echten interstellaren Kometen
  2. Astronomie Forscher entdeckten uralte Galaxien
  3. 2019 LF6 Großer Asteroid im Innern des Sonnensystems entdeckt

Programmiersprache: Java 13 bringt mehrzeilige Strings mit Textblöcken
Programmiersprache
Java 13 bringt mehrzeilige Strings mit Textblöcken

Die Sprache Java steht im Ruf, eher umständlich zu sein. Die Entwickler versuchen aber, viel daran zu ändern. Mit der nun verfügbaren Version Java 13 gibt es etwa Textblöcke, mit denen sich endlich angenehm und ohne unnötige Umstände mehrzeilige Strings definieren lassen.
Von Nicolai Parlog

  1. Java Offenes Enterprise-Java Jakarta EE 8 erschienen
  2. Microsoft SQL-Server 2019 bringt kostenlosen Java-Support
  3. Paketmanagement Java-Dependencies über unsichere HTTP-Downloads

IAA 2019: PS-Wahn statt Visionen
IAA 2019
PS-Wahn statt Visionen

IAA 2019 Alle Autobosse bekennen sich auf der IAA zur Nachhaltigkeit, doch auf den Ständen findet man weiterhin viele große, spritfressende Modelle. Dabei stellt sich die grundsätzliche Frage: Ist das Konzept der Automesse noch zeitgemäß?
Eine Analyse von Dirk Kunde


      •  /