Echtzeitsuche Mensch ersetzt Maschine

Meint ein Nutzer, der nach "Bayern" sucht, das Land, seine Bewohner oder den Fußballclub? Und wie können Suchanfragen eingeordnet werden, die erstmals oder in neuem Kontext auftauchen? Wenn Maschinen zu langsam lernen, können Menschen helfen.

Wie kann eine Suchmaschine erkennen, worum es bei einer Suchanfrage geht, die erstmals oder plötzlich in einem ganz anderen Kontext als üblich auftaucht? Wie beispielsweise die Suche nach "Big Bird", die im letzten US-Präsidentschaftswahlkampf plötzlich eine ganz neue Bedeutung bekam, oder der Hashtag "#bindersfullofwomen" (Ordner voller Frauen), der eine politische Bedeutung erhielt.

Um Nutzern auf solche kurzfristig auftretende Suchanfragen bessere Antworten liefern und passende Werbung einblenden zu können, hat Twitter ein System entwickelt, bei dem Maschinen durch Menschen ersetzt werden. Maschinelles Lernen ist zu langsam, setzt es doch eine gewisse Datenmenge voraus, die anfangs noch gar nicht existiert. Twitter benötigt die Antworten aber sehr zeitnah, denn sie sind nur für wenige Stunden relevant.

In manchen Fällen kann eine bestimmte Suchanfrage nur für sehr kurze Zeit eine andere Bedeutung haben als sonst. So ist die Wahrscheinlichkeit groß, dass ein Nutzer mit der Suche nach "Bayern" während des Champions-League-Finales unter Beteiligung des FC Bayern München andere Ergebnisse als relevant betrachtet als zu anderen Zeiten. Beispielsweise können Tweets von @FCBayern relevanter sein als solche von @Bayern.

Die Technik

Da es unmöglich ist, jede Suchanfrage von einem Menschen beantworten zu lassen, schleust Twitter alle Suchanfragen durch einen Storm-Cluster. Dabei handelt es sich um ein von Twitter entwickeltes, verteiltes, verlässliches und fehlertolerantes System zur Verarbeitung von Datenströmen - eine Art Hadoop für Echtzeitdaten. Damit kann Twitter feststellen, wie populär eine Suchanfrage ist, und erkennt so auch, wenn eine Suchanfrage plötzlich besonders populär ist.

Stellt das System also fest, dass auf einmal ungewöhnlich häufig nach "Big Bird" gesucht wird, leitet es die Anfrage an einen Menschen weiter, der bei der Einordnung der Suchanfrage hilft. Dazu nutzt Twitter Amazons Crowdsourcing-Dienst Mechanical Turk, um Aufgaben automatisiert an vorab von Twitter ausgewählte Menschen weiterzugeben.

Laut Twitter hat sich dies als besser erwiesen, als eigene Mitarbeiter einzustellen. Zum einen sitzen die Auftragsnehmer, die über Mechanical Turk zu erreichen sind, auf der ganzen Welt verteilt, so dass Fragen rund um die Uhr beantwortet werden können, zum anderen kann so sehr schnell auf eine schwankende Zahl an Aufträgen reagiert werden.

Die Menschen ordnen die Suchanfragen thematisch ein, legen also fest, dass "Bayern" derzeit eher eine Sportthema ist. Sie beantworten zudem weitere Fragen und stellen mitunter Recherchen an, um zum Beispiel herauszufinden, dass "Big Bird" gerade in einer Wahlkampfdebatte von Präsidentschaftskandidat Mitt Romney erwähnt wurde. So kann Twitter dann Big-Bird-Tweets Barack Obama und Mitt Romney zuordnen, die andernfalls mit dem Begriff eher wenig zu tun hätten. Zudem kann Twitter so deutlich besser zuordnen, welche Werbung relevant ist.

Um die menschliche Beteiligung effizient abzuwickeln, hat Twitter Clockwork Raven entwickelt, eine Webapplikation, mit der sich Daten leicht an Mechanical Turk zur Prüfung durch Menschen übermitteln lassen. Clockwork Raven hat Twitter bereits im August 2012 als Open Source freigegeben.

Twitter hat seine "Echtzeitsuche mit Menschen" in einem Blogeintrag recht ausführlich erläutert.