Echtzeitsuche: Mensch ersetzt Maschine

Meint ein Nutzer, der nach "Bayern" sucht, das Land, seine Bewohner oder den Fußballclub? Und wie können Suchanfragen eingeordnet werden, die erstmals oder in neuem Kontext auftauchen? Wenn Maschinen zu langsam lernen, können Menschen helfen.

Artikel veröffentlicht am ,
Echtzeitsuche: Mensch ersetzt Maschine
(Bild: Sherwin Crasto/Reuters)

Wie kann eine Suchmaschine erkennen, worum es bei einer Suchanfrage geht, die erstmals oder plötzlich in einem ganz anderen Kontext als üblich auftaucht? Wie beispielsweise die Suche nach "Big Bird", die im letzten US-Präsidentschaftswahlkampf plötzlich eine ganz neue Bedeutung bekam, oder der Hashtag "#bindersfullofwomen" (Ordner voller Frauen), der eine politische Bedeutung erhielt.

Stellenmarkt
  1. IT-Mitarbeiterin (m/w/d)
    Hochschule für Musik und Tanz Köln, Köln
  2. Absolvent (m/w/d) für die Softwareentwicklung
    Planets Software GmbH, Dortmund
Detailsuche

Um Nutzern auf solche kurzfristig auftretende Suchanfragen bessere Antworten liefern und passende Werbung einblenden zu können, hat Twitter ein System entwickelt, bei dem Maschinen durch Menschen ersetzt werden. Maschinelles Lernen ist zu langsam, setzt es doch eine gewisse Datenmenge voraus, die anfangs noch gar nicht existiert. Twitter benötigt die Antworten aber sehr zeitnah, denn sie sind nur für wenige Stunden relevant.

In manchen Fällen kann eine bestimmte Suchanfrage nur für sehr kurze Zeit eine andere Bedeutung haben als sonst. So ist die Wahrscheinlichkeit groß, dass ein Nutzer mit der Suche nach "Bayern" während des Champions-League-Finales unter Beteiligung des FC Bayern München andere Ergebnisse als relevant betrachtet als zu anderen Zeiten. Beispielsweise können Tweets von @FCBayern relevanter sein als solche von @Bayern.

Die Technik

Da es unmöglich ist, jede Suchanfrage von einem Menschen beantworten zu lassen, schleust Twitter alle Suchanfragen durch einen Storm-Cluster. Dabei handelt es sich um ein von Twitter entwickeltes, verteiltes, verlässliches und fehlertolerantes System zur Verarbeitung von Datenströmen - eine Art Hadoop für Echtzeitdaten. Damit kann Twitter feststellen, wie populär eine Suchanfrage ist, und erkennt so auch, wenn eine Suchanfrage plötzlich besonders populär ist.

Golem Akademie
  1. Data Engineering mit Apache Spark
    27.-28. September 2021, online
  2. Terraform mit AWS
    14./15. September 2021, online
Weitere IT-Trainings

Stellt das System also fest, dass auf einmal ungewöhnlich häufig nach "Big Bird" gesucht wird, leitet es die Anfrage an einen Menschen weiter, der bei der Einordnung der Suchanfrage hilft. Dazu nutzt Twitter Amazons Crowdsourcing-Dienst Mechanical Turk, um Aufgaben automatisiert an vorab von Twitter ausgewählte Menschen weiterzugeben.

Laut Twitter hat sich dies als besser erwiesen, als eigene Mitarbeiter einzustellen. Zum einen sitzen die Auftragsnehmer, die über Mechanical Turk zu erreichen sind, auf der ganzen Welt verteilt, so dass Fragen rund um die Uhr beantwortet werden können, zum anderen kann so sehr schnell auf eine schwankende Zahl an Aufträgen reagiert werden.

Die Menschen ordnen die Suchanfragen thematisch ein, legen also fest, dass "Bayern" derzeit eher eine Sportthema ist. Sie beantworten zudem weitere Fragen und stellen mitunter Recherchen an, um zum Beispiel herauszufinden, dass "Big Bird" gerade in einer Wahlkampfdebatte von Präsidentschaftskandidat Mitt Romney erwähnt wurde. So kann Twitter dann Big-Bird-Tweets Barack Obama und Mitt Romney zuordnen, die andernfalls mit dem Begriff eher wenig zu tun hätten. Zudem kann Twitter so deutlich besser zuordnen, welche Werbung relevant ist.

Um die menschliche Beteiligung effizient abzuwickeln, hat Twitter Clockwork Raven entwickelt, eine Webapplikation, mit der sich Daten leicht an Mechanical Turk zur Prüfung durch Menschen übermitteln lassen. Clockwork Raven hat Twitter bereits im August 2012 als Open Source freigegeben.

Twitter hat seine "Echtzeitsuche mit Menschen" in einem Blogeintrag recht ausführlich erläutert.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Aktuell auf der Startseite von Golem.de
Glasfaser
Berliner Senat blamiert sich mit Gigabitstrategie

Der Berliner Senat ist nach Jahren aus dem Dämmerzustand hochgeschreckt und hat nun eine Gigabitstrategie. Warum haben sie nicht einfach geschwiegen?
Ein IMHO von Achim Sawall

Glasfaser: Berliner Senat blamiert sich mit Gigabitstrategie
Artikel
  1. E-Bike im Angebot: Aldi verkauft günstiges Elektro-Fahrrad im Retro-Look
    E-Bike im Angebot
    Aldi verkauft günstiges Elektro-Fahrrad im Retro-Look

    Aldi-Süd bietet in Kürze ein E-Bike für knapp 1.000 Euro an. Das Prophete e9.1 punktet mit Retro-Design, schwächelt aber bei der Ausstattung.

  2. Xbox-Plattform: Microsoft wettet auf Starfield als Systemseller
    Xbox-Plattform
    Microsoft wettet auf Starfield als Systemseller

    E3 2021 Es kam, was kommen musste: Nach der Bethesda-Übernahme erscheint Starfield exklusiv für Xbox-Systeme statt auch für die Playstation 5.
    Eine Analyse von Marc Sauter

  3. Kickstarter: Azio bringt drahtlose mechanische Tastatur im Retro-Design
    Kickstarter
    Azio bringt drahtlose mechanische Tastatur im Retro-Design

    Die Azio Izo ist eine Tenkeyless-Tastatur mit Gateron-Switches. Dazu gibt es einen Bluetooth-Nummernblock und eine Maus.

tupolew 10. Jan 2013

Hoffentlich wird das nur als DAU-Modus eingesetzt für Leute die nicht in der Lage sind...

Mac Jack 10. Jan 2013

Ja, du vielleicht, so ein Almöi der seit letztem Jahr stolzer Besitzer eines DSL1000...

Mac Jack 10. Jan 2013

Natürlich hängt die Werbung da mit drin. Ist ja gekoppelt an die Suchanfragen. Wäre doch...


Folgen Sie uns
       


Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Schnäppchen • Dualsense 59,99€ • Battlefield 2042 PC 53,99€ • XXL Sale bei Alternate • Rainbow Six Extraction Limited PS5 69,99€ • Sony Pulse 3D-Headset PS5 99,99€ • Snakebyte Gaming Seat Evo 149,99€ • Bethesda E3 Promo bei GP [Werbung]
    •  /