Künstliche Intelligenz: Google verwechselt Suchwörter mit Prompts
Am Freitag hat Googles Funktion AI Overviews bei bestimmten Suchanfragen keine Zusammenfassungen geliefert, sondern Antworten im Stil eines Kundendienst-Chatbots, wie Tech Crunch berichtet(öffnet im neuen Fenster). Wer nach "disregard" suchte, also dem englischen Wort für "ignorieren" oder "ausser Acht lassen", erhielt die Meldung: "Got it. If you need anything else or have a new question later, just let me know!"
KI versteht Suchwörter als Systembefehle
Der Fehler beschränkte sich nicht auf einen Begriff. Suchen nach "ignore" sollen eine Nachricht erzeugt haben, in der das System seine Bereitschaft erklärt und fragt, womit es helfen darf. "Skip" produzierte offenbar den Hinweis, es könnte sich um einen Tippfehler handeln, verbunden mit einer Einladung, doch eine richtige Frage zu stellen.
Alle drei Begriffe teilen ein Merkmal: In der Welt der KI-Prompts sind es gängige Anweisungen. Das System scheint die Suche nach diesen Wörtern mit einer Anweisung an das KI-Modell fehlinterpretiert zu haben.
Google greift ein
Am Freitagabend zeigte Google für "disregard" keine AI Overview mehr, sondern eine Liste von Nachrichtenartikeln über den Vorfall selbst. Für "ignore" und "skip" sollen die fehlerhaften Antworten zu diesem Zeitpunkt noch erschienen sein.
Das Timing war ungünstig. Der Fehler trat einen Tag nach Google I/O auf, Googles jährlicher Entwicklerkonferenz, auf der das Unternehmen umfangreiche KI-Verbesserungen für die Suche vorgestellt hatte.
- Anzeige Hier geht es zu Künstliche Intelligenz: Wissensverarbeitung bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.