Claude: Anthropic macht Chrome zum KI-Browser
Das KI-Unternehmen Anthropic hat eine Version seines Chatbots Claude vorgestellt, die sich als Plug-in in den Browser Chrome integrieren lässt. Ziel ist, dass das Claude-Plug-in(öffnet im neuen Fenster) Inhalte im Browserfenster erkennt und damit interagieren kann – bis hin zur Übernahme der Eingabe.
Das Plug-in führt dazu, dass Chrome vergleichbar mit Perplexitys Comet-Browser agieren kann und beispielsweise Webseiten bedienen kann. Chrome hat aktuell nur in den USA Gemini nativ eingebaut, Googles KI erkennt Browserinhalte und kann beispielsweise Fragen dazu beantworten.
Das Claude-Plug-in geht weiter und kann unter anderem Formulare ausfüllen, E-Mails verfassen und auch löschen oder Käufe tätigen. Darin liegt auch eine Gefahr, wie Anthropic selbst realisiert. Entsprechend wurden vor der jetzigen Vorstellung zahlreiche Sicherheitstests durchgeführt, um noch vor der Veröffentlichung die Möglichkeiten für böswillige Akteure zu minimieren.
Gefahr durch Prompt-Injection-Angriffe
Anthropic zufolge wurden durch die Tests zahlreiche Gefahren durch sogenannte Prompt-Injection-Angriffe reduziert. Dabei wird etwa in E-Mails, aber auch auf Webseiten (oft für nutzbar nicht erkennbar) ein Befehl eingegeben, der die KI zu einem für die Nutzer schädlichen Verhalten instruiert.
Beispiele dafür sind etwa Anweisungen in einer echt wirkenden E-Mail, alle anderen E-Mails im Postfach zu löschen, oder auch Befehle, persönliche Daten zu veröffentlichen. Das Plug-in hat einen Modus, in dem die KI Dinge ohne Bestätigung der Nutzer erledigen kann – vor allem dann müssen die Sicherheitsvorkehrungen Prompt-Injection-Angriffe verhindern.
In internen Tests konnte Anthropic die Erfolgsrate für derartige Angriffe bereits von 23,6 auf 11,2 Prozent senken. Bei vier speziellen Attacken, in denen die böswilligen Befehle im URL-Text oder im Tab-Titel versteckt waren, konnte die Erfolgsrate von 35,7 auf 0 Prozent gesenkt werden.
Vorerst geschlossener Test mit 1.000 Max-Abonnenten
Anthropic will aber vor einer breiten Veröffentlichung des Claude-Plug-ins für Chrome weitere Tests durchführen – diesmal mit Nutzern, die bereit dafür sind. Zunächst können 1.000 Anthropic-Kunden mit Max-Abo das Plug-in ausprobieren, idealerweise in einem nicht sicherheitsrelevanten Umfeld. Um an der Vorschau teilzunehmen, kann man sich auf eine Warteliste eintragen. Wann es für alle erscheinen wird, ist noch nicht bekannt.