Sprachassistenten: Gesetzesentwurf verlangt von Bots, sich als solche zu zeigen

Im US-Bundesstaat Kalifornien wird ein Gesetz diskutiert, das automatisierte Systeme wie Bots und KI-Assistenten zwingt, sich als Maschine auszugeben. Das soll menschlichen Gesprächspartnern helfen, könnte im Falle von Projekten wie dem Google Assistant aber auch hinderlich sein.

Artikel veröffentlicht am ,
Bots müssen sich vielleicht bald als Maschine kenntlich machen.
Bots müssen sich vielleicht bald als Maschine kenntlich machen. (Bild: Pixabay.com)

Ein Gesetzesentwurf im US-Bundesstaat Kalifornien schlägt vor, dass sich Bots und KI-Systeme vor der Interaktion mit Menschen auch als diese zu erkennen geben. Sollte das Gesetz erlassen werden, müssen Betreiber solcher Systeme den Nutzern die Möglichkeit geben, sich nicht zu erkennen gebende Bots zu melden. Das Gesetz würde diverse Unternehmen betreffen, die in Kalifornien ansässig sind, darunter Google, Apple und Microsoft - allesamt Betreiber von digitalen Sprachassistenten.

KI-Systeme wie diese müssen per Sprachnachricht mitteilen, dass sie maschineller Natur sind. Dies soll laut dem Gesetzesentwurf am Anfang einer Kommunikation und in klarer leicht verständlicher Aussprache geschehen. Unklar ist, ob sich dies auch auf andere Sprachen außer Englisch überträgt. Das gilt auch für die Kommunikation per Video, bei dem eine entsprechende Information klar kenntlich gemacht und für vier Sekunden lang angezeigt werden muss.

Zu Bots zählt das Gesetz auch textbasierte Systeme, die mit Kunden kommunizieren. Solche Software wird oftmals im Kundenservice eingesetzt, um Geld zu sparen. Ein so genutzter Bot muss sich schriftlich und in gut erkennbarer, größerer Schrift kenntlich machen.

Ein Hindernis für Google Assistant und Co.

Sollte sich das Gesetz durchsetzen, könnte das weitreichende Folgen für digitale Sprachassistenten haben. Erst auf der Entwicklermesse I/O 2018 zeigte Google ein Gespräch zwischen dem KI-System Google Assistant und menschlichen Gesprächspartnern. Das Projekt nennt der Entwickler Duplex. Es ist dem Programm gelungen, Reservierungen zu tätigen und auf Gegenfragen des Gegenübers mündlich zu reagieren. Mit Technik wie dem neuronalen Netzwerk Wavenet klingt die Sprachausgabe möglichst echt und natürlich.

Sollte sich Duplex als Maschine zu erkennen geben müssen, könnte das zu unvorhersehbaren Reaktionen führen, etwa wenn gegenüberliegende Gesprächspartner direkt nach der Meldung auflegen oder sich anders verhalten, als wenn sie im Unklaren lägen. Andererseits könnte das Gesetz damit verhindern, dass Bots genutzt werden, um Nutzer zu betrügen.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Aktuell auf der Startseite von Golem.de
Politische Ansichten auf Google Drive
Letzte Generation mit Datenschutz-Super-GAU

Die Aktivisten der Letzten Generation haben Daten von Unterstützern mitsamt politischer Meinung und Gefängnisbereitschaft ungeschützt auf Google Drive gelagert.

Politische Ansichten auf Google Drive: Letzte Generation mit Datenschutz-Super-GAU
Artikel
  1. Nach Prämiensenkung: Weniger Marktanteil für Elektroautos 2023 erwartet
    Nach Prämiensenkung
    Weniger Marktanteil für Elektroautos 2023 erwartet

    Die Förderprämien für Elektroautos wurden gesenkt, was nach Ansicht der Autohersteller zu einem Rückgang des Marktanteils führen wird.

  2. Suchmaschine: Bing mit ChatGPT war für kurze Zeit online
    Suchmaschine
    Bing mit ChatGPT war für kurze Zeit online

    Microsoft will ChatGPT in die Suchmaschine Bing einbauen. Was uns erwartet, konnten einige Nutzer kurzfristig sehen.

  3. Verbraucherschutz: FTC soll Kartellklage gegen Amazon vorbereiten
    Verbraucherschutz
    FTC soll Kartellklage gegen Amazon vorbereiten

    Die US-Vebraucherschutzbehörde FTC soll an einer möglichen Klage gegen Amazon arbeiten. Grund sind Kartellvorwürfe gegen das Tech-Unternehmen.

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Daily Deals • Roccat Magma + Burst Pro 59€ • Roccat Vulcan 121 89,99€ • Gigabyte B650 Gaming X AX 185,99€ • Alternate: Toshiba MG10 20 TB 299€ • Alternate Weekend Sale • MindStar: Fastro MS200 SSD 2TB 95€ • Mindfactory DAMN-Deals: Grakas, CPUs & Co. • RAM-Tiefstpreise • PCGH Cyber Week [Werbung]
    •  /