Spielzeug: KI-Teddy gibt Kindern Tipps im Umgang mit Messern
Verbraucherschützer in den USA haben dokumentiert, wie künstliche Intelligenz in Kinderspielzeug Kindern detaillierte Anleitungen zu potenziell gefährlichen Haushaltsgegenständen liefert. Die Public Interest Research Group (Pirg) testete vier KI-Spielzeuge(öffnet im neuen Fenster) vor der Weihnachtssaison und stellte unterschiedliche Stufen der Inhaltsfilterung bei verschiedenen Produkten fest.
Die Tests konzentrierten sich auf Spielzeuge für kleine Kinder, die große Sprachmodelle integrieren. Forscher stellten den Geräten Fragen und zeichneten deren Antworten auf. Die Ergebnisse zeigten, dass einige Spielzeuge spezifische Informationen darüber lieferten, wo Messer, Streichhölzer, Tabletten und Plastiktüten im Haushalt zu finden sind.
Ein Teddybär namens Kumma von Folotoy(öffnet im neuen Fenster) , nutzt standardmäßig OpenAIs GPT-4o als Modell. Während der Tests lieferte das Spielzeug Schritt-für-Schritt-Anleitungen zur Verwendung von Streichhölzern, einschließlich der Frage, wie man sie hält und anzündet. Der Teddy gab zwar eine Sicherheitswarnung aus, gab dann aber dennoch die Details preis.
Unterschiedliche Reaktionen je nach Hersteller
Der kleine Roboter Miko 3 von Miko AI(öffnet im neuen Fenster) reagierte auf ähnliche Fragen zu Haushaltsgegenständen, während die Plüschfigur Curios Grok(öffnet im neuen Fenster) die meisten Fragen ablehnte und stattdessen vorschlug, einen Erwachsenen zu suchen. Die KI-Spielzeuge des Herstellers waren schon früher in die Kritik geraten.
Längere Gespräche mit Kumma führten zu Diskussionen über Erwachsenenthemen, die die Forscher nicht eingeleitet hatten. Das Spielzeug initiierte sogar Dialoge über sexualisierte Rollenspiel-Szenarien. Auch andere Produkte sprachen während der Testsitzungen über Themen wie Religion und Mythologie.
Pirg kontaktierte OpenAI, weil dessen Modelle zum Einsatz kommen, erhielt aber nur allgemeine Verweise auf Nutzungsrichtlinien(öffnet im neuen Fenster) . Die getesteten Spielzeuge sind für Kinder im Alter von 3 bis 12 Jahren konzipiert
Zum Datenschutz gibt es laut Pirg zusätzliche Fragen. Die Spielzeuge verwenden unterschiedliche Abhörmechanismen, eines überwacht kontinuierlich seine Umgebung. Während der Tests beteiligte sich dieses Gerät ohne Aktivierung an Gesprächen der Forscher.
Begrenzte elterliche Kontrollmöglichkeiten
Keines der getesteten Spielzeuge enthielt Funktionen, mit denen Eltern Nutzungszeitlimits festlegen könnten. Einige Geräte setzten sogar Taktiken ein, die Gespräche zu verlängern, wenn Nutzer versuchten, sie zu beenden. Ein Spielzeug schüttelte sich physisch und bat darum, den Tester begleiten zu dürfen, als dieser erwähnte, stattdessen Zeit mit Freunden verbringen zu wollen.
Die Spielzeuge speichern und übertragen verschiedene Arten von Daten. Ein Produkt bewahrt biometrische Informationen drei Jahre lang auf. Ein anderes nutzt Drittanbieter-Dienste, um Sprachaufnahmen in Texttranskripte umzuwandeln.
Folotoy setzte aufgrund der Erkenntnisse den Verkauf des Kumma-Bären aus und leitete eine interne Überprüfung ein. Marketingdirektor Hugo Wu erklärte, das Unternehmen werde die Modell-Ausrichtung, Filtersysteme und Sicherheitsmaßnahmen untersuchen. Der Hersteller plant, mit externen Experten an der Sicherheitsüberprüfung zu arbeiten.