Curio: KI-Spielzeug sammelt Daten von Kindern
Das Start-up Curio hat es sich zur Aufgabe gemacht, ein KI-gestütztes Plüschtier anzubieten. Die Firma hat gleich drei Charaktere vorgestellt(öffnet im neuen Fenster) , die sich mit Kindern unterhalten und sich an deren jeweiliges Verhalten anpassen können sollen: Die Rakete Grok, das Alien Grem und der Roboter Gabbo. ( Via The Verge(öffnet im neuen Fenster) )
Jedes der Plüschtiere integriert einen Microcontroller, Lautsprecher, Akkus und andere Hardware, die für das interaktive Spielzeug benötigt werden. Das Start-up kooperiert zudem mit der Musikerin Claire Elise Boucher, auch bekannt als Grimes, die unter anderem als Ex-Partnerin von Elon Musk noch bekannter wurde. Grimes hat beim Design der Spielzeuge mitgeholfen und leiht der Rakete Grok auch ihre Stimme.
OpenAI-Sprachmodell genutzt
Generell werden die Stimmen durch KI synthetisiert und Antworten der Plüschtiere an ihre menschlichen Besitzer über ein Sprachmodell formuliert. Dabei handelt es sich um ein Modell von OpenAI, wahrscheinlich GPT-4, das auf Microsoft-Servern über den Dienst Azure Cognitive Services gehostet wird. Das System benötigt für eine Interaktion also stets eine Verbindung zu einem externen Server. Laut Curio sollen sämtliche Verbindungen verschlüsselt und so abgesichert sein.
Die Gründer hoffen, dass die Spielzeuge irgendwann auch einmal ohne eine ständige WLAN-Verbindung auskommen, indem die KI-Persönlichkeit direkt auf dem Gerät berechnet wird. Aktuell ist das aber noch nicht möglich – schon gar nicht auf einem so kompakten Computer.
Die Spielzeuge sind für Kinder von 3 bis 12 Jahren gedacht. Auch in den USA unterliegen Kinder unter 13 Jahren einem besonderen Datenschutz. Curio muss die Aufsichtspersonen deshalb über gesammelte Daten informieren(öffnet im neuen Fenster) . Unter anderem nutzt das Plüschtier Vornamen oder Spitznamen für die Ansprache. Es werden zudem Geburtsnamen und Geburtsdaten der Kinder und Familienmitglieder gesammelt. Curio will zudem eine E-Mail-Adresse der Eltern speichern.
Audiodaten an Microsoft senden
Die Spielzeuge nehmen zudem Audiodateien auf, die temporär auf Servern gespeichert und für Antworten verarbeitet werden. "Nachdem wir die Audiodaten in Text umwandeln, speichern wir die Audiodateien eine kurze Zeit (mindestens 90 Tage)" , schreibt das Unternehmen in den FAQ. Die Daten werden laut Hersteller genutzt, um Nutzungsverhalten der User zu bestimmen und Bugs im System zu finden. Allerdings sammelt das Spielzeug auch Standortdaten, um "Konversationen mit dem Kind anzureichern und eine Bluetooth-Verbindung herzustellen" .
Die Curio-Spielzeuge befinden sich aktuell noch in einer Beta-Phase. Ein Plüschtier kostet 100 US-Dollar. Das Start-up will künftig auch ein Abomodell anbieten, mit dem sich die Sprachfunktionen der Produkte verbessern lassen soll. Aktuell ist die Verbindung und Interaktion mit den Microsoft-Servern kostenlos nutzbar.