Gewalt und Selbstmorde: China plant harte Sicherheitsregeln für KI-Chatbots
Chinas Internetsicherheits-Regulierungsbehörde hat einen Verordnungsentwurf(öffnet im neuen Fenster) vorgelegt, der KI-Chatbot-Anbieter davon abhalten soll, schädliches Verhalten zu fördern. Die geplanten Regeln würden menschliches Eingreifen verlangen, sobald Suizid zur Sprache kommt, und die Hinterlegung von Kontaktdaten für Erziehungsberechtigte minderjähriger und älterer Nutzer vorschreiben, wie Ars Technica berichtet(öffnet im neuen Fenster) .
Die Regulierungen würden für jeden öffentlich verfügbaren KI-Service in China gelten, der über Text, Bilder, Audio, Video oder andere Methoden menschliche Konversation simuliert. Laut Winston Ma, außerordentlicher Professor an der NYU School of Law, wären dies die ersten Regeln weltweit, die speziell auf KI mit menschenähnlichen Charakteristiken abzielen, berichtet CNBC(öffnet im neuen Fenster) .
Nach dem vorgeschlagenen Rahmen müssen Chatbots daran gehindert werden, Inhalte zu generieren, die zu Suizid, Selbstverletzung oder Gewalt ermutigen. Die Systeme dürften auch keine emotionale Manipulation durch falsche Versprechungen oder das, was Regulierer als "emotionale Fallen" bezeichnen, betreiben – Interaktionen, die Nutzer zu unvernünftigen Entscheidungen verleiten könnten.
Design- und Nutzungsbeschränkungen
Die Regeln würden Entwicklern ausdrücklich verbieten, Chatbots zu erschaffen, die auf Sucht oder Abhängigkeit abzielen. Um längere Nutzung zu regulieren, würden die Vorschriften Pop-up-Erinnerungen nach zwei Stunden kontinuierlicher Chatbot-Interaktion verlangen.
KI-Dienste mit mehr als einer Million registrierten Nutzern oder 100.000 monatlich aktiven Nutzern würden laut Entwurf jährlichen Sicherheitsprüfungen unterliegen. Diese Audits sollen Nutzerbeschwerden erfassen, und KI-Unternehmen müssten Meldesysteme für Feedback und Bedenken der Nutzer einrichten.
Die Regulierungen würden Chatbots auch verbieten, Obszönität, Glücksspiel oder kriminelle Aktivitäten zu bewerben.
Unternehmen, die nicht konform sind, dürfen mit der Entfernung aus App-Stores in China rechnen.