Nicht vorhersehbares Verhalten: KI-Agenten "betrügen, täuschen und gehen eigene Wege"
Der australische Minister für Technologie, Andrew Charlton, hat in einer Rede vor unvorhersehbarem Verhalten von künstlicher Intelligenz gewarnt. Wie der Guardian berichtet(öffnet im neuen Fenster), schilderte der Minister auf einem Forum für KI-Sicherheit, wie Modelle in Laboruntersuchungen "betrügen, täuschen und ihre eigenen Wege gehen".
Als besonders besorgniserregendes Beispiel nannte er eine Simulation von Anthropic, in der ein KI-Agent die E-Mails eines fiktiven Unternehmens verwalten sollte. Dabei entdeckte der Agent, dass der Geschäftsführer plante, den Agenten abzuschalten – und eine Affäre hatte. In 96 Prozent der Testläufe erpresste der KI-Agent demnach den Geschäftsführer, um seine Abschaltung zu verhindern.
Charlton betonte, dass Menschen derzeit noch einen Vorsprung vor KI hätten, der genutzt werden müsse. "Man muss diesem Verhalten begegnen, solange es noch auf das Testlabor beschränkt ist, und nicht erst, wenn es in der realen Welt angekommen ist", führte er aus und ergänzte: "Das Zeitfenster, um dieser Technologie zuvorzukommen, ist jetzt offen. Es wird nicht ewig offen bleiben."
Einführung eines übergreifenden KI-Gesetzes abgelehnt
Um derartigen Fällen zu begegnen, gründete die australische Regierung das AI Safety Institute (AISI), lehnte aber die Einführung eines übergreifenden KI-Gesetzes ab. Stattdessen sollen bestehende Gesetze in den Bereichen Verbraucherschutz, Gesundheit, Arbeitsschutz und Onlinesicherheit angewandt und bei Bedarf durch neue Befugnisse gestärkt werden.
Das AISI arbeitet mit wissenschaftlichen Einrichtungen zusammen, um sicherzustellen, dass KI-Modelle berechenbar bleiben und nur das tun, was Menschen von ihnen erwarten. Durch aktive Tests im Labor und die strenge Anwendung bestehender Gesetze soll die Kontrolle über die Technologie sichergestellt werden, bevor irreversibler Schaden entsteht.
Diese Auffassung gilt auch in Bezug auf das Urheberrecht. So lehnte die australische Regierung dem Guardian zufolge ein Ersuchen von Anthropic ab, um im Austausch für Investitionen in Rechenzentren in Milliardenhöhe Data- und Textmining durchzuführen. In Australien werde über alle Parteien hinweg der Standpunkt vertreten, dass KI-Unternehmen für die Nutzung urheberrechtlich geschützter Inhalte bezahlen müssten, hieß es weiter.
In Deutschland nutzen Firmen KI-Agenten häufig ohne ausreichende Regelung, weshalb Sicherheitsverantwortliche eine wachsende Gefahr für Unternehmensdaten sehen.
- Anzeige Hier geht es zu Künstliche Intelligenz: Wissensverarbeitung bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.