"Rotes Telefon": Forscher fordern KI-Regeln wie bei Nuklearwaffen im Kalten Krieg
Sicherheitsforscher einer US-chinesischen Dialoggruppe haben in einem Bericht Maßnahmen für die KI-Regulierung vorgeschlagen, die an Schutzmaßnahmen bezüglich eines eskalierenden Nuklearwaffenkonflikts zur Zeit des Kalten Krieges erinnern. Die Empfehlungen sollen verhindern, dass die USA und China durch selbsttätig handelnde KIs in einen ungewollten Konflikt gezogen werden.
Das Treffen des US-chinesischen KI- und Sicherheitsdialogs fand auf Regierungsebene statt, wie Reuters(öffnet im neuen Fenster) berichtet. Eine der Autorinnen, Melanie Sisson vom Thinktank Brookings Institution, erklärt, dass Menschen stets die finale Entscheidung bezüglich KI-getriebener Cyberattacken haben sollten, die das nukleare Arsenal, Kommunikationseinrichtungen oder andere sicherheitsrelevante Einrichtungen des anderen Landes betreffen.
Autonome KI-Systeme könnten fehlerhaft sein und im wahrsten Sinne über das Ziel hinausschießen. Das angegriffene Land sollte im Ernstfall wissen, welche Aktionen absichtlich oder unabsichtlich erfolgt sind. Unter anderem schlagen die Sicherheitsforscher daher auch eine Art "Rotes Telefon" zwischen China und den USA vor, wie es im Kalten Krieg bereits zwischen der Sowjetunion und den USA existierte.
Direkter Kontakt zwischen beiden Seiten im Ernstfall
Über diese direkte Verbindung sollen Militärs im Falle von KI-Zwischenfällen direkt mit ihrem Gegenüber kommunizieren können, um mögliche Vergeltungsmaßnahmen zu vermeiden. Experten zweifeln allerdings daran, ob eine derartige Hotline auf chinesischer Seite funktionieren würde, da wichtige Entscheidungen in der Regel nicht von untergeordneten Stellen, sondern von ganz oben abgesegnet werden müssen.
Die Sicherheitsforscher empfehlen zudem, den Begriff "bedeutsame menschliche Kontrolle" für beide Seiten genau zu definieren. So soll verhindert werden, dass der Begriff verwendet, aber unterschiedlich interpretiert wird.
Die Diskussionen um die Gefahr durch KI verschärfte sich in den vergangenen Monaten. Zahlreiche ehemalige KI-Forscher warnen mittlerweile vor einer unkontrollierten Entwicklung, die vor allem durch große Unternehmen wie Anthropic und OpenAI aus Konkurrenzdenken heraus stattfinden soll. Anthropic-Chef Dario Amodei rief mittlerweile zu einer Verlangsamung der Entwicklung auf und erhielt dafür unter anderem von Sam Altman und Elon Musk Zuspruch.
Fast täglich gibt es Neues aus der KI-Welt – ein neues Produkt hier, aktuelle Forschung da: Vielleicht ist es ein Durchbruch! Doch wie ist das zu bewerten? Mit dem Golem-Newsletter AI Lab Report behaltet ihr den Überblick über die wichtigsten Entwicklungen. Der Newsletter ist kostenlos, ihr könnt ihn hier abonnieren.
- Anzeige Hier geht es zu Künstliche Intelligenz: Wissensverarbeitung bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.