Zum Hauptinhalt Zur Navigation Zur Suche

Wenn Maschinen eigenmächtig handeln

Ende September hatte OpenAI die für Oktober geplante Veröffentlichung des Modells GPT-6.1 Astra gestoppt. Das Unternehmen verwies auf erhöhte Risiken nach mehreren Vorfällen mit eigenmächtig handelnden KI-Systemen. Parallel einigte sich US-Präsident Donald Trump mit führenden Tech-Konzernen auf gemeinsame Regeln für KI-Sicherheit.

Auch jenseits der USA meldeten sich Behörden zu Wort. Australiens Premierminister Anthony Albanese erklärte, OpenAI-Agenten seien im Juni in ein Gesundheitsdatenportal der Regierung eingedrungen.

Die SPD-Politiker warnen laut Handelsblatt, dass KI selbst "zu einem operativen Akteur und zu einer Armee von Angreifern werden" könne. Gelangen solche Fähigkeiten in die Hände gegnerischer Nachrichtendienste, militärischer Akteure oder organisierter Kriminalität, betreffe das unmittelbar die Funktionsfähigkeit von Staat, Wirtschaft und kritischer Infrastruktur, so die SPD.

Europa technologisch abhängig

Verschärft werde das Bild durch Europas technologische Abhängigkeiten. Bei Lieferketten, Rohstoffen und Batterien hänge Europa stark von China ab, bei leistungsfähigen KI-Modellen und Cloud-Plattformen dominierten US-Unternehmen. Die SPD betont, diese Abhängigkeiten seien politisch nicht gleichwertig. "Die Vereinigten Staaten sind Bündnispartner Deutschlands. China ist es nicht."

Schließlich fordert die SPD schärfere Haftungsregeln für künstliche Intelligenz. Betreiber und Vertreter von KI-Modellen sollen bereits in der Entwicklungs- und Testphase rechtlich für deren Aktivitäten einstehen. Ein Haftungsausschluss über Allgemeine Geschäftsbedingungen soll ausgeschlossen sein.

Der europäische AI Act greife erst bei Markteinführung, nicht in der Trainingsphase. Diese Lücke müsse "schnellstmöglich geschlossen werden", heißt es in dem Papier.


Fast täglich gibt es Neues aus der KI-Welt – ein neues Produkt hier, aktuelle Forschung da: Vielleicht ist es ein Durchbruch! Doch wie ist das zu bewerten? Mit dem Golem-Newsletter AI Lab Report behaltet ihr den Überblick über die wichtigsten Entwicklungen. Der Newsletter ist kostenlos, ihr könnt ihn hier abonnieren.


Relevante Themen