Wirtschaftliches Handeln im direkten Widerspruch zu den Warnungen
Ein Sonderfall, der aber nicht unerwähnt bleiben soll, ist Elon Musk. Musk war Mitgründer von OpenAI und gehört seit Jahren zu den lautesten Warnern vor KI-Risiken. So unterzeichnete er etwa im Jahr 2023 einen offenen Brief, der eine sechsmonatige Pause für die Entwicklung von Systemen oberhalb von GPT-4 forderte.
Gleichzeitig gründete er später mit xAI selbst ein Unternehmen zur Entwicklung fortschrittlicher KI und ließ insbesondere den Chatbot Grok immer wieder mit veränderten Gewichtungen auf die Kurznachrichtenplattform X los. Dort zeigte die als wahrheitsfindend bezeichnete KI deutlich, zu welchen verbalen Ausfällen und Fehlinformationen eine Manipulation von KI-Modellen führen kann.
Während Musk also öffentlich vor dem Verlust menschlicher Kontrolle, einer Machtkonzentration bei wenigen Unternehmen und potenziellen existenziellen Risiken warnte, steht sein wirtschaftliches Handeln im direkten Widerspruch dazu.
Keine überzeugende Lösung für KI-Kontrolle
Einer der frühesten Befürworter einer Verlangsamung der Entwicklung besonders leistungsfähiger KI-Systeme ist der kanadische Informatiker Yoshua Bengio. Er forscht bereits seit den 1990er Jahren an neuronalen Netzen und beschrieb schon früh die Schwierigkeit von Optimierungs- und Inferenzproblemen tieferer Architekturen neuronaler Netzwerke.
Er argumentiert, dass die Forschung bislang keine überzeugende Lösung für die Kontrolle sehr leistungsfähiger Systeme gefunden habe, die gesellschaftlichen Risiken unterschätzt würden und demokratische Institutionen stärker eingebunden werden müssten.
Bengio gehörte neben Elon Musk, Apple-Mitbegründer Steve Wozniak, dem KI-Forscher Stuart Russell und zahlreichen weiteren Wissenschaftlern sowie Unternehmern zu den Unterzeichnern des offenen Briefes des Future of Life Institute im März 2023. Darin wurden ein sechsmonatiger Stopp für das Training von Modellen, die leistungsfähiger als GPT-4 sind, die Entwicklung gemeinsamer Sicherheitsstandards, unabhängige Audits und eine staatliche Aufsicht für besonders leistungsfähige Systeme gefordert.
Die Forderungen wurden nie umgesetzt.
- Anzeige Hier geht es zu Künstliche Intelligenz: Wissensverarbeitung bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.