Für den eigenen Profit: Warum KI-Konzerne plötzlich auf die Bremse treten wollen
Inhalt
Spätestens seit dem Jahr 2023 warnen führende Personen aus der KI-Branche vor den Risiken leistungsfähiger KI-Systeme. Darunter befinden sich nicht nur KI-Forscher, sondern auch CEOs großer Unternehmen, die zuletzt durch eine bemerkenswerte Einigkeit auffielen, indem sie eine Verlangsamung und vermehrte Kontrolle der KI-Entwicklung forderten.
Aber wie kommt es, dass sich die Branche plötzlich ihrer eigenen Risiken bewusst wird? Und ist die Sicherheit vielleicht nur ein vorgeschobener Grund, um andere Probleme zu verschleiern?
Sam Altman fordert Aufsichtsbehörden
Open-AI-Chef Sam Altman gehört zu den bekanntesten Stimmen, die einerseits die Entwicklung fortschrittlicher KI-Systeme vorantreiben und andererseits eine Regulierung fordern. Zu seinen Kernargumenten gehört, dass leistungsfähige KI erhebliche gesellschaftliche Auswirkungen haben könnte.
Staaten sollten Altmans Ansicht nach Aufsichtsbehörden schaffen, damit leistungsstarke Systeme vor der Freigabe geprüft werden können. Für besonders leistungsfähige Modelle hält er internationale Regeln für notwendig. Auch vor dem US-Kongress sprach er sich bereits für Regulierungen aus und unterstützt verschiedene Sicherheitsinitiativen.
Kritiker werfen Altman allerdings vor, dass er und andere große Unternehmen durch aufwendige Regulierungen womöglich lediglich ihre Marktposition absichern wollen. Für kleine Unternehmen und Open-Source-Projekte wäre es deutlich schwerer, die gleichen Anforderungen zu erfüllen.
Gemeinsame Sicherheitsstandards für KI-Unternehmen
Der derzeit prominenteste Verfechter einer Verlangsamung der KI-Forschung ist Dario Amodei, der CEO von Anthropic. Er argumentiert, dass die Fähigkeiten moderner KI schneller wachsen, als die Fähigkeit der Gesellschaft, sie zu kontrollieren. Es gebe Hinweise darauf, dass KI-Systeme zunehmend autonom handeln können, und die Sicherheitsforschung halte mit dem Leistungszuwachs nicht Schritt, so Amodei.
Aus diesen Gründen fordert Amodei unabhängige Sicherheitsteams mit weitreichendem Zugang zu KI-Modellen, gemeinsame Sicherheitsstandards führender KI-Unternehmen und internationale Vereinbarungen, ähnlich früheren Rüstungskontrollabkommen.
Amodei war zuvor Forschungsleiter bei OpenAI. Er verließ das Unternehmen unter anderem wegen Meinungsverschiedenheiten über Sicherheitsfragen und gründete anschließend Anthropic mit einem starken Fokus auf KI-Sicherheit. Seine Warnungen gelten deshalb vielen Beobachtern als besonders glaubwürdig.
KI-Missbrauch durch Staaten oder kriminelle Gruppen
Demis Hassabis, Leiter von Googles KI-Abteilung Deepmind, vertritt eine eher wissenschaftlich geprägte Position. Er spricht regelmäßig über die Risiken durch künstliche allgemeine Intelligenz (AGI), den Missbrauch der Technologie durch Staaten oder kriminelle Gruppen sowie den Verlust menschlicher Kontrolle über hochautonome Systeme.
Hassabis fordert keine vollständige Unterbrechung der Forschung, sondern internationale Koordination, vergleichbar mit Regelwerken für Kernenergie oder Biotechnologie. In den jüngsten Debatten unterstützte er ebenfalls Forderungen nach stärkeren Sicherheitsmechanismen.
- Anzeige Hier geht es zu Künstliche Intelligenz: Wissensverarbeitung bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.