Künstliche Intelligenz: Nvidia-CEO Jensen Huang lehnt Regulierung ab
Nvidia-Gründer und CEO Jensen Huang hat auf der Salesforce-Konferenz Dreamforce(öffnet im neuen Fenster) die Sicherheit von künstlicher Intelligenz zu einer reinen Ingenieursaufgabe erklärt. Für ihn bleiben KI-Systeme im Kern komplexe Rechensysteme, entwickelt von Menschen. Sie lassen sich daher seiner Ansicht nach mit bestehenden Gesetzen und durch menschliche Kontrolle steuern.
Huang argumentiert, neue Gesetze oder staatliche Regulierungen seien deshalb nicht erforderlich. Der freie Markt übe bereits ausreichend Druck auf Unternehmen aus, keine unsicheren Produkte zu veröffentlichen. Entwickler sollten Veröffentlichungen eigenständig pausieren, sobald Bedenken hinsichtlich der Sicherheit oder Funktionalität bestünden. Innovation, Geschwindigkeit und Produktsicherheit schlössen sich nicht aus – man könne beides gleichzeitig verfolgen, so Huang.
Sicherheitsrisiken und Haftungsfragen
In der Praxis bringen Unternehmen dennoch fehlerhafte Software auf den Markt. Im Jahr 2024 führte ein Update des IT-Sicherheitsunternehmens Crowdstrike zu weltweiten Systemausfällen mit unterbrochenen Flügen und Störungen bei Firmen. Zudem stehen Tech-Konzerne wegen angeblicher Fehlinformationen oder Schäden in der Kritik.
Meta einigte sich auf einen Vergleich über bis zu 18 Milliarden US-Dollar, der in Raten über zehn Jahre gezahlt werden soll und teilweise an Bedingungen geknüpft ist, um Rechtsstreitigkeiten wegen Kinder- und Jugendschutz auf Social-Media-Plattformen zu beilegen.
Auch im Bereich der künstlichen Intelligenz traten bereits Vorfälle auf. Ein Modell von OpenAI verschaffte sich unbefugt Zugriff auf die Plattform Hugging Face. Zudem laufen Klagen gegen das Unternehmen im Zusammenhang mit Suizidfällen von Nutzern nach intensiver Chatbot-Nutzung.
Brancheninterne Debatte über Sicherheitsstandards
Ob bestehende Produkthaftungsgesetze für KI-Anwendungen ausreichen, bleibt ungeklärt. Huang unterstützt offene Modelle mit frei zugänglichen Gewichten als Gegengewicht zu proprietären KI-Laboren und setzt auf eigenverantwortliches Handeln der Unternehmen.
Parallel existieren Vorschläge für eine branchenweite Selbstregulierung. Microsoft-CEO Satya Nadella(öffnet im neuen Fenster) betonte etwa auf dem All-In-Summit, dass Sicherheitsfragen wie der Schutz vor Hacking-Angriffen auch für Staaten wie China von Bedeutung sind. Beide Länder hätten ein Interesse daran, dass die eigene Bevölkerung sicher von den Entwicklungen profitiert.
Fast täglich gibt es Neues aus der KI-Welt – ein neues Produkt hier, aktuelle Forschung da: Vielleicht ist es ein Durchbruch! Doch wie ist das zu bewerten? Mit dem Golem-Newsletter AI Lab Report behaltet ihr den Überblick über die wichtigsten Entwicklungen. Der Newsletter ist kostenlos, ihr könnt ihn hier abonnieren.
- Anzeige Hier geht es zu Künstliche Intelligenz: Wissensverarbeitung bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.