Die praktischen Probleme: Was GPT-7 daran hindern würde, zum Skynet zu werden
Abseits dieser technischen Probleme kann man auch praktisch überlegen, was ein GPT-7 daran hindern würde, zur Supermacht zu werden. Böse KI bräuchte zumindest einmal die Möglichkeit, sich zu replizieren und weiterzuentwickeln. Im Falle von Skynet(öffnet im neuen Fenster)), einem bösen KI-Bot, der in den Terminator-Filmen die maschinengemachte Apokalypse einleitet, verteilt sie sich bereits heimlich auf der Welt in alle Systeme und ist deshalb nicht mehr aufzuhalten.
Das wäre mit den aktuellen LLMs nur schwierig möglich, denn sie brauchen nicht nur massiv viel Rechenleistung, um zumindest in unbeschnittener Form überhaupt ein einziges Token auszuspucken, sondern auch Speicherplatz. Die Gewichte eines aktuellen LLMs liegen bei mehreren Terabyte. Zumindest die meisten Arbeits-PCs, geschweige denn smarte Toaster und ähnlicher Tech-Dummfug, wären hier kein möglicher Zufluchtsort.
Allerdings lassen sich Rechenleistung und Speicherplatz bequem mit geklauten Kreditkartendaten bei einem Anbieter buchen oder der Anbieter ließe sich kurzerhand hacken. Und es könnte durchaus sein, dass eine Instanz von ChatGPT nicht nur bei Huggingface einbricht(öffnet im neuen Fenster), sondern direkt eine Kopie bei einem Inferenz-Anbieter lagert.
Für eine (fundamentale) Selbstverbesserung bräuchte es auch die Möglichkeit für KI, sich zu trainieren. Denn kontinuierliches Lernen außerhalb eines gegebenen Textkontexts können aktuelle LLMs nicht. Ein derartiges Training benötigt solche Unsummen an Rechenleistung, dass es kaum zu verheimlichen wäre, geschweige denn so rapide stattfinden würde, dass man nicht den Stecker ziehen könnte.
Selbst ohne ein Skynet-artiges Bedrohungsszenario kann und ist KI gefährlich – aber anders, als die Silicon-Valley-Tech-Bros uns weismachen wollen.
Reale Bedrohung ohne AGI
Themen wie Cybersecurity, Fake News oder Wahlbeeinflussungen durch Bots haben das Potenzial, zu heftigen Problemen zu führen. Plakativ gesprochen: Menschen fallen heute schon auf Scam-Anrufe von angeblichen Polizisten herein, die ihnen erklären, dass ihre Liebsten nur durch Zahlung einer Kaution vor dem Gefängnis bewahrt werden könnten. Wie entwickeln sich solche Betrügereien, wenn mit einem kurzen Schnipsel einer Stimme eine täuschend echte Kopie des Enkelsohns oder des Bankberaters am Telefon ist?
Solche bösartigen Einsatzzwecke müssen nicht einmal bewusst verwendet werden, denn Sprachmodelle leiden unter zahlreichen Problemen wie einer Persönlichkeitsverschiebung(öffnet im neuen Fenster), wo das mühsam im Training versteckte Bösartige im Modell doch wieder zum Vorschein kommt. Mit Pech werden Modelle dadurch vom hilfsbereiten Assistenten zum 4chan-Nutzer und legen ihrem Benutzer ein Bad mit dem Toaster nahe.
Die Bedrohungen durch KI sind außerdem vor allem gesellschaftlich real: Die Wertschöpfungskette verlagert sich zunehmend, weg von Menschen, die etwa Websites bauen, hin zu LLMs. Wir müssen hier als Gesellschaft überlegen, wie mit den Umwälzungen umgegangen wird, ähnlich wie bei der industriellen Revolution.
Der Arbeitsmarkt jedenfalls reagiert schon stark auf aktuelle KI-Entwicklungen. Ebenfalls ist die gefühlte Produktivitätssteigerung in einzelnen Feldern bereits enorm, mit massivem Potenzial für weitere Felder. Das kann ausdrücklich auch gut sein, wenn diese Entwicklung zum Wohle aller stattfindet.
Im Marx'schen Sinne könnte man von KI auch als Produktionsmitteln sprechen, deren Besitz und Monopolisierung enorme Probleme mit sich bringen kann, oder enormen Reichtum, wenn man der Besitzer ist.
- Anzeige Hier geht es zu Künstliche Intelligenz: Wissensverarbeitung bei Amazon Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.