• IT-Karriere:
  • Services:

Künstliche Intelligenz: Wann ist Forschung zu gefährlich für die Öffentlichkeit?

Wissenschaftliche Forschung kann unabsehbar fatale Folgen für ganze Gesellschaften haben - gerade im Bereich der KI. Der Umgang mit solchen Ergebnissen ist nicht geregelt: Höchste Zeit, das zu ändern.

Ein Essay von Thilo Hagendorff veröffentlicht am
KI kann Freiheit, Wohlergehen oder Leben von Menschen gefährden.
KI kann Freiheit, Wohlergehen oder Leben von Menschen gefährden. (Bild: Martin Wolf/Golem.de)

Was vor einigen Jahren noch als Science-Fiction abgetan werden konnte, macht die KI-Forschung heute wahr. KI-gestützte Programme schließen aus Profilbildern von Personen auf deren sexuelle Orientierung, erstellen täuschend echte Deep Fakes, verwandeln Text in gesprochene Sprache realer Personen, stellen psychologische Profile basierend auf wenigen Datenspuren zusammen, beeinflussen das Verhalten ganzer Wählerschichten, finden automatisiert Schwachstellen in Software, sagen den Todeszeitpunkt von Patienten voraus und vieles mehr. Das Gefahrenpotenzial solcher Anwendungen ist offensichtlich.

Dennoch unterliegt die Forschung, die zur Entwicklung solcher Anwendungen führt, keinen Restriktionen bei der Veröffentlichung von Forschungsergebnissen. Stattdessen befürwortet die wissenschaftliche Community in der KI-Forschung Open Access, also den freien Zugang zu Forschungsergebnissen. So positiv dies zu bewerten ist und so wichtig die freie Verfügbarkeit von wissenschaftlichen Erkenntnissen für die Gesellschaft ist, so gefährlich ist das Fehlen von Publikationsrestriktionen in bestimmten Bereichen. Um das zu erklären, muss man etwas ausholen.

Verbotenes Wissen

Als "verbotenes Wissen" werden Forschungsresultate bezeichnet, die zu heikel, zu gefährlich oder zu missbrauchsanfällig sind, um allgemein zugänglich gemacht oder öffentlich verbreitet zu werden. "Verbotenes Wissen" ist wesentlicher Bestandteil von wissenschaftlichen Disziplinen wie der Nuklearphysik, der synthetischen Biologie oder der IT-Sicherheitsforschung.

Dementsprechend gehören ausgefeilte Regelwerke zum Umgang mit gefährlichen Wissensbeständen fest zu diesen Disziplinen. Kernphysiker müssen verhindern, dass Wissen, das für die Herstellung von Massenvernichtungswaffen nützlich sein kann, in die falschen Hände gerät. Biologen tun das Gleiche im Hinblick etwa auf Wissen über die Synthese von Viren. Sicherheitsforscher, die kritische Sicherheitslücken entdecken, können auf einen ganzen Apparat an sogenannten Information Sharing Rules zurückgreifen, die sicherstellen sollen, dass die Informationen nur zwischen vertrauenswürdigen Akteuren zirkulieren.

Gefahrenabwehr versus Einschränkung

Stellenmarkt
  1. Madsack PersonalManagement GmbH, Hannover
  2. betzemeier automotive software GmbH & Co. KG, Minden

Ziel all dieser Maßnahmen ist es, Gefahren für Individuen, Organisationen oder ganze Gesellschaften abzuwenden. Gleichzeitig stehen diese Maßnahmen jedoch im Widerspruch zur Idee des freien Zugangs zu Forschungsergebnissen.

Begründet wird die Wichtigkeit dieses freien Zugangs unter anderem damit, dass nur so Forschungsarbeiten repliziert oder in der wissenschaftlichen Community kritisch diskutiert und weiterentwickelt werden könnten. Nicht zuletzt deshalb hat sich in der KI-Forschung eine starke Mentalität etabliert, den offenen Zugang zu Forschungsarbeiten für richtig und wünschenswert zu halten.

Neben der Schilderung von Forschungsergebnissen teilen Wissenschaftlerinnen und Wissenschaftler Details über ihre KI-Modelle oder gar den gesamten Quellcode auf Plattformen wie Github, Gitlab oder Sourceforge. Diese Entwicklung ist zweifelsohne positiv. Jedoch darf nicht aus den Augen verloren werden, dass KI-Forschung hochgefährliches Wissen hervorbringen kann.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed
Wie KI Freiheit, Wohlergehen oder Leben von Menschen gefährdet 
  1. 1
  2. 2
  3. 3
  4. 4
  5.  


Anzeige
Mobile-Angebote
  1. 499,90€
  2. 569€ (Bestpreis!)
  3. 206,10€ (mit Rabattcode "PFIFFIGER" - Bestpreis!)

m9898 25. Apr 2020

Weißt du was ich mache, wenn ich versehentlich eine killer-AI bei mir auf dem PC starte...

m9898 25. Apr 2020

Welche Branche ist das denn?

Aki-San 24. Apr 2020

Das ist extremst naiv. Entwicklung findet statt, so oder so. Notfalls in einem Hinterhof...

Aki-San 24. Apr 2020

Wo Markt- und Nutzermanipulation mittels AI schon gang und gebe ist. Matchmaking auf...

lestard 22. Apr 2020

Ob das eine universelle KI auch so sieht?


Folgen Sie uns
       


Watch Dogs Legion - Fazit

Mit Legion liefert Ubisoft das bisher mit Abstand beste Watch Dogs ab.

Watch Dogs Legion - Fazit Video aufrufen
Made in USA: Deutsche Huawei-Gegner schweigen zu Juniper-Hintertüren
Made in USA
Deutsche Huawei-Gegner schweigen zu Juniper-Hintertüren

Zu unbequemen Fragen schweigen die Transatlantiker Manuel Höferlin, Falko Mohrs, Metin Hakverdi, Norbert Röttgen und Friedrich Merz. Das wirkt unredlich.
Eine Recherche von Achim Sawall

  1. Sandworm Hacker nutzen alte Exim-Sicherheitslücke aus

RCEP: Warum China plötzlich auf Freihandel setzt
RCEP
Warum China plötzlich auf Freihandel setzt

China und andere wichtige asiatische Herstellerländer von Elektronikprodukten haben ein Freihandelsabkommen geschlossen. Dessen Bedeutung geht weit über rein wirtschaftliche Fragen hinaus.
Eine Analyse von Werner Pluta

  1. Berufungsverfahren in weiter Ferne Tesla wirbt weiter mit Autopilot
  2. Warntag BBK prüft Einführung des Cell Broadcast neben Warn-Apps
  3. Bundesverkehrsministerium Keine Abstriche beim geplanten Universaldienst

No One Lives Forever: Ein Retrogamer stirbt nie
No One Lives Forever
Ein Retrogamer stirbt nie

Kompatibilitätsprobleme und schlimme Sprachausgabe - egal. Golem.de hat den 20 Jahre alten Shooter-Klassiker No One Lives Forever trotzdem neu gespielt.
Von Benedikt Plass-Fleßenkämper

  1. Heimcomputer Retro Games plant Amiga-500-Nachbau
  2. Klassische Spielkonzepte Retro, brandneu
  3. Gaming-Handheld Analogue Pocket erscheint erst 2021

    •  /