• IT-Karriere:
  • Services:

Wissen ist Macht und Macht kann missbraucht werden

Von manchen dieser Anwendungen ist bislang nur Pseudo-Code veröffentlicht, nicht aber die kompletten Modelle oder Datensätze. Aber es fehlen einheitliche Regeln und Standards, ab wann wissenschaftliche Forschungsarbeiten so missbrauchsanfällig sind, dass ihre öffentliche Verbreitung graduell unterbunden werden sollte.

Stellenmarkt
  1. Möbel Martin GmbH & Co. KG, Saarbrücken
  2. ATLAS TITAN Mitte GmbH, Wuppertal

Spätestens wenn Forschungen andeuten, dass eine superhumane allgemeine KI in greifbarer Nähe liegt, erhält das Konzept des "verbotenen Wissens" eine besondere Brisanz. Wenngleich umstritten, so hält zumindest ein nicht zu vernachlässigender Anteil an KI-Forschern die Entstehung einer solchen generellen KI für möglich. Verbunden damit sind Befürchtungen über existentielle Bedrohungen für die Menschheit. Auch wenn es sich hier aktuell noch um pure Spekulationen handelt, ist nicht ausgeschlossen, dass Restriktionen bei der Wissenserlangung und -verbreitung einmal eine Wichtigkeit erlangen, die aktuell noch nicht absehbar ist.

Das Dual-Use-Problem gibt es auch in der KI-Forschung

Wissen ist Macht, und Macht kann missbraucht werden. Ähnlich wie Wissen in Disziplinen wie beispielsweise der Kernphysik dazu genutzt werden kann, um Energieprobleme zu lösen, kann es auch zur Herstellung von Massenvernichtungswaffen eingesetzt werden. Dieses Problem des "Dual-Use" stellt sich in der KI-Forschung gleichermaßen. Vor diesem Hintergrund muss bedacht werden, dass es eine zunehmende Demokratisierung von KI-Tools und Datensätzen gibt, also Anwendungen zunehmend von geringer qualifizierten Nutzern eingesetzt werden können.

Bereits jetzt sind die Textgeneratoren Grover, Talk to Transformer oder Haim frei verfügbar, deren Modelle im Verdacht stehen, zur Automatisierung der Erstellung von Fake News missbraucht werden zu können. Auch eine Plattform zur Erzeugung von Fake Audios ist frei zugänglich. Aus Sicherheitsgründen wandelt sie allerdings Text lediglich in die Stimmlage des jeweiligen Nutzers um. Auch zirkuliert eine inzwischen nur noch über inoffizielle Quellen zu erlangende Software unter dem Namen Deepnude. Damit lassen sich Bilder von angezogenen Frauen in Nacktbilder verwandeln.

Für gefälschte Videos steht ebenfalls ein einschlägiges Programm zur freien Verfügung. Um Fake-Profile auf Social-Media-Plattformen betreiben zu können, lassen sich ferner Onlineangebote einsetzen, die mithilfe von Generative Adversarial Networks in Sekundenschnelle nahezu fotorealistisch aussehende Gesichtsabbildungen erzeugen. Auch Software zur Gesichts-, Text- oder Persönlichkeitsanalyse, zur Emotionserkennung und vieles mehr ist frei verfügbar.

Anwendungen, die erst in jüngster Zeit in der KI-Forschung entwickelt wurden, werden in Kürze in einfach zu bedienende Softwarelösungen verwandelt, die von jedermann verwendet werden können. Dieser Transfer von Forschungsergebnissen in die Öffentlichkeit wäre normalerweise einschränkungslos zu begrüßen. In bestimmten Fällen jedoch, wenn es um besonders missbrauchsanfällige Technologien geht, muss es Einschränkungen geben.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed
 Wie KI Freiheit, Wohlergehen oder Leben von Menschen gefährdetWie kann 'verbotenes Wissen' reguliert werden? 
  1.  
  2. 1
  3. 2
  4. 3
  5. 4
  6.  


Anzeige
Spiele-Angebote
  1. 20,49€
  2. 32,99€
  3. 77,97€ (Release 19.11.)

m9898 25. Apr 2020

Weißt du was ich mache, wenn ich versehentlich eine killer-AI bei mir auf dem PC starte...

m9898 25. Apr 2020

Welche Branche ist das denn?

Aki-San 24. Apr 2020

Das ist extremst naiv. Entwicklung findet statt, so oder so. Notfalls in einem Hinterhof...

Aki-San 24. Apr 2020

Wo Markt- und Nutzermanipulation mittels AI schon gang und gebe ist. Matchmaking auf...

lestard 22. Apr 2020

Ob das eine universelle KI auch so sieht?


Folgen Sie uns
       


    •  /