• IT-Karriere:
  • Services:

Wissen ist Macht und Macht kann missbraucht werden

Von manchen dieser Anwendungen ist bislang nur Pseudo-Code veröffentlicht, nicht aber die kompletten Modelle oder Datensätze. Aber es fehlen einheitliche Regeln und Standards, ab wann wissenschaftliche Forschungsarbeiten so missbrauchsanfällig sind, dass ihre öffentliche Verbreitung graduell unterbunden werden sollte.

Stellenmarkt
  1. Anstalt für Kommunale Datenverarbeitung in Bayern (AKDB), verschiedene Standorte
  2. ARRI Media GmbH, München

Spätestens wenn Forschungen andeuten, dass eine superhumane allgemeine KI in greifbarer Nähe liegt, erhält das Konzept des "verbotenen Wissens" eine besondere Brisanz. Wenngleich umstritten, so hält zumindest ein nicht zu vernachlässigender Anteil an KI-Forschern die Entstehung einer solchen generellen KI für möglich. Verbunden damit sind Befürchtungen über existentielle Bedrohungen für die Menschheit. Auch wenn es sich hier aktuell noch um pure Spekulationen handelt, ist nicht ausgeschlossen, dass Restriktionen bei der Wissenserlangung und -verbreitung einmal eine Wichtigkeit erlangen, die aktuell noch nicht absehbar ist.

Das Dual-Use-Problem gibt es auch in der KI-Forschung

Wissen ist Macht, und Macht kann missbraucht werden. Ähnlich wie Wissen in Disziplinen wie beispielsweise der Kernphysik dazu genutzt werden kann, um Energieprobleme zu lösen, kann es auch zur Herstellung von Massenvernichtungswaffen eingesetzt werden. Dieses Problem des "Dual-Use" stellt sich in der KI-Forschung gleichermaßen. Vor diesem Hintergrund muss bedacht werden, dass es eine zunehmende Demokratisierung von KI-Tools und Datensätzen gibt, also Anwendungen zunehmend von geringer qualifizierten Nutzern eingesetzt werden können.

Bereits jetzt sind die Textgeneratoren Grover, Talk to Transformer oder Haim frei verfügbar, deren Modelle im Verdacht stehen, zur Automatisierung der Erstellung von Fake News missbraucht werden zu können. Auch eine Plattform zur Erzeugung von Fake Audios ist frei zugänglich. Aus Sicherheitsgründen wandelt sie allerdings Text lediglich in die Stimmlage des jeweiligen Nutzers um. Auch zirkuliert eine inzwischen nur noch über inoffizielle Quellen zu erlangende Software unter dem Namen Deepnude. Damit lassen sich Bilder von angezogenen Frauen in Nacktbilder verwandeln.

Für gefälschte Videos steht ebenfalls ein einschlägiges Programm zur freien Verfügung. Um Fake-Profile auf Social-Media-Plattformen betreiben zu können, lassen sich ferner Onlineangebote einsetzen, die mithilfe von Generative Adversarial Networks in Sekundenschnelle nahezu fotorealistisch aussehende Gesichtsabbildungen erzeugen. Auch Software zur Gesichts-, Text- oder Persönlichkeitsanalyse, zur Emotionserkennung und vieles mehr ist frei verfügbar.

Anwendungen, die erst in jüngster Zeit in der KI-Forschung entwickelt wurden, werden in Kürze in einfach zu bedienende Softwarelösungen verwandelt, die von jedermann verwendet werden können. Dieser Transfer von Forschungsergebnissen in die Öffentlichkeit wäre normalerweise einschränkungslos zu begrüßen. In bestimmten Fällen jedoch, wenn es um besonders missbrauchsanfällige Technologien geht, muss es Einschränkungen geben.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed
 Wie KI Freiheit, Wohlergehen oder Leben von Menschen gefährdetWie kann 'verbotenes Wissen' reguliert werden? 
  1.  
  2. 1
  3. 2
  4. 3
  5. 4
  6.  


Anzeige
Spiele-Angebote
  1. 5,29€
  2. 16,99€
  3. 5,29€

m9898 25. Apr 2020

Weißt du was ich mache, wenn ich versehentlich eine killer-AI bei mir auf dem PC starte...

m9898 25. Apr 2020

Welche Branche ist das denn?

Aki-San 24. Apr 2020

Das ist extremst naiv. Entwicklung findet statt, so oder so. Notfalls in einem Hinterhof...

Aki-San 24. Apr 2020

Wo Markt- und Nutzermanipulation mittels AI schon gang und gebe ist. Matchmaking auf...

lestard 22. Apr 2020

Ob das eine universelle KI auch so sieht?


Folgen Sie uns
       


Übersetzung mit DeepL - Tutorial

Wir zeigen im Video, wie die Windows-Version des Übersetzungsprogramms DeepL funktioniert.

Übersetzung mit DeepL - Tutorial Video aufrufen
Programm für IT-Jobeinstieg: Hoffen auf den Klebeeffekt
Programm für IT-Jobeinstieg
Hoffen auf den Klebeeffekt

Aktuell ist der Jobeinstieg für junge Ingenieure und Informatiker schwer. Um ihnen zu helfen, hat das Land Baden-Württemberg eine interessante Idee: Es macht sich selbst zur Zeitarbeitsfirma.
Ein Bericht von Peter Ilg

  1. Arbeitszeit Das Sechs-Stunden-Experiment bei Sipgate
  2. Neuorientierung im IT-Job Endlich mal machen!
  3. IT-Unternehmen Die richtige Software für ein Projekt finden

Weclapp-CTO Ertan Özdil: Wir dürfen nicht in Schönheit und Perfektion untergehen!
Weclapp-CTO Ertan Özdil
"Wir dürfen nicht in Schönheit und Perfektion untergehen!"

Der CTO von Weclapp träumt von smarter Software, die menschliches Eingreifen in der nächsten ERP-Generation reduziert. Deutschen Perfektionismus hält Ertan Özdil aber für gefährlich.
Ein Interview von Maja Hoock


    Fiat 500 als E-Auto im Test: Kleinstwagen mit großem Potenzial
    Fiat 500 als E-Auto im Test
    Kleinstwagen mit großem Potenzial

    Fiat hat einen neuen 500er entwickelt. Der Kleine fährt elektrisch - und zwar richtig gut.
    Ein Test von Peter Ilg

    1. Vierradlenkung Elektrischer GMC Hummer SUV fährt im Krabbengang seitwärts
    2. MG Cyberster MG B Roadster mit Lasergürtel und Union Jack
    3. Elektroauto E-Auto-Prämie übersteigt in 2021 schon Vorjahressumme

      •  /