• IT-Karriere:
  • Services:

Wie kann 'verbotenes Wissen' reguliert werden?

Häufig sind es nicht einzelne wissenschaftliche Aufsätze oder Erfindungen, die besonders missbrauchsanfällige Technologien hervorbringen. In der Regel entstehen sie durch die Dynamik des Zusammenspiels mehrerer aufeinander aufbauender Forschungsarbeiten. Dies verkompliziert die Frage, welche Restriktionen es bei der Verbreitung von Forschungsergebnissen geben sollte.

Stellenmarkt
  1. VIVAVIS AG, Koblenz
  2. Webasto Group, Stockdorf bei München

Fest steht jedoch, dass in den vergangenen Jahren erstaunlich bedenkenlos Aufsätze und Code veröffentlicht worden sind, mit denen sprunghafte Innovationen bei verschiedenen besonders missbrauchsanfälligen Anwendungen möglich wurden. Während jedoch materielle Gefahrengüter wie etwa Waffen strengen Kontrollen unterliegen, gilt dies nur bedingt für Wissensgüter. Deren Verbreitung lässt sich deutlich schwerer kontrollieren.

Möglichkeiten der Regulierung

Dennoch gäbe es Möglichkeiten für die Regulierung von "verbotenem Wissen", die für den Bereich der KI-Forschung angewendet werden könnten. Zu denken wäre hier an die Einführung spezifischer rechtlicher Normen, an Registrierungspflichten für Forschungsarbeiten, an Sicherheitsrichtlinien beziehungsweise die Schaffung damit verbundener internationaler Standards, an risikoorientierte Publikationsrestriktionen bei wissenschaftlichen Zeitschriften, an Ethikkodizes oder zentralisierte Lizenzmodelle, anhand derer Zugriffskontrollen für bestimmte Anwendungen etabliert werden können.

Aber auch die bloße Risikoaufklärung oder "kollektive wissenschaftliche Ignoranz", wie es der Philosoph Seumas Miller ausdrückt, bei der Verfolgung bestimmter Forschungsfragen können zu den Maßnahmen zählen, die einen verantwortungsbewussteren Umgang mit missbrauchsanfälligen KI-Technologien fördern. Während in der IT-Sicherheitsforschung Regeln beziehungsweise mehr als zwanzig sogenannte Threat Intelligence Sharing Platforms zum sicheren Austausch sensibler Wissensbestände bestehen, fehlen ähnliche Strukturen für den breiten Bereich der KI-Forschung.

Ein Publikationsverbot ist der falsche Weg

Diese darf nicht allein aus der Perspektive des technischen Fortschritts gesehen werden. Forschungsarbeiten können, auch wenn dies von den beteiligten Wissenschaftlern nicht beabsichtigt ist, verheerende Auswirkungen auf ganze Gesellschaften haben. Diese lassen sich nur in seltenen Fällen auf die Veröffentlichung einzelner wissenschaftlicher Aufsätze zurückführen. Dennoch können aus der Dynamik der Verfolgung bestimmter Forschungsstränge Anwendungen entstehen, die ein besonders hohes Missbrauchs- und damit Schädigungspotenzial besitzen.

Um dieses Potenzial zu begrenzen, bedarf es veränderter Publikationsnormen in der KI-Forschung. Hierbei geht es nicht darum, die Verfolgung legitimer Forschungsfragen einzuschränken. Einschränkungen sollten sich lediglich auf die Art der Verbreitung von Wissensbeständen aus besonders gefährlichen Forschungsbereichen beziehen. Während der freie Zugang zu Forschungsergebnissen ein immens wichtiges gesellschaftliches Gut ist, muss gleichzeitig eine Risikoabwägung stattfinden. Diese darf nicht in einem plumpen Publikationsverbot enden.

Stattdessen sollten neue Wege zwischen den binären Extremen des Veröffentlichungsverbots einerseits und der sofortigen, vollständigen Veröffentlichung andererseits gefunden werden. Zu denken wäre an Differenzierungen hinsichtlich bestimmter Publika, mit denen Forschungsresultate geteilt werden. Oder an graduelle Veröffentlichungen zu verschiedenen Zeitpunkten. Oder an Abstufungen im Detailgrad von Veröffentlichungen, angefangen von bloßen Konzeptpapieren bis zur stufenweisen Publizierung von unterschiedlich umfangreichen Datensätzen oder Algorithmen.

Alles dies würde eine breite Kooperationsbereitschaft innerhalb der wissenschaftlichen Gemeinschaft erfordern, damit beispielsweise Reputationsverluste ausgeglichen werden können, die die Nichtveröffentlichung von Forschungsarbeiten mit sich bringen kann. Derlei Überlegungen stehen noch ganz am Anfang, ausgearbeitete Konzepte liegen nicht vor. Daher ist es umso wichtiger, dass verstärkt daran gearbeitet wird, KI-Forschung und die damit verbundenen Mechanismen der Veröffentlichung von Forschungsergebnissen zu modernisieren, um Schäden für die Gesellschaft abzuwenden.

Thilo Hagendorff ist Wissenschaftler am Exzellenzcluster Machine Learning der Universität Tübingen. Dort forscht er im Ethics & Philosophy Lab zu verschiedenen Themen der KI-Ethik. Ferner ist er Mitglied im BMBF-Projekt Forum Privatheit. Weitere Details zum Thema des Artikels finden sich in seinem jüngsten Paper. Mehr Informationen zu seiner Person und seinen Arbeiten finden sich auf seiner Webseite.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed
 Wissen ist Macht und Macht kann missbraucht werden
  1.  
  2. 1
  3. 2
  4. 3
  5. 4


Anzeige
Hardware-Angebote
  1. (reduzierte Überstände, Restposten & Co.)

m9898 25. Apr 2020

Weißt du was ich mache, wenn ich versehentlich eine killer-AI bei mir auf dem PC starte...

m9898 25. Apr 2020

Welche Branche ist das denn?

Aki-San 24. Apr 2020

Das ist extremst naiv. Entwicklung findet statt, so oder so. Notfalls in einem Hinterhof...

Aki-San 24. Apr 2020

Wo Markt- und Nutzermanipulation mittels AI schon gang und gebe ist. Matchmaking auf...

lestard 22. Apr 2020

Ob das eine universelle KI auch so sieht?


Folgen Sie uns
       


IT-Freelancer: Der kürzeste Pfad zum nächsten Projekt
IT-Freelancer
Der kürzeste Pfad zum nächsten Projekt

Die Nachfrage nach IT-Freelancern ist groß - die Konkurrenz aber auch. Der nächste Auftrag kommt meist aus dem eigenen Netzwerk oder von Vermittlern. Doch wie findet man den passenden Mix?
Ein Bericht von Manuel Heckel

  1. Selbstständiger Sysadmin "Jetzt fehlen nur noch die Aufträge"

Prozessor: Wie arm ARM mit Nvidia dran ist
Prozessor
Wie arm ARM mit Nvidia dran ist

Von positiv bis hin zum Desaster reichen die Stimmen zum Deal: Was der Kauf von ARM durch Nvidia bedeuten könnte.
Eine Analyse von Marc Sauter

  1. Prozessoren Nvidia kauft ARM für 40 Milliarden US-Dollar
  2. Chipdesigner Nvidia bietet mehr als 40 Milliarden Dollar für ARM
  3. Softbank-Tochter Nvidia hat Interesse an ARM

Burnout im IT-Job: Mit den Haien schwimmen
Burnout im IT-Job
Mit den Haien schwimmen

Unter Druck bricht ein Webentwickler zusammen - zerrieben von zu eng getakteten Projekten. Obwohl die IT-Branche psychische Belastungen als Problem erkannt hat, lässt sie Beschäftigte oft allein.
Eine Reportage von Miriam Binner


      •  /