• IT-Karriere:
  • Services:

Wie kann 'verbotenes Wissen' reguliert werden?

Häufig sind es nicht einzelne wissenschaftliche Aufsätze oder Erfindungen, die besonders missbrauchsanfällige Technologien hervorbringen. In der Regel entstehen sie durch die Dynamik des Zusammenspiels mehrerer aufeinander aufbauender Forschungsarbeiten. Dies verkompliziert die Frage, welche Restriktionen es bei der Verbreitung von Forschungsergebnissen geben sollte.

Stellenmarkt
  1. Melitta Business Service Center GmbH & Co. KG, Minden
  2. Volkswagen Vertriebsbetreuungsgesellschaft mbH, Wolfsburg, Berlin

Fest steht jedoch, dass in den vergangenen Jahren erstaunlich bedenkenlos Aufsätze und Code veröffentlicht worden sind, mit denen sprunghafte Innovationen bei verschiedenen besonders missbrauchsanfälligen Anwendungen möglich wurden. Während jedoch materielle Gefahrengüter wie etwa Waffen strengen Kontrollen unterliegen, gilt dies nur bedingt für Wissensgüter. Deren Verbreitung lässt sich deutlich schwerer kontrollieren.

Möglichkeiten der Regulierung

Dennoch gäbe es Möglichkeiten für die Regulierung von "verbotenem Wissen", die für den Bereich der KI-Forschung angewendet werden könnten. Zu denken wäre hier an die Einführung spezifischer rechtlicher Normen, an Registrierungspflichten für Forschungsarbeiten, an Sicherheitsrichtlinien beziehungsweise die Schaffung damit verbundener internationaler Standards, an risikoorientierte Publikationsrestriktionen bei wissenschaftlichen Zeitschriften, an Ethikkodizes oder zentralisierte Lizenzmodelle, anhand derer Zugriffskontrollen für bestimmte Anwendungen etabliert werden können.

Aber auch die bloße Risikoaufklärung oder "kollektive wissenschaftliche Ignoranz", wie es der Philosoph Seumas Miller ausdrückt, bei der Verfolgung bestimmter Forschungsfragen können zu den Maßnahmen zählen, die einen verantwortungsbewussteren Umgang mit missbrauchsanfälligen KI-Technologien fördern. Während in der IT-Sicherheitsforschung Regeln beziehungsweise mehr als zwanzig sogenannte Threat Intelligence Sharing Platforms zum sicheren Austausch sensibler Wissensbestände bestehen, fehlen ähnliche Strukturen für den breiten Bereich der KI-Forschung.

Ein Publikationsverbot ist der falsche Weg

Diese darf nicht allein aus der Perspektive des technischen Fortschritts gesehen werden. Forschungsarbeiten können, auch wenn dies von den beteiligten Wissenschaftlern nicht beabsichtigt ist, verheerende Auswirkungen auf ganze Gesellschaften haben. Diese lassen sich nur in seltenen Fällen auf die Veröffentlichung einzelner wissenschaftlicher Aufsätze zurückführen. Dennoch können aus der Dynamik der Verfolgung bestimmter Forschungsstränge Anwendungen entstehen, die ein besonders hohes Missbrauchs- und damit Schädigungspotenzial besitzen.

Um dieses Potenzial zu begrenzen, bedarf es veränderter Publikationsnormen in der KI-Forschung. Hierbei geht es nicht darum, die Verfolgung legitimer Forschungsfragen einzuschränken. Einschränkungen sollten sich lediglich auf die Art der Verbreitung von Wissensbeständen aus besonders gefährlichen Forschungsbereichen beziehen. Während der freie Zugang zu Forschungsergebnissen ein immens wichtiges gesellschaftliches Gut ist, muss gleichzeitig eine Risikoabwägung stattfinden. Diese darf nicht in einem plumpen Publikationsverbot enden.

Stattdessen sollten neue Wege zwischen den binären Extremen des Veröffentlichungsverbots einerseits und der sofortigen, vollständigen Veröffentlichung andererseits gefunden werden. Zu denken wäre an Differenzierungen hinsichtlich bestimmter Publika, mit denen Forschungsresultate geteilt werden. Oder an graduelle Veröffentlichungen zu verschiedenen Zeitpunkten. Oder an Abstufungen im Detailgrad von Veröffentlichungen, angefangen von bloßen Konzeptpapieren bis zur stufenweisen Publizierung von unterschiedlich umfangreichen Datensätzen oder Algorithmen.

Alles dies würde eine breite Kooperationsbereitschaft innerhalb der wissenschaftlichen Gemeinschaft erfordern, damit beispielsweise Reputationsverluste ausgeglichen werden können, die die Nichtveröffentlichung von Forschungsarbeiten mit sich bringen kann. Derlei Überlegungen stehen noch ganz am Anfang, ausgearbeitete Konzepte liegen nicht vor. Daher ist es umso wichtiger, dass verstärkt daran gearbeitet wird, KI-Forschung und die damit verbundenen Mechanismen der Veröffentlichung von Forschungsergebnissen zu modernisieren, um Schäden für die Gesellschaft abzuwenden.

Thilo Hagendorff ist Wissenschaftler am Exzellenzcluster Machine Learning der Universität Tübingen. Dort forscht er im Ethics & Philosophy Lab zu verschiedenen Themen der KI-Ethik. Ferner ist er Mitglied im BMBF-Projekt Forum Privatheit. Weitere Details zum Thema des Artikels finden sich in seinem jüngsten Paper. Mehr Informationen zu seiner Person und seinen Arbeiten finden sich auf seiner Webseite.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed
 Wissen ist Macht und Macht kann missbraucht werden
  1.  
  2. 1
  3. 2
  4. 3
  5. 4


Anzeige
Top-Angebote
  1. 1.099€ (Bestpreis)
  2. (u. a. Super Seducer 3 - Uncensored Edition für 10,79€, Total War: Rome - Remastered für 26...
  3. 399,99€
  4. 564,96€

m9898 25. Apr 2020

Weißt du was ich mache, wenn ich versehentlich eine killer-AI bei mir auf dem PC starte...

m9898 25. Apr 2020

Welche Branche ist das denn?

Aki-San 24. Apr 2020

Das ist extremst naiv. Entwicklung findet statt, so oder so. Notfalls in einem Hinterhof...

Aki-San 24. Apr 2020

Wo Markt- und Nutzermanipulation mittels AI schon gang und gebe ist. Matchmaking auf...

lestard 22. Apr 2020

Ob das eine universelle KI auch so sieht?


Folgen Sie uns
       


Gocycle GX - Test

Das Gocycle GX hat einen recht speziellen Pedelec-Sound, aber dafür viele Vorteile.

Gocycle GX - Test Video aufrufen
Programm für IT-Jobeinstieg: Hoffen auf den Klebeeffekt
Programm für IT-Jobeinstieg
Hoffen auf den Klebeeffekt

Aktuell ist der Jobeinstieg für junge Ingenieure und Informatiker schwer. Um ihnen zu helfen, hat das Land Baden-Württemberg eine interessante Idee: Es macht sich selbst zur Zeitarbeitsfirma.
Ein Bericht von Peter Ilg

  1. Arbeitszeit Das Sechs-Stunden-Experiment bei Sipgate
  2. Neuorientierung im IT-Job Endlich mal machen!
  3. IT-Unternehmen Die richtige Software für ein Projekt finden

Weclapp-CTO Ertan Özdil: Wir dürfen nicht in Schönheit und Perfektion untergehen!
Weclapp-CTO Ertan Özdil
"Wir dürfen nicht in Schönheit und Perfektion untergehen!"

Der CTO von Weclapp träumt von smarter Software, die menschliches Eingreifen in der nächsten ERP-Generation reduziert. Deutschen Perfektionismus hält Ertan Özdil aber für gefährlich.
Ein Interview von Maja Hoock


    Fiat 500 als E-Auto im Test: Kleinstwagen mit großem Potenzial
    Fiat 500 als E-Auto im Test
    Kleinstwagen mit großem Potenzial

    Fiat hat einen neuen 500er entwickelt. Der Kleine fährt elektrisch - und zwar richtig gut.
    Ein Test von Peter Ilg

    1. Vierradlenkung Elektrischer GMC Hummer SUV fährt im Krabbengang seitwärts
    2. MG Cyberster MG B Roadster mit Lasergürtel und Union Jack
    3. Elektroauto E-Auto-Prämie übersteigt in 2021 schon Vorjahressumme

      •  /