Abo
  • IT-Karriere:

Die Hemmschwelle sinkt

Golem.de: Was spricht für solche Systeme?

Stellenmarkt
  1. acarda GmbH, Frankfurt am Main
  2. Duisburger Versorgungs- und Verkehrsgesellschaft mbH, Duisburg

Bendel: Dass sie sehr präzise agieren. Man kann mit der Zeit autonome Waffensysteme mit KI heranzüchten, die Ziele mehr oder weniger eindeutig identifizieren und dann recht präzise eliminieren. Dabei kann der Kollateralschaden gering gehalten werden.

Daran forscht Arkin: Er will Kampfsysteme oder Kampfroboter mit künstlichem Gewissen schaffen, um Kollateralschaden zu vermeiden. Das Pentagon hat vor einiger Zeit Geld für Maschinenethik in diesem militärischen Kontext bereitgestellt. Das hat mich überrascht. Es kommt nicht oft vor, dass eine Einrichtung für das Forschungsgebiet Maschinenethik relativ viel Geld zur Verfügung stellt.

Ein anderes Argument ist die ökonomische Kriegsführung. Das heißt, man kann nach bestimmten Investitionen günstig Krieg führen. Eigene Soldaten werden geschont, was nicht nur, aber auch ökonomische Vorteile hat. Man schickt also nicht die eigenen Söhne und Töchter und auch nicht seine Angestellten und Arbeiter in den Krieg.

Arkin und andere erwähnen auch immer wieder das Argument, Maschinen würden nicht plündern, brandschatzen, vergewaltigen. Das ist auf den ersten Blick ein nettes Argument. Aber das müsste man hinterfragen.

Golem.de: Was spricht gegen autonome Kampfmaschinen?

Bendel: Möglicherweise verletzt das Delegieren der Tötungsentscheidung an Maschinen grundlegende Menschenrechte, zum Beispiel die Menschenwürde. Die ist allerdings im Krieg auf irgendeine Weise immer verletzt.

Die Schwelle für die Entscheidung, eine militärische Auseinandersetzung zu führen, könnte herabgesetzt werden. Wenn ich die Möglichkeit habe, auf Knopfdruck zum Beispiel Drohnenschwärme loszuschicken, dann ist die Schwelle relativ niedrig.

Zur Aussage, dass Roboter nicht plündern, brandschatzen und vergewaltigen, habe ich ein Gegenargument: Maschinen haben zwar kein eigenes Interesse daran. Aber man programmiert ihnen bestimmte Ziele ein, und natürlich könnte man ihnen auch das einprogrammieren. Das wäre besonders perfide und brutal.

Und schließlich: Ich bin vor zwei Jahren im Silicon Valley dem Überwachungsroboter K5 begegnet. Wenn man vor ihm steht, versucht man, nicht verdächtig zu wirken. Das möchte ich gern übertragen: Wenn autonome Kampfroboter über Landstriche ziehen, fragen sich Zehntausende Menschen: Was dürfen wir jetzt nicht tun? Was hat die Maschine jetzt gelernt? Was hat sie vor? Ich kann mir vorstellen, dass das großer Psychoterror ist. Der Mensch muss sich an die Logik der Maschinen anpassen.

Golem.de: Was ist Ihre Position?

Bendel: Ich bin für ein Verbot, ähnlich wie bei Chemiewaffen. Mir erscheinen die Argumente dagegen sehr gewichtig, vor allem, dass die Hemmschwelle für Kriege herabgesetzt wird. Das heißt, wer die finanziellen Möglichkeiten hat, kann dann über Länder herfallen, mittels Knopfdruck.

Außerdem sollte man bestimmte Entscheidungen nicht an Maschinen delegieren. Wenn Menschen andere Menschen auslöschen wollen, ist das eine große Verantwortung, eine große Bürde. Das zu delegieren, halte ich für sehr problematisch.

Ich habe mit meinen Studenten in den letzten Jahren oft über autonome Autos diskutiert und habe sie gefragt, ob sie diesen in der Zukunft eine Entscheidung über Leben und Tod von Menschen überlassen wollten. Ich hatte eine ausgewogenes Ergebnis erwartet. Aber es war relativ eindeutig: Sie sagten, sie wollten das. Das hat mich beunruhigt.

Golem.de: Es gibt heute schon Waffen, die selbstständig ihre Ziele suchen. Was ist damit?

Bendel: Da gibt es in der Tat einiges: Es gibt Lenkwaffen. Es gibt an der Grenze zwischen Nordkorea und Südkorea Systeme, die automatisch Ziele identifizieren und automatisch feuern. Es gibt auch Minen, die Personen unterscheiden können. Es gibt mehr, als man denkt, und bereits diese Waffen könnten unter ein Verbot fallen.

 Oliver Bendel: "Es gibt gute Argumente für und gegen Kampfroboter"Roboter sollen retten 
  1.  
  2. 1
  3. 2
  4. 3
  5.  


Anzeige
Spiele-Angebote
  1. 2,99€
  2. (-79%) 12,50€
  3. (-91%) 1,10€
  4. 24,99€

gfa-g 12. Mai 2018

Fühle mich ähnlich wenn ich bewaffnete Polizisten oder Soldaten sehe. Kampfroboter wäre...

gfa-g 12. Mai 2018

Man merkt dass du allgemein zu den Privilegierten in Deutschland zählst und daher nur...

gfa-g 12. Mai 2018

Wie die Verteidigung in der Praxis aussieht kann man ja sehen. Viel tut der Staat da...

ahoihoi 07. Mai 2018

https://www.youtube.com/watch?v=BUf_8jyxbiM Ich glaube MGS4 behält Recht und Fallout...

Bouncy 07. Mai 2018

Wir heißt wir, du und ich. Ja, du. Wir beuten aus und deswegen geht es uns super, und...


Folgen Sie uns
       


Raspberry Pi 4B - Test

Der Raspberry Pi kann endlich zur Konkurrenz aufschließen, aber richtig glücklich werden wir mit dem neuem Pi-Modell trotz bemerkenswerter Merkmale nicht.

Raspberry Pi 4B - Test Video aufrufen
Harmony OS: Die große Luftnummer von Huawei
Harmony OS
Die große Luftnummer von Huawei

Mit viel Medienaufmerksamkeit und großen Versprechungen hat Huawei sein eigenes Betriebssystem Harmony OS vorgestellt. Bei einer näheren Betrachtung bleibt von dem großen Wurf allerdings kaum etwas übrig.
Ein IMHO von Sebastian Grüner


    Arbeit: Hilfe für frustrierte ITler
    Arbeit
    Hilfe für frustrierte ITler

    Viele ITler sind frustriert, weil ihre Führungskraft nichts vom Fach versteht und sie mit Ideen gegen Wände laufen. Doch nicht immer ist an der Situation nur die Führungskraft schuld. Denn oft verkaufen die ITler ihre Ideen einfach nicht gut genug.
    Von Robert Meyer

    1. IT-Forensikerin Beweise sichern im Faradayschen Käfig
    2. Homeoffice Wenn der Arbeitsplatz so anonym ist wie das Internet selbst
    3. Bundesagentur für Arbeit Informatikjobs bleiben 132 Tage unbesetzt

    Google Maps: Karten brauchen Menschen statt Maschinen
    Google Maps
    Karten brauchen Menschen statt Maschinen

    Wenn Karten nicht mehr von Menschen, sondern allein von Maschinen erstellt werden, erfinden diese U-Bahn-Linien, Hochhäuser im Nationalpark und unmögliche Routen. Ein kurze Liste zu den Grenzen der Automatisierung.
    Von Sebastian Grüner

    1. Kartendienst Google bringt AR-Navigation und Reiseinformationen in Maps
    2. Maps Duckduckgo mit Kartendienst von Apple
    3. Google Maps zeigt Bikesharing in Berlin, Hamburg, Wien und Zürich

      •  /