KI: Musk und andere fordern Verbot von autonomen Kampfrobotern

Wer weiß besser, was Roboter anrichten können, als Robotiker? Über 100 Unternehmen aus der Roboter- und KI-Branche fordern in einem offenen Brief an die Vereinten Nationen ein Verbot autonomer Waffensysteme.

Artikel veröffentlicht am ,
Eine Predator-Drohne wird mit einer Hellfire-Rakete bewaffnet (Symbolbild): Drohnen werden heute von Menschen gesteuert
Eine Predator-Drohne wird mit einer Hellfire-Rakete bewaffnet (Symbolbild): Drohnen werden heute von Menschen gesteuert (Bild: DoD)

Keine intelligenten Kampfroboter! Eine Initiative aus hochrangigen Vertretern aus der Robotik- und Technologiebranche hat ein Verbot von Kampfrobotern gefordert, die von Künstlicher Intelligenz (KI) gesteuert werden. Zu den prominentesten Unterzeichnern gehören Elon Musk, Chef des Raumfahrtunternehmen SpaceX und des Elektroautoherstellers Tesla, und Deepmind-Gründer Mustafa Suleyman.

Stellenmarkt
  1. Softwareentwickler (m/w/d) C# Healthcare
    MEIERHOFER AG, München, Berlin, Leipzig, Passau (Home-Office)
  2. Softwareentwickler (m/w/d) Full Stack
    Captana GmbH, Ettenheim
Detailsuche

"Tödliche autonome Waffen drohen die dritte Revolution in der Kriegsführung zu werden", heißt es in dem Aufruf. Wenn Waffen, die sich selbst steuern, einmal verfügbar seien, dann würden Kriege deutlich größer und schneller, als Menschen es begreifen könnten. Sie könnten von Terroristen oder Despoten gegen Zivilisten eingesetzt werden. Schließlich könnten solche Waffen auch gehackt und auf unerwünschte Weise genutzt werden. "Wir haben nicht viel Zeit zum Handeln. Wenn diese Büchse der Pandora erst einmal geöffnet ist, wird sie nur schwer wieder zu schließen sein."

Roboter entscheiden über Leben und Tod

Gemeint sind dabei Drohnen, Panzer und Maschinengewehre, die von einer KI gesteuert werden und die selbstständig Ziele auswählen und bekämpfen. Bisher fliegen Drohnen zwar automatisiert. Ein Angriff wird aber von Menschen gesteuert.

Der Offene Brief ist an die Conference of the Convention on Certain Conventional Weapons (CCW) der Vereinten Nationen gerichtet. Veröffentlicht ist er auf der Website des Future of Life Institute (FLI). Das FLI hatte vor zwei Jahren schon einmal die Ächtung solcher Waffensysteme gefordert.

Robotiker sehen sich in der Verantwortung

Golem Akademie
  1. IT-Fachseminare der Golem Akademie
    Live-Workshops zu Schlüsselqualifikationen
  2. 1:1-Videocoaching mit Golem Shifoo
    Berufliche Herausforderungen meistern
  3. Online-Sprachkurse mit Golem & Gymglish
    Kurze Lektionen, die funktionieren
Weitere IT-Trainings

Zu den 116 Unterzeichnern des aktuellen Appells gehören unter anderem Vertreter des französischen Robotikunternehmens Aldebaran Robotics, des russischen Roboterherstellers Promobot sowie von Open Bionics, eines britischen Unternehmens, das bionische Prothesen entwickelt. Als Unternehmen, die sich mit KI und Robotern beschäftigten, fühlten sich sich besonders dafür verantwortlich, vor solchen Systemen zu warnen,, schreiben die Initiatoren. Sie begrüßen den Plan des CCW eine Sachverständigengruppe zu gründen, die für autonome Waffensysteme zuständig ist, und bieten der UN ihre Unterstützung an.

Musk unterstützt das nicht-profitorientierte Forschungsunternehmen Open AI, das sich mit gemeinnütziger KI beschäftigt. Er warnt auch immer wieder vor den Auswirkungen solcher Systeme.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Aktuell auf der Startseite von Golem.de
Halbleiterfertigung
Aus 10 nm wird "Intel 7"

Intel orientiert sich vorerst an TSMC, will aber dank RibbonFets und PowerVias ab 2025 führend bei der Halbleiterfertigung sein.
Ein Bericht von Marc Sauter

Halbleiterfertigung: Aus 10 nm wird Intel 7
Artikel
  1. E-Motorräder: Yamaha will Verbrenner auch in 30 Jahren nicht aufgeben
    E-Motorräder
    Yamaha will Verbrenner auch in 30 Jahren nicht aufgeben

    Yamaha will den Verbrennungsmotor für seine Motorräder nicht ganz aufgeben. Selbst in 30 Jahren soll es noch Maschinen mit Auspuff geben.

  2. Form Energy: Eisen-Luft-Akku soll Energiespeicherprobleme lösen
    Form Energy
    Eisen-Luft-Akku soll Energiespeicherprobleme lösen

    Mit Geld von Bill Gates und Jeff Bezos sollen große, billige Akkus Strom für mehrere Tage speichern. Kann die Technik liefern, was sie verspricht?
    Eine Analyse von Frank Wunderlich-Pfeiffer

  3. iOS 14.7.1 und macOS Big Sur 11.5.1: Apple patcht aktiv ausgenutzte Mac- und iOS-Sicherheitslücke
    iOS 14.7.1 und macOS Big Sur 11.5.1
    Apple patcht aktiv ausgenutzte Mac- und iOS-Sicherheitslücke

    Apple-Nutzer müssen ihre Geräte mit iOS 14.7.1, iPadOS 14,7.1 und MacOS Big Sur 11.5.1 aktualisieren. Es gibt eine aktiv genutzte Sicherheitslücke.

/mecki78 25. Aug 2017

Kampfroboter, die autonom gegen Menschen kämpfen und diese dabei dann töten, das geht...

picaschaf 23. Aug 2017

Nö, zur Abwechslung will ich mal nicht trollen :D Aber an dem Verhalten sehe ich keine...

divStar 22. Aug 2017

Wenn wir erst KI - gesteuerte T-800 haben, ist es mit uns eh vorbei weil ich stark...

Der Held vom... 22. Aug 2017

Nein. Beim IS sind hochintelligente Leute, die eine selbstlaufende Propaganda-Kampagne...

RicoBrassers 22. Aug 2017

Eben. Weiß doch jeder, dass Zeitreisen (zumindest in die Vergangenheit) gar nicht...



Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Schnäppchen • Bosch Professional Amazon-Exklusives günstiger • Samsung G7 27" QLED Curved WQHD 240Hz 459€ • Kingston Fury 32GB Kit 3200MHz 149,90€ • 3 für 2 & Sony-TV-Aktion bei MM • New World vorbestellbar ab 39,99€ • Alternate (u. a. Deepcool RGB LED-Streifen 10,99€) • Apple Days [Werbung]
    •  /