KI: Musk und andere fordern Verbot von autonomen Kampfrobotern

Wer weiß besser, was Roboter anrichten können, als Robotiker? Über 100 Unternehmen aus der Roboter- und KI-Branche fordern in einem offenen Brief an die Vereinten Nationen ein Verbot autonomer Waffensysteme.

Artikel veröffentlicht am ,
Eine Predator-Drohne wird mit einer Hellfire-Rakete bewaffnet (Symbolbild): Drohnen werden heute von Menschen gesteuert
Eine Predator-Drohne wird mit einer Hellfire-Rakete bewaffnet (Symbolbild): Drohnen werden heute von Menschen gesteuert (Bild: DoD)

Keine intelligenten Kampfroboter! Eine Initiative aus hochrangigen Vertretern aus der Robotik- und Technologiebranche hat ein Verbot von Kampfrobotern gefordert, die von Künstlicher Intelligenz (KI) gesteuert werden. Zu den prominentesten Unterzeichnern gehören Elon Musk, Chef des Raumfahrtunternehmen SpaceX und des Elektroautoherstellers Tesla, und Deepmind-Gründer Mustafa Suleyman.

Stellenmarkt
  1. Agile Requirements Engineer (m/w/d)
    Anstalt für Kommunale Datenverarbeitung in Bayern (AKDB), Regensburg
  2. IT-Support / Helpdesk (w/m/d)
    Krone Gebäudemanagement und Technologie GmbH, Berlin
Detailsuche

"Tödliche autonome Waffen drohen die dritte Revolution in der Kriegsführung zu werden", heißt es in dem Aufruf. Wenn Waffen, die sich selbst steuern, einmal verfügbar seien, dann würden Kriege deutlich größer und schneller, als Menschen es begreifen könnten. Sie könnten von Terroristen oder Despoten gegen Zivilisten eingesetzt werden. Schließlich könnten solche Waffen auch gehackt und auf unerwünschte Weise genutzt werden. "Wir haben nicht viel Zeit zum Handeln. Wenn diese Büchse der Pandora erst einmal geöffnet ist, wird sie nur schwer wieder zu schließen sein."

Roboter entscheiden über Leben und Tod

Gemeint sind dabei Drohnen, Panzer und Maschinengewehre, die von einer KI gesteuert werden und die selbstständig Ziele auswählen und bekämpfen. Bisher fliegen Drohnen zwar automatisiert. Ein Angriff wird aber von Menschen gesteuert.

Der Offene Brief ist an die Conference of the Convention on Certain Conventional Weapons (CCW) der Vereinten Nationen gerichtet. Veröffentlicht ist er auf der Website des Future of Life Institute (FLI). Das FLI hatte vor zwei Jahren schon einmal die Ächtung solcher Waffensysteme gefordert.

Robotiker sehen sich in der Verantwortung

Golem Karrierewelt
  1. Adobe Photoshop Aufbaukurs: virtueller Zwei-Tage-Workshop
    25./26.08.2022, Virtuell
  2. Adobe Premiere Pro Grundkurs: virtueller Zwei-Tage-Workshop
    26./27.09.2022, Virtuell
Weitere IT-Trainings

Zu den 116 Unterzeichnern des aktuellen Appells gehören unter anderem Vertreter des französischen Robotikunternehmens Aldebaran Robotics, des russischen Roboterherstellers Promobot sowie von Open Bionics, eines britischen Unternehmens, das bionische Prothesen entwickelt. Als Unternehmen, die sich mit KI und Robotern beschäftigten, fühlten sich sich besonders dafür verantwortlich, vor solchen Systemen zu warnen,, schreiben die Initiatoren. Sie begrüßen den Plan des CCW eine Sachverständigengruppe zu gründen, die für autonome Waffensysteme zuständig ist, und bieten der UN ihre Unterstützung an.

Musk unterstützt das nicht-profitorientierte Forschungsunternehmen Open AI, das sich mit gemeinnütziger KI beschäftigt. Er warnt auch immer wieder vor den Auswirkungen solcher Systeme.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


/mecki78 25. Aug 2017

Kampfroboter, die autonom gegen Menschen kämpfen und diese dabei dann töten, das geht...

picaschaf 23. Aug 2017

Nö, zur Abwechslung will ich mal nicht trollen :D Aber an dem Verhalten sehe ich keine...

divStar 22. Aug 2017

Wenn wir erst KI - gesteuerte T-800 haben, ist es mit uns eh vorbei weil ich stark...

Der Held vom... 22. Aug 2017

Nein. Beim IS sind hochintelligente Leute, die eine selbstlaufende Propaganda-Kampagne...



Aktuell auf der Startseite von Golem.de
Openweather
Eine Wetter-Uhr auf dem Raspberry Pi

Wir zeigen auf einem 64-x-64-LED-Panel mithilfe eines Raspberry Pi außer der Uhrzeit auch Wetterinformationen an. Die Programmierung erfolgt in C#.
Eine Anleitung von Michael Bröde

Openweather: Eine Wetter-Uhr auf dem Raspberry Pi
Artikel
  1. Softwareupdate: Falsches 5G-Icon im LTE-Netz von O2 Telefónica
    Softwareupdate
    Falsches 5G-Icon im LTE-Netz von O2 Telefónica

    Plötzlich zeigten Basisstationen im gesamten Nordosten Deutschlands 5G an. Doch die Ursache war nur ein fehlerhaftes Software-Update von Telefónica.

  2. Hybride Arbeit: Das Schlechteste aus zwei Welten?
    Hybride Arbeit
    Das Schlechteste aus zwei Welten?

    Frust plus Probleme statt Arbeiten im Grünen plus Kollegenkontakt: Hybrides Arbeiten misslingt oft - muss es aber nicht.
    Ein Ratgebertext von Jakob Rufus Klimkait und Kristin Ottlinger

  3. J.R.R. Tolkien: The Embracer Group kauft Der Herr der Ringe
    J.R.R. Tolkien
    The Embracer Group kauft Der Herr der Ringe

    Bis auf die Buchrechte gehört Der Herr der Ringe künftig zu The Embracer Group. Nebenbei kauft der Publisher mal wieder ein paar Spielestudios.

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Daily Deals • 10%-Gaming-Gutschein bei eBay • Grafikkarten zu Tiefpreisen (Palit RTX 3090 Ti 1.391,98€, Zotac RTX 3090 1.298,99€, MSI RTX 3080 Ti 1.059€) • PS5 bei Amazon • HP HyperX Gaming-Maus 29€ statt 99€ • MindStar (ASRock RX 6900XT 869€) • Bester 2.000€-Gaming-PC [Werbung]
    •  /