• IT-Karriere:
  • Services:

Elon Musk und Deepmind-Gründer: Keine Maschine soll über menschliches Leben entscheiden

Tausende Forscher, Unternehmer, Firmen und Organisationen andere haben ein Gelöbnis gegen die Entwicklung, Verwendung und Verbreitung autonomer Waffen mit künstlicher Intelligenz unterzeichnet. Darunter sind die Google-Deepmind-Gründer und Elon Musk.

Artikel veröffentlicht am ,
Derzeit können Drohnen noch nicht eigenständig Menschen töten.
Derzeit können Drohnen noch nicht eigenständig Menschen töten. (Bild: US Airforce)

Das Future of Life Institute, das sich "der Förderung der Forschung zur Sicherung des Lebens und einer optimistischen Vision für die Zukunft" verschrieben hat, hat ein Gelöbnis gegen die Entwicklung, Verwendung und Verbreitung autonomer Waffen entworfen. Ein Aufruf, das Gelöbnis zu unterzeichnen, kursiert zumindest seit Anfang Juli. Inzwischen wurde das Gelöbnis von 164 Organisationen und 2.410 Individuen unterzeichnet, darunter eine Reihe von Firmen wie Google Deepmind, deren Gründer Demis Hassabis, Shane Legg, Mustafa Suleyman sowie Elon Musk. Sie versprechen: "Wir werden die Entwicklung, Herstellung, Handel und Benutzung tödlicher autonomer Waffen weder unterstützen noch daran teilnehmen."

Stellenmarkt
  1. Hays AG, Frankfurt am Main
  2. Stadtwerke München GmbH, München

Es ist nicht die erste derartige Aktion des Instituts. Bereits 2015 veröffentlichte es einen offenen Brief von Forschern in der künstlichen Intelligenz und Robotik mit ähnlichem Inhalt, der von 3.978 Forschern in der künstlichen Intelligenz und Robotik und 22.541 anderen Persönlichkeiten unterschrieben wurde. Das Gelöbnis und der offene Brief wurden auch in russischer und japanischer Sprache veröffentlicht, wobei der Mangel einer Version in chinesischer Sprache auffällig ist, insbesondere in Anbetracht der Bevölkerungszahl und des Engagements in der künstlichen Intelligenz in China. Die Unterzeichnung des Gelöbnisses steht jedem frei.

Das Gelöbnis in deutscher Sprache:

Künstliche Intelligenz wird in Zukunft eine größere Rolle in militärischen Systemen spielen. Es gibt die drängende Gelegenheit und Notwendigkeit, dass sich Bürger, politische Entscheidungsträger und Führungspersönlichkeiten [engl. policymakers and leaders] dafür einsetzen, zwischen der akzeptablen und inakzeptablen Verwendung künstlicher Intelligenz zu unterscheiden.

Aus diesem Grund kommen wir, die Unterzeichner, überein, dass die Entscheidung, ein menschliches Leben zu nehmen, niemals einer Maschine überlassen werden sollte. Es gibt eine moralische Komponente zu dieser Position. Wir sollten Maschinen nicht erlauben zu entscheiden, ein Leben zu nehmen, wenn dafür andere Menschen - oder niemand - verantwortlich ist. Es gibt auch ein pragmatisches Argument: Tödliche autonome Waffen, die ohne menschlichen Einfluss Ziele auswählen und attackieren, wären ein gefährlicher destabilisierender Faktor für jedes Land und jedes Individuum.

Tausende Forscher in der künstlichen Intelligenz sind sich einig, dass tödliche autonome Waffen ein mächtiges Instrument der Gewalt und Unterdrückung werden können. Denn sie könnten das Risiko, die Zuschreibbarkeit und die Schwierigkeit der Tötung anderer Menschen entfernen - insbesondere in Verbindung mit Überwachung und Datensystemen. Des Weiteren haben tödliche autonome Waffen Eigenschaften, die ganz anders als nukleare, chemische oder biologische Waffen sind. Die unilateralen Aktionen einer einzigen Gruppe könnten sehr leicht zu einem Rüstungswettlauf führen, in dem der internationalen Gemeinschaft die technischen und politischen Mittel fehlen würden, ihn zu beherrschen. Die Stigmatisierung und Verhinderung eines solchen Rüstungswettlaufs sollte eine hohe Priorität für die nationale und globale Sicherheit sein.

Wir, die Unterzeichnenden, rufen Regierungen und Regierungsführer dazu auf, sich mit starken internationalen Normen, Regeln und Gesetzen gegen tödliche autonome Waffen auf die Zukunft vorzubereiten. Da es diese derzeit nicht gibt, werden wir uns selbst an einen hohen Standard halten: Wir werden die Entwicklung, Herstellung, Handel und Benutzung tödlicher autonomer Waffen weder unterstützen noch daran teilnehmen. Wir rufen Technologiefirmen und Organisationen, genauso wie politische Entscheidungsträger, Führungspersönlichkeiten und andere Individuen dazu auf, sich diesem Gelöbnis anzuschließen.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


Anzeige
Hardware-Angebote
  1. (reduzierte Überstände, Restposten & Co.)

cubi 19. Jul 2018

die meisten machen mit und kastrieren sich selbst, die restlichen lachen sich ins...

as112 18. Jul 2018

"Was kümmert mich mein Geschwätz von gestern". Genau das ist dieses Gelöbnis wert.

as112 18. Jul 2018

Ab auf die Trollwiese.

plutoniumsulfat 18. Jul 2018

Schickt die Drohne ein kleines Bildchen mit ein paar Pixeln und sagt einem Menschen, er...

schulz_me 18. Jul 2018

Kann das (Hör-)Buch nur empfehlen... ;)


Folgen Sie uns
       


Nubia Z20 - Test

Das Nubia Z20 hat sowohl auf der Vorderseite als auch auf der Rückseite einen Bildschirm. Dadurch ergeben sich neue Möglichkeiten der Benutzung, wie sich Golem.de im Test angeschaut hat.

Nubia Z20 - Test Video aufrufen
Videoüberwachung: Kameras sind überall, aber nicht überall erlaubt
Videoüberwachung
Kameras sind überall, aber nicht überall erlaubt

Dass Überwachungskameras nicht legal eingesetzt werden, ist keine Seltenheit. Ob aus Nichtwissen oder mit Absicht: Werden Privatsphäre oder Datenschutz verletzt, gehören die Kameras weg. Doch dazu müssen sie erst mal entdeckt, als legal oder illegal ausgemacht und gemeldet werden.
Von Harald Büring

  1. Nach Attentat Datenschutzbeauftragter kritisiert Hintertüren in Messengern
  2. Australien IT-Sicherheitskonferenz Cybercon lädt Sprecher aus
  3. Spionagesoftware Staatsanwaltschaft ermittelt nach Anzeige gegen Finfisher

Macbook Pro 16 Zoll im Test: Ein Schritt zurück sind zwei Schritte nach vorn
Macbook Pro 16 Zoll im Test
Ein Schritt zurück sind zwei Schritte nach vorn

Keine Butterfly-Tastatur mehr, eine physische Escape-Taste, dünnere Displayränder: Es scheint, als habe Apple beim Macbook Pro 16 doch auf das Feedback der Nutzer gehört und ist einen Schritt zurückgegangen. Golem.de hat sich angeschaut, ob sich die Änderungen auch lohnen.
Ein Test von Oliver Nickel

  1. Audioprobleme Knackgeräusche beim neuen Macbook Pro 16 Zoll
  2. iFixit Kleber und Nieten im neuen Macbook Pro 16 Zoll
  3. Macbook Pro Apple gibt fehlerhafte Butterfly-Tastatur auf

Cloud Gaming im Test: Leise ruckelt der Stream
Cloud Gaming im Test
Leise ruckelt der Stream

Kurz vor Weihnachten werben Dienste wie Google Stadia und Playstation Now um Kunden - mit noch nicht ganz perfekter Technik. Golem.de hat Cloud Gaming bei mehreren Anbietern ausprobiert und stellt Geschäftsmodelle und Besonderheiten vor.
Von Peter Steinlechner

  1. Apple und Google Die wollen nicht nur spielen
  2. Medienbericht Twitch plant Spielestreaming ab 2020
  3. Spielestreaming Wie archiviert man Games ohne Datenträger?

    •  /