Cybersecurity: Britisches Militär fürchtet KI, die Strategiespiele spielt

Das britische Militär fürchtet, dass KI, die mit Computerspielen wie Starcraft 2 trainiert wird, in wenigen Jahren in der Lage sein wird, selbstständig Cyberattacken durchzuführen. Ein Experte hält das für übertrieben.

Artikel veröffentlicht am ,
Szene aus der Starcraft-2-Erweiterung Novas Geheimmissionen: nicht sehr kreativ, einfaches Regelwerk.
Szene aus der Starcraft-2-Erweiterung Novas Geheimmissionen: nicht sehr kreativ, einfaches Regelwerk. (Bild: Blizzard)

Computerspiele seien schädlich, sagen Angehörige des britischen Militärs. Dabei haben sie aber nicht Phänomene wie Spielsucht oder Verrohung durch brutale Spielszenarien im Sinn. Sie denken an Systeme mit Künstlicher Intelligenz (KI), die mit Hilfe von Computerspielen lernen, selbstständig zu agieren. Sie sehen darin ein Sicherheitsproblem.

Stellenmarkt
  1. (Junior-) Referent (m/w/d) für das Anwendungsmanagement im Team IT-Management und Services
    Taunus Sparkasse, Bad Homburg vor der Höhe
  2. Mitarbeiter (m/w/d) - Planung und Betrieb des Kommunikationsnetzes
    Universität Hamburg, Hamburg
Detailsuche

KI-Systeme werden anhand von Spielen wie Starcraft 2 trainiert, damit sie lernen, ohne Hilfe komplexe Probleme zu lösen. Das hat etwa das von Google gekaufte britische Unternehmen Deepmind gemacht, dessen System Alpha Go vor zwei Jahren den besten menschlichen Go-Spieler besiegte.

Das britische Militär befürchtet, dass Terroristen oder sogenannte Schurkenstaaten sich solche Systeme beschaffen könnten. Diese müssten nur leicht angepasst werden, um damit beispielsweise Versorgungssysteme zu sabotieren oder in geschützte Rechner einzudringen und sich dort geheime Daten zu verschaffen, heißt es in einer aktuellen Studie, die das britische Verteidigungsministerium herausgegeben hat.

Durch KI würden Cyberangriffe vielfältiger und schneller. Außerdem würden sie günstiger und einfacher durchzuführen sein, so dass mehr Täter dazu in der Lage seien, heißt es in der Studie. Da es keiner Fachleute bedürfe, um solche Angriffe durchzuführen, sei die einzige Einschränkung die Möglichkeit, sich solche System zu beschaffen. Wer also das Geld habe, um ein solches System zu kaufen, oder es stehlen könne, könnte schwere Cyberangriffe durchführen, befürchten die Autoren. Sie gehen davon aus, dass ein solches Szenario in zwei bis drei Jahren real werden kann.

Golem Akademie
  1. Jira für Systemadministratoren: virtueller Zwei-Tage-Workshop
    24.–25. Januar 2022, virtuell
  2. C++ Programmierung Basics: virtueller Fünf-Tage-Workshop
    28. Februar–4. März 2022, virtuell
Weitere IT-Trainings

Andere Experten halten das für überzogen. Bis KI-Systeme über die Fähigkeit verfügten, selbstständig ausgefeilte Cyberangriffe durchzuführen, werde es noch eine Weile dauern, sagte Steven Murdoch, IT-Sicherheitsforscher am University College London, der BBC. KI-Systeme wie das von Starcraft, das gegen Menschen antritt, seien noch nicht sehr kreativ und nutzten nur ein einfaches Regelwerk.

"Mit dem Fortschritt der Technik wird es mehr Automatisierung geben, vor allem für die Verteilung bösartiger Software, aber für die Vorbereitung von Angriffen und die Entwicklung von Taktiken wird auf absehbare Zeit immer noch menschliches Fachwissen nötig sein", sagte Morris.

Bitte aktivieren Sie Javascript.
Oder nutzen Sie das Golem-pur-Angebot
und lesen Golem.de
  • ohne Werbung
  • mit ausgeschaltetem Javascript
  • mit RSS-Volltext-Feed


FreiGeistler 25. Mai 2018

Das sind aber sehr gläubige Menschen. Ungläubige mit der ferngesteuerten Drohne...

Friedhelm 24. Mai 2018

"KI progtrammiert 100% Simultanübersetzer" "KI entwickelt kommerzfreies Internet und...

cpt.dirk 24. Mai 2018

Ich weiß nicht, inwiefern ein direkter Zusammenhang zw. einer spezialisierten AI, die...

Puschie 24. Mai 2018

Naja so unrealistisch ist das garnicht. Die Civ KI ist vlt ein schlechtes beispiel, da es...



Aktuell auf der Startseite von Golem.de
Fernwartung
Der Kundenansturm, der Teamviewer nicht gut getan hat

Wie schätzt man die weitere Geschäftsentwicklung ein, wenn die Kunden in der Pandemie plötzlich Panikkäufe machen? Das gelang bei Teamviewer nicht.
Ein Bericht von Achim Sawall

Fernwartung: Der Kundenansturm, der Teamviewer nicht gut getan hat
Artikel
  1. Pluton in Windows 11: Lenovo will Microsofts Sicherheitschip nicht aktivieren
    Pluton in Windows 11
    Lenovo will Microsofts Sicherheitschip nicht aktivieren

    Die neuen Windows-11-Laptops kommen mit dem Chip Pluton. Lenovo will diesen aber noch nicht selbst aktivieren.

  2. Netzneutralität: Google und Meta verteidigen sich gegen Telekom-Vorwürfe
    Netzneutralität
    Google und Meta verteidigen sich gegen Telekom-Vorwürfe

    Die beiden großen Internetkonzerne Google und Meta verweisen im Gespräch mit Golem.de auf ihren Beitrag zur weltweiten Infrastruktur wie Seekabel und Connectivity.

  3. Probefahrt mit BMW-Roller CE 04: Beam me up, BMW
    Probefahrt mit BMW-Roller CE 04
    Beam me up, BMW

    Mit futuristischem Design und elektrischem Antrieb hat BMW ein völlig neues Fahrzeug für den urbanen Bereich entwickelt.
    Ein Bericht von Peter Ilg

Du willst dich mit Golem.de beruflich verändern oder weiterbilden?
Zum Stellenmarkt
Zur Akademie
Zum Coaching
  • Schnäppchen, Rabatte und Top-Angebote
    Die besten Deals des Tages
    Daily Deals • RTX 3070 989€ • The A500 Mini Retro-Konsole mit 25 Amiga-Spielen vorbestellbar 189,90€ • RX 6800 16GB 1.129€ • Intel Core i9 3.7 459,50€ Ghz • WD Black 1TB inkl. Kühlkörper PS5-kompatibel 189,99€ • Switch: 3 für 2 Aktion • RX 6700 12GB 869€ • MindStar (u.a. 1TB SSD 69€) [Werbung]
    •  /