Abo
  • Services:
Anzeige
Das Cockpit eines Airbus A350XWB
Das Cockpit eines Airbus A350XWB (Bild: Leon Neal/AFP/Getty Images)

Nicholas Carr: Automatisierung macht uns das Leben schwer

Sie fliegen Flugzeuge und machen medizinische Untersuchungen: Computer übernehmen immer mehr Aufgaben für uns. Doch "wo bleibt der Mensch, wenn Computer entscheiden?", fragt Nicholas Carr in seinem Buch Abgehängt. Ein Auszug.

Anzeige

Bei der Arbeit mit Computern tappen Menschen häufig in zwei Denkfallen: Automation Complacency und Automation Bias. Beide Fallen drohen, wenn man der Whitehead-Methode folgt und wichtige Vorgänge ausführt, ohne darüber nachzudenken.

Bei der Automation Complacency lässt man sich vom Computer ein falsches Gefühl der Sicherheit vorgaukeln. Wir vertrauen so sehr darauf, dass die Maschine fehlerfrei funktioniert und jede Herausforderung meistert, dass wir unsere Aufmerksamkeit abschweifen lassen. Wir lösen uns gedanklich von unserer Arbeit, oder zumindest von dem Teil davon, den die Software übernimmt, und übersehen dadurch möglicherweise Fehlersignale.

Die meisten Menschen haben so etwas am Computer schon einmal erlebt. Wenn man eine E-Mail- oder Textverarbeitungssoftware mit Rechtschreibprüfung benutzt, achtet man selbst weniger auf Schreibfehler. Dieses triviale Beispiel führt im schlimmsten Fall zu einem peinlichen Moment. Aber die tragischen Erfahrungen in der Luftfahrt haben gezeigt, dass Automation Complacency tödliche Folgen haben kann. Im schlimmsten Fall vertrauen Menschen der Technik so sehr, dass sie den Vorgängen um sich herum keinerlei Aufmerksamkeit mehr schenken. Sie schalten ab. Taucht dann plötzlich ein Problem auf, handeln sie möglicherweise verwirrt, und es vergehen wertvolle Momente nutzlos, in denen sie versuchen, sich zu orientieren.

  • Nicholas Carr. Abgehängt. 318 Seiten. Hardcover. 19,90 Euro. ISBN 978-3-446-44032-6. Carl Hanser Verlag München.
Nicholas Carr. Abgehängt. 318 Seiten. Hardcover. 19,90 Euro. ISBN 978-3-446-44032-6. Carl Hanser Verlag München.

Automation Complacency kam schon in vielen hochriskanten Situationen vor, auf Schlachtfeldern ebenso wie in Kontrollräumen von Fabriken oder auf den Kommandobrücken von Schiffen und U-Booten. Bei einem klassischen Fall war der 1.500-Betten-Ozeandampfer Royal Majesty im Frühjahr 1995 auf dem letzten Teil einer einwöchigen Kreuzfahrt von den Bermudas nach Boston unterwegs. Das Schiff war mit einem hochmodernen automatischen Navigationssystem ausgestattet, das den Dampfer mittels GPS-Signal auf Kurs hielt. Nach einer Stunde auf See löste sich ein Kabel von der GPS-Antenne, und das Navigationssystem verlor die Orientierung. Es lieferte weiterhin Daten, aber die waren falsch.

Mehr als dreißig Stunden lang folgte das Schiff einem falschen Kurs. Der Kapitän und die Besatzung erkannten das Problem nicht, obwohl es deutliche Anzeichen für einen Systemfehler gab. Ein wachhabender Offizier fand eine wichtige Orientierungsboje nicht, die das Schiff hätte passieren müssen. Doch er erstattete darüber keinen Bericht. Sein Vertrauen in das Navigationssystem war so umfassend, dass er annahm, die Boje sei da und er habe sie nur einfach nicht gesehen. Das Schiff fuhr schließlich auf eine Sandbank bei der Insel Nantucket auf Grund, fast 20 Meilen ab vom Kurs. Glücklicherweise wurde niemand verletzt, doch für das Kreuzfahrtunternehmen entstand ein Schaden in Millionenhöhe. Die Untersuchungskommission der Regierung stellte Automation Complacency als Unfallursache fest. Die Schiffsoffiziere hätten sich zu sehr auf das automatische System verlassen und dafür andere "Navigationshilfen [und] visuelle Informationen" ignoriert, die auf ein gefährliches Abweichen vom Kurs hindeuteten. Automatisierung "führte dazu, dass die Seeleute keine echte Kontrolle mehr über das Schiff hatten und auch nicht mehr aktiv am Schiffsbetrieb teilnahmen".

Complacency betrifft Büroangestellte ebenso wie Menschen, die auf Flug- oder Seerouten navigieren. Die Soziologin Sherry Turkle vom MIT untersuchte den Einfluss von Konstruktionssoftware auf die Bauindustrie und entdeckte dabei Beweise, dass sich die Aufmerksamkeit der Architekten fürs Detail veränderte. Bei handgezeichneten Plänen überprüften die Architekten mehrfach und sorgfältig alle Maße, bevor sie die Pläne an die Baufirmen übergaben. Die Architekten wussten, dass sie Fehler machten, dass ihnen gelegentlich ein blöder Schnitzer unterlief, und folgten daher einem alten Arbeitsprinzip der Zimmerleute: Zweimal messen, einmal schneiden. Bei computergenerierten Plänen sind sie bei der Überprüfung der Maße weniger sorgfältig.

Die augenscheinliche Präzision der Computerrenderings und -ausdrucke lässt sie davon ausgehen, dass die Zahlen korrekt sind. "Es scheint vermessen, sie zu überprüfen", begründete ein Architekt. "Ich meine, wer könnte es besser machen als ein Computer? Ein Computer rechnet bis zu einem Hundertstel Inch genau." Diese Art der Complacency bei Ingenieuren und Bauunternehmern führte bereits zu kostspieligen Planungs- und Konstruktionsfehlern. Computer machen keine blöden Fehler, reden wir uns ein, obwohl wir wissen, dass die Ausgaben der Computer nur so gut sind wie die Eingaben. "Je schicker ein Computersystem ist", bemerkte einer von Turkles Studenten, "umso mehr geht man davon aus, dass es Fehler korrigiert, und umso mehr glaubt man, dass das, was aus der Maschine rauskommt, fehlerfrei ist. Das ist eine Bauchsache."

Der Automation Bias ist ein enger Verwandter der Automation Complacency. Er schleicht sich ein, wenn Menschen den Informationen auf den Bildschirmen zu große Bedeutung beimessen. Sie glauben diesen Informationen, selbst wenn sie falsch oder irreführend sind. Ihr Vertrauen in die Software wird so groß, dass sie andere Informationsquellen ignorieren oder unberücksichtigt lassen, selbst ihre eigenen Sinneswahrnehmungen. Wer jemals penibel falschen oder veralteten Anweisungen eines GPS- Geräts oder anderer digitaler Karten gefolgt ist und sich dabei verirrt hat oder im Kreis ging, kennt die Auswirkungen des Automation Bias. Selbst Berufsfahrer beweisen manchmal einen überraschenden Mangel an gesundem Menschenverstand, wenn sie sich auf Satellitennavigation verlassen. Sie ignorieren Straßenschilder und andere Hinweise in der Landschaft, fahren so gefährliche Routen und krachen dann in niedrige Brücken oder bleiben in den engen Straßen einer Kleinstadt stecken.

Automation macht uns faul 

eye home zur Startseite
michael.maie 04. Okt 2014

Wenn ein Assistenzsystem merkt dass der Fahrer droht ungewollt die Fahrspur zu verlassen...

derw4tz 30. Sep 2014

Nein, weil man dann im vergleich zu den 5 Beispielen für die man zT fast 20 jahre in die...

__destruct() 30. Sep 2014

Und viele Existenzen vernichten.

TrashFan 30. Sep 2014

Jop. Fahrt mal nach Hagen ins LWL Freilichtmuseum und unterhalt dich mit'm Schmied da...

TrashFan 30. Sep 2014

Danke für das Video, gefällt mir sehr gut, wie auch die anderen von cpg grey =).



Anzeige

Stellenmarkt
  1. Robert Bosch GmbH, Stuttgart-Vaihingen
  2. Robert Bosch GmbH, Stuttgart-Feuerbach
  3. DLR Deutsches Zentrum für Luft- und Raumfahrt e.V., Berlin
  4. Bundeskriminalamt, Berlin


Anzeige
Hardware-Angebote
  1. ab 799,90€
  2. 429,90€ zzgl. Versand

Folgen Sie uns
       


  1. Google Daydream

    Qualcomm verrät Details zu Standalone-Headsets

  2. Frontier Development

    Weltraumspiel Elite Dangerous für PS4 erhältlich

  3. Petya-Ransomware

    Maersk, Rosneft und die Ukraine mit Ransomware angegriffen

  4. Nach Einigung

    Bündnis hält Facebook-Gesetz weiterhin für gefährlich

  5. SNES Classic Mini

    Nintendo produziert zweite Retrokonsole in höherer Stückzahl

  6. 5 GHz

    T-Mobile startet LTE-U im WLAN-Spektrum mehrerer US-Städte

  7. Dirt 4 im Test

    Vom Fahrschüler zum Rallye-Weltmeister

  8. Ende der Störerhaftung

    Koalition ersetzt Abmahnkosten durch Netzsperren

  9. NNabla

    Sony gibt Deep-Learning-Bibliothek frei

  10. Mobilfunk

    Deutsche Telekom betreibt noch 9.000 Richtfunkstrecken



Haben wir etwas übersehen?

E-Mail an news@golem.de


Anzeige
Mobile-Games-Auslese: Ninjas, Pyramiden und epische kleine Kämpfe
Mobile-Games-Auslese
Ninjas, Pyramiden und epische kleine Kämpfe
  1. Ubisoft Chaoshasen, Weltraumaffen und die alten Ägypter
  2. Monument Valley 2 im Test Rätselspiel mit viel Atmosphäre und mehr Vielfalt
  3. Mobile-Games-Auslese Weltraumkartoffel und Bilderbuchwanderung für mobile Spieler

Mesh- und Bridge-Systeme in der Praxis: Mehr WLAN-Access-Points, mehr Spaß
Mesh- und Bridge-Systeme in der Praxis
Mehr WLAN-Access-Points, mehr Spaß
  1. Eero 2.0 Neues Mesh-WLAN-System kann sich auch per Kabel vernetzen
  2. BVG Fast alle Berliner U-Bahnhöfe haben offenes WLAN
  3. Broadcom-Sicherheitslücke Vom WLAN-Chip das Smartphone übernehmen

Neues iPad Pro im Test: Von der Hardware her ein Laptop
Neues iPad Pro im Test
Von der Hardware her ein Laptop
  1. iFixit iPad Pro 10,5 Zoll intern ein geschrumpftes 12,9 Zoll Modell
  2. Office kostenpflichtig Das iPad Pro 10,5 Zoll ist Microsoft zu groß
  3. Hintergrundbeleuchtung Logitech bringt Hülle mit abnehmbarer Tastatur für iPad Pro

  1. Re: Helgoland...

    tg-- | 02:14

  2. Finanzielle Hilfen Dringende für Privatpersonen

    Verena_0001 | 02:09

  3. Re: Und wieviele Mobilfunkstandorte versorgt die...

    tg-- | 01:59

  4. Re: Egal was AMD für marketingtricks aufbietet...

    plutoniumsulfat | 01:35

  5. Re: Bin nur ich so dumm, ...

    sofries | 01:23


  1. 02:00

  2. 17:35

  3. 17:01

  4. 16:44

  5. 16:11

  6. 15:16

  7. 14:31

  8. 14:20


  1. Themen
  2. A
  3. B
  4. C
  5. D
  6. E
  7. F
  8. G
  9. H
  10. I
  11. J
  12. K
  13. L
  14. M
  15. N
  16. O
  17. P
  18. Q
  19. R
  20. S
  21. T
  22. U
  23. V
  24. W
  25. X
  26. Y
  27. Z
  28. #
 
    •  / 
    Zum Artikel