Abo
  • Services:
Anzeige
Das Cockpit eines Airbus A350XWB
Das Cockpit eines Airbus A350XWB (Bild: Leon Neal/AFP/Getty Images)

Automation macht uns faul

Anzeige

Im Jahr 2008 fuhr in Seattle der Fahrer eines dreieinhalb Meter hohen Busses, in dem die Sportmannschaft einer Highschool saß, in eine Betonbrücke mit 2,70 Metern Durchfahrtshöhe. Das Dach des Busses wurde abgerissen, und 21 Schüler mussten mit Verletzungen ins Krankenhaus gebracht werden. Der Fahrer sagte bei der Polizei aus, er sei GPS-Anweisungen gefolgt und habe die Schilder und Warnlichter vor der niedrigen Brücke "nicht gesehen". Besonders gefährlich ist der Automation Bias für Menschen, die Analysen oder Diagnosen mit Software-Tools zur Entscheidungsunterstützung durchführen. Seit den späten 1990er-Jahren setzen Radiologen computergestützte Bildauswertungsprogramme ein, die verdächtige Bereiche in Mammographien oder anderen Röntgenaufnahmen hervorheben. Ein Bild wird eingescannt und von einer Mustererkennungssoftware überprüft, und die Regionen, die der Arzt näher untersuchen sollte, werden markiert. In manchen Fällen helfen diese Markierungen bei der Diagnose von Krankheiten, weil sie den Radiologen auf mögliche Tumore hinweisen, die er sonst womöglich übersehen hätte.

Doch verschiedene Studien ergaben, dass diese Markierungen auch den gegenteiligen Effekt haben können. Wenn sich ein Arzt zu sehr auf die Vorschläge der Software verlässt, widmet er möglicherweise den nicht hervorgehobenen Regionen eines Bildes weniger Aufmerksamkeit und übersieht womöglich einen Tumor im frühen Stadium oder eine andere Auffälligkeit. Die Markierungen erhöhen außerdem die Wahrscheinlichkeit einer falsch-positiven Diagnose, wenn ein Radiologe nachträglich eine unnötige Biopsie an einem Patienten durchführen lässt.

Eine aktuelle Review von Mammographiedaten eines Forscherteams von der City University London zeigte, dass Radiologen und andere Bildauswerter stärker von Automation Bias beeinflusst werden, als bisher angenommen. Die Forscher fanden heraus, dass computergestützte Bildauswertungsprogramme zwar die Trefferquote von "weniger aufmerksamen Auswerfern" bei "vergleichsweise einfachen Fällen" erhöhten, dass sie jedoch die Leistung erfahrener Auswerter bei der Diagnose komplizierter Fälle zum Teil verschlechterten.

Wenn die Experten sich auf die Software verlassen, steigt die Wahrscheinlichkeit, dass sie bestimmte Krebsarten übersehen. Die verzerrte Wahrnehmung beim Einsatz computergestützter Entscheidungshilfen könnte sogar "fester Bestandteil der menschlichen kognitiven Vorgänge bei der Verarbeitung von Signalen und Alarmzeichen" sein. Die Hilfen steuern unseren Blick und verzerren so unsere Wahrnehmung.

Sowohl Complacency als auch Bias haben mit den Grenzen unserer Aufmerksamkeit zu tun. Der Hang zur Complacency zeigt, wie schnell Konzentration und Aufmerksamkeit abnehmen, wenn man nicht ständig mit seiner Umgebung interagieren muss. Die Neigung zum Bias bei der Auswertung und Bewertung von Informationen zeigt, dass wir uns immer nur auf bestimmte Punkte konzentrieren können und dass unser Fokus durch unangebrachtes Vertrauen oder scheinbar hilfreiche Markierungen fehlgeleitet werden kann.

Sowohl Complacency als auch Bias nehmen mit zunehmender Qualität und Zuverlässigkeit eines automatischen Systems zu. Experimente haben gezeigt, dass die Benutzer hoch aufmerksam bleiben, wenn ein System häufig Fehler macht. Der Nutzer bleibt aufmerksam für seine Umgebung und zieht sorgfältig mehrere Informationsquellen in Betracht. Doch wenn ein System sehr zuverlässig arbeitet und nur selten abstürzt oder Fehler macht, werden wir faul. Wir vertrauen zunehmend in die Unfehlbarkeit des Systems.

Da automatische Systeme in der Regel gut funktionieren, auch wenn wir unaufmerksam werden oder unsere Objektivität verlieren, haben Complacency und Bias nur selten böse Folgen. So verstärken sich die Probleme noch, wie Parasuraman in einem Artikel aus dem Jahr 2010 erörterte, den er mit seinem deutschen Kollegen Dietrich Manzey verfasste. "Angesichts der üblicherweise sehr guten Zuverlässigkeit automatischer Systeme hat selbst ein stark von Complacency und Bias beeinflusstes Verhalten bei der Bedienung der Systeme nur selten offensichtliche Auswirkungen auf die Leistung", schrieben die Forscher. Das fehlende negative Feedback führe mit der Zeit zu "einem kognitiven Prozess ähnlich der sogenannten 'gelernten Sorglosigkeit'".

Ein Beispiel: Wenn man übermüdet Auto fährt, dabei einnickt und von der Fahrbahn abkommt, fährt man meist auf einen holprigen Randstreifen, einen Rüttelstreifen, oder man erntet ein Hupkonzert der anderen Autofahrer. Diese Signale wecken den Fahrer auf. Wenn man aber nun mit einem Auto fährt, das automatisch in der Spur bleibt, weil es die Fahrbahnmarkierung beachtet und die Lenkung anpasst, erhält man keine solche Warnung. Man wird daher einschlafen. Wenn dann etwas Unvorhergesehenes geschieht - wenn etwa ein Tier über die Straße läuft oder ein vorausfahrender Wagen plötzlich bremst -, ist die Wahrscheinlichkeit eines Unfalls deutlich erhöht. Die Automatisierung verhindert negatives Feedback und erschwert das Wach- und Aufmerksam-Bleiben. Wir schalten immer mehr ab.

Der Text ist ein Auszug aus: "Abgehängt - Wo bleibt der Mensch, wenn Computer entscheiden?" von Nicholas Carr. Carl Hanser Verlag München, 2014. 19,99 Euro.

Nicholas Carr war unter anderem Herausgeber der Harvard Business Review und Kolumnist für den Guardian. Er schreibt für das New York Times Magazine und das Wall Street Journal. Sein Buch "Wer bin ich, wenn ich online bin" wurde in 23 Sprachen übersetzt und war Finalist für den Pulitzerpreis. Nicholas Carr lebt in Boulder, Colorado.

 Nicholas Carr: Automatisierung macht uns das Leben schwer

eye home zur Startseite
michael.maie 04. Okt 2014

Wenn ein Assistenzsystem merkt dass der Fahrer droht ungewollt die Fahrspur zu verlassen...

derw4tz 30. Sep 2014

Nein, weil man dann im vergleich zu den 5 Beispielen für die man zT fast 20 jahre in die...

__destruct() 30. Sep 2014

Und viele Existenzen vernichten.

TrashFan 30. Sep 2014

Jop. Fahrt mal nach Hagen ins LWL Freilichtmuseum und unterhalt dich mit'm Schmied da...

TrashFan 30. Sep 2014

Danke für das Video, gefällt mir sehr gut, wie auch die anderen von cpg grey =).



Anzeige

Stellenmarkt
  1. T-Systems International GmbH, Berlin, Leinfelden-Echterdingen, München, Wolfsburg, Bonn
  2. Spheros GmbH, Gilching bei München
  3. T-Systems International GmbH, verschiedene Standorte
  4. Siltronic AG, Burghausen


Anzeige
Hardware-Angebote
  1. und Halo Wars 2 + zwei weitere Games gratis erhalten + dank Nvidia-Aktion Tom Clancy’s Ghost...
  2. ab 192,90€ bei Alternate gelistet

Folgen Sie uns
       


  1. UEFI-Update

    Agesa 1004a lässt Ryzen-Boards schneller booten

  2. Sledgehammer Games

    Call of Duty WWII spielt wieder im Zweiten Weltkrieg

  3. Mobilfunk

    Patentverwerter klagt gegen Apple und Mobilfunkanbieter

  4. Privatsphäre

    Bildungsrechner spionieren Schüler aus

  5. Raumfahrt

    Chinesischer Raumfrachter Tanzhou 1 dockt an Raumstation an

  6. Die Woche im Video

    Kein Saft, kein Wumms, keine Argumente

  7. Windows 7 und 8

    Github-Nutzer schafft Freischaltung von neuen CPUs

  8. Whitelist umgehen

    Node-Server im Nvidia-Treiber ermöglicht Malware-Ausführung

  9. Easy S und Easy M

    Vodafone stellt günstige Einsteigertarife ohne LTE vor

  10. UP2718Q

    Dell verkauft HDR10-Monitor ab Mai 2017



Haben wir etwas übersehen?

E-Mail an news@golem.de


Anzeige
Linux auf dem Switch: Freiheit kann ganz schön kompliziert sein!
Linux auf dem Switch
Freiheit kann ganz schön kompliziert sein!
  1. Digital Ocean Cloud-Hoster löscht versehentlich Primärdatenbank
  2. Google Cloud Platform für weitere Microsoft-Produkte angepasst
  3. Marktforschung Cloud-Geschäft wächst rasant, Amazon dominiert den Markt

Radeon RX 580 und RX 570 im Test: AMDs Grafikkarten sind schneller und sparsamer
Radeon RX 580 und RX 570 im Test
AMDs Grafikkarten sind schneller und sparsamer
  1. Grafikkarten AMD bringt vier neue alte Radeons für Komplett-PCs
  2. Grafikkarten AMD stellt Radeon RX 560 und Radeon RX 550 vor
  3. Grafikkarte AMDs Radeon RX 580 nutzt einen 8-Pol-Stromanschluss

Galaxy S8 vs. LG G6: Duell der Pflichterfüller
Galaxy S8 vs. LG G6
Duell der Pflichterfüller
  1. Smartphones Es wird eine spezielle Microsoft Edition des Galaxy S8 geben
  2. Galaxy S8 und S8+ im Kurztest Samsung setzt auf langgezogenes Display und Bixby
  3. Smartphones Samsungs Galaxy S8 könnte teuer werden

  1. frage zu Passmark CPU benchmarks

    mrgenie | 01:18

  2. Re: Bootzeit?

    Silberfan | 01:08

  3. Re: GA-AB350-Gaming3 teils verschlimmbessert

    Silberfan | 01:05

  4. Re: MSI X370 GAMING PRO CARBON mit ewiger Boot-Zeit

    Silberfan | 00:55

  5. Re: ASROCK AB350 Pro4

    Silberfan | 00:48


  1. 12:40

  2. 11:55

  3. 15:19

  4. 13:40

  5. 11:00

  6. 09:03

  7. 18:01

  8. 17:08


  1. Themen
  2. A
  3. B
  4. C
  5. D
  6. E
  7. F
  8. G
  9. H
  10. I
  11. J
  12. K
  13. L
  14. M
  15. N
  16. O
  17. P
  18. Q
  19. R
  20. S
  21. T
  22. U
  23. V
  24. W
  25. X
  26. Y
  27. Z
  28. #
 
    •  / 
    Zum Artikel