Complacency-Effekte und automation bias in der Mensch-Maschine-Interaktion
Zusammenfassung der Projektergebnisse
Ziel des Forschungsprojekts war es, Aspekte, die zur Entstehung von complacency und automation bias beitragen, systematisch zu untersuchen und den Zusammenhang zwischen diesen beiden Effekten der Mensch-Maschine-Interaktion weiter aufzuklären. Dazu wurden drei Experimente durchgeführt, in denen der Einfluss der Funktionsallokation (Experiment 1), des Bedienerzustands (Experiment 2) sowie der Erfahrungen mit einem System und interindividueller Persönlichkeitsunterschiede (Experiment 3) untersucht wurde. In Bezug auf eine optimale Funktionsallokation zwischen Mensch und Automation (Experiment 1) weisen die Befunde darauf hin, dass eine möglichst hohe Stufe von Automation den stärksten Leistungszuwachs bringt, ohne dabei zwangsläufig das Risiko von complacency und automation bias Effekten zu erhöhen. Erst unter erschwerten Bedingungen, wie einem verminderten Bedienerzustand durch Schlafdeprivation (Experiment 2), zeigten sich Unterschiede zwischen verschiedenen Funktionsallokationen. Diese weisen darauf hin, dass es in einem ermüdeten Bedienerzustand anscheinend nicht ausreicht, Operateure von kognitiven Aufgaben (z.B. Entscheidungsprozessen) zu entlasten, sondern dass erst die zusätzliche Befreiung von manuellen Tätigkeiten eine geeignete Gegenmaßnahme darstellt. Insgesamt sprechen die Befunde also für eine möglichst hohe Stufe der Automatisierung. Das zweite Experiment zeigte, dass der Bedienerzustand nicht nur in Bezug auf verschiedene Funktionsallokationen, sondern für das Überwachungsverhalten per se, eine wichtige Determinante darstellt. In Übereinstimmung mit Annahmen von Hockey (1997) schafften es Probanden, trotz einem verminderten Zustand, induziert durch Schlafdeprivation, ihre Leistung in der Primäraufgabe aufrechtzuerhalten, allerdings auf Kosten der Sekundäraufgabenleistung, welche zum Teil deutlich schlechter wurde. Dabei prüfen die UntersuchungsteilnehmerInnen in ermüdetem Zustand die von der Automation generierten Fehlerdiagnosen signifikant gründlicher, bevor sie ihnen folgen, verglichen zu ihrem Verhalten in einem sehr wachen Zustand. Darin scheint sich ein zweiter, bisher nicht berichteter kompensatorischer Effekt widerzuspiegeln. Offenbar sind sich die ProbandInnen ihrem leistungsreduzierten Zustand bewusst und bemühen sich um eine Minimierung des Risikos von Nutzungsfehlern im Umgang mit der Automation. Weiterhin legen die Ergebnisse die Annahme von zwei gleichzeitig, jedoch gegenläufig wirkenden Feedbackkanälen nahe, die durch positive als auch negative Erfahrungen mit dem System entstehen (Experiment 3). Allerdings scheinen diese beiden Kanäle nicht gleich gewichtet zu sein. Es zeigte sich, dass negative Erfahrungen einen weitaus stärkeren Einfluss sowohl auf das subjektive Vertrauen, als auch auf complacency und das automation bias Potential haben, als positive Erfahrungen mit dem System. Bereits ein negatives Erlebnis in Form eines Automationsfehlers verminderte das Vertrauen drastisch. Auf das Überwachungsverhalten bezogen scheinen die Effekte noch stärkere Auswirkungen zu haben, da Probanden nach einem erlebten Fehler das System weitaus kritischer überwachten und sich dieser Effekt auch, unabhängig von diversen positiven Erfahrungen, als über die Zeit konstant erwies. Für einen moderierenden Einfluss von Persönlichkeitsmerkmalen auf die Art der Zusammenarbeit mit einem Assistenzsystem konnten keine klaren Hinweise gefunden werden. Es zeigte sich zwar, dass Personen, die einen comission error begehen höhere Werte auf der Dimension Extraversion erzielten, dieses Ergebnis ist aber durch eine geringe Zellenbesetzung nur schwer interpretierbar. Es scheint jedoch, dass Personen mit einer hohen Extraversionsausprägung ein stärkeres Vertrauen in das Assistenzsystem haben, welches sich dann wiederum in einem vernachlässigenden Überwachungsverhalten äußern kann. Unterstützung für diese vorsichtige Interpretation findet sich auch bei Merritt & Ilgen (2008). Abschließend legen die Ergebnisse des ersten wie auch des letzten Experiments nahe, die Ursachen für einen automation bias weiter aufzugliedern. Neben den bereits von Skitka, Mosier & Burdick (1999) postulierten Faktoren der unzureichenden Informationssuche und dem bewussten Missachten widersprüchlicher Informationen, scheint eine weitere Ursache eine unaufmerksame Verarbeitung von visuell wahrgenommenen Stimuli / Informationen zu sein. Durch diese sehr oberflächlich bleibende Verarbeitung, wird die Bedeutung der aktiv aufgesuchten Informationen nicht klar, so dass auch nicht erkannt werden kann, wenn es sich um zum Diagnosevorschlag der Automation widersprüchliche Informationen handelt.
Projektbezogene Publikationen (Auswahl)
- (2008). Misuse of automated decision aids: Complacency, automation bias and the impact of training experiences. International Journal of Human-Computer Studies, 66, 688-699
Bahner, J. E., Hüper, A.-D. & Manzey, D.
- (2008). Misuse of diagnostic aids in process control: The effects of automation misses on complacency and automation bias. Proceedings of the 52nd Annual Meeting of the Human Factors and Ergonomics Society, New York, September 2008. Santa Monica: HFES
Bahner, J. E., Elepfandt, M. & Manzey, D.
- (2008). Performance-consequences of automated aids in supervisory control: The impact of function allocation. Proceedings of the 52nd Meeting of the Human Factors and Ergonomics Society, New York, September 2008. Santa Monica: HFES
Manzey, D., Reichenbach, J. & Onnasch, L.
- (2009). Human performance consequences of automated decision aid in states of fatigue. Proceedings of the 53rd Meeting of the Human Factors and Ergonomics Society, San Antonio, October 2009. Santa Monica: HFES
Manzey, D., Reichenbach, J. & Onnasch, L.
- (2009). Leistungsfolgen beim Umgang mit Assistenzsystemen: Der Einfluss von Funktionsallokation und Bedienerzustand. Vortrag gehalten bei der 6. Tagung der Fachgruppe Arbeits- und Organisationspsychologie. Wien
Reichenbach, J., Onnasch, L. & Manzey, D.
- (2010). Misuse of automation: The impact of system experience on complacency and automation bias in interaction with automated aids. Proceedings of the 54th Meeting of the Human Factors and Ergonomics Society, San Francisco, October 2010. Santa Monica: HFES
Reichenbach, J., Onnasch, L. & Manzey, D.
