Bainbridge und die Ironien der Automatisierung

Lisanne Bainbridge schrieb 1983 ein Paper, das heute relevanter ist als je zuvor. “Ironies of Automation” hat mittlerweile über 1800 Zitationen¹ und beschreibt ein fundamentales Problem.

Je mehr wir automatisieren, desto schwieriger werden die verbleibenden menschlichen Aufgaben.

Die zentrale Ironie betrifft die Denkweise von Systemdesignern. Bainbridge beobachtete, dass sie Menschen als unzuverlässig und ineffizient betrachten und deshalb aus dem System entfernen wollen.² Aber dieselben fehlbaren Menschen entwerfen das System und müssen einspringen, wenn die Automatisierung versagt.

By taking away the easy parts of the task, automation can make the difficult parts of the human operator’s task more difficult.³

Dazu kommt ein Aufmerksamkeitsproblem. Wer nur noch Bildschirme überwacht statt aktiv zu steuern, verliert das Gespür für den Prozess. Automatische Systeme können Fehler verschleiern, indem sie Abweichungen ausgleichen, bis es zu spät ist.⁴ Die Fähigkeiten für Notfälle verkümmern durch mangelnde Übung.

Die finale Ironie ist die bitterste:

It is the most successful automated systems, with rare need for manual intervention, which may need the greatest investment in human operator training.⁵

Je besser die Automatisierung funktioniert, desto mehr müssen wir in menschliche Fähigkeiten investieren, die fast nie gebraucht werden.