Automatisierte Systeme unterfordern Piloten und Bediener

Ironie der Automatisierung: Zunehmende Selbstständigkeit von Assistenzsystemen führen durch Unterforderung der Piloten und Bediener zu kritischen Situationen

Lisanne Bainbridge zeigte bereits 1983 die vier Ironien auf, die mit zunehmender Automatisierung einhergehen:

Ironie 1: Menschliche Fehler sind ein wesentlicher Grund von Entwicklern, Handlungen des Menschen durch Automatisierung zu ersetzen. Aber auch Entwickler sind Menschen mit allen Stärken und Schwächen und können Fehler - in diesem Fall Entwicklungsfehler - machen. Eine Vielzahl von Fehlern im manuellen oder automatischen Betrieb eines Systems geht auf Entwicklungsfehler zurück.  -> Designed to fail
Ironie 2: Es werden in der Regel die Funktionen automatisiert, für die es eine technische Lösung gibt. Komplexe, nicht vollständig a-priori spezifizierbare oder aus anderen Gründen nicht automatisierbare Aufgaben werden auf den Menschen - das vermeintlich schwächste und fehleranfälligste Element -  in der Prozesskontrolle übertragen. -> Inadäquates Human-Machine Teaming
Ironie 3: Da automatische Systeme die Aufgaben besser, sicherer und schneller durchführen können, ersetzen sie den Menschen. Der Mensch muss und soll aber weiterhin eben diese Systeme überwachen und in Fehler- und Störfällen eingreifen und manuell übernehmen – ohne die „Vorgeschichte“ zu kennen oder die notwendigen Fähigkeiten zu haben. -> Problem des Kompetenzverlustes durch Automatisierung
Ironie 4: Da zuverlässige, automatische Systeme im täglichen Betrieb keine aktive Auseinandersetzung des Bedieners mit dem System vorsehen, benötigen diese - eigentlich - den höchsten Trainingsaufwand. Unzuverlässige Systeme trainieren durch das notwendige regelmäßige aktive Eingreifen des Bedieners im Alltagsbetrieb diesen quasi en passant. Dies reduziert den notwendigen Trainingsaufwand. -> Automatische Systeme brauchen mehr statt weniger Training der Bediener.

Aus diesen Ironien der Automatisierung folgt eine regelrechter Kampf zwischen Mensch und Maschine, wie dies die FAZ jüngst in einem Artikel beschrieb.
Im Flugverkehr ist der Grad der Automatisierung sehr weit fortgeschritten, ähnliche Entwicklungen gibt es im Schienenverkehr, in der Prozessindustrie und aktuell in der Automobilindustrie.

Die Ironien der Automatisierung werden sich auch hier wiederholen. Die Automatisierung führt nicht nur dazu, dass sich Fehler der Bediener reduzieren sondern auch, dass neue Fehlerarten entstehen und die Relevanz von Entwicklungs- und Managementfehlern deutlich zunimmt.
Für Entwickler heißt dies, dass Automatisierung technologisch beherrscht werden muss bei gleichzeitiger Berücksichtigung der beteiligten Menschen im Gesamtsystem, wie z.B. Piloten, Bediener, Entwickler, Wartungs- und Reinigungspersonal, Management.

Die IABG und die IABG Safety & Security Akademie unterstützen Organisationen bei einem ganzheitlichen Human-System-Integration Ansatz.