Freitag, 22. März 2019

Mensch-Maschine – DIE Herausforderung in Zeiten von KI

Regelmäßig gerät unser Fortschritt an größere Schwellen, die besondere Herausforderungen sind. Das war zu Beginn des Industriezeitalters so, eine weitere Klippe entstand Ende der 1970er-Jahre, als langsam die digitale Welt in die Maschinen- und Prozesssteuerung Einzug hielt.

Jetzt stehen wir, seit knapp 10 Jahren wieder vor einer größeren Hürde, dem langsamen Einzug der sogenannten künstlichen Intelligenz (KI).



Und wir machen wieder Fehler, die gleichen Fehler wie in der Vergangenheit. Wir versuchen, die Rezepte der Vergangenheit auf die neuen Anforderungen anzuwenden. Wir versuchen, Symptome mit ständigen aktivistischen Veränderungen an Strukturen und Prozessen zu bekämpfen, anstatt erstmal die richtigen Voraussetzungen zu schaffen.
Wir fangen wieder am falschen Ende an und lernen nur langsam, durch Schmerzen und häufigen Misserfolg.

Fehlt uns das Wissen? Nein!
Die moderne Verhaltensforschung kennt die Lösungen. Sie weiß, dass zunächst das Framework nötig ist um Veränderungen erfolgreich zu gestalten. Sie hat längst herausgefunden, dass nicht mangelndes Wissen unser Problem ist, sondern falsches Verhalten.
Sie weiß, dass Verhaltensänderungen nachhaltig nur durch „Wollen“ und nicht durch „Müssen“ gefestigt werden.
Exzellente und sehr praxiserfahrene Forscher und Berater nennen uns Leitfäden, wie wir das erreichen können.
Doch wir lassen uns treiben von kurzfristigem wirtschaftlichem Druck. Wir hecheln nach schnellen Strohfeuern anstatt ein stabil leuchtendes Licht zu entzünden.

Ich nehme das seit fast 14 Tagen täglich die Schlagzeilen füllende, tragische Unglück von Ethiopian Airlines Flug 302 am 10. März 2019 als Beispiel, wie eine typische Fehlerkette ihren Lauf nimmt.
Das Öl ins Feuer lieferten die alten Klassiker: wirtschaftlicher Druck und kurzatmiger Aktivismus, eingebettet in eine das Unglück fördernde Umgebung. Versagt hat der Mensch, nicht die Maschine.

Viele „Experten“, vor allem aus der Kommunikationsecke, stürzen sich auf den Hersteller Boeing und die amerikanische Behörde für Flugsicherheit, FAA. Dort haben sie die Schuldigen ausgemacht. Das ist ebenso kurzatmig wie aktivistisch und löst in keiner Weise das Problem.
Einen guten Fokus auf eines der tatsächlichen Probleme liefert der US Flugsicherheitsexperte Cpt. Chesley Sullenberger, der vor 10 Jahren die meisterhafte Landung eines Airbus A320 auf dem Hudson als Kapitän verantwortete. In seinem Artikel beschreibt er den langen Weg einer falschen Entwicklung bei der FAA und Boeing, getriggert von Budgetkürzungen, Sparzwang und Zeitdruck.
Dabei ist Eines in der Betrachtung wichtig: keiner, weder Boeing noch die FAA haben bewusst oder boshaft diese Fehler begangen. Hier ist nur eine der vielen Barrieren in einer langen Fehlerkette gebrochen, wie der Fehlerforscher James Reason das Phänomen in seinem „Schweizer-Käse-Modell“ beschreibt.



Eine weitere, ganz entscheidende Barriere ist schon viel früher abgebröckelt, schleichend, ohne dass man bisher davon öffentlich Notiz nahm.
Durch den Einzug von immer mehr komplexer Automatisierung (KI) wurde der Mensch als Glied in der Sicherheitskette als immer unwichtiger angesehen. Angeheizt wird diese Entwicklung bis heute von den gleichen, schon genannten Verdächtigen: Aktivismus, wirtschaftlicher Druck und den Hang, alte Betrachtungen auf neue Herausforderungen zu übertragen.
Neu dazugekommen ist eine sich ständig überbietende Fraktion an Digitalisierungs- und KI-Gurus, die uns zu erklären versucht, dass der Mensch eigentlich bald den Menschen nicht mehr braucht. Unterstützung finden sie in Teilen der Tech-Industrie und vor allem den Medien, die das gefällig aufgreifen um Neues verkünden zu können.

In der Luftfahrt führte dieses Phänomen langsam dazu, Piloten die klassischen Skills der Flugzeugführung nicht mehr beizubringen. Ein Artikel vor wenigen Tagen, auf den mich Chesley Sullenberger aufmerksam machte, fasst das Problem sehr gut zusammen.

Um das ganz klar zu sagen, ohne das Brechen der Barriere „Piloten“ wären die tragischen Unglücke Lion-Air-Flug JT610 im Oktober 2018 und ET 302 in Addis Abeba mit hoher Wahrscheinlichkeit nicht passiert.
Im ASRS, dem Fehlermeldesystem der Verkehrsluftfahrt, sind 5 Vorfälle gleicher Art bei der B737 MAX bekannt, die von den Piloten problemlos bewältigt wurden. Sogar am Tag vor dem Unglück der Lion Air hat eine Besatzung das gleiche Problem im gleichen Flugzeug, unterstützt durch einen zufällig anwesenden 3. Piloten, gelöst.

Gebrochen ist auch, gleich mehrfach, die Barriere „Kontrollinstanz“. Nämlich bei der FAA, dem Hersteller Boeing, den Wartungsabteilungen der Airlines, dem Management der Airlines, den Trainingscentern für die B737-Piloten und auch der europäischen Luftfahrtbehörde EASA, die ebenfalls nicht auf das Unglück im Oktober 2018 reagiert hat.
Das Brechen aller Barrieren wurde immer durch die gleichen Brandstifter gefördert:
Aktivismus, wirtschaftlicher (und damit oft auch politischer) Druck, das Ganze gewürzt mit einer Gläubigkeit an das goldene Kalb „Technik“.
Spätestens das zweite Unglück in Addis Abeba wäre an vielen Stellen einfach zu verhindern gewesen.

Recht gut funktioniert hat nach dem 2. Unfall (leider erst dann) das Situations-Management. Nach knapp 9 Tagen waren weltweit alle notwendigen Schritte erledigt um eine Wiederholung zu verhindern und den wahren Ursachen auf den Grund zu gehen.
Auch Boeing und die FAA machen, nach kurzem Zaudern, mit und räumen große Fehler ein – im Diesel-Skandal von Volkswagen wird noch heute, Jahre danach, vernebelt.
Im deutschen Kliniken sterben nach aktuellen Studien großer deutscher Krankenkassen täglich über 50 Menschen durch vermeidbare Fehler, seit Jahrzehnten, ohne nennenswerte positive Veränderung.
Was würde passieren, wenn jede Woche ein vollbesetzter Airbus A330 über Deutschland abstürzen würde?
Das ist die vergleichbare Zahl an Todesfällen.

Wie können wir Abhilfe schaffen?


Ich habe nicht zufällig dieses aktuelle Beispiel einer langen, fatalen Fehlerkette aus der Luftfahrt gewählt. Denn ich bin mir sicher, dass die Luftfahrt jetzt sehr schnell aus dieser Fehlentwicklung lernen wird.
Da brauchen wir nur mal wieder abzugucken, und wir wissen, wie wir in Unternehmen und Klinken fatale Fehlentwicklungen stoppen können.

Warum ist die Luftfahrt im Lernen und bei Verhaltensänderungen so schnell?

Die Antwort ist einfach: das wirtschaftliche Überleben der Airlines hängt davon ab.
Diese Erkenntnis hat man seit über 30 Jahren. Sie führte zur Entwicklung des außerordentlich erfolgreichen Führungs- und Arbeitsmodells Crew-Resource-Management (CRM) in der Verkehrsluftfahrt.
Das CRM fördert eine Umgebung psychologischer Sicherheit. In ihr entwickelte sich eine Veränderung von der „Push-“ zur „Pull“-Mentalität.
Crews wollen ihr Verhalten weiterentwickeln, sie bewegen ihre Airlines in die richtige Richtung, sie fanden Nachahmer in allen Bereichen der operativen Luftfahrt, durch vorbildhaftes Verhalten.

Welche gravierenden Korrekturen sind jetzt fällig?


Je mehr Computer-Intelligenz (KI) im Cockpit Einzug hält, desto wichtiger ist das detaillierte Wissen um die Zusammenhänge der Systeme und das Erhalten der Basic Skills, nämlich das Flugzeug auch ohne diese Hilfsmittel sicher und ohne bedrohlichen Stresseinfluss fliegen zu können. Fliegen in der Erdatmosphäre ist ein physikalischer Vorgang, keine Mystik durch Geisterhand. Es hat mit Raumschiff Enterprise wenig zu tun.
Das Human-Machine-Interface ist die wichtigste Schnittstelle im Cockpit eines Flugzeuges überhaupt. Hier beginnen heute fast alle Unfälle.



Uns muss klar sein, dass immer mindestens ein drittes Crewmitglied und sein Meister mit an Bord sind: der Computer und sein Software-Ingenieur.
Macht der Ingenieur einen Fehler – und er macht ihn – muss die Barriere Pilot halten, sonst sterben Menschen.
Versagt die Technik durch einen Defekt, Verschleiß oder einen Wartungsfehler, muss die Barriere Pilot halten, sonst sterben Menschen.

Wie hält die Barriere Pilot?


Sie hält nur in einem exzellent funktionierenden Team, einzeln und gemeinschaftlich sehr gut ausgebildet und ständig trainiert. Fliegen ist eine Teamleistung, immer!
Daher stellt das CRM auch das fehlerarme und effiziente Zusammenarbeiten (Verhalten) des Teams in den Mittelpunkt, und nicht den einzelnen Piloten.

Wer gehört zum Team?


Die Piloten, die Kabinenbesatzung, die Flugverkehrskontrolle, das Groundhandling, die Technik, das operative Airline-Management, der Hersteller und ganz schnell auch mal Rettungskräfte wie Feuerwehr, Notfallmanager und Sanitäter.

Es kommt recht häufig zu gravierenden Zwischenfällen in der Luftfahrt, die in der Öffentlichkeit kaum bis gar nicht wahrgenommen werden. Selbst die Passagiere bekommen oft nur wenig davon mit. Nicht selten ist es nur eine Information wie:

Sehr geehrte Fluggäste, aufgrund widriger Wetterverhältnisse haben wir einen Ausweichflughafen anfliegen müssen. Wir bitten Sie, die Unannehmlichkeiten zu entschuldigen. Wir kümmern uns umgehend um Ihre Weiterreise zum gewünschten Zielort.

Das die Cockpitbesatzung nach einem Langestreckenflug, kurz vor dem greifbaren Ziel, zusammen mit der Flugverkehrskontrolle fast eine Stunde gravierende Entscheidungen unter hohem Druck treffen musste um Sicherheit zu gewährleisten und keine unvertretbaren Risiken einzugehen, haben Sie bei einem kühlen Drink gar nicht mitbekommen. Wenn es Sie interessiert, wie so etwas im Cockpit abläuft, schauen Sie das Video:


Wie schnell aus einer Routinesituation im Cockpit ein potentiell gefährlicher Notfall wird, und wie man ihn vorbildlich, nach den Verhaltensregeln des CRM löst, sehen Sie am Beispiel von Flug Air Lingus 11EA im Jahr 2015.
Das Flugzeug, eine moderne Boeing 757, brauchte schlagartig alle Aufmerksamkeit, erstklassige fliegerische Fähigkeiten und viele schnelle Entscheidungen unter hohem Druck. Die Cockpitcrew hat zusammen im Team mit der Flugverkehrskontrolle in Boston und New-York sowie den Rettungskräften mustergültig gehandelt und stets große Ruhe und Übersicht ausgestrahlt. Alle Passagiere verließen gesund und über eine normale Treppe das Flugzeug, wenn auch mitten auf der Landebahn.


Wie wir Menschen schnell vom „Müssen“ zum „Wollen“ motivieren, positive Verhaltensänderungen und damit Teamleistungen enorm und messbar steigern, beschreibe ich Ihnen in Beispielen in meinem nächsten Beitrag.

Unsere am 20. März 2019 aktualisierte Literaturliste finden Sie hier (PDF)

Keine Kommentare:

Kommentar veröffentlichen