Autopilot an, Kopf aus? Was wir von der Luftfahrt über Automatisierung lernen können

Spätestens seit der Veröffentlichung von KI-Assistenten wie ChatGPT oder Claude denken zahlreiche Unternehmen auf verschiedenen Ebenen darüber nach, mehr zu automatisieren. Von E-Mails, über Entscheidungen, bis hin zu ganzen Prozessen. Abläufe sollen dadurch effizienter werden – und ganz nebenbei lässt sich noch Personal einsparen. Ein Win-Win? Nicht so schnell, denn EU-Recht verlangt, dass bei gewichtigen Entscheidungen weiterhin ein Mensch im ‘Loop’ ist. Aber warum eigentlich? Und ist es wirklich damit getan, irgendeinen Menschen irgendwo in einen Prozess zu setzen? Ganz so einfach ist es nicht. Wer sinnvoll automatisieren möchte, braucht mehr als das menschliche Pendant einer Vogelscheuche. Um zu verstehen, was es dafür braucht, lohnt sich der Blick nach oben. Denn in der Luftfahrt ist Automatisierung schon seit Jahrzehnten fester Bestandteil des Alltags. Als Best Practice zeigt der Sektor, worauf es ankommt: ob klare Kommunikation oder auch die ständige Weiterentwicklung des Trainings. In diesem Blogpost schauen wir uns an, was wir von der Luftfahrt über ein harmonisches Zusammenspiel zwischen Mensch und Maschine für andere Bereiche lernen können, die gerade erst anfangen, sich mit Automatisierung auseinanderzusetzen.

Fliegen ist das sicherste zivile Fortbewegungsmittel, das es gibt. Das zeigt sich schon in der Zulassung: Die akzeptable Wahrscheinlichkeit eines ‘katastrophalen Ausfalls’ – das heißt: akute Absturzgefahr – liegt bei 10^-9 (EASA, 2003, CS-25.1309); das ist ein solcher Ausfall in einer Milliarde Flugstunden. Die tatsächliche Unfallquote lag im Jahr 2025 bei 1,32 pro 1 Million Flüge, was 49 Unfällen mit insgesamt weltweit 394 Todesopfern entspricht (IATA, 2026).¹ Das sind deshalb nicht weniger traurige Zahlen, aber die 2832 Verkehrstoten im selben Jahr allein in Deutschland setzen sie durchaus ins Verhältnis (ADAC, 2026). Und dennoch haben rund 3% der Menschen Flugangst (Grimholt et al., 2019).² Trauen wir den Pilot*innen nicht zu, dass sie uns sicher von A nach B bringen? Oder dem Flugzeug nicht, dass es das tut, was es soll? Macht das heute nicht ohnehin alles der KI-Autopilot? Nicht ganz. 

Automatisierung in der Luft

Die technische Unterstützung von Menschen wird in der Luft schon lange mitgedacht (Bainbridge, 1983). Die Landung beispielsweise ist schon seit den 1950er Jahren automatisierbar. Zum Vergleich: Computer waren damals noch größer als Menschen und konnten nicht im Entferntesten das, was selbst einfachste, winzige Rechner heute ermöglichen. Seitdem hat sich technologisch einiges getan, doch Fliegen ist bis heute erstaunlich viel Handarbeit, wenn man einen Blick in das mit dutzenden Knöpfen gespickte Cockpit wirft.

Zwar gibt es vielerlei unterstützende Systeme und kein*e Pilot*in muss sich heute – bei normalen Bedingungen – noch aktiv darum kümmern, auf Reiseflughöhe das Flugzeug stabil zu halten oder in die richtige Richtung zu fliegen. Doch von einer vollständigen Automatisierung ist die zivile Luftfahrt noch weit entfernt. Genauso wie von der Implementierung moderner KI-Systeme an Bord. Automatisierung und damit verbundene Risiken beginnen jedoch schon bei viel simpleren Systemen. Als Bereich, in dem Fehler Menschenleben kosten können, wird sich in der Luftfahrt schon immer und stets kritisch mit dem Thema Sicherheit auseinandergesetzt. So ist beispielsweise der Start eines jeden Verkehrsflugzeugs weiterhin manuell; weil es Aspekte gibt, die wir (noch) nicht an Maschinen abgeben können; wo ein oder mehrere Menschen gebraucht werden und komplexe Entscheidungen getroffen werden müssen. 

Wer entscheidet in der Luft?

Entscheidungen in der Luft werden grundsätzlich nie allein getroffen. Vorne im Cockpit sitzen mindestens zwei Menschen: die Kapitän*in und die Erste Offizier*in, auch Co-Pilot*in genannt. Zwar hat die Kapitän*in das letzte Wort, doch bis dahin sind beide (mit wenigen Ausnahmen) in gleicher Weise zu Entscheidungen befugt. Wer für was zuständig ist, entscheidet sich dabei nicht nach Rang, sondern einer vor jedem einzelnen Flug gemeinsam festgelegten Rollenverteilung – in steuernde*r Pilot*in und kontrollierende*r Pilot*in. So wird sichergestellt, dass beide beides können. Jedoch sind die zwei nicht allein da oben. Um die unfallfreie Koexistenz mit anderen Flugzeugen zu gewährleisten, gibt es da noch die Fluglots*innen in großen Kontrollzentren am Boden, die auf genügend Abstand zwischen allen Flugzeugen achten, indem sie Anweisungen geben und Freigaben erteilen. 

Autopilot an, Kopf aus?

Und was macht nun der Autopilot? Funktional gibt es (vereinfacht ausgedrückt) zwei davon (plus Back-Ups): ‘Lenken’ und ‘Gas Geben’. Um zu lenken, steuert der Computer lediglich verschiedene Klappen rund ums Flugzeug an, die sich spezifisch in den Wind stellen, damit es sich entlang der drei Achsen so dreht, neigt oder kippt, wie es muss, um wieder auf Kurs zu kommen. Keine Magie, nur Physik. Keine Künstliche Intelligenz, sondern stur programmierte Algorithmen, die klaren Regeln folgen und sich selbst abschalten, wenn Daten fehlen (Sensor kaputt) oder irgendwas nicht stimmt (zu windig). Das Fliegen wird dabei nicht neu erfunden, sondern die Crew vorhersehbar entlastet und der Flug effizienter gestaltet.

Und was macht noch die Pilot*in? Auch bei eingeschaltetem Autopilot haben die Pilot*innen alle Hände voll zu tun. Sie überwachen sein ‘Handeln’, kontrollieren den Treibstoffverbrauch, prüfen Ausweichflughäfen, behalten das Wetter im Blick und stehen in Kontakt zur Flugsicherung am Boden. Das ist alles andere als trivial und trotz Autopilot eine fordernde Aufgabe. Geht es in den Landeanflug, wird der Autopilot in aller Regel abgeschaltet. Eine automatische Landung erfordert nämlich so aufwändige Vorbereitungen, dass es bei ausreichender Sicht paradoxerweise ‘einfacher’ ist, von Hand zu landen.

Mensch im Loop, alles gut?

Die Hauptursache für Unfälle in der Luftfahrt bleibt in den meisten Fällen menschliches Versagen (IATA, 2026). Die Maschine erledigt ihre Aufgaben zuverlässig, aber eben nur die, für die sie gebaut wurde. Alles andere müssen zwingend Menschen übernehmen. Umso wichtiger ist es, dass diese Menschen in die Lage versetzt werden, diese Rolle erfüllen zu können. Andernfalls dienten sie lediglich als Sündenbock, wenn etwas schiefgeht (Crootof et al., 2023). Genau das kann jedoch passieren, wenn Systeme so gestaltet werden, dass am Ende immer der bedienende Mensch schuld ist und nie die Technik. Ganz nach dem Motto: Das Problem sitzt vor dem Computer. Das ist nicht nur eine rechtlich relevante Frage. Vor allem geht es darum, wie wir Prozesse gestalten. Im Folgenden zeigen wir auszugsweise anhand von drei Learnings, wie die Luftfahrt genau damit umgeht und was andere Bereiche davon lernen können. 

Learning 1: Mehr als die Summe der Teile

In den Kontrollzentren der Flugsicherung arbeiten Fluglots*innen gemeinsam in großen Hallen, mit Zuständigkeiten für bestimmte Lufträume. Während die Übergabe von Flugzeugen zwischen Lufträumen überwiegend strikt nach Flugplänen abläuft, ändert sich häufig etwas aufgrund von Wetter oder Verspätungen. Dann muss im Zweifel abgesprochen werden, dass ein Flugzeug aus dem einen in einen anderen Sektor umgeleitet wird. Früher passierte das auf Zu- oder Anruf. Heute macht das ein System mit einem simplen Ja-Nein-Pop-Up-Fenster. Schnell, effizient, klar – doch zu einfach? Eine zwischenmenschliche Absprache durch ein Ja-Nein Fenster zu ersetzen, blendet Tonfall, Wortwahl und Stimmlage aus (Rieth, 2022). Das sind alles Aspekte, die helfen, eine Aussage einzuordnen: Muss es schnell gehen? Ist es ein “könntest du” oder ein “du musst”? Steht eine unmittelbare Gefahr im Raum? Nichts davon bildet dieses Pop-Up-Fenster ab. Nicht ohne Grund nutzen wir in Chats häufig Emojis; weil es hilft, unsere Aussagen zu kontextualisieren. Es überrascht daher nicht, dass Fluglots*innen trotz des Systems weiterhin zum Hörer greifen oder zum Nachbartisch hinüberrufen, wenn es darauf ankommt. Nicht nur deshalb sitzen sie bis heute gemeinsam in einem Raum. 

Das Beispiel zeigt ein grundlegendes Problem: Automatisierung soll Menschen entlasten, indem ein System eine oder gleich mehrere Aufgaben gleichzeitig übernimmt. Allerdings lösen sich die Teilschritte durch die Bündelung nicht in Luft auf, sondern bilden einen neuen, komplexeren Prozess ab. Bin ich der Human-in-the-Loop, der diesen Prozess beaufsichtigt, muss ich, um diese Rolle zu erfüllen, nachvollziehen können, was da im Detail passiert, oder zumindest mitbekommen, wenn etwas schiefgeht. Dafür muss mir das System an erster Stelle in verständlicher Form mitteilen, was genau da gerade passiert.

Es reicht also nicht, die Stärken und Schwächen von Menschen und Maschinen einfach zu addieren. Gerade diese hybride Zusammenarbeit erzeugt neue, schwer vorhersehbare, eigene Probleme; allen voran Missverständnisse. Die vermeintliche Vereinfachung kann Abläufe komplizierter und damit schwerer kontrollierbar machen. Maschinen sind und bleiben Werkzeuge. Entsprechend sollten sie auch gestaltet und genutzt werden, um Blindflecken zu verringern, statt zu vermehren. Ein automatisiertes Verstehen ist wichtiger, als ein automatisiertes Entscheiden.

Learning 2: Check, check

Eines der wichtigsten Prinzipien in der Luftfahrt ist die Redundanz. Es gibt zwei Turbinen, ein halbes Dutzend Bordcomputer von verschiedenen Herstellern und drei getrennte Hydrauliksysteme für die Klappen. Von all dem bräuchte es theoretisch jeweils nur eines. Doch nicht nur technisch, sondern auch zwischenmenschlich hält doppelt besser. Die Kommunikation im Cockpit wurde in unseren Interviews mit einem Theaterstück verglichen. Vom Abgleich der Spritberechnung, über das Take-Off-Prozedere, bis hin zu Notsituationen, wie beispielsweise einem Kabinenfeuer, gibt es für alles detaillierte Checklisten und Skripte, die streng befolgt werden müssen. Übergreifende Praxis ist dabei das Check-Prinzip: eine Person sagt etwas, die andere bestätigt es; manchmal auch wörtlich-wiederholend, wenn der spezifische Inhalt besonders wichtig ist. Unterhalb von 10.000 Fuß herrscht sogar ein Small-Talk Verbot (EU, 2015); das heißt, es dürfen nur Dinge gesagt werden, die unmittelbar mit dem Flug(zeug) zu tun haben. Die Wochenendpläne haben da nichts mehr verloren. Die Regeln sind so klar, dass selbst die Abweichung davon bereits eine Aussage sein kann. Fehlt nämlich ein Schritt im Prozess, wird im Zweifel abgebrochen. 

Die Medizin hat sich diese Praxis von der Luftfahrt abgeschaut: Fehlt ein Tupfer, wird die Patient*in nicht zugenäht (Haynes et al., 2009). Gerade, wenn sich aufgrund von Automatisierung immer mehr Verantwortlichkeiten auf immer weniger Menschen verdichten, ist glasklare Kommunikation essentiell, damit niemand den Überblick verliert. Und solange ein Mensch essentiell bleibt, braucht es zwei davon.

Learning 3: Neue, alte Fähigkeiten

Tief verankert in der Luftfahrt ist die Entschlossenheit, aus jedem Fehler, vor allem aber Unfällen, zu lernen. Diese werden systematisch aufgearbeitet und Erkenntnisse sowie Empfehlungen zur Verbesserung von Abläufen offen und proaktiv kommuniziert. So auch im Falle des Flugs Air France 447, als 2009 ein Airbus A330 über dem Atlantik abstürzte (BEA, 2012). Das Flugzeug geriet in schwieriges Wetter, wodurch ein Sensor einfror und sich der Autopilot abschaltete. Das führte zu einer Kaskade von Fehlentscheidungen, die im Absturz des Flugzeugs mündeten. Die Crew war daran nur bedingt schuld, denn sie wurden für derart ungewöhnliche Fluglagen nicht ausgebildet. Man war damals der Ansicht, ein modernes Flugzeug könne technisch gar nicht mehr in solche Lagen geraten. Falsch gedacht. Der Vorfall war Anlass genug, die Ausbildung grundsätzlich und nachhaltig anzupassen. Heute muss jede*r Pilot*in jedes Jahr (mindestens) ein Training im Simulator bestehen, bei dem gezielt absurde Flugmanöver getestet werden; sonst ist die Lizenz weg. Wenn ich keine Übung in der Grundtätigkeit – dem Fliegen – habe, dann aber in komplizierten Notsituationen eingreifen muss, läuft etwas schief. 

Automatisierung bringt uns häufig in die Lage, dass wir weniger tun, aber mehr können müssen. Das erkannte die Psychologin Lisanne Bainbridge bereits 1983 in ihrem viel zitierten Artikel „Ironies of Automation“. Ein Human-in-the-Loop ist jedoch nur wirksam, wenn sie oder er im Zweifel manuell übernehmen kann; oder wenigstens risikoarm stoppen kann, was sich in der Luft in der Regel schwierig gestaltet. In den Worten eines Pilot*innenausbilders aus unseren Interviews: „When in doubt, revert to basic airmanship“ Genau deshalb wird in der Luftfahrt so viel im Simulator trainiert. Dass das keine Kür ist, untermalte ein kürzliches Gerichtsurteil in Frankreich gegen Airbus und Air France zu oben genanntem Unfall: fahrlässige Tötung – wegen mangelhafter Ausbildung (Reuters, 2026).

Doch nicht nur alte Fähigkeiten müssen erhalten bleiben, durch die Automatisierung verändern sich auch Rollenverständnisse und neue Fähigkeiten werden notwendig. Humans-in-the-Loop erfüllen beispielsweise ‘Reibungsrollen’ (d. h., ich verlangsame einen Prozess bewusst, bspw. um Risiken rechtzeitig zu erkennen) oder auch ‘Vermittlungsrollen’ (z. B., wenn ich als Ärzt*in zwischen meinen Patient*innen und den medizinischen Systemen übersetze) (Crootof et al., 2023). Für Pilot*innen bedeutet das, dass sie nun weniger Luftakrobat*innen sind, sondern mehr Systemmanager*innen. Ein Pilot sagte uns dazu im Interview, „Ich bin der schlechteste Pilot, der ich je war.“ Das sollte er vielleicht nicht bei der Begrüßung der Passagier*innen wiederholen, aber es legt den Finger in die Wunde. Je umfangreicher die Automatisierung ist, desto schlechter ist die Ausgangssituation für einen sich anpassenden Menschen, der aufpassen muss und intervenieren können soll. Ja, ich muss alles noch selbst können und bleibe vollständig verantwortlich – und ja, ich muss neue Fähigkeiten lernen und mein Selbstverständnis verändern. Diesen Spagat zu leisten, ist das Schicksal der ‘HILOs’.

Automatisierung ist kein Selbstzweck

Was lernen wir daraus? Entscheidungen dürfen nicht blind automatisiert werden, einfach weil es technisch möglich ist oder weil man da gerade besonders viel Personal einsparen kann. Ziel sollte eine harmonische, unterstützende, sicherheitsfördernde und vertrauensfördernde Verbesserung von Prozessen sein. Was genau das heißt, hängt natürlich vom Einzelfall ab. Nicht jeder Prozess in einem Unternehmen kann so klar strukturiert, standardisiert und abgesichert sein, wie Prozesse in der Luftfahrt, keine Frage. Schließlich sterben – zum Glück – nicht überall direkt 300 Menschen, wenn Fehler passieren. Aber das sollte vielleicht auch nicht der Maßstab sein. Es geht auch nicht darum, das Risiko auf null zu senken. Dann müssten wir am Boden bleiben. Wenn wir jedoch einem Menschen eine Rolle in einem Prozess zuschreiben wollen, die das System verbessert, dürfen wir nicht die Voraussetzungen ignorieren, die erfüllt sein müssen, damit das tatsächlich der Fall ist. Ein Anfang hierfür könnten die oben skizzierten drei Learnings sein:

1. Automatisierung bündelt Aufgaben zu einem neuen, komplexeren Prozess: Wer diesen beaufsichtigen soll, muss ihn nachvollziehen können, weshalb ein automatisiertes Verstehen wichtiger ist als ein automatisiertes Entscheiden.
2. Automatisierung konzentriert Verantwortung auf weniger Menschen: Um nicht den Überblick zu verlieren, benötigt es klare, geregelte Kommunikation, die alle auf demselben Stand hält.
3. Automatisierung verlangt von uns, weniger zu tun, aber mehr zu können: Grundfähigkeiten müssen erhalten bleiben, die Übernahme (wo sinnvoll) jederzeit möglich sein, während der Mensch zugleich in neue Rollen hineinwächst.

Die wichtigste Frage für erfolgreiche Automatisierung ist also nicht nur, wer was wie viel kontrolliert. Sie ist: Wie kommen Menschen und Maschinen miteinander aus? (Crootof, 2023).

1. Allein 241 der genannten 394 Todesopfer gehen auf den Absturz des Flugs Air India 171 am 12. Juni 2025 zurück. Daher liegt die Jahres-Gesamtzahl sogar deutlich höher als in den Jahren zuvor. ↩︎
2. Basierend auf einer empirischen Studie von Grimholt et al. (2019) mit einer repräsentativen Stichprobe der erwachsenen, norwegischen Allgemeinbevölkerung (N = 5500). ↩︎

Literaturverzeichnis

ADAC. (2026, 11. August). Verkehrstote 2025: Mehr tödliche Unfälle auf Deutschlands Straßen! https://www.adac.de/news/bilanz-verkehrstote/ 

Bainbridge, L. (1983). Ironies of automation. Automatica, 19(6), 775–779. https://doi.org/10.1016/0005-1098(83)90046-8 

Bureau d’Enquêtes et d’Analyses pour la sécurité de l’aviation civile (BEA). (2012). Final report on the accident on 1st June 2009 to the Airbus A330-203 registered F-GZCP operated by Air France flight AF 447 Rio de Janeiro – Paris. https://www.faa.gov/sites/faa.gov/files/AirFrance447_BEA.pdf

Commission Regulation (EU) 2015/140 of 29 January 2015 amending Regulation (EU) No 965/2012 as regards sterile flight crew compartment and correcting that Regulation, OJ L 24, 30.1.2015, p. 5–14. https://eur-lex.europa.eu/legal-content/EN/TXT/HTML/?uri=CELEX:32015R0140

Crootof, R., Kaminski, M. E., & Price, W. N., II. (2023). Humans in the loop. Vanderbilt Law Review, 76(2), 429–510. https://scholarship.law.vanderbilt.edu/vlr/vol76/iss2/2

European Union Aviation Safety Agency (EASA). (2023). Easy access rules for large aeroplanes (CS-25) (Revision of January 2023). CS 25.1309. https://www.easa.europa.eu/en/document-library/easy-access-rules/online-publications/easy-access-rules-large-aeroplanes-cs-25?page=41 

Grimholt, T.K., Bonsaksen, T., Schou-Bredal, T., Heir, T., Lerdal, A., Skogstad, L., Ekeberg, Ø. (2019). Flight anxiety reported from 1986 to 2015. Aerospace Medicine and Human Performance, 90(4), 384–388. https://doi.org/10.3357/AMHP.5125.2019 

Haynes, A. B., Weiser, T. G., Berry, W. R., Lipsitz, S. R., Breizat, A.-H. S., Dellinger, E. P., Herbosa, T., Joseph, S., Kibatala, P. L., Lapitan, M. C. M., Merry, A. F., Moorthy, K., Reznick, R. K., Taylor, B., & Gawande, A. A. (2009). A surgical safety checklist to reduce morbidity and mortality in a global population. New England Journal of Medicine, 360(5), 491–499. https://doi.org/10.1056/NEJMsa0810119

Mahlow, P., & Mosene, K. (2025, 8. Dezember). Der Human in the Loop bei der automatisierten Kreditvergabe – Menschliche Expertise für größere Fairness. Digital Society Blog. https://doi.org/10.5281/zenodo.17857675

International Air Transport Association (IATA). (2026). Interactive safety report. https://www.iata.org/en/publications/safety-report/interactive-safety-report/ 

Reuters. (2026, 22. Mai). Airbus, Air France found guilty of manslaughter over 2009 Atlantic crash. CNBC. https://www.cnbc.com/2026/05/22/airbus-air-france-found-guilty-of-manslaughter-over-2009-atlantic-crash.html

Rieth, M. (2022). Auswirkungen zunehmender Automatisierung auf Beschäftigte in High Reliability Organizations – Eine Analyse der veränderten Arbeitsrolle und Anforderungen unter Berücksichtigung der Arbeitsgestaltung am Beispiel des Berufsbildes der Fluglots:innen. Pabst Science Publishers.