Was KI-Agenten von Führung verlangen

„Sie produ­ziert massen­weise Doku­mente“, sagt Sarah, als ich sie frage, wie ihre Vorge­setzte mit KI arbeitet, „genau und fehler­frei.“ Ich musste an die Work­shops denken, in denen solche Papiere verteilt werden: Alle nicken, niemand liest, und die eigent­liche Arbeit findet woan­ders statt. In meiner aktu­ellen Kolumne „Führe KI auf das nächste Level“ habe ich daraus die These gemacht, dass viele Führungs­kräfte auf der untersten Stufe stehen bleiben, weil sie gar nicht wissen, dass es weitere gibt. Hier will ich zeigen, wie diese Treppe aussieht und warum sie eigent­lich eine Führungs­treppe ist.

Sieben Levels, drei Phasen

Eine gängige Syste­matik, die ich von meinem Gesprächs­partner Ulrich Vogel von Tanagra.ai über­nommen habe, ordnet die Entwick­lung von KI-Systemen in sieben Levels, gemessen an Auto­nomie, Denk­fä­hig­keit und Werk­zeug­nut­zung.

In der erst ersten Phase, auf den Levels 1 bis 3, bleibt KI ein reak­tives Sprach­werk­zeug: Sie sagt statis­tisch den nächsten Text vorher, lernt dann struk­tu­riert und schritt­weise zu denken und greift schließ­lich auf Websuche, Daten­banken und Schnitt­stellen zu. Sie wird aber nur aktiv, wenn jemand sie anstößt; der Mensch steuert jeden einzelnen Zyklus und ist damit Operator. Dies kann er aller­dings mit mehr oder weniger Grips sein. Meta­ko­gni­tion ist hier entschei­dend.

In der zweiten Phase, auf Level 4, skaliert die Qualität. Der Agent plant Aufgaben, führt sie aus, prüft sein Ergebnis und korri­giert sich, während der Mensch über­wacht und bestä­tigt. In der dritten Phase, auf Level 5 bis 7, arbeiten Teams von Agenten an komplexen Projekten, verteilen Rollen unter­ein­ander und agieren am Ende dauer­haft und proaktiv. Der Mensch sitzt dann im virtu­ellen Aufsichtsrat und setzt Leit­li­nien.

Level 7 halte ich für eine Zukunfts­be­haup­tung; kein Unter­nehmen, das ich kenne, ist dort. Als Land­karte taugt die Grafik trotzdem, weil sie zeigt, wie weit der Weg von Sarahs Vorge­setzter bis oben ist.

7 Levels oder drei Phasen

Wer die Grafik von unten nach oben liest, sieht Technik. Wer nur die unterste Zeile liest, sieht Führung: Operator, Bestä­tiger, Aufsichtsrat. Drei Rollen, drei Anfor­de­rungen, eine Rich­tung.

Der Operator mehr die Outputs Rich­tung Outcome durch Meta­ko­gni­tion, also die Fähig­keit, das eigene Denken und Kommu­ni­zieren zu beob­achten. John Flavell hat den Begriff 1979 in die Entwick­lungs­psy­cho­logie einge­führt; im Umgang mit KI wird er auf einmal Bedin­gung für alles Weitere. Nebenbei Ich-Entwick­­lung pur, d.h. das fordert unser Denken auf eine Art heraus, die maximal entwick­lungs­för­dernd ist.

Wer nie fragt, warum eine Antwort so ausfällt, wie sie ausfällt, und was er selbst dazu beigetragen hat, bleibt auf Level 1, gleich welches Modell er bezahlt. Sarahs Vorge­setzte bedient ein Werk­zeug von Level 3 mit dem Denken von Level 1. Das Ergebnis sind Papier­berge, die alle über­for­dern.

Der Bestä­tiger braucht, was gute Führung von Menschen schon immer verlangt hat: dele­gieren, prüfen, Rück­mel­dung geben. Robert Vogel, mit dem ich für meinen Podcast gespro­chen habe (ab November unter Podcasts), empfiehlt, jeden Agenten wie einen Werk­stu­denten zu behan­deln, der am Anfang keine Ahnung hat. Der erste Wurf ist dann ein Inkre­ment in einem Work­flow, etwas, das man auswertet und weiter­ent­wi­ckelt. Das setzt voraus, dass jemand weiß, wie gute Arbeit in diesem Fach aussieht. Als ich mit Sarah ihren Karrie­re­ent­wick­lungs­be­richt erstellt habe, war der erste Entwurf beein­dru­ckend; mit meinem Hinter­grund sah ich trotzdem sofort, was fehlte, nämlich die Art, wie sie in ihrem Fach­be­reich tatsäch­lich arbeitet. Ohne diese Exper­tise hätten wir ein elegantes Doku­ment mit falscher Antwort gehabt.

Der Aufsichtsrat schließ­lich braucht Urteils­kraft auf System­ebene: Leit­li­nien formu­lieren, Grenzen setzen, Regeln fest­legen und Verant­wor­tung tragen für etwas, das man nicht mehr im Detail sieht. Das verlangt eine andere Hand­lungs­logik als die des Experten, der auf der inhal­t­­lich-fach­­li­chen Ebene kontrol­lieren will. Und genau hier liegt der Engpass: Die Technik steigt schneller als die Menschen, die sie führen sollen.

Der Werk­stu­dent, der nie wider­spricht

In meinem Podcast-Teaser habe ich geschrieben, dass KI-Agenten bei Kritik immer zuhören. Das stimmt, und es ist ein Problem. Sprach­mo­delle passen sich ihrem Gegen­über an; Mrinank Sharma und Kollegen haben dieses Phänomen 2023 als Syco­phancy beschrieben: Modelle geben selbst rich­tige Antworten auf, wenn man ihnen wider­spricht. Ein Mitar­beiter, der jede Kritik sofort über­nimmt, entwi­ckelt kein Growth Mindset. Er gefällt. Der Agent wird so zum Spiegel mit Tastatur, und wer in einen Spiegel schaut, sieht keine Führungs­fehler.

Für den Bestä­tiger heißt das: Er braucht Maßstäbe außer­halb seiner eigenen Zufrie­den­heit, also Prüf­kri­te­rien, Refe­renzen und echte Fälle, an denen sich das Ergebnis messen lassen muss.

Brauch­bare Ille­ga­lität

In der Kolumne erzähle ich von Markus, dessen Unter­nehmen KI auf hohem Niveau nutzt, weil ein Mitar­beiter ohne Führungs­ver­ant­wor­tung Kollegen dazu ange­stiftet hat, Grau­be­reiche auszu­schöpfen. Hätte man die IT gefragt, hätte man vieles nicht machen dürfen. Niklas Luhmann hat dafür 1964 in „Funk­tionen und Folgen formaler Orga­ni­sa­tion“ den Begriff der brauch­baren Ille­ga­lität geprägt: Abwei­chungen von den formalen Regeln, die der Orga­ni­sa­tion nützen. Orga­ni­sa­tionen leben davon, dass Menschen das Notwen­dige im Sinne der Orga­ni­sa­tion und der Kunden  tun, bevor die Regel es erlaubt.

Bei KI hat das eine Grenze, die Luhmann noch nicht kennen konnte. Was Markus beschreibt, heißt heute Schatten-KI, mit allen Risiken für Daten­schutz und Haftung; und seit Februar 2025 verpflichtet Artikel 4 des EU AI Act Unter­nehmen, für ausrei­chende KI-Kompe­­tenz ihrer Beschäf­tigten zu sorgen. Brauch­bare Ille­ga­lität zeigt, wo Energie im System ist. Sie zeigt aber auch, wo Führung ein Vakuum hinter­lassen hat.

Ein Blick auf den eigenen Bereich

Wo dein Bereich steht, verrät weniger die Lizenz als der Alltag. Was passiert mit einem KI-Ergebnis, nachdem es erzeugt wurde: Wird es gelesen, geprüft und weiter­ent­wi­ckelt, oder einfach verschickt? Wer in deinem Team kann beschreiben, wie er mit KI kommu­ni­ziert und was er daran in den letzten Monaten verän­dert hat? Gibt es einen einzigen Ablauf, in dem ein Agent einen Schritt eigen­ständig über­nimmt und ein Mensch nur noch bestä­tigt? Und wer entscheidet bei euch über KI, die IT, die Geschäfts­füh­rung — oder niemand und alle?

Weiter­denken

Die Treppe der KI-Evolu­­tion endet beim virtu­ellen Aufsichtsrat. Wer dort sitzt, entscheidet sich aber nicht im Orga­ni­gramm. In Markus’ Unter­nehmen ist es ein Mitar­beiter ohne Führungs­rolle; in Sarahs Bereich ist der Platz vakant, und genau darin liegt ihre Chance. Die span­nendste Frage ist deshalb, wer im Unter­nehmen lernt, KI zu führen. Es müssen nicht die sein, die heute Führungs­kräfte heißen.