Black Box KI: Glauben Manager das, was sie nicht selbst beurteilen können?

KI contra Manager?

Manager arbeiten ungern mit Instrumenten, die sie nicht kennen. Sie akzeptieren nur das, was sie verstehen und ihren Mitarbeitern erklären können. Dies gilt verstärkt in Zeiten hoher Accountability für die erzielten Ergebnisse. Damit wird den kalkulierten und/oder reporteten Zahlen jede Unverbindlichkeit genommen.

Das kann doch nicht funktionieren.

Mir persönlich begegnete das „Black Box-Thema“ zum ersten Mal in einem Dissertationsprojekt, das wir in Zusammenarbeit mit einem renommierten Automobilunternehmen durchgeführt hatten. In diesem ging es um die Schätzung der Kosten neuer Fahrzeugkomponenten. Mein Doktorand hatte hierzu auf ein Planungsinstrument aus der Raumfahrtindustrie zurückgegriffen und konnte damit die Kosten – wie der Vergleich mit den späteren Istwerten zeigte – sehr exakt prognostizieren. Sein Ansatz wurde von den Ingenieuren allerdings dennoch nicht akzeptiert. Ihnen war das Schätzverfahren intuitiv nicht plausibel genug: „Was hat ein Satellit mit einer Hinterachse gemeinsam? Das kann doch nicht funktionieren.“

Der "Economic Value Added" hat sich in der Breite nicht durchgesetzt

Ein zweites Beispiel lieferte die Einführung wertorientierter Steuerung. Auf diesem ganz anderen Steuerungsfeld ging es von der Entstehung der Konzepte her letztlich darum, Kapitalkosten bewusst zu machen in einer Welt, in der es diese nicht gab (und gibt): Amerikanische Unternehmen kennen keine kalkulatorischen Kosten. Der deshalb einzuschlagende Weg über die GuV ist bekanntermaßen sehr komplex. Obwohl wir im deutschsprachigen Raum Eigenkapitalkosten schon seit Langem in der Kostenrechnung kennen, haben viele unserer kapitalmarktorientierten Unternehmen den internationalen Hype wertorientierter Steuerung mitgemacht. Eine Erfolgsstory ist das aber nicht geworden. Dafür war das Konzept – etwa das des Economic Value Added – zu komplex. Manager verstanden das Konzept mit all seinen Adjustierungen und Stellschrauben nicht. Es war nicht in die Fläche zu vermitteln. Heute wird hier der Ball sehr flach gehalten. Es gibt die wertorientierten Kennzahlen noch, aber die Regelsteuerung ist immer weniger darauf ausgerichtet.

Spannend für mich ist nun, was im Zuge der Digitalisierung in der Unternehmenssteuerung passieren wird. Was mich dort bewegt, möchte ich anhand dreier unterschiedlicher Anwendungen bzw. Szenarien deutlich machen.

Von der Unterstützung durch Algorithmen...

Beginnen wir mit dem am wenigsten spannenden Fall: In Zeiten von Big Data füttern Menschen für bestimmte Fragestellungen die Systeme mit Algorithmen. Die Systeme führen die Berechnungen durch. Menschen wiederum interpretieren die Ergebnisse der Berechnung und versuchen, Korrelationen von Kausalitäten zu trennen. Menschen spielen also im gesamten Prozess eine – auch im wörtlichen Sinne zu verstehende – bestimmende Rolle. Sie haben im Unterschied zu meinem ersten Beispiel heute auch durchweg akzeptiert, dass die Systeme bei der Auswertung von Vergangenheitsdaten eine große, unverzichtbare Hilfestellung sind. Verständnisprobleme wie im Fall der Wertorientierung treten ebenfalls nicht auf, weil hier Experten („Data Scientists“, hoffentlich auch Controller!) mit den Systemen arbeiten und auch dabei sind, wenn die Ergebnisse Managern präsentiert und erklärt werden.

...über die Übernahme von Steuerungsaufgaben...

Spannend wird es, wenn das Forecastingsystem ein höheres Ergebnis prognostiziert, als es der Manager als machbar einschätzt.

Im zweiten Fall nehmen Systeme Menschen (insbesondere Controllern) zentrale Steuerungsaufgaben ab. Ein sehr aktuelles Beispiel ist das Forecasting. Alle großen Unternehmen sind derzeit dabei herauszufinden, ob und wie man den sehr personalintensiven Forecasting-Prozess von Controllern lösen und an Systeme übergeben könnte. Zwei zentrale Motive prägen diese Überlegungen: zum einen damit erzielbare Rationalisierungsgewinne, zum anderen aber auch das Freihalten des Forecastings von politischen Einflüssen; es wäre blauäugig zu glauben, dass es Politik nur in der Planung gäbe!

Hinsichtlich der Performance eines systemischen Forecastings ist die empirische Erfahrung zwar derzeit noch uneinheitlich; zumeist herrscht aber Erstaunen vor, wie gut Systeme prognostizieren können. Dies schwächt die Position der Controller, die immer auf ihre für eine gute Prognose notwendigen Geschäftskenntnisse und ihr Gespür und ihre Intuition verweisen. Erst diese würde sie in die Lage versetzen, mehr über das hinter den Plänen Stehende zu wissen. Betroffen sind aber natürlich auch die Manager: Wenn Ergebnisse sehr gut durch ein System prognostiziert werden können, leidet ihre Aura, der Erfolg resultiere wesentlich durch sie, doch sehr. Die Managementleistung stellt sich dann als berechenbar heraus. Spannend wird es, wenn das Forecastingsystem ein höheres Ergebnis prognostiziert, als es der Manager als machbar einschätzt. Akzeptiert er dann die „Weisheit“ der Maschine? Sie zu negieren, wie wir das im Beispiel des Kostenschätzmodells gesehen haben, ist auf jeden Fall ausgeschlossen, auch wenn der Manager das Zustandekommen des maschinellen Forecasts nicht mehr unmittelbar nachvollziehen kann.

...bis zur Dominanz der Systeme

Mein dritter Fall treibt das Ganze noch mehr in Richtung Dominanz der Systeme ("Data driven Organization"). Er tritt dann auf, wenn die Algorithmen nicht mehr durch die Menschen vorgegeben werden, sondern die Maschinen sie durch Machine Learning und Künstliche Intelligenz selbst weiterentwickeln. Was sie auf diesem Wege „ausbrüten“, ist durch Menschen kaum noch oder sogar nicht mehr hinterfragbar. Speziell für Controller ist das wie ein „Gehe zurück zum Start“: Controller stehen für das Bestreben, die Entscheidungen des Managements auf eine analytische Grundlage zu stellen, sie in die Lage zu versetzen, faktenbasiert zu wissen, warum etwas geschehen ist bzw. warum etwas voraussichtlich geschehen wird. Controller haben die Wirksamkeit von Intuition zwar grundsätzlich akzeptiert, ihr aber nie wirklich getraut. Zumindest haben sie versucht, die Intuition analytisch nachzuvollziehen, wo immer das ging. Ihr Streben nach Analytik resultierte (und resultiert) nicht nur daraus, bessere Entscheidungen zu ermöglichen. Analytik lässt vielmehr auch ein Lernen im Zuge von Kontrollen zu, wie es auch zu einer geringeren Abhängigkeit von einzelnen Menschen führt. Die Parole lautet also: So viel Intuition wie nötig, so wenig wie möglich!

Die Entwicklung der Computersysteme führt dazu, dass nach menschlicher Intuition und „objektiver Analytik“ nun etwas Neues ins Spiel kommt, das man mit etwas Phantasie als eine neue Form von Intuition bezeichnen könnte, nur sind nun nicht mehr die Menschen Quelle nicht analytischer Lösungsfindung, sondern Maschinen. Menschliche Intuition wird zumeist durch drei Merkmale gekennzeichnet: (1) Es handelt sich um einen unbewussten, nicht der Beobachtung zugänglichen Prozess der Schaffung und des Abrufens von Wissen. (2) Der Prozess nutzt Heuristiken und er ist (3) subjektiv und damit nicht reproduzierbar. Wir wissen heute nicht, ob KI-Systeme etwas nutzen, was wir Heuristik nennen können. Die beiden anderen Merkmale der Intuition treffen aber ohne Zweifel zu.

Haftung: Wie reagieren Manager und Gesetzgeber auf KI-basierte Entscheidungsfindung?

Ein Manager arbeitet ungern mit Instrumenten, die er nicht kennt.

Kommen wir zum Anfang der Kolumne zurück: Ein Manager arbeitet ungern mit Instrumenten, die er nicht kennt. Er akzeptiert keine Black Box – schon aus Gründen der Managerhaftung nicht. Es wird sehr spannend sein, zu sehen, ob diese bisherige empirische Erfahrung auch in der Zukunft noch gelten wird und wie sich der Gesetzgeber zu diesem Thema stellen wird. Lange werden wir auf Antworten auf diese Frage vermutlich aber nicht warten müssen. Es geht wahrscheinlich schneller, als wir denken. Erste Fälle gibt es schon, etwa wenn die Stimme eines Computersystems neben menschlichen Voten in die Waagschale geworfen wird. Die Bedeutung für die Gestaltung der Unternehmenssteuerung ist kaum zu überschätzen. Auf jeden Fall lohnt es sich deshalb, schon jetzt darüber nachzudenken!

Weitere Kolumnen von Prof. Weber finden Sie hier:

10 Jahre Controlling im Spiegel von Kolumnen im Controller Magazin