Ich will kein Werkzeug, das mir recht gibt

Das Nützlichste, was mir ein digitales Werkzeug in den letzten Monaten gesagt hat, war: Das geht so nicht.

Kein Ergebnis. Keine Lösung. Ein Einwand.

Das ist bemerkenswert, weil KI-Werkzeuge auf das Gegenteil gebaut sind. Man fragt, man bekommt. Sie liefern schnell, sie liefern formuliert, und sie liefern in einem Tonfall, der nach Sicherheit klingt. Das fühlt sich ausgesprochen produktiv an.

Nur ist ein Werkzeug, das immer zustimmt, am Ende ein ziemlich teurer Spiegel.

Der Kern des Problems ist eine Schieflage, die man leicht übersieht. Sprachmodelle sind hervorragend darin, überzeugend zu klingen. Sie sind spürbar schlechter darin, recht zu haben. Diese beiden Fähigkeiten fallen bei Menschen meistens zusammen, bei Maschinen nicht. Wer sich davon täuschen lässt, bekommt Zustimmung in einer Qualität, die er für Prüfung hält.

Daraus folgt für mich eine ziemlich einfache Regel, die ich inzwischen an jedes dieser Werkzeuge anlege: Es darf widersprechen. Es darf verlangen, dass ein Mensch draufschaut. Es darf nicht freigeben.

Ehrlich? Ich habe dafür eine Weile gebraucht, weil ich lange die falsche Frage gestellt habe. Ich habe gefragt, was so ein Werkzeug kann. Die bessere Frage ist, was es darf.

Übertragen auf unser Geschäft wird der Unterschied schnell konkret.

Ein System, das in einer Unterlage auf einen Widerspruch hinweist, auf eine fehlende Angabe, auf eine Zahl, die zur Vorperiode nicht passt, ist ein Gewinn. Es macht sichtbar, was ein Mensch bei der dritten Akte am Nachmittag übersieht.

Ein System, das eine Einschätzung ins Positive dreht, weil die Begründung dazu gut formuliert ist, ist ein Risiko. Und zwar ein besonders unangenehmes, weil die Begründung ja tatsächlich gut klingt.

Der Unterschied zwischen beiden liegt nicht in der Technik. Er liegt in der Berechtigung, die man einräumt.

Bleibt die Frage, wie man das im Alltag prüft. Ich habe mir angewöhnt, ein Werkzeug bewusst mit etwas zu füttern, von dem ich weiß, dass es nicht stimmt. Wer dann eine höfliche Bestätigung bekommt, weiß genug.

Bei allem, was danach kommt, geht es nicht mehr um die Frage, ob KI im Bankvertrieb etwas bringt. Es geht darum, an welcher Stelle im Prozess sie sitzen darf. Vor der Entscheidung als Prüfinstanz ist etwas anderes als nach der Entscheidung als Begründungslieferant.

Ich will kein Werkzeug, das mir recht gibt. Ich will eines, das mich rechtzeitig stört.