ROI von KI im Mittelstand: Warum gute Technologie allein nicht reicht

Die aktive Nutzung von KI ist in Deutschland innerhalb eines Jahres deutlich gestiegen: In der Bitkom-Befragung erhöhte sich der Anteil der Unternehmen ab 20 Mitarbeitenden mit aktiver KI-Nutzung von 17 auf 41 Prozent. Gleichzeitig sank die KI-Investitionsquote im deutschen Mittelstand 2025. Die Zahlen zeigen, wie wichtig die Frage ist, wie KI-Investitionen in wirtschaftliche Wirkung übersetzt werden.

Einen Hinweis auf die Rolle der Voraussetzungen liefert die Zukunftsmacher-Studie 2025: In 55 qualitativen Tiefeninterviews mit Vorreitern wurden 37 Prozent des Ertrags einer KI-Investition Fortschritten in der digitalen Reife zugeordnet. Dazu gehören unter anderem belastbare Daten, passende Prozesse und klare Verantwortlichkeiten. Dr.-Ing. Thomas Wächter, Head of AI Value Engineering bei der Deutschen Telekom MMS, beschreibt im ROI-Kompass für KI im Mittelstand, welche Fragen Unternehmen vor der Modellwahl klären sollten.

Am Anfang eines KI-Vorhabens steht ein konkretes Geschäftsziel. Welcher Prozess soll sich verbessern? Wie sieht die Ausgangslage aus, und woran lässt sich ein gutes Ergebnis messen? Diese Fragen sollten vor der Auswahl eines Modells oder einer Plattform beantwortet werden. So wird sichtbar, ob ein Anwendungsfall groß genug gedacht ist und ob der erwartete Nutzen zum Aufwand passt.

Dazu gehört auch, zwischen einem technisch erfolgreichen Test und einem wirtschaftlich relevanten Ergebnis zu unterscheiden. Ein Pilot kann zeigen, dass eine Anwendung funktioniert. Für die ROI-Bewertung braucht es zusätzlich einen Vergleich mit dem bisherigen Prozess, passende Kennzahlen und eine Vorstellung davon, wie sich die Lösung in den Arbeitsalltag einfügt.

Ein KI-System kann beispielsweise Angebote nur dann sinnvoll vorbereiten, wenn es auf frühere Angebote, Preisregeln, Compliance-Vorgaben und aktuelle Portfolioinformationen zugreifen darf. Unternehmen sollten deshalb früh klären, welche Daten der Anwendungsfall benötigt, wo diese liegen und wer den Zugriff freigeben kann.

Datenorganisation ist damit Teil der Investition. Müssen Informationen erst zusammengeführt, bereinigt oder mit Zugriffsrechten versehen werden, gehört dieser Aufwand in die Planung. Wird er erst nach dem Start des Piloten sichtbar, fehlt er in der ursprünglichen Einschätzung des Business Case.

Die Kosten für die reine Nutzung eines Sprachmodells sind nur ein Teil der Rechnung. Für eine ChatGPT-ähnliche Anwendung mit 1.000 Mitarbeitenden liegen die Tokenkosten in der Größenordnung von 250 bis 500 Euro pro Monat. Der tatsächliche Betrag hängt vom Nutzungsprofil, dem Modell und dem Preismodell ab; die Zahl bildet außerdem nicht die Kosten für Integration, Datenaufbereitung, Betrieb und Governance ab.

Bei agentischen Systemen können die Kosten deutlich steigen, wenn Agenten ohne klare Begrenzungen arbeiten. Dann können möglicherweise fünfstellige Monatsbeträge anfallen. Für den Business Case heißt das: Unternehmen sollten pro Anwendungsfall auch ein plausibles Worst-Case-Szenario rechnen – bevor der Pilot startet.

Drei Fragen helfen, einen KI-Piloten wirtschaftlich und kontrolliert aufzusetzen:

• Wer verantwortet den Anwendungsfall, und welche Kennzahlen zeigen, ob er das Geschäftsziel erreicht?
• Welche Berechtigungen braucht ein KI-Agent, in wessen Nutzungskontext handelt er und wie werden seine Zugriffe über den Lebenszyklus verwaltet?
• Welche Kosten können im ungünstigen, aber realistischen Fall entstehen – und welche Begrenzungen greifen dann?

Auch die Mitarbeitenden gehören zur Betrachtung. Sie bringen Wissen über Abläufe und Ausnahmen ein und helfen, Erfahrungen im Unternehmen weiterzugeben.

KI-Projekte brauchen also eine belastbare Verbindung zwischen Technologie und Geschäftsziel. Wenn Erfolgskriterien, Datenzugang, Vollkosten und Verantwortlichkeiten von Beginn an eingeplant sind, können Unternehmen fundierter entscheiden, welche Anwendungen sie in den produktiven Einsatz bringen und weiterentwickeln.