KI ist kein IT-Thema: Warum KI-Initiativen scheitern, wenn sie von oben kommen

Das Wichtigste in Kürze: 95 % der KI-Pilotprojekte erzielen keinen messbaren Geschäftseffekt.^[1] Der häufigste Fehler: KI wird als IT-Projekt von oben verordnet. Die erfolgreichsten Unternehmen machen es umgekehrt — sie geben Fachabteilungen Zugang zu KI-Tools und lassen die Anwender selbst herausfinden, wo die Hebel liegen. Nicht die Technologie entscheidet über Erfolg oder Scheitern, sondern wer sie einführt und wie.

Warum scheitern 95 % aller KI-Pilotprojekte?

Die MIT-Studie „The GenAI Divide" liefert die ernüchterndste Zahl der KI-Debatte: 95 % der generativen KI-Pilotprojekte in Unternehmen erzielen keinen messbaren Einfluss auf Gewinn und Verlust.^[1] Fünf Prozent schaffen echten Umsatzeffekt. Der Rest versandet.

Und es wird schlimmer, nicht besser. S&P Global meldet: 42 % der Unternehmen haben 2025 die Mehrheit ihrer KI-Initiativen eingestellt. 2024 waren es noch 17 %.^[2] Gartner prognostiziert, dass 30 % aller GenAI-Projekte nach dem Proof of Concept abgebrochen werden.^[3]

Die Ursache ist nicht die Technologie. Large Language Models sind leistungsfähig genug. Cloud-APIs machen den Zugang einfach. Die Kosten sinken quartalsweise. An der Technik liegt es nicht.

Es liegt daran, wie Unternehmen KI einführen.

Das Muster sehe ich ständig. Die Geschäftsführung beschließt: Wir machen jetzt was mit KI. Die IT bekommt den Auftrag. Ein eigenes KI-Lab wird gegründet oder ein externer Dienstleister beauftragt. Sechs Monate und ein sechsstelliges Budget später gibt es einen Prototyp, den niemand nutzt. Weil er ein Problem löst, das keiner hat.

In meinem Leitfaden zu KI im Mittelstand beschreibe ich fünf typische Fehler bei der KI-Einführung. Der hier beschriebene ist der grundlegendste.

Warum ist KI kein IT-Thema?

KI ist ein Werkzeug für Geschäftsprozesse, kein Stück IT-Infrastruktur. Der Unterschied ist fundamental. IT-Infrastruktur (Server, Netzwerk, ERP) wird zentral geplant, beschafft und ausgerollt. KI-Anwendungen dagegen entfalten ihren Wert erst im konkreten Arbeitsprozess. Und den kennt nur, wer darin arbeitet.

Denken Sie an Excel.

Kein Unternehmen hat je eine „Excel-Strategie" von oben verordnet. Kein CIO hat festgelegt, welche Formeln die Buchhaltung verwenden soll. Excel wurde zum mächtigsten Business-Tool der Welt, weil Anwender es in ihre eigenen Prozesse eingebaut haben. Jede Abteilung anders. Jeder Nutzer auf seine Weise.

Bei KI verhält es sich genauso. Die Sachbearbeiterin im Einkauf verbringt drei Stunden am Tag mit Lieferantenvergleichen. Sie erkennt sofort, wo ein LLM helfen könnte. Der Vertriebsleiter weiß, welche Kundengespräche sich ähneln und wo ein KI-Assistent Vorarbeit leisten kann. Die Teamleiterin im Kundenservice merkt, dass 60 % der Anfragen Variationen derselben fünf Fragen sind.

Die IT-Abteilung? Sieht davon nichts. Sie sieht Infrastruktur, APIs, Sicherheitsanforderungen. Alles wichtig. Aber nicht der Ort, an dem Use Cases entstehen.

	KI als IT-Projekt	KI als Fachabteilungsthema
Use Cases kommen von	IT / Management / Berater	Anwender im Prozess
Einführung	Top-down-Rollout	Bottom-up-Adoption
Adoption	Verordnet, oft niedrig	Organisch, weil nützlich
Typisches Ergebnis	Prototyp ohne Nutzer	Werkzeug im Arbeitsalltag
Kompetenzaufbau	Schulungsfolien	Learning by Doing
Risiko	Teurer Fehlstart	Unkontrollierte Schatten-KI

Beide Spalten haben Risiken. Aber die MIT-Studie ist hier eindeutig: Die erfolgreichen 5 % setzen auf die rechte Spalte.^[1]

Was machen die erfolgreichen 5 % anders?

Erfolgreiche Unternehmen geben Fachabteilungen und Linienmanagern die Verantwortung für KI-Einführung — nicht zentralen KI-Labs. Die MIT-Studie identifiziert ein klares Muster: Bottom-up-Sourcing der Use Cases, kombiniert mit Executive Accountability für Governance und Budget.^[1]

Drei Faktoren stechen heraus:

Power Users als Treiber. Die stärksten KI-Deployments begannen bei Mitarbeitern, die bereits privat mit ChatGPT oder Claude experimentiert hatten.^[1] Diese Leute verstehen intuitiv, was KI kann und wo die Grenzen liegen. Sie wurden zu internen Champions. Nicht weil jemand sie ernannt hat, sondern weil sie den Nutzen am eigenen Arbeitsplatz erfahren haben.

Genau das erlebe ich bei meinen Enablement-Workshops für nicht-technische Teams: Sobald jemand KI einmal an einem eigenen Beispiel ausprobiert hat, kommen die Use Cases von allein.

Budgetverantwortliche identifizieren Probleme. Nicht ein zentrales KI-Team entscheidet, wo investiert wird. Stattdessen bringen Abteilungsleiter und Teamleads ihre konkreten Schmerzpunkte ein, bewerten Tools und steuern die Einführung.^[1] Sie haben den Kontext, den ein zentrales Team nie haben kann.

Workflows vor Technologie. McKinsey bestätigt: Unternehmen mit messbarem KI-ROI hatten ihre Arbeitsabläufe zuerst analysiert und umgestaltet, bevor sie sich für eine Technologie entschieden haben.^[4] Wer mit der Technologie anfängt und dann ein Problem sucht, hat es von hinten aufgezäumt.

Wie sieht Bottom-up-KI-Einführung konkret aus?

Bottom-up heißt nicht planlos. Es heißt: Rahmen setzen, Zugang schaffen, ausprobieren lassen, Erfolge skalieren. Vier Schritte.

Schritt 1: Leitplanken definieren. Bevor jemand ein Tool anfasst: KI-Governance klären. Welche Tools sind freigegeben? Welche Daten dürfen nicht in Cloud-Services? Wo liegen die Grenzen? Das ist die Aufgabe der Geschäftsführung, zusammen mit IT und Datenschutz. Nicht um Nutzung zu verhindern, sondern um sie sicher zu ermöglichen.

Schritt 2: Breiten Zugang schaffen. Allen Mitarbeitern Zugang zu einem freigegebenen KI-Tool geben. Nicht nur der IT. Nicht nur dem Management. Allen. Laut Bitkom nutzen zwar inzwischen 36 % der deutschen Unternehmen KI, aber bei fast der Hälfte (47 %) steckt der Einsatz noch in Planung oder Diskussion.^[5] Häufigstes Hindernis ist nicht fehlendes Interesse, sondern fehlender Zugang.

Schritt 3: Experimentieren und lernen. KI-Kompetenz entsteht nicht durch Schulungsfolien. Sie entsteht durch Ausprobieren, durch täglichen Umgang, durch Fehler. Geben Sie Teams Zeit und Erlaubnis, KI in ihrem Arbeitsalltag zu testen. Ein KI-Workshop kann die Grundlagen vermitteln und erste Anwendungsfälle anstoßen. Danach: machen lassen.

Wie ich im KI-Reifegrad-Artikel schreibe: Unternehmen, die ihren Mitarbeitern erlauben, KI-Tools im Arbeitsalltag zu testen, bauen Kompetenz und Akzeptanz gleichzeitig auf. Unternehmen, die fertige Lösungen ausrollen, bekommen weder das eine noch das andere.

Schritt 4: Erfolge identifizieren und skalieren. Nach vier bis acht Wochen: Was funktioniert? Welche Abteilungen nutzen KI regelmäßig? Welche Use Cases sparen tatsächlich Zeit? Diese Erfolge systematisch erfassen und ausrollen. Hier kommt die IT ins Spiel: Integration, Sicherheit und Skalierung.

Was ist dann die Rolle von IT und Geschäftsführung?

Enabler, nicht Treiber. Das ist der Paradigmenwechsel.

Die IT-Abteilung bestimmt nicht, was mit KI gemacht wird. Sie stellt sicher, dass es sicher und effizient passieren kann. Die Geschäftsführung diktiert keine Use Cases. Sie schafft den Rahmen, in dem Use Cases entstehen können.

Rolle	Aufgabe
IT	Infrastruktur, Tool-Bewertung, Datenzugang, Sicherheit, Support
Geschäftsführung	Budget, strategischer Rahmen, Experimentierkultur, Governance
Fachabteilungen	Use Cases finden, Tools testen, Feedback geben, Erfolge dokumentieren

82 % der KMU berichten von einer erheblichen KI-Kompetenzlücke.^[6] 73 % bieten keine systematische KI-Schulung an.^[6] Diese Lücke schließt sich nicht durch zentrale Rollouts. Sie schließt sich durch täglichen Umgang mit den Tools. Durch Ausprobieren. Und ja, durch Fehler machen.

Das bedeutet auch: Kontrolle abgeben. Wer KI nur in einer Sandbox testet, abgekoppelt vom Arbeitsalltag, erfährt nie, wo der echte Wert liegt. Die MIT-Studie zeigt genau das: Zentrale KI-Teams, die isoliert arbeiten, produzieren Prototypen ohne Praxisbezug.^[1]

Ein Strategieworkshop auf Geschäftsführerebene kann helfen, diesen Paradigmenwechsel im Führungsteam zu verankern. Nicht als einmaliges Event, sondern als Ausgangspunkt für eine andere Art, über KI nachzudenken.

Fazit: KI-Kompetenz entsteht durch Machen

95 % Scheiterquote ist kein Naturgesetz. Es ist das Ergebnis eines falschen Ansatzes. KI als IT-Projekt von oben zu verordnen funktioniert nicht, weil die besten Use Cases dort entstehen, wo die Arbeit passiert. Nicht im KI-Lab. Nicht im Vorstandsbüro. Am Schreibtisch der Sachbearbeiterin.

Drei Dinge, die Sie morgen anders machen können:

KI-Zugang demokratisieren. Geben Sie allen Mitarbeitern Zugang zu einem freigegebenen KI-Tool. Nicht als Projekt, als Arbeitsmittel. Ein Enterprise-Zugang zu ChatGPT oder Claude kostet 20 bis 30 Euro pro Mitarbeiter und Monat. Gemessen an dem, was ein gescheitertes sechsstelliges KI-Projekt kostet, ist das nichts.

Leitplanken statt Verbote. Definieren Sie klare Nutzungsrichtlinien: Was darf rein, was nicht? Welche Daten sind tabu? Das gibt Sicherheit, ohne Kreativität zu ersticken.

Erfolge von unten sichtbar machen. Wenn die Sachbearbeiterin im Einkauf 10 Stunden pro Woche spart, muss die Geschäftsführung das wissen. Nicht als Anekdote, sondern als Business Case für den nächsten Schritt.

KI-Initiativen scheitern, wenn sie von oben kommen. Sie gelingen, wenn die Menschen, die täglich in den Prozessen arbeiten, selbst herausfinden, wie KI ihnen hilft.

Wenn Sie wissen wollen, wie Sie den Rahmen für eine Bottom-up-KI-Einführung schaffen, sprechen Sie mich an. Ich begleite den Prozess von der Governance über die ersten Workshops bis zur Skalierung.

---

Dieser Artikel wird regelmäßig aktualisiert. Letzte Aktualisierung: Februar 2026.

---

Fußnoten

1. MIT NANDA, „The GenAI Divide: State of AI in Business 2025", 150 Interviews, 350 Befragungen, 300 KI-Deployments, August 2025. ↩ ↩² ↩³ ↩⁴ ↩⁵ ↩⁶ ↩⁷

2. S&P Global, AI Deployment Survey, 2025. ↩

3. Gartner, „30 % of GenAI Projects Will Be Abandoned After PoC by End of 2025", Prognose Juli 2024. ↩

4. McKinsey & Company, „The State of AI in 2025", Global Survey, November 2025. ↩

5. Bitkom, „Künstliche Intelligenz in Deutschland", Studienbericht, Februar 2026. ↩

6. HKA Hochschule Karlsruhe / maximal.digital, „KI-Studie 2025: KI im Mittelstand und KMU", n=455, 2025. ↩ ↩²