Gartner: KI-Kosten können leicht explodieren

8 Min. Lesezeit

Künstliche Intelligenz verspricht Effizienz, liefert aber oft explodierende Rechnungen. Gartner warnt: Die wahren Kosten liegen bis zu 1.000 Prozent über dem Budget. Wer jetzt nicht kalkuliert, verbrennt Kapital.

Das Wichtigste in Kürze

• Die tatsächlichen Kosten für KI-Projekte können laut Gartner um 500 bis 1.000 Prozent höher ausfallen als initial geplant.
• Viele Unternehmen ignorieren Nebenkosten wie Cloud-Nutzung, Token-Abrechnung und den Aufwand für die Strukturierung unstrukturierter Daten.
• Bis Ende 2025 werden voraussichtlich 30 Prozent aller Generative-AI-Projekte wegen fehlender Rendite gestoppt.
• Zwar spart KI im Schnitt 43 Minuten Arbeitszeit pro Tag und User, doch dieser Gewinn rechtfertigt nicht automatisch die hohen Implementierungskosten.
• Während Anbieter wie OpenAI noch mit Verlusten kämpfen, profitiert Hardware-Lieferant Nvidia bereits heute von Rekordgewinnen durch den KI-Hype.

Die versteckte Kostenfalle der Generativen KI Der Einstieg

Der Einstieg in die Künstliche Intelligenz wirkt auf den ersten Blick harmlos. Eine Lizenz hier, ein Abo dort. Selbst Bezahlversionen der großen Sprachmodelle sind für B2B-Nutzer oft erschwinglich. Doch diese Rechnung geht selten auf. Viele Unternehmen unterschätzen massiv, was es wirklich kostet, KI produktiv in bestehende Prozesse zu integrieren. Es reicht nicht, einen Zugang zu kaufen. Die Infrastruktur muss stehen, die Daten müssen fließen und die Mitarbeiter müssen geschult sein. Ohne diese Basis bleibt KI ein teures Spielzeug statt eines Produktivitätswerkzeugs.

Die Gefahr liegt im Detail der Abrechnungsmodelle. Anbieter, die pro Token abrechnen, generieren schnell Kosten, die jeden Nutzen auffressen. Wenn Mitarbeiter KI für Aufgaben nutzen, die sie ebenso gut mit einer einfachen Websuche erledigen könnten, entsteht kein Mehrwert. Stattdessen steigt der Ressourcenaufwand für Dinge, die keinen strategischen Wert haben. Die Euphorie der ersten Stunde weicht schnell der Ernüchterung, wenn die erste Cloud-Rechnung ins Haus flattert. Genau hier setzt die Warnung von Gartner an.

Im September 2024 trafen sich hochrangige Analysten zur Eröffnung des Gartner-IT-Symposiums im australischen Gold Coast. Die Stimmung war nüchtern. Die Botschaft an die anwesenden Entscheider war klar: Wer KI einführt, muss die Gesamtkosten im Blick behalten. Mary Mesaglio, Vizepräsidentin bei Gartner, brachte es auf den Punkt. Denn Geld für generative KI zu verschwenden, sei einfach. Ihre Warnung zielt direkt auf die Planungslücken im Mittelstand und in Konzernen ab.

Ihrer Meinung nach liegen die wirklichen Kosten oft zwischen 500 und 1.000 Prozent über den ursprünglichen Annahmen. Diese Diskrepanz entsteht nicht durch bösen Willen der Anbieter, sondern durch mangelnde Transparenz bei der eigenen Prozesslandschaft. Ähnlich wie beim Wechsel in die Cloud kommt es bei der KI-Nutzung leicht zu einer Kostenfehleinschätzung. Unternehmen kalkulieren die Lizenzgebühren, vergessen aber die Infrastruktur. Jede Anfrage an ein großes Sprachmodell benötigt Rechenleistung in der Cloud. Diese Leistung kostet Geld, oft mehr als die Lizenz selbst.

„Denn Geld für generative KI zu verschwenden, ist einfach. Die Kosten liegen oft hunderte Prozent über dem Plan.“

Mesaglio und ihr Kollege Kristian Steenstrup identifizierten in ihrer Keynote einen weiteren Kostentreiber: die Datenqualität. KI-Modelle brauchen Kontext. Unstrukturierte Daten, also Dokumente, E-Mails und Notizen ohne klare Ordnung, sind für KI schwer verdaulich. Sie zu verarbeiten ist oft kostenintensiver als die Anschaffung der Software selbst. Bevor ein Modell sinnvolle Antworten liefern kann, müssen diese Daten bereinigt, strukturiert und indexiert werden. Dieser Schritt wird in Business Cases oft komplett ausgeblendet, ist aber technisch unverzichtbar.

Ein konkretes Beispiel aus der Praxis zeigt das Dilemma. Ein mittelständischer Dienstleister führte einen KI-Chatbot für den internen Support ein. Die Lizenzkosten waren gering. Doch um den Chatbot mit dem firmeneigenen Wissen zu füttern, mussten tausende PDFs und Word-Dokumente maschinenlesbar aufbereitet werden. Die Projektlaufzeit verdreifachte sich. Die Personalkosten für die Datenaufbereitung sprengten das Budget. Am Ende stand ein funktionierendes System, das jedoch erst nach zwölf Monaten statt der geplanten drei Monate produktiv war.

Produktivitätsgewinn versus wirtschaftliche Realität

Bringt KI einen wirklichen Mehrwert? Die Antwort hängt von der Perspektive ab. Technisch gesehen ja. Generative KI soll im Schnitt 43 Minuten Arbeitszeit pro Tag und User einsparen. Das ist eine erhebliche Menge an Zeit. Hochgerechnet auf ein Jahr und ein Team von 50 Mitarbeitern ergeben sich tausende Stunden an freigesetzter Kapazität. Theoretisch könnte man diese Zeit für innovative Projekte nutzen oder Überstunden abbauen. Praktisch sieht die Bilanz jedoch anders aus.

Ob das den finanziellen Einsatz wert ist, bleibt laut Gartner oft unklar. Die eingesparte Zeit muss monetär verwertet werden. Wenn Mitarbeiter die gewonnene Zeit nicht für wertschöpfende Tätigkeiten nutzen, sondern nur ihre Auslastung senken, sinkt die Produktivität pro Euro investiertes Kapital. Zudem ist die Einsparung von 43 Minuten ein Durchschnittswert. In komplexen Wissensberufen mag sie höher liegen, in standardisierten Prozessen niedriger. Die Varianz ist groß und macht die Kalkulation schwierig.

Eine andere Analystin des Marktforschungs- und Beratungsunternehmens hatte im Juli 2024 eine düstere Prognose abgegeben. Sie sagte voraus, dass 30 Prozent aller GenAI-Projekte wegen unklarer Rendite bis Ende 2025 dem Rotstift weichen könnten. Diese Zahl ist alarmierend. Sie bedeutet, dass fast jedes dritte KI-Projekt scheitern wird, bevor es sich amortisiert hat. Der Grund ist meist nicht die Technologie, sondern die fehlende Geschäftslogik dahinter. Unternehmen starten Piloten, ohne den Return on Investment (ROI) definiert zu haben.

Für Geschäftsführer heißt das: Vorsicht bei Versprechungen. Effizienzsteigerung und Einsparpotenziale sind keine Garantien. Sie müssen erarbeitet werden. Ein Unternehmen, das KI nur einsetzt, weil es der Trend ist, handelt fahrlässig. Jedes Projekt braucht eine klare Hypothese: Welche Aufgabe wird schneller? Welche Fehlerquote sinkt? Und vor allem: Was kostet die Minute, die wir einsparen? Nur wenn diese Rechnung aufgeht, ist KI ein Wirtschaftsfaktor und kein Kostenblock.

Wer verdient wirklich am KI-Boom?

Während die Anwender mit ihren Kosten kämpfen, gibt es einen klaren Gewinner im Ökosystem. Bislang profitiert vor allem Nvidia. Der Chiphersteller ist der Hauptlieferant der nötigen Hardware für die KI-Anbieter. Seit dem von ChatGPT ausgelösten GenAI-Hype verzeichnet Nvidia Rekordgewinne. Jede Anfrage an ein KI-Modell läuft über Grafikprozessoren, die kaum jemand sonst so effizient herstellt. Nvidia verkauft die Schaufeln im Goldrausch, während die Goldsucher oft leer ausgehen.

Interessanterweise sieht es bei den Betreibern der generativen Sprachmodelle anders aus. Wie der Heise-Beitrag schließt, haben offenbar auch die Betreiber der generativen Sprachmodelle Schwierigkeiten, damit Gewinn zu machen. Dem ChatGPT-Anbieter OpenAI droht jüngsten Meldungen zufolge ein Minusgeschäft von mehreren Milliarden Dollar. Die Kosten für den Betrieb der Rechenzentren und die Entwicklung der Modelle sind immens. Die Einnahmen durch Abonnements decken diese Ausgaben aktuell nicht.

Diese Asymmetrie ist riskant für Mittelständler. Wenn die großen Anbieter wie OpenAI unter Druck stehen, werden sie ihre Preise anpassen müssen. Kostenlose Testphasen werden enden. Rabatte für Enterprise-Kunden könnten gestrichen werden. Die Kosten für Abo-Modelle sind also nicht statisch. Sie werden steigen, sobald die Anbieter Profitabilität erzwingen müssen. Wer heute seine Kalkulation auf aktuellen Preisen basiert, plant mit falschen Zahlen für die Zukunft.

Es entsteht eine Abhängigkeit von wenigen Tech-Giganten. Mittelständische Unternehmen haben wenig Verhandlungsmacht. Sie müssen die Preise akzeptieren, die Microsoft, Google oder OpenAI diktieren. Daher ist es strategisch wichtig, nicht nur auf externe Modelle zu setzen. Eigene, kleinere Modelle, die auf spezifischen Unternehmensdaten trainiert sind, können langfristig kosteneffizienter sein. Sie laufen auf eigener oder gemieteter Hardware und sind nicht von jedem Token-Preissprung abhängig.

Strategische Empfehlungen für den Mittelstand

Was bedeutet das für die Praxis? Unternehmen müssen ihre KI-Strategie von Grund auf neu denken. Nicht die Technologie steht im Mittelpunkt, sondern der Use Case. Starten Sie klein. Wählen Sie einen Prozess, der klar definiert ist und hohe Volumina hat. Kundenservice-Anfragen oder die Erstellung von Standardberichten sind gute Kandidaten. Messen Sie den Zeitbedarf vor und nach der Einführung. Nur so erhalten Sie belastbare Daten für Ihre ROI-Rechnung.

Achten Sie penibel auf die Datenhygiene. Bevor Sie KI einsetzen, investieren Sie in die Strukturierung Ihrer Informationen. Unstrukturierte Daten sind Gift für die Kostenkontrolle. Bereinigen Sie Ihre Archive. Legen Sie Zugriffsrechte fest. Stellen Sie sicher, dass keine sensiblen Kundendaten in öffentliche Modelle gelangen. Ein Datenleck kann teuer werden, nicht nur durch Bußgelder, sondern auch durch Reputationsverlust. Compliance ist kein Hindernis, sondern eine Voraussetzung für sicheren KI-Einsatz.

Schulen Sie Ihre Mitarbeiter. KI ist ein Werkzeug, kein Zauberstab. Mitarbeiter müssen lernen, wie man Prompts formuliert, um gute Ergebnisse zu erzielen. Schlechte Prompts führen zu schlechten Antworten, die nachgearbeitet werden müssen. Das kostet mehr Zeit, als die Aufgabe von Hand zu erledigen. Investieren Sie in Training. Bieten Sie Workshops an, in denen Teams lernen, KI effektiv zu nutzen. Nur qualifizierte Nutzer generieren den versprochenen Produktivitätsgewinn.

Überwachen Sie die Kosten kontinuierlich. Setzen Sie Limits für die API-Nutzung. Analysieren Sie monatlich, welche Abteilungen wie viele Tokens verbrauchen. Identifizieren Sie Ausreißer. Wenn eine Abteilung plötzlich extrem hohe Kosten verursacht, prüfen Sie den Anwendungsfall. Oft steckt ineffiziente Nutzung dahinter. Steuern Sie gegen. KI-Management ist kein einmaliges Projekt, sondern ein laufender Prozess. Wer die Kosten nicht kontrolliert, verliert die Kontrolle über das Budget.

Häufige Fragen

Auch verfügbar in