KI-Kosten folgen anderen Regeln als klassische IT-Ausgaben. Softwarelizenzen lassen sich meist Nutzern, Verträgen, Abteilungen oder Anwendungen zuordnen. Infrastrukturkosten können häufig über Server, Storage, Endgeräte oder die Nutzung von Services verteilt werden. Cloud-Kosten wiederum lassen sich anhand von Accounts, Workloads, Tags und Verbrauchsdaten analysieren.
Bei KI ist die Zuordnung komplexer.
Kosten entstehen beispielsweise durch Token-Nutzung, GPU-Verbrauch, Model Inference, Datenverarbeitung, API-Aufrufe, Vector Storage, Fine-Tuning, KI-Funktionen von Drittanbietern, Governance und gemeinsam genutzte Plattformen. Ein Teil dieser Kosten steckt in Cloud-Rechnungen, ein anderer in Softwareverträgen. Manche Services werden direkt von Fachbereichen genutzt. Andere Kosten verbergen sich in Preiserhöhungen oder Erweiterungen bestehender Anbieter.
Für CIOs und CFOs entsteht damit eine neue Herausforderung bei der Kostenallokation.
Sobald KI Use Cases vom Pilotbetrieb in die Produktion übergehen, müssen die damit verbundenen Kosten transparent erfasst, zugeordnet, prognostiziert und optimiert werden. Gleichzeitig gilt es, die Investitionen mit ihrem Business Value zu verbinden.
Damit wird AI Cost Allocation zu einem wichtigen Bestandteil der AI Economics. Der Begriff beschreibt die wirtschaftliche Perspektive auf KI und damit das Zusammenspiel von Verbrauch, Kosten, Skalierung und geschaffenem Business Value.
Die entscheidenden Fragen lauten: Wer nutzt KI? Was treibt die Kosten? Wie sollten diese Kosten verteilt werden? Wie entwickeln sie sich bei steigender Nutzung? Und welchen Wert schafft die Investition?
Genau hier setzt ein strukturiertes IT-Kostenmodell an.
Herkömmliche IT-Kostenmodelle basierten auf bekannteren Kostenstrukturen: Anwendungen, Infrastruktur, Lizenzen, Anbieter, Projekte, Dienstleistungen, Personal und Anlagen.
KI überschreitet diese Kategorien.
Ein einzelner KI-Anwendungsfall kann von Cloud-Infrastruktur, Datenplattformen, Modellzugriff, Sicherheitsüberprüfung, Überwachung, Integration, Anwendungsentwicklung, Compliance-Kontrollen und Änderungen an Geschäftsprozessen abhängen. Die Kosten können sich auf mehrere Systeme und Budgets verteilen, bevor das Unternehmen den Gesamtüberblick gewinnen kann.
Ein Großteil der KI-Ausgaben von Unternehmen ist zudem in bestehende Dienstleistungen und Verträge eingebettet, anstatt als eigenständige Budgetkategorie zu erscheinen. Sie taucht als Cloud-Posten, als Preisaufschlag eines Anbieters oder als in bereits genutzter Software gebündelte Funktion auf und erscheint daher selten als klar abgrenzbarer „KI“-Posten, auf den ein Unternehmen verweisen kann – was mit ein Grund dafür ist, dass KI-Investitionen so schwer zu erfassen und zu steuern sind.
Die tokenbasierte Preisgestaltung sorgt für zusätzliche Komplexität. Die Kosten können je nach Eingabeaufforderungen, Antworten, Nutzern, Automatisierungshäufigkeit, Agentenaktivität, Modellauswahl, Kontextlänge und Nutzungsvolumen steigen. Die GPU-Preisgestaltung führt eine weitere variable Ebene ein, insbesondere für Training, Feinabstimmung, Inferenz, Batch-Inferenz, Modell-Hosting, dedizierte KI-Infrastruktur, Experimente und rechenintensive Workloads.
Dies macht es schwierig, KI allein durch statische Budgets zu steuern.
Ein Pilotprojekt mag bei begrenzter Nutzung kostengünstig erscheinen. Sobald KI jedoch in Arbeitsabläufe, Produkte, Kundenerlebnisse, Analysen oder interne Produktivitätswerkzeuge eingebettet ist, kann der Verbrauch schnell ansteigen. Ohne ein Kostenmodell, das die Nutzung mit Eigentumsverhältnissen und Wert in Verbindung bringt, sieht die Finanzabteilung möglicherweise steigende Ausgaben, ohne die dahinterstehende Nachfrage zu verstehen.
KI stellt IT- und Finanzteams vor drei große Herausforderungen bei der Kostenverrechnung.
Die Preisgestaltung für KI ist oft sehr variabel, und das Preismodell selbst unterscheidet sich von Anbieter zu Anbieter. Die Preisgestaltung kann je nach Anbieter auf Eingabe-Token, Ausgabe-Token, Anfragen, Rechenzeit oder gebündelten Abonnementmodellen basieren. Token-Nutzung, API-Aufrufe, GPU-Stunden, Speicherplatz, Datenverarbeitung und Modellinferenz können sich je nach Nachfrage ändern. Dadurch ähnelt KI eher der Cloud-Nutzung als der traditionellen Softwarelizenzierung.
Die Schwierigkeit besteht darin, dass die KI-Nutzung nicht immer vorhersehbaren Mustern folgt. Ein Geschäftsteam könnte die Nutzung eines generativen KI-Tools erhöhen. Ein kundenorientierter Chatbot könnte eine höhere Nachfrage verzeichnen. Ein Entwicklungsteam könnte ein teureres Modell testen. Ein Analyse-Anwendungsfall könnte mehr Datenverarbeitung erfordern als erwartet. Ein automatisierter Workflow kann Tausende von Aufrufen generieren, die in der Pilotphase nicht erkennbar waren.
Dies birgt ein Budgetrisiko.
Wenn die KI-Nutzung nicht mit den Kostenverursachern verknüpft ist, kann die Finanzabteilung nicht ohne Weiteres erkennen, wer die Ausgaben verursacht. Wenn die Nutzung nicht prognostiziert wird, können CIOs nicht erklären, wie sich die Kosten entwickeln könnten. Wenn KI nicht an den geschäftlichen Nutzen gekoppelt ist, könnten CFOs die Ausgaben in Frage stellen, ohne die damit erzielten Ergebnisse zu sehen.
Viele KI-Dienste werden gemeinsam genutzt.
Eine zentrale KI-Plattform kann mehrere Geschäftsbereiche unterstützen. Ein einziges Modell kann Anwendungsfälle im Kundenservice, im Personalwesen, im Finanzwesen, im Marketing, in der Softwareentwicklung und im operativen Bereich abdecken. Gemeinsam genutzte Datenpipelines, Vektordatenbanken, Governance-Tools, Überwachungs- und Sicherheitskontrollen können mehrere KI-Initiativen gleichzeitig unterstützen.
Dies erschwert die Zuordnung der Kosten.
Wenn alle Kosten der KI-Plattform im IT-Bereich verbleiben, sehen die Geschäftsbereiche die Kosten für ihren Verbrauch nicht. Werden die Kosten gleichmäßig aufgeteilt, werden Teams mit hoher Nutzung möglicherweise von Teams mit geringer Nutzung subventioniert. Werden die Zuordnungen manuell vorgenommen, lässt sich das Modell nur schwer rechtfertigen.
Gemeinsam genutzte KI-Kosten erfordern Zuordnungsregeln, die den tatsächlichen Verbrauch, die geschäftliche Zuständigkeit, die Servicenutzung oder vereinbarte Werttreiber widerspiegeln.
Beispielsweise können Kosten nach Token-Volumen, Nutzerzahl, API-Aufrufen, Anwendungsfall, Geschäftsprozess, Service-Eigentümer, Rechenleistung oder vereinbarten Gewichtungen zugewiesen werden. Der richtige Faktor hängt vom KI-Dienst und der Entscheidung ab, die das Zuweisungsmodell unterstützen soll.
Wichtig ist, dass die Regel klar, konsistent und nachvollziehbar ist.
Bei der KI-Kostenverteilung geht es nicht nur um die Zuordnung von Ausgaben.
Es geht auch darum, den Wert zu verstehen.
Dies ist schwierig, da der KI-Wert möglicherweise nicht am selben Ort liegt wie die KI-Kosten. Die IT-Abteilung bezahlt vielleicht für die Plattform, während Produktivitätssteigerungen in den Geschäftsbereichen zum Tragen kommen. Ein kundenorientiertes KI-Tool kann die Zufriedenheit erhöhen oder den Servicebedarf senken, doch die finanziellen Auswirkungen lassen sich möglicherweise erst nach einiger Zeit messen. Ein interner KI-Assistent kann teamübergreifend Arbeitsstunden einsparen, doch diese Zeiteinsparungen lassen sich möglicherweise nicht ohne Weiteres in monetarisierbare Einsparungen umrechnen.
Dadurch entsteht eine Berichtslücke.
Die Finanzabteilung sieht die Kosten. Das Geschäft spürt möglicherweise den Nutzen. Die IT-Abteilung ist möglicherweise für die Plattform verantwortlich. Doch solange diese Sichtweisen nicht miteinander verknüpft werden, lässt sich der KI-ROI nur schwer nachweisen. Auch der finanzielle Wert lässt sich oft nicht direkt quantifizieren, insbesondere wenn die Vorteile qualitativer Natur sind oder sich auf mehrere Geschäftsbereiche verteilen, anstatt in einer einzigen Gewinn- und Verlust-Zeile zu landen.
Das bedeutet nicht, dass jeder KI-Anwendungsfall eine perfekte ROI-Berechnung erfordert. Es bedeutet jedoch, dass KI-bezogene Kosten mit erwarteten Ergebnissen, messbaren Indikatoren und Wertannahmen verknüpft werden sollten.
Ein KI-Kostenmodell sollte aufzeigen, welches Geschäftsziel es unterstützt.
Ein geregeltes KI-Kostenverteilungsmodell sollte technische Nutzung, finanzielle Strukturen, geschäftliche Zuständigkeit und Wertmessung miteinander verknüpfen.
Es sollte mindestens Folgendes umfassen:
KI-Kostenkategorien. Dazu können Modellzugriff, Token-Nutzung, GPU-Verbrauch, Cloud-Infrastruktur, Datenspeicherung, Datenaufbereitung, Vektordatenbanken, APIs, Integration, Überwachung, Sicherheit, Compliance, KI-Funktionen von Anbietern, interner Personalaufwand und laufender Support gehören.
Nutzungsfaktoren. Das Modell sollte ermitteln, welche Faktoren die Kosten beeinflussen. Dazu könnten Token, API-Aufrufe, Nutzer, Workflows, Abfragen, Rechenstunden, Modelltyp, Datenvolumen, Anwendungsfälle oder Servicevolumen gehören.
Verantwortung im Unternehmen. KI-bezogene Kosten sollten den Abteilungen, Produkten, Dienstleistungen, Anwendungen, Prozessen oder Geschäftsfunktionen zugeordnet werden, die diese Kosten verursachen.
Verteilungsregeln. Gemeinsame Kosten erfordern eine klare Logik. Regeln sollten festlegen, wie Plattformkosten, Modellkosten, Infrastrukturkosten und Governance-Kosten verteilt werden.
Prognoseannahmen. Der KI-Verbrauch sollte auf der Grundlage der erwarteten Einführung, des Nutzerwachstums, der Automatisierungshäufigkeit, der Produkterweiterung, der Modelländerungen und der Skalierung der Arbeitslast prognostiziert werden.
Gesamtbetriebskosten (TCO). Die Berichterstattung über KI-Kosten sollte die gesamten Betriebskosten umfassen, nicht nur die Ausgaben für Token oder GPUs. Kosten für Daten, Governance, Integration, Support, Überwachung, Sicherheit und Compliance spielen ebenfalls eine Rolle.
Wertindikatoren. KI-Investitionen sollten mit erwarteten Ergebnissen verknüpft werden, wie z. B. Produktivitätssteigerungen, Kosteneinsparungen, Umsatzsteigerungen, Risikominderung, schnellere Servicebereitstellung, bessere Entscheidungsfindung oder Verbesserungen des Kundenerlebnisses.
Dadurch entsteht ein Modell, das die Finanzabteilung nachvollziehen und die IT-Abteilung steuern kann.
KI sollte in dieselbe Finanzstruktur integriert werden, die auch für die Verwaltung von Technologiedienstleistungen, Anwendungen, Plattformen, Cloud-Lösungen, Anbietern und geschäftlichen Anforderungen verwendet wird.
Ein praktischer Rahmen umfasst fünf Schritte.
Beginnen Sie damit, festzustellen, wo KI-Kosten anfallen.
Diese können bei Cloud-Anbietern, KI-Plattformen, SaaS-Verträgen, API-Anbietern, Datenplattformen, internen Entwicklungsteams, Cybersicherheitsüberprüfungen, Governance-Funktionen, Beratungspartnern und geschäftsorientierten Tools anfallen.
Bei diesem ersten Schritt geht es um Transparenz.
Ziel ist es, die gesamte KI-Kostenbasis zu erfassen, einschließlich direkter und indirekter Kosten. Werden KI-Kosten nur anhand von Lieferantenrechnungen oder der Cloud-Nutzung erfasst, könnten dem Unternehmen die Betriebs-, Governance- und Supportkosten entgehen, die für einen verantwortungsvollen Einsatz von KI erforderlich sind. Dies gilt umso mehr, als ein Großteil der KI-Nutzung in bestehenden Verträgen enthalten ist und nicht als eigenständige Position in Rechnung gestellt wird.
Gruppieren Sie die Kosten anschließend so, dass sie die Entscheidungsfindung unterstützen.
Dies kann KI-Dienste, geschäftliche Anwendungsfälle, Produkte, Anwendungen, Modelle, Plattformen oder Funktionen umfassen.
Beispiel:
Dies hilft CIOs und CFOs dabei, über allgemeine KI-Ausgaben hinauszugehen und zu verstehen, welche Dienste oder Anwendungsfälle das Budget beanspruchen.
Sobald die Kosten gruppiert sind, definieren Sie die Zuordnungsfaktoren.
Direkte Kosten sollten dort zugeordnet werden, wo die Zuständigkeit klar ist. Gemeinsame Kosten sollten anhand von Faktoren zugewiesen werden, die die Nutzung oder die Geschäftslogik widerspiegeln.
Das Modell muss nicht vom ersten Tag an perfekt sein. Es muss jedoch dokumentiert und konsistent sein.
Die KI-Kostenverrechnung sollte nicht nur erklären, was bereits geschehen ist. Sie sollte auch dabei helfen, vorherzusagen, was als Nächstes geschieht.
Prognosen sollten das Wachstum der Einführung, Nutzungsmuster, neue Anwendungsfälle, die Häufigkeit der Automatisierung, Preisänderungen der Anbieter, die Modellauswahl, das Datenwachstum und den Übergang vom Pilotbetrieb in die Produktion berücksichtigen.
Dies ist besonders wichtig, da sich die Kosten für den KI-Einsatz auf eine Weise skalieren können, die während der Testphase nur schwer abzusehen ist.
Ein CFO-taugliches KI-Kostenmodell sollte aufzeigen, ob zukünftige Ausgaben zu erwarten, kontrollierbar, an den Geschäftsbedarf gekoppelt oder mit dem Risiko einer Überschreitung verbunden sind.
Schließlich sollten die KI-Ausgaben mit dem Nutzen verknüpft werden.
Jeder KI-Anwendungsfall sollte eine Wert-Hypothese haben. Diese muss nicht übermäßig kompliziert sein, sollte aber klar formuliert sein.
Soll der Anwendungsfall manuelle Arbeit reduzieren? Die Reaktionszeiten gegenüber Kunden verkürzen? Die Konversionsrate steigern? Risiken mindern? Prognosen verbessern? Die Entwicklung beschleunigen? Den Servicebedarf senken? Die Mitarbeiterproduktivität steigern?
Das Kostenmodell sollte aufzeigen, wie die KI-Ausgaben dieses Ergebnis unterstützen und anhand welcher Kennzahlen der Fortschritt gemessen wird. Auch wenn der Mehrwert qualitativ ist oder sich auf mehrere Funktionen verteilt, sollte das Modell den erwarteten Nutzen und dessen Indikatoren benennen – selbst wenn sich nicht alles auf einen einzigen monetarischen Wert reduzieren lässt.
Ohne diesen Bezug zum Mehrwert wird KI zu einem weiteren steigenden Technologiekostenfaktor. Mit ihm wird KI Teil eines gestuerten Investitionsportfolios.
Die KI-Kostenverteilung befindet sich an der Schnittstelle zwischen FinOps, ITFM, Beschaffung, Daten-Governance, Sicherheit und geschäftlicher Verantwortung.
FinOps ist wichtig, da der KI-Verbrauch häufig über Cloud- und nutzungsbasierte Dienste abgewickelt wird. Die Beschaffung ist wichtig, da KI-Funktionen und Anbieter-Upgrades zunehmend in Softwareverträge eingebettet werden. Daten- und Sicherheitsteams sind wichtig, da KI auf geregelte Daten und Risikokontrollen angewiesen ist.
Es ist hilfreich, genau zu verstehen, wie die finanziellen Disziplinen zusammenwirken. FinOps bietet operative Transparenz hinsichtlich des KI-Verbrauchs. Das IT-Finanzmanagement (ITFM) etabliert das finanzielle Governance-Modell dafür – Zuordnung, Prognosen, Gesamtbetriebskosten (TCO), Benchmarking und Berichterstattung. Und das Technology Business Management (TBM) hilft dabei, KI-Investitionen mit Geschäftsdienstleistungen, Fähigkeiten und strategischem Wert zu verknüpfen. Gemeinsam sorgen sie dafür, dass ein Unternehmen den Schritt von der bloßen Beobachtung der KI-Nutzung hin zur Steuerung von KI-Investitionen vollzieht.
Dies ist von Bedeutung, da KI die Art und Weise verändert, wie Technologiebudgets gesteuert werden müssen. Die Untersuchung von McKinsey und Serviceware zu Technologiebudgets im KI-Zeitalter unterstreicht, dass Unternehmen über isolierte KI-Initiativen hinausblicken und verstehen müssen, wie sich KI-Ausgaben auf das Gleichgewicht zwischen operativer Stabilität, Modernisierung und Wachstum auswirken. ITFM bietet die Struktur, um diese Ausgaben in das übergeordnete Technologieinvestitionsmodell einzubinden.
ITFM verknüpft technische Nutzungsdaten mit Kostenmodellen, geschäftlicher Zuständigkeit, Zuweisungsregeln, Budgets, Prognosen, Gesamtbetriebskosten (TCO), Benchmarking und der Berichterstattung an die Geschäftsleitung.
Dies hilft Unternehmen dabei, die Fragen zu beantworten, die CFOs und CIOs heute stellen müssen:
Wer nutzt KI?
Welche Kosten sind direkt, gemeinsam genutzt, fix, variabel oder vermeidbar?
Wie sollten gemeinsam genutzte KI-Plattformen zugeordnet werden?
Wie wird sich die Nutzung entwickeln?
Wie hoch sind die Gesamtbetriebskosten?
Welche Anwendungsfälle schaffen Mehrwert?
Wo sollten die Ausgaben optimiert werden?
Wie sollten KI-Kosten an die Finanzabteilung gemeldet werden?
Das ist der Unterschied zwischen der Erfassung von KI-Ausgaben und deren Steuerung.
Serviceware Financial hilft Unternehmendabei , kontrollierte Kostenmodelle für komplexe Technologieausgaben zu erstellen, darunter Cloud, KI, Shared Services, Anbieter, Anwendungen und geschäftsbezogene Dienste.
Die Lösung unterstützt die Kernfunktionen, die für die KI-Kostenverrechnung erforderlich sind: Transparenz, Verrechnung, Prognose, Optimierung, Benchmarking, Berichterstattung und Investitionssteuerung.
Transparenz hilft CIOs und CFOs dabei, zu erkennen, wo KI-bezogene Kosten plattform-, Cloud-dienst-, anbieter-, datenumgebungs- und geschäftsfallbezogen entstehen.
Die Zuordnung verknüpft diese Kosten mit den Diensten, Nutzern, Abteilungen, Anwendungen, Produkten und Geschäftsbereichen, die sie in Anspruch nehmen.
Prognosen helfen Unternehmen dabei, zu modellieren, wie sich die KI-Ausgaben ändern könnten, wenn die Akzeptanz zunimmt, Anwendungsfälle skaliert werden, sich die Preise der Anbieter ändern oder Pilotprojekte in die Produktion übergehen.
Die Optimierung hilft dabei, zu erkennen, wo die KI-Nutzung, die Plattformauswahl, die Modellauswahl oder die Anbieter-Kosten möglicherweise überprüft werden müssen.
Die Investitionssteuerung verknüpft KI-Ausgaben mit geschäftlichen Prioritäten und dem erzielten Wert, sodass Führungskräfte entscheiden können, wo sie skalieren, wo sie die Nutzung kontrollieren und wo sie Investitionen hinterfragen sollten.
Das Digital Value Model® von Serviceware erweitert dies noch weiter, indem es Prinzipien aus den Bereichen ITFM, TBM, FinOps und Wertmanagement in einem umfassenderen Kosten-Nutzen-Rahmenwerk miteinander verknüpft. Dies hilft Unternehmen dabei, nicht nur zu verstehen, was KI kostet, sondern auch, wie sich diese Kosten auf Services, Tower, Kostenpools, Geschäftsfähigkeiten und strategische Ergebnisse auswirken.
KI-Ausgaben werden zu wichtig, um außerhalb der normalen IT-Finanzsteuerung zu bleiben.
Token-basierte Preisgestaltung, GPU-Nutzung, die Nutzung gemeinsamer Modelle, integrierte KI-Funktionen von Anbietern, Datenkosten und Governance-Anforderungen machen es schwierig, KI-Kosten über traditionelle IT-Kostenmodelle zuzuordnen.
Die Lösung besteht jedoch nicht darin, KI auf Dauer als separate Finanzkategorie zu behandeln.
KI muss in ein strukturiertes Kostenmodell eingebunden werden, das Nutzung, Eigentumsverhältnisse, Zuordnung, Prognosen, Gesamtbetriebskosten (TCO) und Wert miteinander verknüpft.
Auf diese Weise kommen CIOs und CFOs von der Frage „Wie viel geben wir für KI aus?“ zu besseren Fragen: Wer nutzt sie, warum ändern sich die Kosten, wie sollte sie gesteuert werden und welchen Mehrwert schafft sie?
Die KI-Kostenverrechnung ist der Prozess, bei dem KI-bezogene Kosten den Teams, Anwendungen, Diensten, Geschäftsbereichen oder Anwendungsfällen zugeordnet werden, die diese Kosten verursachen. Sie hilft Unternehmen dabei, ihre KI-Ausgaben zu verwalten, die Verantwortlichkeit zu stärken, den Bedarf zu prognostizieren und Investitionen mit dem erzielten Nutzen zu verknüpfen.
Die KI-Kostenverrechnung ist schwierig, da KI-Kosten oft variabel sind, gemeinsam genutzt werden und sich auf Cloud-Plattformen, Modellanbieter, Softwareverträge, Datenumgebungen, Governance-Aktivitäten und geschäftsorientierte Anwendungsfälle verteilen. Die Preisgestaltung kann auf Input-Tokens, Output-Tokens, Anfragen, Rechenzeit oder gebündelten Abonnements basieren, und ein Großteil der KI-Ausgaben ist in bestehende Dienste eingebettet, anstatt als separate Position in Rechnung gestellt zu werden, sodass es schwierig sein kann, sie traditionellen Kostenstellen zuzuordnen.
Unternehmen sollten KI-Ausgaben nachverfolgen, indem sie Kostenquellen identifizieren, Kosten nach KI-Diensten oder Anwendungsfällen gruppieren, Zuordnungsfaktoren definieren, Ausgaben mit Budgets und Prognosen verknüpfen und Kosten mit dem erwarteten geschäftlichen Nutzen in Verbindung bringen.
FinOps bietet operative Transparenz hinsichtlich der KI-Nutzung. ITFM etabliert das Modell der finanziellen Steuerung – Zuordnung, Prognose, Gesamtbetriebskosten (TCO) und Berichterstattung. TBM verknüpft KI-Investitionen mit Unternehmensdienstleistungen, Fähigkeiten und strategischem Wert. Gemeinsam führen sie ein Unternehmen von der Erfassung der KI-Nutzung hin zur Steuerung von KI-Investitionen.
ITFM unterstützt die KI-Kostenverteilung, indem es technische Nutzungsdaten mit Finanzstrukturen, Kostenmodellen, Verteilungsregeln, Budgets, Prognosen, Gesamtbetriebskosten (TCO), Benchmarking und Berichterstattung verknüpft. Es trägt dazu bei, KI-Ausgaben steuerbar, nachvollziehbar und für den Finanzvorstand (CFO) aufbereitet zu machen.
Die KI-Gesamtbetriebskosten (TCO) sollten den Modellzugriff, die Token-Nutzung, den GPU-Verbrauch, die Cloud-Infrastruktur, die Datenaufbereitung, die Speicherung, APIs, die Integration, Governance, Überwachung, Sicherheit, Compliance, Anbietergebühren, interne Arbeitskosten und den laufenden Support umfassen.