Warum sich KI-Kosten standardmässig nicht zuordnen lassen

Die Rechnung steigt, und niemand kann sagen, welches Team die Kosten verursacht. Das ist der Normalfall, und er hat strukturelle Gründe.

Wie es dazu kommt

• Ein gemeinsamer API-Key pro Anbieter.
• Keys, die zwischen Teams weitergegeben werden.
• Anfragen ohne Angabe von Team oder Anwendung.
• Eine separate Rechnung pro Anbieter.
• Selbst gehostete Modelle, deren Nutzung niemand erfasst.

Warum Excel-Listen nicht funktionieren

Wenn Teams ihre Nutzung selbst erfassen sollen, schläft das nach wenigen Wochen ein. Neue Anwendungen übernehmen alte Keys.

Die Lösung

• Der gesamte Modellverkehr läuft über ein Gateway.
• Jede Anfrage trägt Team, Anwendung und Nutzer.
• Budgets werden im Gateway durchgesetzt.
• Die Telemetrie fliesst in Ihr bestehendes Monitoring.

Das Ergebnis

Die Finanzabteilung erhält eine nachvollziehbare interne Verrechnung. Die Teams steuern ihre Budgets selbst. Offen bleibt nur noch, ob sich die Ausgaben gelohnt haben.