Wenn Agenten zu teuer werden: Wann sich lokale KI-Hardware lohnt

Uber stellte seinen Entwicklungsteams KI-Coding-Agenten zur Verfügung und ermutigte sie ausdrücklich zur Nutzung. Die Teams nutzten das Angebot. Vier Monate später war das für das gesamte Jahr 2026 vorgesehene KI-Budget bereits aufgebraucht. Als Reaktion führte das Unternehmen eine monatliche Obergrenze von 1.500 US-Dollar pro Person ein.

Das hätte man als Einzelfall abtun können. Doch im Juni 2026 stellte GitHub Copilot von einem Pauschalmodell auf nutzungsabhängige Abrechnung um. In einem dokumentierten Beispiel stiegen die Kosten pro Entwickler von 29 auf 750 US-Dollar pro Monat. Andere Anbieter folgten diesem Ansatz. Im selben Monat prognostizierte Gartner , dass die Ausgaben für KI-Coding bis 2028 das durchschnittliche Entwicklergehalt übersteigen werden.

Die Ursache ist nicht ein Scheitern, sondern der Erfolg der Technologie. Agentic Coding funktioniert. Nutanix bezeichnet Agentic Coding als die „Killer-App“ der Enterprise-KI und zugleich als ihr größten Kostenfaktor. Der Anteil der Entwickler*innen, die Agenten nutzen hat sich binnen eines Jahres fast verdoppelt, von 31% auf 59%.

Damit verschiebt sich die zentrale Frage. Ob Coding-Agenten produktiv eingesetzt werden können, gilt für viele Unternehmen inzwischen als beantwortet. Zunehmend geht es darum, wo die dafür benötigte Rechenleistung betrieben wird und wem sie gehört.

Deshalb steigen die Token-Kosten: drei Treiber

Die Entwicklung lässt sich nicht auf eine einzelne Ursache zurückführen. Erkenntnisse von Accenture, Gartner und aktuelle Forschung zu Multi-Agenten-Systemen in der Softwareentwicklung deuten darauf hin, dass derzeit drei Entwicklungen gleichzeitig zusammenkommen.

Die Power User von heute zeigen, wohin sich der Durchschnitt entwickelt

Der zweite Kostentreiber wird mit der Zeit abnehmen, sobald Teams Erfahrung im Umgang mit den Tools sammeln. Der erste und der dritte Treiber hingegen werden bestehen bleiben. Zudem erfordert Lernen kontinuierliche Praxis, und diese Praxis ist teuer, wenn jede Nutzung abgerechnet wird.

Die Entwicklung zeigt jedoch überall in dieselbe Richtung. Der Token-Verbrauch pro Entwickler*in ist in neun Monaten um das 18.6 – Fache gestiegen. Zwar lassen sich durch bessere Arbeitsweisen künftig weniger Token pro Aufgabe verbrauchen, gleichzeitig wachsen jedoch Anzahl und Umfang der Aufgaben noch schneller. Setzt sich dieser Trend fort, wird die intensive Nutzung von heute schon bald zum Standard von morgen.

Viele Unternehmen reagieren auf die steigenden Kosten mit Ausgabenlimits. Damit laufen sie jedoch Gefahr, Entwickler*innen gerade in der entscheidenden Lernphase auszubremsen, in der sie erst verstehen, wie sich KI-Agenten produktiv und wirtschaftlich einsetzen lassen.

Offene Modelle holen auf, die Hardware-Anforderungen sinken

Ein Beispiel dafür lieferte Alibaba im August mit der Veröffentlichung von Qwen3.8-27B als Open-Weights-Modell. Das bedeutet, dass Unternehmen das Modell herunterladen und auf eigener Infrastruktur betreiben können. Mit 27 Milliarden Parametern ist es kompakt genug, um auf leistungsfähiger Desktop-Hardware zu laufen, und wurde gezielt für Coding-Aufgaben sowie agentenbasierte Workflows optimiert. Das Modell steht dabei stellvertretend für einen breiteren Trend. Die Argumentation hängt nicht von einem einzelnen Anbieter oder Release ab.

Ein Wert von 61,7 bedeutet, dass das Modell rund sechs von zehn Aufgaben des Benchmarks eigenständig löst. Bemerkenswert ist dabei weniger die absolute Punktzahl als die Kombination aus Leistung und Zugänglichkeit: Ein Modell, das auf einem leistungsfähigen Arbeitsplatzrechner betrieben werden kann, erreicht inzwischen das Leistungsniveau von Cloud-Modellen, die vor kurzem noch zur Spitzengruppe gehörten.

Desktop-Hardware macht lokale KI praktikabel

Der zweite Trend zeigt sich bei der Hardware. Inzwischen bieten mehrere Hersteller kompakte Systeme an, die leistungsfähige KI-Modelle lokal ausführen können. Als Referenz dient hier Nvidias DGX Spark, weil für diese Plattform bereits öffentliche Benchmarks vorliegen. Das nur 1,2 Kilogramm schwere Gerät ist etwa so groß wie ein dickes Taschenbuch und wurde speziell für KI-Anwendungen entwickelt. Anfang Oktober stellte Nvidia eine Variante für 4.999 US-Dollar vor, deren Arbeitsspeicher ausreicht, um Modelle wie Qwen3.8-27B lokal zu betreiben.

Drei der größten Hardware-Hersteller verfolgen dasselbe Ziel: leistungsfähige KI-Modelle direkt auf dem Schreibtisch verfügbar zu machen, ohne nutzungsabhängige Kosten.

Die entscheidende Frage: Wann lohnt sich die Hardware?

Ab wann rechnet sich nun eigene Hardware für Agentic Coding? Ein Desktop-KI-Rechner für $4,999 US-Dollar hat sich bei einer monatlichen Token-Rechnung von $800 US-Dollar nach etwa sechs Monaten amortisiert, bei 1.500 US-Dollar nach gut drei Monaten und beim heutigen Durchschnitt von 200 US-Dollar nach rund zwei Jahren. Die Werte gehen von einer Entwickler*in pro Gerät aus und schließen Strom und Administrationsaufwand aus. Da der Token-Verbrauch pro Entwickler*in in neun Monaten um das 18,6-Fache gestiegen ist, dürften sich die durchschnittlichen Rechnungen den höheren Szenarien annähern.

Eine Box kann durchaus auch von mehreren Entwickler*innen geteilt werden, was die Amortisation verkürzt. Teams, die bereits eine Workstation mit 24-GB-Grafikkarte besitzen, müssen womöglich gar nichts kaufen, denn eine kompakte Variante des Modells passt auf eine solche Karte.

Das verändert die Ökonomie der Softwareentwicklung. Wird jede Interaktion mit einem Modell separat abgerechnet, hat jede zusätzliche Iteration ihren Preis. Läuft das Modell hingegen auf eigener Hardware, kostet ein weiterer Agentenlauf vor allem Zeit und Strom. Dadurch werden Arbeitsweisen wirtschaftlich, die heute oft vermieden werden: Agenten können über Nacht arbeiten, mehrere Reviewer parallel eingebunden und Code beliebig oft überarbeitet werden, ohne dass mit jeder Schleife neue Nutzungskosten entstehen.

Kontrolle über den Code

Kosten sind nur ein Teil der Gleichung. Ebenso wichtig ist die Frage nach Kontrolle und Governance.

Werden Modelle lokal betrieben, verbleiben Quellcode, Prompts und Agenten-Logs innerhalb der Infrastruktur des Unternehmens. Gerade in regulierten Branchen oder bei sensiblen Kundenprojekten vereinfacht das viele Governance- und Compliance-Fragen. Unternehmen müssen deutlich seltener bewerten, welche Daten an externe Anbieter übermittelt werden oder in welcher Region sie verarbeitet werden.

Einige Anbieter reagieren bereits auf diese Nachfrage. Am 1. Oktober kündigte etwa IBM eine selbst gehostete Version von IBM Bob an, seiner agentischen Entwicklungsplattform, damit Unternehmen sensiblen Code aus externen Diensten heraushalten können. Eine IBM-eigene Studie ergab, dass

Auch die Herkunft eines Modells kann Bedenken auslösen. Bei gehosteten KI-Diensten müssen Unternehmen bewerten, welche Daten an externe Anbieter übermittelt werden und unter welchen Rahmenbedingungen die Verarbeitung erfolgt.

Wo die Grenzen liegen

Zwei Faktoren könnten diese Entwicklung bremsen.

Der erste ist die Regulierung. Rund um offene Modelle hat sich eine politische Debatte entwickelt. Im September 2026 veröffentlichte Anthropic einen Bericht, nach dem sieben chinesische Labore Claude-Ausgaben in industriellem Maßstab genutzt haben, um eigene Modelle zu trainieren. Auch Alibaba, der Hersteller von Qwen, wird dabei genannt. Der US-Finanzminister erklärte, Sanktionen seien eine Option. Gleichzeitig gibt es Widerstände gegen mögliche Beschränkungen: Im Juli 2026 führte Nvidia einen offenen Brief an, der Washington auffordert, herunterladbare Modelle nicht zu beschränken. Unterzeichnet haben ihn unter anderem Microsoft, Meta, Dell und IBM.

Wie sich die regulatorischen Rahmenbedingungen entwickeln, ist offen. Zwar lassen sich einmal veröffentlichte Modellgewichte nicht einfach zurückholen, zukünftige Einschränkungen bei Verteilung, Nutzung oder Support sind jedoch denkbar. Für Unternehmen spricht deshalb vieles dafür, Modelle als austauschbare Komponenten ihrer KI-Architektur zu behandeln, statt sich von einem einzelnen Anbieter abhängig zu machen.

Der zweite Faktor ist die Hardware. Sie hat folgende Grenzen:

Was das für dein Team bedeutet

Nichts davon spricht dafür, die Cloud zu verlassen. Es spricht vielmehr dafür, die Arbeit sinnvoll aufzuteilen.

Wer heute neu in ein Unternehmen kommt, erhält Laptop und Monitor. Schon bald könnte eine dritte Ressource selbstverständlich werden: Zugriff auf eine eigene KI-Infrastruktur, die Agenten lokal ausführt, auf dem Schreibtisch oder im Serverraum.

Wann lohnt sich nun eigene Hardware?

Die meisten Unternehmen werden nicht zwischen Cloud und lokaler Infrastruktur wählen müssen. Wahrscheinlicher ist ein hybrider Ansatz: Standardaufgaben laufen lokal, die komplexesten Aufgaben in der Cloud.

Teilen