Zum Inhalt springen
LLMlokal
☰

12 min Lesezeit

Inhaltlich aktualisiert: 29.10.2026

KI-Server-Kosten: GPT-API, Workstation oder eigener Server?

KI-Server-Kosten nachvollziehbar rechnen: GPT-API, Workstation und eigener Server. Mit aktuellem API-Tarifstand, Kostenrechner und Anfrage nach tatsächlicher Last.

Direkte Antwort

KI-Server-Kosten werden nach Modell und paralleler Nutzung kalkuliert, nicht nach Mitarbeiterzahl. Die wirtschaftliche Alternative ist oft eine GPT-API oder ein kleiner Pilot auf vorhandener Hardware. Wenn Daten zwingend lokal bleiben müssen, bestimmt zunächst diese Anforderung den möglichen Betriebsweg.

Ein Angebot sollte Hardware, Einführung, Lizenzen und Betrieb getrennt ausweisen. Ein günstiger GPU-Preis allein sagt nicht, was euer einsatzfähiges System kostet.

Die vier Kostenblöcke

KostenblockTypische BestandteileFrage für die Kalkulation
EinführungDatenaufbereitung, Integration, Tests, SchulungWas muss bis zur fachlichen Abnahme funktionieren?
InfrastrukturRechner oder Server, GPU, SSD, NetzwerkWelche Konfiguration trägt Modell und parallele Anfragen?
Laufende NutzungAPI, Energie, gegebenenfalls SoftwarelizenzenWie viel wird tatsächlich genutzt?
BetriebUpdates, Monitoring, Backup, WiederherstellungWer übernimmt welche Aufgabe und welche Verfügbarkeit?

Bei API-Nutzung entfällt eigener Modellspeicher. Eure Weboberfläche, Anmeldung und Dokumentensuche müssen trotzdem betrieben werden. Bei lokaler KI bleiben Modellgewichte, Kontextspeicher und Reserve im eigenen System.

GPT-API-Kosten mit eurem Volumen rechnen

Die offizielle API-Preisliste enthält getrennte Eingabe- und Ausgabetarife. Der Rechner nutzt zwei am 30. September 2026 geprüfte Standardtarife für kurze Kontexte. Er ist ein Kostenvergleich, keine Zusage, dass beide Modelle eure Aufgabe gleich gut lösen. Quelle: OpenAI API-Preise.

Was kostet euer Anfragevolumen?

Rechenbeispiel für die GPT-API. Die Werte lassen sich an euren Alltag anpassen.

20 Arbeitstage pro Monat. Eingabe umfasst auch Systemanweisungen, Gesprächsverlauf und Dokumentauszüge. Ausgabe umfasst gegebenenfalls Reasoning-Tokens. Kein Cache, keine gesonderten Cache-Schreibkosten, keine Tools oder Langkontextzuschläge berücksichtigt.

8.000 Anfragen / Monat

GPT-6 Luna: 3,60 US-Dollar / Monat

GPT-6.1 Sol: 72,00 US-Dollar / Monat

Tarifstand: 30.09.2026. Standardtarife für kurze Kontexte. Ohne Steuern, Wechselkurs, Anwendung, Betreuung oder ChatGPT-Abonnement. Das günstigere Modell muss für eure Aufgabe ausreichend gut sein. Offizielle API-Preise.

Der Beispielwert zeigt, warum kleine Anfragevolumen keinen Serverkauf allein mit API-Ersparnis rechtfertigen. Lange Dokumente, Reasoning, Werkzeuge, abweichende Tarife und höhere Nutzung können die Rechnung verändern. Ein ChatGPT-Abonnement ist ein anderes Produkt und ersetzt kein API-Budget.

Vier Infrastrukturwege für konkrete Aufgaben

Pilot auf vorhandener Hardware

Für eine begrenzte Dokumentaufgabe kann ein vorhandener Rechner genügen. Zuerst prüfen wir Speicher, das passende Modell und die fachliche Qualität. Besteht der Pilot, wird die gemeinsame Nutzung mit den geplanten Nutzern getestet. Der Hardware-Rechner liefert eine erste Speicherabschätzung.

Workstation für lokale Verarbeitung

Eine GPU-Workstation passt, wenn die benötigten Modelle in den verfügbaren Grafikspeicher passen und der Betrieb im Büro sinnvoll ist. Eine einzelne Karte und ein vollständiges System sind unterschiedliche Angebote. CPU, RAM, Netzteil, Kühlung, SSD, Garantieleistung und Installation gehören in die Vergleichsliste.

Eine 96-GB-Workstation-Karte und eine passiv gekühlte 96-GB-Server-Karte sind ebenfalls nicht austauschbar. Edition, Kühlung und freigegebene Plattform müssen zusammenpassen. Der GPU-Katalog ordnet die Kapazität ein; ein Angebot bestätigt die konkrete Ausführung.

Dedizierter Server für gemeinsame Nutzung

Bei mehreren parallelen Sitzungen kommen Scheduling, Anmeldung und Betriebsverantwortung hinzu. Große Modelle können mehrere GPUs benötigen. Mehr Gesamt-VRAM bedeutet aber nicht automatisch proportional mehr Durchsatz. Für belastbare Beschaffung testen wir die tatsächliche Software, Dokumentlängen und Antwortgrößen.

Ein DGX Spark ist ein eigener Sonderfall: NVIDIA nennt 128 GB gemeinsamen Speicher und 273 GB/s Bandbreite. Das ist für Entwicklung und größere Gewichte interessant; es ist keine pauschale Zusage für viele gleichzeitig aktive Nutzer. Grundlage sind die Herstellerdaten.

GPU-Server mieten

Ein gemieteter GPU-Server verschiebt die Anschaffung in eine laufende Gebühr. Das passt für Pilotphasen, für Lastspitzen und für Teams, die erst herausfinden müssen, welches Modell die Aufgabe tatsächlich trägt. Abgerechnet wird meist nach Stunde oder Monat. Hardwaretausch und Rechenzentrum übernimmt der Anbieter; Modell, Inferenzsoftware, Updates und Zugriffsschutz bleiben eure Aufgabe.

Der entscheidende Punkt ist nicht der Preis, sondern der Datenweg. Ein gemieteter Server steht beim Anbieter. Für vertrauliche Unterlagen braucht ihr Standort, Auftragsverarbeitungsvertrag und eine Antwort auf die Frage, wer administrativ auf das System zugreifen kann. Wenn Daten das Haus nicht verlassen dürfen, scheidet dieser Weg aus, egal wie günstig er ist. Die Abwägung steht ausführlicher unter Sicherheit und DSGVO.

Eine Beispielinvestition über drei Jahre

Angenommen, ein lokales System kostet 6.000 Euro netto. Das ist eine frei gewählte Rechenannahme, kein aktueller Gerätepreis und kein Angebot. Auf 36 Monate verteilt sind das 166,67 Euro monatlich, noch ohne Finanzierung und Restwert.

Bei angenommenen durchschnittlichen 200 Watt während acht Stunden an 22 Tagen kommen 35,2 kWh im Monat hinzu. Mit einer angenommenen Stromkostengröße von 0,30 Euro/kWh ergeben sich 10,56 Euro. Rechnerischer Zwischenstand: 177,23 Euro pro Monat vor Betreuung und weiteren Kosten. Dauerbetrieb, Kühlinfrastruktur und Leerlauf verändern den Wert.

Wer stattdessen eine API kalkuliert, vergleicht dieselbe Aufgabe und dieselbe geprüfte Qualität. Eine günstige lokale Antwort, die zehn Minuten Korrektur benötigt, kann die teurere API-Antwort wirtschaftlich unterbieten oder übertreffen – das muss der Pilot zeigen.

Mieten oder kaufen: die Grenze ausrechnen

Die Beispielrechnung oben liefert einen Vergleichswert: 177,23 Euro pro Monat für ein gekauftes System, noch ohne Betreuung. Für einen gemieteten GPU-Server nehmen wir zur Rechnung 1,50 Euro pro Stunde an. Auch das ist eine Rechenannahme, kein Tarif eines Anbieters. Dann gilt:

177,23 Euro ÷ 1,50 Euro pro Stunde = rund 118 Stunden im Monat. Verteilt auf 22 Arbeitstage sind das etwa 5,4 Stunden täglich.

NutzungsmusterTendenzWarum
Pilot über wenige WochenMietenKeine gebundene Investition, Modellwahl noch offen
Unregelmäßige StapelverarbeitungMietenServer läuft nur, wenn Arbeit anliegt
Dauerbetrieb im Arbeitstag, deutlich über der GrenzeKaufen prüfenGebühr läuft auch in Stunden ohne Mehrwert
Daten dürfen das Haus nicht verlassenKaufen oder vorhandene HardwareMietweg scheidet unabhängig vom Preis aus
Lastspitzen zu Monats- oder QuartalsendeKombinationGrundlast lokal, Spitzen gemietet oder per API

Setzt eure eigenen Werte ein: Kaufpreis durch Nutzungsmonate, plus Energie, plus Betreuung. Diese Summe teilt ihr durch den Stundenpreis des Mietangebots. Liegt die tatsächliche Nutzung klar darunter, ist Mieten wirtschaftlicher. Liegt sie klar darüber, lohnt der Blick auf einen Kauf. Dazwischen entscheiden Datenweg und Betreuungsaufwand.

Ein gemieteter Server, der vergessen wird, kostet weiter. Wer stundenweise mietet, braucht eine feste Regel, wer den Server stoppt.

GPU-Server, KI-Server und VPS: was ihr eigentlich vergleicht

Angebote vermischen drei Dinge, die getrennt kalkuliert werden müssen.

GPU-Server heißt: Hardware mit Grafikkarte, Betriebssystem, Netzwerk. Mehr nicht. KI-Server heißt: dieselbe Hardware plus Modell, Inferenzsoftware wie Ollama oder vLLM, Anmeldung, Weboberfläche, Backup und Monitoring. Zwischen beiden liegt die Einführungsarbeit, die im Mietpreis nicht enthalten ist.

VRAM ist der Grafikspeicher der Karte und die erste Grenze. Ein 7B-Modell in Q4 belegt rund 4,5 GB, ein 70B-Modell in Q4 rund 40 GB. Dazu kommt der Kontextspeicher jeder laufenden Anfrage. Fünf Personen, die gleichzeitig lange Verträge auswerten, brauchen deutlich mehr Reserve als eine Person mit kurzen Fragen. Die Werte je Modellgröße stehen im Hardware-Guide, passende Karten im GPU-Katalog.

TOPS (Billionen Rechenoperationen pro Sekunde) tauchen in vielen Datenblättern auf. Für die Antwortgeschwindigkeit eines Sprachmodells ist meist die Speicherbandbreite wichtiger, weil jedes erzeugte Token die Gewichte aus dem Speicher lesen muss. Eine Karte mit hohen TOPS und knappem VRAM hilft bei LLMs wenig.

Wie viele Anfragen die Software gleichzeitig verarbeitet, ist ebenfalls eine Kostengröße. Ollama bearbeitet parallele Anfragen nur bis zu einer konfigurierbaren Grenze und lädt dafür zusätzlichen Kontextspeicher, beschrieben in der Ollama-FAQ. Für viele gleichzeitige Nutzer ist vLLM verbreitet, das den Kontextspeicher effizienter verwaltet. Dieselbe Karte trägt je nach Software unterschiedlich viele Nutzer.

Ein VPS ohne GPU ist kein KI-Server, aber oft ein sinnvoller Baustein: Er kann Weboberfläche, Anmeldung und Dokumentensuche tragen, während die Inferenz über eine API oder einen GPU-Rechner läuft. Geprüfte Tarife mit Einstiegs- und Verlängerungspreis stehen unter Cloud vs. Lokal.

Typische Kalkulationsfehler

  1. Kartenpreis statt Systempreis. CPU, RAM, Netzteil, Kühlung, SSD und Gehäuse fehlen in der Rechnung.
  2. Mitarbeiterzahl statt paralleler Last. 50 Beschäftigte mit fünf gleichzeitigen Anfragen sind ein anderes System als 50 gleichzeitige Sitzungen.
  3. Kontextspeicher vergessen. Das Modell passt in den VRAM, aber mit langen Dokumenten und mehreren Nutzern nicht mehr.
  4. Einführung als Nebensache. Datenaufbereitung, Anbindung und Tests kosten oft mehr Zeit als die Installation des Modells.
  5. Qualität nicht mitgerechnet. Ein kleineres lokales Modell spart Gebühren, kann aber Nacharbeit erzeugen. Das zeigt nur ein Test mit echten Aufgaben.
  6. Mietserver ohne Abschaltregel. Stundenweise Abrechnung ist nur günstig, solange der Server nicht ungenutzt weiterläuft.

Tagespreise und Lieferbarkeit im Angebot bestätigen

Für stark wiederkehrende Nutzung lohnt sich außerdem die Prüfung von Tokenbudget, Caching, Batch und lokalen Alternativen. Dort lassen sich eigene Kosten bei hypothetisch anderen API-Preisen vergleichen. Das ist ein Belastungstest, keine Prognose für die Tarife eines Anbieters.

Hardwarepreise hängen von Edition, Speicherausbau, Bezugsweg und Garantie ab. Wir verwenden deshalb keine fremde Lageranzeige als eigene Lieferzusage. Ein individuelles Angebot benennt Konfiguration, Preisbasis, Steuer, Gültigkeit, Liefertermin und enthaltene Leistungen.

Die veröffentlichten API- und VPS-Tarife tragen einen Prüfstand. Der wöchentliche interne Abgleich meldet Änderungen zur Prüfung; eine geänderte Quellseite ist noch kein freigegebener neuer Angebotspreis.

Was wir für eine belastbare Anfrage brauchen

Aufgabe und Datenstandort, geplante Nutzer und parallele Sitzungen, gewünschtes Modell, typische Dokumentlänge, vorhandene Hardware sowie Investitionsrahmen. Wenn das Modell noch offen ist, beginnen wir mit dem Qualitätsvergleich. Bei Kanzleien steht Mandatstrennung im Vordergrund, bei mittelständischen Teams häufig die Integration in den vorhandenen Ablauf.

Infrastruktur und Projektumfang anfragen

Häufige Fragen

Was kostet ein KI-Server für ein Unternehmen?

Das hängt von Modell, parallelen Anfragen, Kontextlänge und Betriebsanforderungen ab. Eine GPU-Karte ist noch kein vollständiges System. Zum Hardwarepreis kommen Einführung, Storage, Netzwerk, Energie und Betreuung. Wir kalkulieren nach dem konkreten Arbeitsablauf.

Ist ein eigener KI-Server günstiger als die GPT-API?

Nicht automatisch. Entscheidend sind nutzbares Anfragevolumen, Modellqualität, Auslastung und Betriebskosten. Bei geringem Volumen kann die API günstiger sein; bei besonderen Datenanforderungen kann eigener Betrieb unabhängig vom Preis erforderlich sein.

Laufen GPT-Modelle auf einem gekauften GPU-Server?

Nur Modelle mit tatsächlich herunterladbaren Gewichten können selbst betrieben werden. Die gehosteten GPT-API-Modelle werden nicht durch einen Hardwarekauf lokal. Für eigenen Betrieb kommen beispielsweise gpt-oss und andere offene Modellfamilien infrage.

Reicht ein DGX Spark für 50 Mitarbeiter?

Die Beschäftigtenzahl allein beantwortet das nicht. Das Gerät hat viel gemeinsamen Speicher, aber nur begrenzten Durchsatz. Modell, Kontext und gleichzeitig aktive Nutzer müssen auf der geplanten Software getestet werden.

Sind die angezeigten API-Kosten der vollständige Projektpreis?

Nein. Der Rechner zeigt eine Modellkosten-Schätzung mit geprüftem Tarifstand. Steuern, Wechselkurs, besondere Tarife, Tools, Anwendung, Dokumentaufbereitung, Einführung und Betreuung sind nicht enthalten. Verbindliche Preise werden im Angebot vereinbart.

Was ist der Unterschied zwischen GPU-Server und KI-Server?

Ein GPU-Server ist Hardware mit einer oder mehreren Grafikkarten. Ein KI-Server ist das betriebsfähige System darauf: Modell, Inferenzsoftware, Anmeldung, Weboberfläche, Backup und Monitoring. Ein Mietangebot für einen GPU-Server enthält in der Regel nur den ersten Teil.

Wie viel VRAM braucht ein KI-Server?

Mindestens so viel, wie die Modellgewichte plus Kontextspeicher für alle gleichzeitigen Anfragen belegen. Ein 7B-Modell in Q4 braucht rund 4,5 GB, ein 70B-Modell in Q4 rund 40 GB. Jede parallele Sitzung mit langem Kontext kommt hinzu. Der Hardware-Rechner schätzt beides.

Lohnt es sich, einen GPU-Server zu mieten statt zu kaufen?

Bei unregelmäßiger Nutzung, Pilotphasen und Lastspitzen oft ja. Bei planbarer Dauerlast über viele Stunden täglich wird Kauf interessanter. Die Grenze ergibt sich aus Stundenpreis, monatlicher Nutzung und den Betriebskosten des eigenen Systems. Beim Mieten muss außerdem der Datenweg zum Anbieter zulässig sein.

Kann ich einen KI-Server auf einem normalen VPS betreiben?

Nur sehr kleine Modelle laufen auf einem VPS ohne GPU, und das langsam. Ein VPS eignet sich für Weboberfläche, Anmeldung, Dokumentensuche oder die Anbindung einer API. Die eigentliche Inferenz größerer Modelle braucht eine GPU oder viel schnellen gemeinsamen Speicher.

Beratung