GPT für Unternehmen: vom Chat zum nutzbaren Arbeitsablauf

Direkte Antwort

GPT im Unternehmen wird nützlich, wenn es in einen konkreten Arbeitsablauf passt. Für Textentwürfe kann ein freigegebener Chat-Zugang ausreichen. Für Antworten aus euren Dokumenten braucht es eine Suche mit Quellen und passenden Zugriffsrechten. Soll kein Dokument das Unternehmen verlassen, muss die gesamte Verarbeitung dafür ausgelegt sein.

Wir beginnen deshalb mit der Aufgabe: Wer wartet heute worauf? Welche Informationen fehlen? Wer prüft das Ergebnis? Erst danach wählen wir die Oberfläche, das Modell und die Infrastruktur.

ChatGPT, GPT-API und lokales Modell unterscheiden

Weg	Was ihr bekommt	Was ihr vorher klärt
ChatGPT	Einen vom Anbieter betriebenen Arbeitsplatz für einzelne Nutzer	Passender Organisationszugang, freigegebene Inhalte, Administration und Vertragsbedingungen
GPT über API	Ein Modell hinter eurer eigenen Anwendung	Datenübermittlung, Speicherung, Nutzerrechte, laufendes Budget und Integration
Lokales Modell	Inferenz auf eigener oder dedizierter Infrastruktur	Herunterladbare Gewichte, Modelllizenz, Hardware, Betrieb und Qualität
Hybrid	Unterschiedliche Datenwege für unterschiedliche Aufgaben	Eine ausdrückliche Freigabe pro Datenklasse und eine nachvollziehbare Weiterleitung

Ein interner Chat mit Firmenlogo kann weiterhin eine externe API aufrufen. Eine „OpenAI-kompatible“ Schnittstelle beschreibt das Anfrageformat. Sie sagt nichts über den Serverstandort aus. Die offene Modellfamilie gpt-oss kann dagegen auf eigener Infrastruktur betrieben werden; das zeigen die offiziellen lokalen gpt-oss-Rezepte.

Bei API-Nutzung werden Eingaben standardmäßig nicht für Modelltraining verwendet, sofern ihr nicht aktiv zustimmt. Speicherung bleibt eine separate Frage: Standardmäßig können Missbrauchsprotokolle Inhalte bis zu 30 Tage aufbewahren; Zero Data Retention setzt eine Freigabe voraus und hat Einschränkungen. Das steht in den OpenAI-Datenkontrollen. „Kein Training“ ist deshalb keine Zusage, dass keinerlei Inhalte gespeichert werden.

Drei Arbeitsabläufe, an denen sich ein Pilot messen lässt

Angebote schneller vorbereiten

Ein Vertriebsteam nutzt freigegebene Leistungsbausteine und Produktinformationen. Der Assistent erstellt einen Entwurf und nennt die verwendeten Bausteine. Rabatte, Liefertermine und die endgültige Kalkulation bleiben bei den Verantwortlichen. Gemessen wird die Zeit bis zum geprüften Angebot, einschließlich Nacharbeit.

Dieses Szenario passt zum KI-Einstieg im Mittelstand. Es braucht nicht automatisch ein besonders großes Modell, sondern verlässliche Ausgangsdaten und eine saubere Übergabe an die bestehende Angebotssoftware.

Interne Fragen aus Handbüchern beantworten

Ein Service-Team fragt nach einer Wartungsanweisung. Der Assistent liefert die relevante Stelle mit Dokumentname und Versionsstand. Bei widersprüchlichen Versionen oder fehlendem Beleg fragt er nach beziehungsweise gibt die Frage weiter. Der Fachbereich entscheidet, welche Dokumente überhaupt gelten. Die Architektur steht unter KI-Wissensdatenbank.

Vertrauliche Unterlagen sichten

Eine Kanzlei lässt einen Aktenbestand nach Ereignissen durchsuchen. Jede Fundstelle bleibt mit dem Ausgangsdokument verbunden, und die anwaltliche Bewertung folgt anschließend. Technisch entscheidend sind Mandatstrennung und überprüfbare Quellen. Dafür gibt es ein eigenes Kanzleiszenario.

Das sind Planungsszenarien, keine behaupteten Kundenreferenzen. Ob sie bei euch funktionieren, wird anhand eigener Beispielaufgaben geprüft.

Ein Pilot mit klarer Entscheidung am Ende

1. Aufgabe begrenzen: ein Fachbereich, ein Dokumentbestand, ein verantwortlicher Prüfer.
2. Ausgangslage messen: Bearbeitungszeit, typische Fehler, notwendige Rückfragen.
3. Datenweg festlegen: welche Inhalte lokal bleiben und welche extern verarbeitet werden dürfen.
4. Vergleich durchführen: dieselben Aufgaben mit mehreren geeigneten Modellen bearbeiten und blind prüfen.
5. Abnahme entscheiden: hilfreiche Antworten, belegbare Aussagen, Aufwand für Korrekturen und Kosten zusammen bewerten.

Als Startpunkt schlagen wir 30–50 repräsentative Aufgaben vor, einschließlich fehlender Informationen, veralteter Dokumente und unzulässiger Zugriffe. Das ist eine Pilotempfehlung, kein universeller Qualitätsstandard. Ein Assistent, der bei einer unklaren Frage sinnvoll abbricht, kann für euer Unternehmen wertvoller sein als einer, der immer eine Antwort erzeugt.

Was das kostet

Die Rechnung besteht aus Einführung, Nutzung und Betrieb. Bei einer API entstehen Modellkosten pro abgerechneter Nutzung; ein ChatGPT-Abonnement und eine API-Anwendung sind getrennte Kostenstellen. Lokal kommen Hardware, Strom, Administration und Ersatzbeschaffung hinzu. Dokumentaufbereitung und die Anbindung an eure Systeme fallen in beiden Fällen an.

Eine Beispielrechnung mit überprüftem Tarifstand und anpassbarem Anfragevolumen findet ihr unter KI-Server und Kosten. Einen pauschalen Preis pro Beschäftigtem nennen wir nicht: 50 Beschäftigte mit drei gleichzeitig aktiven Nutzern benötigen eine andere Lösung als 50 gleichzeitig arbeitende Nutzer.

Welcher nächste Schritt passt?

Der Anlass kann auch ein geschützter Datenbestand, lokale Softwareentwicklung, Engineering-Wissen oder die Kontrolle laufender Tokenkosten sein. Der Überblick mit zwölf Anwendungsfällen verbindet diese Fragen mit konkreten Aufgaben und messbaren Pilot-Ergebnissen.

Für die eigene technische Erprobung: Ollama installieren, Hardwarebedarf rechnen und Dokumente per RAG anbinden. Für eine begleitete Entscheidung: Beratungsformate. Wenn ihr die Aufgabe bereits kennt, könnt ihr direkt eine Projektanfrage für GPT im Unternehmen vorbereiten.