Direkte Antwort
Lokale KI kann die Verarbeitung sensibler Daten auf eigener Infrastruktur ermöglichen. Dafür muss der gesamte Arbeitsablauf passen. Ein lokal geladenes Modell hilft wenig, wenn die Dokumente vorher an eine externe Texterkennung gehen oder vollständige Eingaben in einem fremden Protokollsystem landen.
Sensible Daten sind hier ein praktischer Oberbegriff: personenbezogene Unterlagen, Mandatsdaten, unveröffentlichte Forschung und Geschäftsgeheimnisse benötigen unterschiedliche Prüfungen. Nicht jede vertrauliche Information gehört rechtlich zur selben Datenkategorie.
Vier Nischen mit unterschiedlichen Anforderungen
| Einsatz | Begrenzte erste Aufgabe | Entscheidender Punkt |
|---|---|---|
| Steuerberatung | Einen Belegtyp vorsortieren und fehlende Angaben markieren | Mandantenbestände trennen, Zuordnung fachlich prüfen |
| Personalabteilung | Gültige allgemeine Richtlinien auffindbar machen | Mit freigegebenen Richtlinien beginnen, ohne individuelle Personalakten |
| Forschung und Entwicklung | Unveröffentlichte Berichte mit Fundstellen durchsuchen | Projektzugriff, Verträge und Schutz eigenen Know-hows |
| Transaktionen und Datenräume | Vertragsstellen für eine Prüfliste finden | Berechtigung je Datenraum und Löschung nach Projektende |
Für die anwaltliche Aktenarbeit gibt es einen eigenen Ablauf. Weitere Anwendungsfälle zeigen, wie Datenanforderung und Erfolgskriterium zusammenpassen. Die Beispiele sind keine Kundenreferenzen oder Zusagen für ein bestimmtes Modell.
Was zum lokalen Datenweg gehört
- Import und Texterkennung: Wo werden PDFs, Scans und Tabellen gelesen? Welche temporären Dateien entstehen?
- Suche und Embeddings: Wo werden Vektoren und Dokumentauszüge erzeugt, gespeichert und abgerufen?
- Inferenz: Welches Modell verarbeitet die Inhalte und welcher Server erhält die Anfrage?
- Ausgabe und Protokolle: Wer sieht Antworten? Werden vollständige Eingaben oder nur technische Kennzahlen protokolliert?
- Betrieb: Wohin gehen Backups, Fehlerberichte und Fernwartungsdaten? Wie werden Daten gelöscht?
Zugriffsrechte greifen vor der Suche. Eine Anweisung wie „zeige keine fremden Mandate“ ersetzt keine technische Trennung. Auch Embeddings und zwischengespeicherte Auszüge gehören zum Schutzkonzept. Die KI-Wissensdatenbank beschreibt den Aufbau einer Dokumentensuche mit Quellen.
Lokaler Modus und Offline-Betrieb unterscheiden
Ollama unterstützt lokale und gehostete Modelle. Seine offizielle FAQ beschreibt einen lokalen Modus über OLLAMA_NO_CLOUD=1 oder die entsprechende Serverkonfiguration. Nach einer Änderung wird Ollama neu gestartet. Diese Einstellung betrifft Ollamas eigene Cloud-Funktionen; andere Anwendungen und Integrationen müssen separat geprüft werden.
Für eine abgeschottete Umgebung werden Modelle, Software und benötigte Pakete kontrolliert bereitgestellt. Danach testen wir den konkreten Ablauf ohne Internetverbindung. Ein Download oder Update ist ein anderer Vorgang als die Verarbeitung vertraulicher Dokumente; beide benötigen festgelegte Regeln.
Datenschutz und fachliche Verantwortung bleiben notwendig
Die Orientierungshilfe der Datenschutzkonferenz behandelt Auswahl und Nutzung von KI-Anwendungen. Für ein Projekt werden insbesondere Zweck, zulässige Daten, Verantwortlichkeiten und Schutzmaßnahmen vor dem Einsatz geklärt. Lokale Verarbeitung beantwortet nur einen Teil dieser Fragen.
Unser erster Pilot unterstützt eine begrenzte Aufgabe mit nachprüfbaren Quellen. Entscheidungen über Bewerber, Leistungen, Mandate oder andere wesentliche Belange brauchen eine eigene rechtliche und fachliche Bewertung. Eine Dokumentensuche ist keine Freigabe für automatische Entscheidungen.
Ein Pilot, der die Vertraulichkeit mitprüft
Wir beginnen mit synthetischen oder ausdrücklich freigegebenen Testdaten. Neben richtigen Antworten enthält der Test gesperrte Dokumente, veraltete Versionen und Fragen ohne Beleg. Geprüft werden unzulässige Zugriffe, fehlende Quellen, ausgehende Verbindungen und Löschung von Testbeständen. Fachliche Nacharbeit wird mitgemessen.
Erst wenn Aufgabe und Datenweg bestehen, wird gemeinsame Nutzung geplant. Hardware und laufende Kosten richten sich dann nach Modell, Dokumentlänge und paralleler Last. Ein vorhandener Rechner kann für die erste Erprobung reichen; ein produktives Team benötigt zusätzlich einen verantwortlichen Betrieb.
Häufige Fragen
Bleiben bei lokaler KI automatisch alle Daten im Unternehmen?
Nur wenn auch die übrigen Komponenten entsprechend eingerichtet sind. Texterkennung, Embeddings, Websuche, Telemetrie, Protokolle und Backups können externe Dienste verwenden. Der vollständige Datenweg muss geprüft werden.
Ist ein lokales Modell automatisch DSGVO-konform?
Nein. Rechtsgrundlage, Zweck, Datenminimierung, Berechtigungen, Löschung und technische Schutzmaßnahmen bleiben erforderlich. Für den konkreten Einsatz werden Datenschutz und gegebenenfalls berufliche Verschwiegenheit gesondert geprüft.
Kann eine Steuerkanzlei Mandantenunterlagen lokal vorsortieren?
Das ist ein mögliches Planungsszenario. Der Pilot beginnt mit freigegebenen Testunterlagen und einem begrenzten Dokumenttyp. Mandantentrennung, korrekte Zuordnung und fachliche Nachprüfung müssen funktionieren. Eine autonome steuerliche Entscheidung wird daraus nicht abgeleitet.
Wie prüfen wir, ob ein System wirklich offline arbeitet?
Nach der kontrollierten Bereitstellung von Modellen und Software werden Netzverbindungen eingeschränkt und die benötigten Arbeitsabläufe ohne Internet getestet. Suche, Texterkennung und Anmeldung gehören ebenso dazu wie das Modell. Updates und Wartung brauchen einen eigenen Weg.
Welche Unterlagen brauchen wir für die erste Anfrage?
Keine vertraulichen Originaldokumente. Beschreibt Aufgabe, Datenart, berechtigte Nutzer und gewünschten Datenstandort. Ein sicherer Weg für spätere Testdaten wird im Projekt vereinbart.