Datensouveränität

Wissenstransfer DSGVO-konform: souverän und on-prem

Erfaro läuft auf einer Codebasis. Ein einziges Konfigurationsparameter entscheidet, wie viel im Haus bleibt. Das Wichtigste dabei: Embeddings und Audio bleiben in jeder Variante immer lokal.

Souveränitäts-Regler

Ein Produkt, ein Schalter: Souveränität so viel wie nötig

Beide Varianten teilen dieselbe Oberfläche, denselben Code und dieselben Funktionen. Der Unterschied liegt ausschließlich darin, wohin flüchtiger Chat-Text geht.

Souveränitäts-Regler Standard (Chat via EU-API)
Souverän (alles lokal) ENV: ERFARO_SOVEREIGN
Mittelstand und Konzern

Erfaro Standard

Schnell, ohne eigene GPU. Chat über die Mistral EU-API. Alles Sensible bleibt lokal.

Chat (Vertiefung, Zusammenfassung)
Nur OFFEN/INTERN klassifizierte Inhalte werden an Mistral EU-API übermittelt.
Mistral EU mit AVV
Embeddings und Vektorsuche
bge-m3 lokal auf CPU. Der Wissensbestand wird nie extern eingebettet.
Lokal, keine GPU
Sensible Daten (Art. 9 DSGVO)
SENSIBEL-Turns werden erkannt und nicht an die Cloud übermittelt.
Gesperrt, lokal
Diktat (Audio)
Whisper self-hosted. Audiodaten verlassen die Maschine nie.
Lokal, CPU
Kein GPU-Betrieb nötig. Einstieg mit Pilot ab 9.900 Euro.
Behörde und reguliert und On-Prem

Erfaro Souverän

Kein Wort verlässt das Haus. Chat über selbst gehostete, offene Mistral-Modelle.

Chat
vLLM mit offenen Mistral-Gewichten (Apache-2.0). Kein externer API-Aufruf.
Lokal, GPU
Embeddings und Vektorsuche
bge-m3 lokal.
Lokal
Diktat (Audio)
Whisper self-hosted.
Lokal
Egress-Firewall
Ausgehender Verkehr per Default gesperrt. Kein Klartext verlässt das Haus.
Default-deny
Braucht GPU (mietbar bei StackIT). Ab 24.900 Euro/Jahr.

In beiden Varianten fest verbaut

Was immer lokal bleibt

Unabhängig vom gewählten Tier gelten diese Schutzmaßnahmen ohne Ausnahme.

Embeddings immer lokal Sensitivitäts-Klassifikation vor jedem Chat-Turn Egress-Audit (hash-verkettet, fail-closed) Host-Allowlist für allen KI-Verkehr Verschlüsselung at-rest Audio (Whisper) immer lokal

Mistral EU-API im Standard-Tier

Was Mistral absichert und was Erfaro davor legt

Im Standard-Tier geht nur der als unkritisch klassifizierte Chat-Text an Mistral. Hier sehen Sie, welche Schicht welche Garantie trägt.

Mistral EU-API sichert

Vertraglich und auf Transportebene

  • Auftragsverarbeitung (AVV/DPA) nach DSGVO, EU-Rechtsraum, kein US-CLOUD-Act.
  • EU-Datenresidenz: Verarbeitung ausschließlich in der Europäischen Union.
  • Zero-Data-Retention: Prompts werden nicht gespeichert und nicht zum Training genutzt.
  • TLS-Transportverschlüsselung für alle Übertragungen.

Erfaro legt davor

Technische Schutzschicht in unserer Codebasis

  • Sensitivitäts-Klassifikation: Nur OFFEN/INTERN geht raus. SENSIBEL (Art. 9 DSGVO) bleibt lokal.
  • RAG-Kontext-Schutz: Der eingespeiste Wissensbestand wird mitgeprüft, nicht nur die gestellte Frage.
  • Egress-Audit: Jeder Abfluss wird inhaltslos protokolliert. Was verlässt das Haus, ist dokumentiert.
  • Nicht abgedeckt: echte Anonymisierung. Für Daten nach Art. 9 DSGVO trägt nur der Souverän-Tier.

GPU-Bedarf

Muss alles auf eine GPU? Nein.

Die teure Ressource ist nur das lokale Chat-Modell. Embeddings und Spracherkennung laufen auf normaler CPU. Der Standard-Tier ist ohne GPU vollständig betreibbar.

Baustein
Standard-Tier
Souverän-Tier
Chat-LLM
Vertiefung, Antworten
Mistral EU-API, keine GPU
GPU nötig, vLLM mit offenem Mistral-Modell
Embeddings
bge-m3
CPU
CPU (GPU optional)
Diktat / Whisper
faster-whisper
CPU
CPU
GPU-Bedarf gesamt
Keiner
Eine GPU (mietbar)

Fazit: Der Mittelstand betreibt Erfaro GPU-frei über die Mistral EU-API. Eine GPU ist nur dann nötig, wenn ein Kunde den vollständig lokalen Chat braucht, also bei Behörden oder Daten nach Art. 9 DSGVO. Die GPU lässt sich bei Anbietern wie StackIT stundenweise mieten statt kaufen.

Behörden und regulierte Organisationen

Für Daten nach Art. 9 DSGVO und On-Prem-Betrieb

Wenn Ihr Haus besondere Kategorien personenbezogener Daten verarbeitet oder ein strenges Betriebskonzept fordert, ist der Souverän-Tier die richtige Wahl.

Behörde und öffentliche Hand

Vollständig lokal, kein externer Dienstleister erhält Zugriff auf Inhalte. Kompatibel mit Betriebskonzepten, die externe Cloud-Verarbeitung ausschließen.

Daten nach Art. 9 DSGVO

Gesundheitsdaten, Gewerkschaftszugehörigkeit, religiöse oder politische Überzeugungen: Im Souverän-Tier verlässt kein Wort das Haus. Die Klassifikation greift auch im Standard-Tier als Sicherheitsnetz.

On-Prem und Private Cloud

Erfaro lässt sich auf Ihrer eigenen Infrastruktur oder in einer privaten Cloud in der EU betreiben. Kein Vendor-Lock-in, offene Modellgewichte (Apache-2.0).

Häufige Fragen

Datenschutz und Souveränität

Was unterscheidet Standard-Tier und Souverän-Tier?

Im Standard-Tier werden Chat-Inhalte, die als unkritisch klassifiziert wurden, über die Mistral EU-API verarbeitet. Embeddings und Audio bleiben in beiden Varianten stets lokal. Im Souverän-Tier laufen alle Verarbeitungsschritte einschließlich des Chat-Modells auf Ihrer eigenen Infrastruktur. Kein Text verlässt das Haus.

Welche vertraglichen Garantien bietet die Mistral EU-API?

Mistral stellt einen Auftragsverarbeitungsvertrag (AVV/DPA) nach DSGVO bereit, garantiert EU-Datenresidenz, Zero-Data-Retention (Prompts werden weder gespeichert noch für Training genutzt) und verschlüsselt alle Übertragungen per TLS.

Was schützt Erfaro zusätzlich zur Mistral EU-API?

Erfaro legt eine technische Schutzschicht davor: Eine Sensitivitäts-Klassifikation prüft jeden Chat-Turn und hält als Art. 9 eingestufte Inhalte lokal. Der RAG-Kontext wird mitgeprüft, nicht nur die Frage. Ein Egress-Audit protokolliert jeden Datenabfluss inhaltslos. Ergänzend greift eine Host-Allowlist für sämtlichen KI-Verkehr.

Für welche Organisationen ist der Souverän-Tier geeignet?

Der Souverän-Tier richtet sich an Behörden, regulierte Unternehmen und Organisationen, die Daten besonderer Kategorien nach Art. 9 DSGVO verarbeiten. Kein Wort verlässt die eigene Infrastruktur. Die Lösung ist auch für On-Prem-Betrieb konzipiert.

Braucht Erfaro eine GPU?

Nur der Souverän-Tier benötigt eine GPU für das lokale Chat-Modell (vLLM mit offenen Mistral-Gewichten). Embeddings und Spracherkennung mit Whisper laufen in beiden Varianten auf normaler CPU. Der Standard-Tier ist vollständig GPU-frei betreibbar.

Souveränität konkret besprechen

Wir zeigen Ihnen in einer Demo, wie der Regler in Ihrer Umgebung steht und welche Variante zu Ihrem Betriebskonzept passt.

Demo anfragen