Private KI auf Ihren eigenen Servern
Lokale KI für Ihr Unternehmen: offene Modelle wie Qwen und DeepSeek on premise, also in Ihrem Büro, oder auf einem dedizierten Server in einem EU-Rechenzentrum. Ihre Dokumente und Prompts gehen nie an einen KI-Anbieter – das vereinfacht auch den Datenschutz nach DSGVO. Wir planen das System, richten es ein, binden Ihre Tools an und halten es am Laufen.
- Wo es läuft
- Ihr Büro oder ein EU-Rechenzentrum
- Modelle
- Qwen · DeepSeek · Liquid AI
- An KI-Anbieter gesendet
- Nichts
- Wartung
- Durch uns oder Ihre IT
Was Sie bekommen
Ein KI-System, das Ihnen gehört, kein Abo bei jemand anderem.
- Ein Chat-Assistent für Ihr Team, der aus Ihren eigenen Dokumenten antwortet.
- Suche über Verträge, Pläne, Handbücher und Aufnahmen, auch Scans und Audio.
- Hilfe beim Schreiben, Zusammenfassen, Übersetzen und Programmieren, ohne etwas in ein öffentliches KI-Tool zu kopieren.
- Anbindung an Ihre bestehenden Tools, etwa Dateiablage oder Dokumentenarchiv.
Typische Setups
Wir dimensionieren die Hardware für Ihr Team und Ihren Anwendungsfall.
GPU-Workstation
Ein Rechner mit ein bis vier GPUs bei Ihnen vor Ort. Gut für ein Team, das einen Assistenten und Dokumentensuche möchte, ohne dass die Daten das Gebäude verlassen.
Dedizierter GPU-Server
Ein Server, der nur für Sie gemietet wird, zum Beispiel bei Hetzner in Finnland. Keine Hardware in Ihrem Büro, und trotzdem kein KI-Anbieter dazwischen.
Kleiner GPU-Cluster
Mehrere GPU-Server, verwaltet mit Kubernetes, vor Ort oder im Rechenzentrum. Für viele Nutzer, größere Modelle und automatisierte Workflows.
Die Preise hängen von Hardware und Umfang ab. Sobald wir Ihren Anwendungsfall kennen, schicken wir Ihnen eine grobe Schätzung. Ratgeber: Welche Hardware brauchen Sie? →
So funktioniert es
Vom ersten Gespräch bis zum System, das Ihr Team täglich nutzt.
- PlanungAnwendungsfälle, Nutzer, Daten, Budget
- EinrichtungHardware, Modelle, Sicherheit
- Ihre DatenDokumente und Tools angebunden
- BetriebUpdates, Monitoring, neue Modelle
Warum wir
Wir empfehlen nur, was wir selbst betrieben haben.
- Unsere eigene KI-Workstation mit vier RTX-3090-GPUs, auf der wir neue offene Modelle testen, sobald sie erscheinen. Zum Lab →
- Private Dokumenten-KI, bereits produktiv auf Vetra Cloud: Das Modell läuft im Cluster des Kunden. Zum Projekt →
- Jahrelange Erfahrung im Betrieb: Ethereum-Validatoren seit 2020 mit 99,9 % Uptime und eine mandantenfähige Kubernetes-Plattform. Zu Vetra Cloud →
- Qwen
- DeepSeek
- Liquid AI
- llama.cpp
- Docling
- Kubernetes
Fragen
Was Kunden meist zuerst fragen.
Gehen unsere Daten an einen KI-Anbieter?
Nein. Die Modelle, Ihre Dokumente und jeder Prompt bleiben auf Ihrem eigenen Server, ob in Ihrem Büro oder auf einem dedizierten Server in einem EU-Rechenzentrum. Nichts wird an OpenAI, Google oder einen anderen KI-Anbieter gesendet.
Welche Modelle laufen darauf?
Open-Weight-Modelle wie Qwen, DeepSeek oder die LFM-Familie von Liquid AI, ausgewählt für Ihren Anwendungsfall und Ihre Hardware. Erscheinen bessere Modelle, tauschen oder ergänzen wir sie.
Was kostet das?
Das hängt von der Hardware ab und davon, was Sie damit vorhaben. Nennen Sie uns Ihren Anwendungsfall, und wir schicken Ihnen eine grobe Schätzung für Hardware, Einrichtung und Wartung.
Wer betreut das System im Betrieb?
Das können wir übernehmen, mit Updates, Monitoring und Modell-Upgrades. Oder wir übergeben es mit vollständiger Dokumentation an Ihre IT.
Hilft das beim Datenschutz?
Da nichts an einen externen KI-Anbieter geht, entfällt für diesen Teil eine Datenübermittlung, die Sie nach DSGVO dokumentieren müssten. Wir helfen Ihnen, das Setup für Ihren Datenschutzbeauftragten zu beschreiben.
Möchten Sie Ihre eigene private KI?
Sprechen Sie uns an →