Wie Xinity eine wirklich private KI-Infrastruktur aufbaut

Der Großteil des Schutzes der Privatsphäre bei KI ist ein Versprechen. Eine Vereinbarung zur Auftragsdatenverarbeitung, ein Compliance-Zertifikat, ein Absatz in den Nutzungsbedingungen, der Ihnen zusichert, dass Ihre Prompts nicht für das Training verwendet werden. Man verlangt von Ihnen, darauf zu vertrauen, dass dieses Versprechen eingehalten wird, und Sie haben keine Möglichkeit, dies zu überprüfen, da die Infrastruktur, die Ihre Daten verarbeitet, im Gebäude eines anderen steht, unter der Kontrolle eines anderen steht und der Gerichtsbarkeit eines anderen unterliegt.

Wir glauben, dass eine Privatsphäre, die auf Vertrauen basiert, keine Privatsphäre ist. Sie ist ein Vertrag. Und Verträge können sich ändern, neu interpretiert oder von Gesetzen außer Kraft gesetzt werden, denen Sie nie zugestimmt haben.

Xinity basiert auf einer anderen Prämisse: Ihre Daten können nicht aus einer Infrastruktur abfließen, die sie nie verlassen. Dieser Beitrag erklärt, was das in der Praxis bedeutet, bis hin zu den technischen Entscheidungen, die dies Wirklichkeit werden lassen.

Privatsphäre durch Architektur, nicht durch Vertrag

Das grundlegende Designprinzip von Xinity lautet: Null obligatorischer Datenabfluss (Zero Mandatory Data Egress). Inference-Anfragen, Antworten, Labels, Modellgewichte und GPU-Telemetrie verbleiben standardmäßig in Ihrer Infrastruktur. Es gibt keinen Analysedienst, der Nutzungsmuster erfasst, keine externe Telemetrie, die Berichte an uns sendet, und keinen externen API-Aufruf, der für den Kernbetrieb erforderlich ist.

Der Inference-Pfad ist standardmäßig auf null Datenabfluss ausgelegt. Eine vollständig vom Internet getrennte (air-gapped) Bereitstellung erfordert zusätzlich den Verweis des Modellkatalogs auf einen selbst gehosteten Info-Server, was lediglich eine Konfigurationsänderung erfordert und im folgenden Abschnitt über Ausnahmen beschrieben wird. Sobald dies eingerichtet ist, kann eine Xinity-Bereitstellung, die täglich Tausende von Anfragen verarbeitet, unbegrenzt laufen, ohne dass ein einziges Paket Ihr Netzwerk verlässt.

Dieser Unterschied ist von Bedeutung, da er die Zuständigkeit ändert. Auf einer Cloud-Plattform ist Datenschutz etwas, das Sie konfigurieren, überwachen und von dem Sie hoffen müssen, dass der Anbieter es einhält. Bei Xinity müssten Sie den Datenschutz aktiv rückgängig machen.

Wie echte Privatsphäre in der Praxis aussieht

Behauptungen sind einfach aufzustellen. Hier ist, wie die Architektur sie durchsetzt.

Inference läuft in einem netzwerktechnisch blockierten Bereich. Wenn Xinity vLLM in Docker ausführt, agieren die Container in einem Netzwerk, das jeglichen ausgehenden Internetzugang blockiert. Modelle werden vom Xinity-Daemon im Voraus heruntergeladen und offline geladen. Der Prozess, der Antworten aus Ihren sensibelsten Dokumenten generiert, ist physisch nicht in der Lage, „nach Hause zu telefonieren“, da das Netzwerk, in dem er sich befindet, über keine Route nach außen verfügt.

Der gesamte Stack ist selbst hostbar. Gateway, Dashboard, Daemon, Modellkatalog, Datenbank, Cache: Jede Komponente kann in Ihren eigenen Räumlichkeiten betrieben werden. Organisationen in strengen Zero-Egress-Umgebungen, von physisch isolierten Forschungseinrichtungen bis hin zu Bankennetzwerken, können alles lokal bereitstellen und jede optionale ausgehende Integration deaktivieren.

Ihre Protokolle bleiben Ihre Protokolle. Nutzungstracking, Anfrageprotokollierung und Daten-Labeling-Pipelines schreiben in Ihre eigene PostgreSQL-Datenbank. Das Audit-Protokoll, das Ihr Compliance-Team benötigt, existiert – aber es existiert auf Ihrer Hardware, lesbar für Ihre Mitarbeiter und geregelt nach Ihren Aufbewahrungsrichtlinien.

Verschlüsselung und Authentifizierung entsprechen Unternehmensstandards. Das Gateway unterstützt TLS-Terminierung mit Ihren eigenen Zertifikaten, Inference-Knoten authentifizieren sich mit Token pro Knoten, und der Zugriff wird durch eine rollenbasierte Zugriffskontrolle (RBAC) über sechs Rollen und sieben Ressourcentypen hinweg geregelt. SSO via OIDC, Passkeys und TOTP-Zwei-Faktor-Authentifizierung werden in derselben Codebasis wie alles andere ausgeliefert – kein separater Enterprise-Build, kein nachträglich angeflanschtes Authentifizierungsprodukt. Welche Funktionen in welcher Lizenzstufe verfügbar sind, wird unten offengelegt, denn das gehört in den ehrlichen Teil.

Privatsphäre, die Sie prüfen können, statt nur an sie zu glauben

Es gibt noch einen weiteren Unterschied zwischen einem Versprechen und einer Eigenschaft: Eine Eigenschaft kann überprüft werden.

Der Kern von Xinity ist Open Source unter Apache 2.0, und das Dashboard ist quelloffen unter der Elastic License 2.0 verfügbar. In jedem Fall ist jede einzelne Codezeile, die Ihre Daten berührt, öffentlich überprüfbar. Ihr Sicherheitsteam muss sich nicht auf unser Wort verlassen, was das Gateway protokolliert, was der Daemon überträgt oder was mit einer Anfrage passiert, nachdem sie beantwortet wurde. Sie können den Quellcode lesen, ihn selbst kompilieren und überprüfen, ob das laufende System mit dem veröffentlichten Code übereinstimmt.

Für regulierte Organisationen ändert dies die Diskussion mit Prüfern. Anstatt das Compliance-PDF eines Drittanbieters weiterzuleiten, können Sie auf den tatsächlichen Mechanismus verweisen: Hier ist der Code, hier ist unsere Bereitstellung, hier ist die Netzwerkrichtlinie, die zeigt, dass die Inference keinen ausgehenden Pfad hat.

Der ehrliche Teil: Ausnahmen und Lizenzierung

Echte Privatsphäre bedeutet auch echte Transparenz bezüglich der Ausnahmen. Hier ist alles aufgeführt, was das Internet erreichen kann und was einen Lizenzschlüssel erfordert.

Der Modellkatalog. Wenn Sie keinen eigenen Info-Server hosten, ruft das Dashboard Modell-Metadaten (Namen, Spezifikationen und Driver-Strings) von einem Endpunkt ab, den wir unter sysinfo.xinity.ai hosten. Dies wird ausschließlich für Katalogdaten und niemals für Inference- oder Kundendaten verwendet. Sie können dies vollständig eliminieren, indem Sie INFOSERVER_URL auf einen selbst gehosteten Katalog verweisen lassen, der aus einer lokalen YAML-Datei bereitgestellt wird.

Websuche. Administratoren können optionale Suchintegrationen in der Responses-API des Gateways aktivieren. Diese benötigen offensichtlich einen Internetzugang, um zu funktionieren. Es handelt sich hierbei um Opt-in-Funktionen, die niemals Teil des Standard-Inference-Pfads sind.

Lizenzpflichtige Funktionen. Der gesamte Code ist einsehbar, aber einige Dashboard-Funktionen werden erst mit einem von Xinity signierten Lizenzschlüssel aktiviert: SSO, Mandantenfähigkeit (Multi-Organization), das Audit-Protokoll und der vollständige Satz an Rollen. Die kostenlose Version ist auf 120 GB VRAM begrenzt. Die Lizenzprüfung erfolgt lokal; das Aktivieren eines Schlüssels öffnet keinen Datenkanal zu uns, und es sind keine Inference- oder Kundendaten involviert.

Das ist die vollständige Liste. Wir veröffentlichen sie, weil ein Versprechen auf Privatsphäre ohne seine Ausnahmen reines Marketing ist, während ein Versprechen auf Privatsphäre mit seinen Ausnahmen echte Ingenieurskunst darstellt.

Warum dies wichtiger ist als je zuvor

DSGVO, Bankgeheimnis, journalistischer Quellenschutz, das Anwaltsgeheimnis und das Geschäftsgeheimnisgesetz machen eine externe Datenverarbeitung für bestimmte Arbeitslasten rechtlich unmöglich. Die betroffenen Organisationen sind nicht einfach skeptisch gegenüber der Cloud. Sie sind durch Souveränitätsvorgaben blockiert: Sie benötigen moderne KI-Funktionen, dürfen ihre Daten aber nicht rechtmäßig wegschicken, um diese zu erhalten.

Für sie stellt sich nicht die Frage, ob sich die Datenschutzerklärung eines Anbieters beruhigend anhört. Die Frage ist, ob die Architektur das Risiko strukturell so unwahrscheinlich macht, dass es praktisch unmöglich ist. Das ist der Standard, nach dem wir entwickeln.

Betreiben Sie KI dort, wo Ihre Daten liegen. Souverän durch Architektur, nicht durch Vertrag.

Möchten Sie sehen, wie eine Zero-Egress-Bereitstellung auf Ihrer eigenen Hardware aussieht? Buchen Sie eine kostenlose 30-minütige Demonstration mit unserem Team oder lesen Sie die vollständige technische Architektur im Xinity-Whitepaper.

Dieser Beitrag wurde mit Unterstützung von KI entworfen und vom Xinity-Team überprüft, faktengeprüft und freigegeben.