Souveräne KI
Was ist eine souveräne KI-Plattform?
Die kurze Antwort
Eine souveräne KI-Plattform ist eine Software, mit der ein Unternehmen oder eine Organisation KI-Modelle auf selbst kontrollierter Infrastruktur nach dem Recht der eigenen Gerichtsbarkeit betreiben, verwalten und auditieren kann. Prompts, Dokumente und Ergebnisse verlassen diese Infrastruktur nie, und kein externer Provider kann darauf zugreifen oder den Dienst abschalten.
Das Wort „souverän“ beschreibt, wer die Kontrolle hat. Bei einer souveränen KI-Plattform entscheidet die Organisation, wo die Modelle laufen, wer sie nutzen darf und was protokolliert wird. Sie ist nicht auf den Vertrag eines Cloud-Providers angewiesen, um diese Kontrolle zu behalten.
Eine souveräne KI-Plattform ist kein Modell. Sie ist die Schicht rund um die Modelle: Deployment, Zugriffskontrolle, Monitoring und Auditierung, damit Open-Weight-Modelle von vielen Teams gleichzeitig im Produktivbetrieb genutzt werden können.
Souveräne KI-Plattform vs. souveräne Cloud
Die beiden Begriffe klingen ähnlich, beschreiben aber unterschiedliche Arten von Kontrolle. Eine souveräne Cloud verspricht Souveränität per Vertrag. Eine souveräne KI-Plattform liefert sie durch ihre Architektur.
Souveräne Cloud | Souveräne KI-Plattform | |
|---|---|---|
Wo die KI läuft | Im Rechenzentrum eines Providers, oft in einer EU-Region | Auf Servern, die die Organisation besitzt oder kontrolliert |
Wer sie betreibt | Der Provider | Die Organisation selbst |
Was die Daten schützt | Verträge, Zertifizierungen und Regionseinstellungen | Die Tatsache, dass Daten das Netzwerk der Organisation nie verlassen |
Ausländischer behördlicher Zugriff | Hängt vom Heimatland des Providers ab | Kein externer Provider hält die Daten |
Kann von außen abgeschaltet werden | Ja, durch den Provider | Nein |
Der Unterschied ist vor allem bei Providern mit Sitz außerhalb der EU relevant. Der US CLOUD Act von 2018 erlaubt es US-Behörden, von Anbietern mit Sitz in den USA die Herausgabe von Daten unter ihrer Kontrolle zu verlangen – selbst wenn diese in einem anderen Land gespeichert sind (US Department of Justice). Ein EU-Rechenzentrum, das von einem US-Unternehmen betrieben wird, entzieht die Daten daher nicht der US-Gerichtsbarkeit.
Eine souveräne KI-Plattform umgeht diese Problematik. Wenn die Daten nie einen Provider erreichen, kann auch kein Provider zur Herausgabe verpflichtet werden.
Was eine souveräne KI-Plattform umfasst
Eine souveräne KI-Plattform kombiniert sechs Bausteine. Gemeinsam bieten sie Teams ein Cloud-ähnliches KI-Erlebnis, während alles innerhalb der Organisation bleibt.
Infrastruktur unter Ihrer Kontrolle. Modelle laufen auf organisationseigenen Servern oder in einer von ihr kontrollierten Umgebung. Es werden keine Daten an externe KI-Provider gesendet.
Open-Weight-Modelle. Die Organisation wählt und hostet die Modelle selbst, sodass sie diese prüfen, behalten und anpassen kann, ohne einen Anbieter fragen zu müssen.
Modell-Orchestrierung. Die Plattform stellt Modelle über einen oder mehrere GPU-Server bereit, verteilt Anfragen gleichmäßig und erweitert die Kapazität durch das Hinzufügen weiterer Server.
Eine Standard-API. Eine OpenAI-kompatible API ermöglicht es bestehenden Anwendungen und Tools, durch das Ändern einer einzigen Basis-URL und eines Keys auf die internen Modelle umzusteigen.
Zugriffskontrolle. Rollenbasierte Zugriffe, Single Sign-On und API-Keys bestimmen, welche Personen und Anwendungen welche Modelle nutzen dürfen.
Auditierung und Monitoring. Die Plattform erfasst, wer was wann getan hat, damit die Organisation gegenüber Regulierungsbehörden und Prüfern nachweisen kann, wie KI eingesetzt wird.
Eine weitere Eigenschaft unterscheidet eine wahrhaft souveräne Plattform von einer bloß privaten: Ihr Quellcode kann eingesehen werden. Kann die Organisation nicht sehen, was die Software tut, muss sie dem Anbieter doch wieder vertrauen.
Wer eine souveräne KI-Plattform benötigt
Jede Organisation, die ihre Daten aus rechtlichen oder vertraglichen Gründen nicht an einen externen KI-Dienst übermitteln darf, benötigt eine solche Plattform. Diese Organisationen sind nicht per se gegen die Cloud – sie sind durch Gesetze, berufliche Pflichten oder Geschäftsgeheimnisse daran gehindert.
Sektor | Warum Daten das Haus nicht verlassen dürfen | Relevante Vorschriften |
|---|---|---|
Banken und Versicherungen | Bankgeheimnis, strenge Outsourcing-Vorgaben | DSGVO, DORA (Verordnung (EU) 2022/2554) |
Krankenhäuser und Gesundheitswesen | Patientendaten gehören zu den am strengsten geschützten Daten überhaupt | DSGVO (besondere Kategorien personenbezogener Daten) |
Rechtsanwaltskanzleien | Die anwaltliche Verschwiegenheitspflicht umfasst die gesamte Mandantenakte | DSGVO, nationale Standesregeln |
Medien | Journalistischer Quellenschutz (Redaktionsgeheimnis) | DSGVO, Presse- und Medienrecht |
Öffentlicher Sektor | Datenresidenz und lückenlose Nachvollziehbarkeit von Entscheidungen | DSGVO, NIS2 (Richtlinie (EU) 2022/2555), nationale Vorschriften |
Industrie und Fertigung | Geschäftsgeheimnisse und Produktionsdaten | Geschäftsgeheimnisgesetz, Verträge |
Der EU AI Act (Verordnung (EU) 2024/1689) verlangt zusätzlich Dokumentations- und Transparenzpflichten. Eine Plattform mit integriertem Audit-Trail erleichtert die Erfüllung dieser Pflichten, da die Nachweise direkt während der Nutzung der KI gesammelt werden.
Wie man prüft, ob eine Plattform wirklich souverän ist
Viele Produkte bezeichnen sich als souverän. Anhand von sieben Fragen lässt sich feststellen, ob eine Plattform es tatsächlich ist.
Verlassen im Normalbetrieb Daten unser Netzwerk? Die Antwort sollte „Nein“ lauten – das gilt auch für Prompts, Ausgaben, Logs und Telemetriedaten.
Kann sie ohne Internetverbindung zum Anbieter betrieben werden? Eine souveräne Plattform funktioniert auch dann weiter, wenn der Anbieter vom Markt verschwindet.
Wer kann rechtlich zur Herausgabe unserer Daten verpflichtet werden? Wenn die Antwort irgendeinen externen Provider einschließt, ist die Plattform nicht souverän.
Können wir den Quellcode einsehen? Open-Source- oder Source-Available-Code ermöglicht es Ihrem Sicherheitsteam zu überprüfen, was tatsächlich ausgeführt wird.
Können wir die Modelle selbst auswählen und wechseln? Sie sollten nicht an die Modelle eines einzelnen Anbieters gebunden sein.
Gibt es einen Audit-Trail, den wir kontrollieren? Protokolle sollten auf Ihrer Infrastruktur verbleiben und für Prüfer exportierbar sein.
Lässt sich die Zugriffskontrolle an unser Identitätssystem anbinden? Single Sign-On und Rollen sollten aus Ihrem eigenen Verzeichnisdienst stammen, nicht aus einem separaten Anbieter-Konto.
Wo Xinity ins Spiel kommt
Xinity ist eine Open-Source-Plattform für souveräne KI, die in Wien entwickelt wurde. Sie läuft zur Gänze auf der organisationseigenen Hardware und bietet Teams ein Cloud-Erlebnis in den eigenen Räumlichkeiten (on-premises).
Läuft dort, wo die Daten liegen: Dashboard, API-Gateway, Modell-Knoten und Datenbanken laufen ausnahmslos in Ihrer Infrastruktur – ganz ohne Datenabfluss nach außen.
Funktioniert mit bestehenden Tools: Dank einer OpenAI-kompatiblen API können Anwendungen, die für das OpenAI-SDK entwickelt wurden, einfach durch Ändern der Basis-URL umgestellt werden.
Regelt Zugriffe: Rollenbasierte Zugriffe pro Organisation, Single Sign-On via OIDC, Passkeys und Zwei-Faktor-Authentifizierung.
Führt einen Audit-Trail: Sicherheitsrelevante Aktionen werden automatisch protokolliert und können für Prüfer exportiert werden.
Skaliert durch Hinzufügen von Servern: Neue GPU-Maschinen werden als Knoten integriert, und eine Instanz kann mehrere Organisationen mit Mandantentrennung bedienen.
Vollständig prüfbar: Der gesamte Quellcode ist öffentlich auf GitHub verfügbar.
Xinity ist bei regulierten Organisationen im Produktiveinsatz, darunter Medienunternehmen, Industrieunternehmen und öffentliche Einrichtungen.
Häufig gestellte Fragen (FAQ)
Was ist eine souveräne KI-Plattform?
Eine souveräne KI-Plattform ist eine Software zum Betreiben, Verwalten und Auditieren von KI-Modellen auf einer von der Organisation kontrollierten Infrastruktur unter ihrer eigenen Gerichtsbarkeit. Daten verlassen diese Infrastruktur nie.
Was ist der Unterschied zwischen souveräner KI und souveräner Cloud?
Eine souveräne Cloud speichert Daten im Rechenzentrum eines Providers und schützt sie per Vertrag. Eine souveräne KI-Plattform läuft auf den organisationseigenen Servern, sodass überhaupt kein externer Provider Zugriff auf die Daten hat.
Reicht ein EU-Rechenzentrum für echte Souveränität aus?
Nicht immer. Nach dem US CLOUD Act können Anbieter mit Sitz in den USA dazu verpflichtet werden, Daten unter ihrer Kontrolle herauszugeben – selbst wenn diese innerhalb der EU gespeichert sind (US Department of Justice).
Enthält eine souveräne KI-Plattform eigene KI-Modelle?
In der Regel nicht. Sie betreibt Open-Weight-Modelle, die von der Organisation selbst ausgewählt und gehostet werden. Die Plattform ist die Schicht, die diese Modelle bereitstellt, absichert und auditiert.
Wer benötigt eine souveräne KI-Plattform?
Organisationen, die Daten nicht an externe KI-Dienste übermitteln dürfen: Banken, Versicherungen, Spitäler, Kanzleien, Medienunternehmen, öffentliche Institutionen und Industrieunternehmen mit sensiblen Betriebsgeheimnissen.
Können bestehende KI-Anwendungen auf einer souveränen KI-Plattform laufen?
Ja, sofern die Plattform eine OpenAI-kompatible API bereitstellt. Anwendungen können dann ganz einfach durch Ändern der Basis-URL und des API-Keys umgestellt werden.