Ein KI-Kollege, der niemals nach Hause telefoniert: NOVARA auf Xinity Runtime ausführen

Als Xinity eine E-Mail an Novarion bezüglich des Mitschreibens dieses Artikels schickte, kam die erste Antwort nicht von einem Menschen. Sie kam von NOVARA, der KI-Kollegin von Novarion. NOVARA prüfte den Vorschlag, schlug eine Struktur vor und half dabei zu bestimmen, wie dieser Artikel aufgebaut sein sollte. Dabei musste keine externe Cloud-API eingebunden werden. Das ist die ganze Geschichte im Kleinen: KI-Kollegen sind keine abstrakten Pilotprojekte mehr. Sie lesen E-Mails, unterstützen Workflows, rufen Wissen ab und können nah an den sensibelsten Informationen einer Organisation agieren. Die strategische Frage lautet daher nicht mehr, ob KI-Kollegen nützlich sind. Sondern wo sie laufen, wie sie sich integrieren und unter wessen Kontrolle sie betrieben werden.

Für regulierte Organisationen im DACH-Raum ist diese Frage nicht philosophisch. Sie ist operativ, rechtlich und architektonisch. Wenn ein KI-System vertrauliche Geschäftsdaten, interne Kommunikation, Kundendaten, Projektdokumente oder regulierte Informationen verarbeitet, ist Souveränität keine Marketingpräferenz. Sie ist eine Bereitstellungsanforderung.

Dieser Artikel beschreibt eine Referenzarchitektur für genau diese Anforderung: NOVARA als Intelligence Layer und Xinity Runtime als die darunter liegende lokale Inferenzschicht. Zusammen zeigen sie, wie ein KI-Kollege für Unternehmen auf einer Infrastruktur laufen kann, die innerhalb der eigenen Umgebung des Kunden verbleibt.

Das Problem

Regulierte Organisationen wollen das, was alle anderen bereits haben. Banken wollen eine KI, die Kreditakten liest und die interne Wissensarbeit unterstützt. Krankenhäuser wollen eine KI, die beim Entwerfen von Dokumentationen hilft und Informationsflüsse strukturiert. Anwaltskanzleien wollen eine KI, die Archive durchsucht und Fachkräfte unterstützt, ohne die Vertraulichkeit zu schwächen. Industrieunternehmen wollen eine KI, die über Betrieb, Service, Engineering und Kommunikation hinweg arbeitet. Die Technologie existiert. In vielen Fällen ist der eigentliche Blockadefaktor nicht mehr die Leistungsfähigkeit.

Der Blockadefaktor ist die Rechtsprechung.

Ein großer Anteil der auf dem Markt befindlichen KI-Kollegen hängt bei der Kern-Inferenz von externen Cloud-APIs ab. In dem Moment, in dem Prompts, Dokumente oder kontextuelle Unternehmensdaten die Organisation verlassen und über einen externen Endpunkt verarbeitet werden, ändert sich die Compliance-Diskussion fundamental. Für Organisationen, die an die DSGVO, das Bankgeheimnis, die ärztliche Schweigepflicht, das Berufsgeheimnis oder interne Souveränitätsvorgaben gebunden sind, schafft diese Architektur ein Risiko, das Verträge allein nicht vollständig neutralisieren können.

Aus diesem Grund verschieben viele Organisationen die Einführung von KI oder beschränken sie auf triviale, unempfindliche Anwendungsfälle. Das widerspricht jedoch dem Zweck eines echten Kollegen. Ein wahrer KI-Kollege ist gerade deshalb wertvoll, weil er mit dem Kontext arbeiten kann, auf den es ankommt: Unternehmenssysteme, interne Prozesse und echte operative Daten.

Die Antwort lautet daher nicht, die KI weniger leistungsfähig zu machen. Sondern den Stack souverän zu gestalten. Wenn die Intelligence-Schicht von einer externen API außerhalb der Kontrolle der Organisation abhängt, bleibt die Souveränität bestenfalls unvollständig. Ein souveräner KI-Kollege benötigt eine souveräne Infrastruktur darunter. Um diese Kombination geht es in dieser Referenzarchitektur.

Die Intelligence-Schicht: NOVARA

NOVARA ist Novarions virtueller Kollege für Unternehmensumgebungen. Sie ist nicht als isolierter Chatbot konzipiert, sondern als kontrollierte Intelligence-Schicht, die echte organisatorische Arbeit in den Bereichen Kommunikation, Informationsbeschaffung, Prozessunterstützung und Systeminteraktion unterstützen kann. Ihre Rolle ist es, als vertrauenswürdige digitale Kollegin in einem Unternehmenskontext zu agieren.

Das Herzstück von NOVARA ist Novarions Software-defined Brain™, eine proprietäre Architektur, die darauf ausgelegt ist, logisches Denken, Orchestrierung, kontextuelle Verarbeitung und strukturierte Werkzeugnutzung in einem kontrollierten KI-System für Unternehmen zu vereinen. Anstatt KI als eine unzusammenhängende Sammlung von Einzellösungen zu behandeln, macht der Ansatz des Software-defined Brain verschiedene Fähigkeiten zu einer zentralen kognitiven Schicht für die Organisation. Das Ziel ist es nicht nur, auf Prompts zu antworten, sondern KI über Unternehmens-Workflows hinweg nutzbar, konsistent und steuerbar zu machen.

Dies ist besonders in regulierten Umgebungen von Bedeutung. Je sensibler die Organisation ist, desto weniger nützlich wird ein generischer, öffentlicher KI-Endpunkt. Unternehmen brauchen keine weitere isolierte Schnittstelle. Sie brauchen einen KI-Kollegen, der in ihre eigene Infrastruktur integriert werden kann, Berechtigungen und Governance-Strukturen widerspiegelt und innerhalb ihres eigenen Sicherheitsmodells agiert.

Das ist die Rolle, für die NOVARA entwickelt wurde. Sie kann als Teil einer Unternehmensarchitektur bereitgestellt werden, bei der die Datenkontrolle, Integrationsgrenzen und das operative Verhalten in den Händen des Kunden verbleiben. Sie ist für die Anbindung an Unternehmenssysteme, Wissensquellen, Kommunikationskanäle und Workflow-Komponenten über kontrollierte Schnittstellen ausgelegt. In der Praxis bedeutet dies, dass NOVARA Aktivitäten wie kontextuelle Unterstützung, interne Informationsverarbeitung, strukturierte Kommunikation und Orchestrierungsaufgaben unterstützen kann, ohne dass Organisationen ihre operative Realität in eine KI-Umgebung von Drittanbietern exportieren müssen.

Für regulierte Organisationen ist eine souveräne Bereitstellung daher kein optionales Feature rund um NOVARA. Sie ist ein zentrales Designprinzip. Wenn ein KI-Kollege in einem Unternehmen produktiv werden soll, muss er dort laufen können, wo das Unternehmen ihn steuern kann. Deshalb ist es auch so wichtig, unnötige Abhängigkeiten von externen Cloud-API-Anbietern zu vermeiden. Je weniger die Intelligence-Schicht von externen Rechtsordnungen abhängt, desto besser kann die Organisation die KI-Nutzung mit ihren eigenen rechtlichen, operativen und sicherheitsrelevanten Anforderungen in Einklang bringen.

Die Infrastrukturschicht: Xinity Runtime

Xinity Runtime ist eine Software, die die eigenen Server einer Organisation in eine KI-Inferenzplattform verwandelt. Sie wird auf bestehender Hardware hinter der vorhandenen Firewall installiert und stellt eine OpenAI-kompatible API im lokalen Netzwerk bereit. Für eine Anwendung wie NOVARA ändert dies genau eine Sache: die Basis-URL. Anstatt auf einen externen Cloud-Endpunkt zu verweisen, zeigt die Intelligence-Schicht auf eine Maschine im eigenen Rack des Kunden. Dasselbe API-Muster, dieselbe Anforderungsstruktur, keine Notwendigkeit, die Anwendungsarchitektur um eine benutzerdefinierte Schnittstelle herum neu zu konzipieren.

Unterhalb dieses Endpunkts kümmert sich Runtime um das, was die Produktionsinferenz tatsächlich erfordert: die Bereitstellung und das Routing von Open-Weight-Modellen (einschließlich europäischer souveräner Modelle, wenn der Anwendungsfall es erfordert), die automatische Auswahl nach Aufgabe und Last, Audit-Trails für Inferenzanfragen, rollenbasierte Zugriffskontrolle und Multi-Node-Orchestrierung. Die Core-Engine ist Open Source unter Apache 2.0, was es den Sicherheits- und Infrastrukturteams des Kunden ermöglicht, den Stack zu inspizieren, anstatt ihn als Black Box zu akzeptieren.

Für regulierte Organisationen ist dies der Unterschied zwischen vertraglicher und architektonischer Kontrolle. Wenn Prompts, Dokumente und Inferenz-Token lokal verarbeitet werden, verkommt Souveränität nicht zu einer bloßen Behauptung des Anbieters. Sie wird zu einer technischen Eigenschaft der Bereitstellung. Standardmäßig befindet sich kein externer Anbieter im Datenpfad, und es müssen keine sensiblen Unternehmenskontexte über einen von Dritten betriebenen Endpunkt übertragen werden, damit das System funktioniert.

Eine Air-Gapped-Bereitstellung (ohne Internetverbindung) ist ebenfalls für Umgebungen möglich, in denen selbst die Internetverbindung eingeschränkt oder verboten ist. Das macht die Infrastrukturschicht nicht nur für kommerzielle Unternehmen relevant, sondern auch für den öffentlichen Sektor, die Forschung und Hochsicherheits-Anwendungsfälle.

In einem Satz: NOVARA benötigt einen Sprachmodell-Endpunkt, und Xinity Runtime macht diesen Endpunkt lokal, überprüfbar und abgestimmt auf den souveränen Unternehmensbetrieb.

Die Bereitstellung

In dieser Referenzarchitektur wird Xinity Runtime auf der eigenen Infrastruktur des Kunden installiert, entweder auf bestehenden Servern oder auf dedizierten Inferenzknoten hinter der vorhandenen Firewall. Runtime hostet und bedient die ausgewählten Open-Weight-Modelle und stellt einen OpenAI-kompatiblen Endpunkt im lokalen Netzwerk bereit. Aus Sicht der Anwendungsschicht ist der Integrationsaufwand bewusst gering: Wo normalerweise ein Cloud-API-Endpunkt konfiguriert würde, wird stattdessen ein interner Endpunkt verwendet.

Für NOVARA ist dies wichtig, da es die architektonische Klarheit bewahrt. Die Intelligence-Schicht muss nicht für eine spezielle On-Premise-Inferenz-Engine umgeschrieben werden. Der Modell-Endpunkt bleibt über ein vertrautes API-Muster zugänglich, was den Integrationsaufwand verringert und die Bereitstellungsplanung beschleunigt.

Auf der Seite von Novarion beginnt die Bereitstellung mit der Definition des Unternehmensbereichs, in dem NOVARA agieren soll: welche Funktionen sie unterstützen soll, welche Benutzergruppen darauf zugreifen sollen, mit welchen internen Systemen sie verbunden werden soll und welche Governance-Anforderungen gelten. Von dort aus wird NOVARA als Virtual-Coworker-Schicht mit kontrolliertem Zugriff auf relevante Unternehmensressourcen in die Kundenumgebung integriert. Je nach Szenario kann dies Wissensquellen, Kommunikationssysteme, interne Workflow-Komponenten und berechtigungssensitive Schnittstellen umfassen.

Der Implementierungsansatz, dem Novarion typischerweise folgt, ist phasenweise. Er beginnt mit einem definierten Anwendungsbereich und einer kontrollierten Sandbox- oder Pilotdomäne und dehnt sich dann auf breitere Unternehmensprozesse aus, sobald Integration, Governance und Benutzerakzeptanz ausgereift sind. Dies ist in regulierten Organisationen von Bedeutung, da der Erfolg der Bereitstellung nicht allein durch den Modellzugriff entsteht. Er resultiert aus der Kombination der Intelligence-Schicht mit der Unternehmensegregation, der Richtlinienanpassung, der Überprüfbarkeit und dem operativen Support.

Rund um den Modell-Endpunkt kümmert sich Xinity Runtime um das Routing, die Lastverteilung, die Zugriffskontrolle und die Rückverfolgbarkeit. Rund um den Anwendungsfall im Unternehmen sorgt NOVARA für das gesteuerte Verhalten der Kollegin, die Kontextverarbeitung und die Integrationslogik auf Systemebene. Das Ergebnis ist ein Stack, in dem die Intelligence nützlich ist, weil sie verbunden ist, und die Bereitstellung akzeptabel ist, weil sie unter der Kontrolle des Kunden bleibt.

Der Zeitrahmen hängt von der Infrastrukturbereitschaft, den Zielanwendungsfällen und den erforderlichen Integrationen ab. Der entscheidende Punkt dieser Architektur ist jedoch, dass eine souveräne Bereitstellung keinen vollständigen, maßgeschneiderten Neuaufbau mehr erfordert. Die lokale Inferenzschicht und die Unternehmensebene für den Kollegen können sich über eine Standardschnittstelle treffen, während die umgebende Implementierung an die Umgebung des Kunden angepasst wird.

Was dies für regulierte Organisationen bedeutet

Aus dieser Architektur ergeben sich drei wesentliche Erkenntnisse.

Erstens benötigen KI-Kollegen nicht zwangsläufig eine externe Cloud-Inferenz. Die Annahme, dass leistungsfähige KI und eine souveräne Bereitstellung einander ausschließen, ist technisch nicht mehr haltbar. Wenn sowohl die Intelligence-Schicht als auch die Inferenzschicht innerhalb der Kundenumgebung laufen können, können Organisationen eine nützliche KI im Unternehmen einführen, ohne die architektonische Kontrolle aufzugeben.

Zweitens ist die Kompatibilität der Schnittstellen von Bedeutung. In der Vergangenheit bedeutete On-Premise-KI oft hohen Anpassungsaufwand und Integrationsschwierigkeiten. Ein OpenAI-kompatibler lokaler Endpunkt ändert das. Er ermöglicht es der Anwendungsschicht, mit minimalen Unterbrechungen von der externen Inferenz zur internen Inferenz zu wechseln, während darüber Raum für unternehmensspezifische Integrationen bleibt.

Drittens wird Souveränität überprüfbar. Das ist ein großer Wandel für regulierte Organisationen. Wenn keine sensiblen Daten das Haus für die Modellinferenz verlassen müssen, verlagern sich Compliance-Gespräche weg von hypothetischen Zusicherungen der Anbieter hin zu den eigenen Infrastrukturen, Kontrollen und Audit-Prozessen des Unternehmens. Das ist ein weitaus vertrauteres Betriebsmodell für Banken, Gesundheitsdienstleister, öffentliche Institutionen und Industrieunternehmen.

Eine ehrliche Einschränkung sollte ebenfalls klar formuliert werden: KI auf der eigenen Infrastruktur zu betreiben bedeutet, die Verantwortung für deren Betrieb zu übernehmen. Souveränität ist wertvoll, aber sie ist kein Zauberwerk. Organisationen benötigen die operative Reife, um die Infrastruktur zu betreiben, den Zugriff zu steuern, geeignete Modelle auszuwählen und die Umgebung ordnungsgemäß zu warten. Der Vorteil ist, dass diese Verantwortung mit Kontrolle einhergeht.

Unser Standpunkt

Der wichtige Punkt ist nicht nur, dass NOVARA auf Xinity Runtime laufen kann. Es ist das, was dies für regulierte Unternehmen ermöglicht: ein glaubwürdiger Weg zu KI-Kollegen im Unternehmen, die gleichzeitig nützlich, steuerbar und souverän bleiben.

Für Novarion zeigt diese Architektur, wie das Software-defined Brain™ und der NOVARA Virtual Coworker so bereitgestellt werden können, dass sie mit den Anforderungen an die Integration im Unternehmen und die Datenkontrolle harmonieren. Für Xinity zeigt sie, wie eine lokale, OpenAI-kompatible Inferenz-Infrastruktur bestehende Server in eine souveräne KI-Runtime für den ernsthaften Produktiveinsatz verwandeln kann.

Wenn Ihre Organisation eine souveräne Architektur für KI-Kollegen in regulierten Umgebungen evaluieren möchte, sind beide Schichten von Bedeutung: die Intelligence-Schicht und die darunter liegende Infrastrukturschicht.

NOVARA von Novarion liefert die Schicht für den KI-Kollegen im Unternehmen: vertrauenswürdig, integrierbar und gebaut für den gesteuerten Einsatz in echten Organisationen. Mehr unter https://novarion.ai

Xinity Runtime verwandelt Ihre eigenen Server in eine konforme KI-Inferenzplattform, im Kern Open Source und hinter Ihrer Firewall bereitstellbar. Mehr unter https://xinity.ai