Open-Source

Selber ausführen

Bun >= 1.3Docker + ComposeApache 2.0Elastic 2.0 (Dashboard)OpenAI-kompatibelMCP-Unterstützung
Installation in einer Zeile
$curl -fsSL https://get.xinity.ai/install.sh | bash
Quick Start (lokale Entwicklung)
# klonen und installieren
$git clone https://github.com/xinity-ai/xinity-ai.git && cd xinity-ai
$bun install
# Postgres, Redis und Mailhog starten
$docker compose up -d
# migrieren, dann zuerst den Infoserver starten
$bun run --cwd packages/common-db migrate
$bun run --cwd packages/xinity-infoserver dev
Deployment-Wege

Drei Wege in die Produktion

WegGeeignet fürAnleitung
Xinity CLIJeder Linux-Server mit systemd. Empfohlen.Anleitung →
Docker ComposeServer mit Docker oder Cloud-VMs.Anleitung →
NixOS FlakeNixOS-Infrastruktur.Anleitung →

Der Daemon läuft immer auf den GPU-Nodes und wird dort über die CLI installiert, unabhängig vom gewählten Weg.

Zugriff auf das System

REST API und MCP

REST API + MCP
# REST: Authentifizierung mit einem Dashboard-API-Schlüssel
$curl -H "x-api-key: sk_..." https://your-dashboard/api/deployment
# MCP: Claude Desktop, Cursor und andere
{ "url": "https://your-dashboard/mcp", "headers": { "Authorization": "Bearer sk_..." } }
Pakete

Was im Repository liegt

xinity-ai-gateway

API-Gateway. Verarbeitet alle Inferenzanfragen.

Apache 2.0
xinity-ai-dashboard

SvelteKit-Admin-UI. Deployments, Schlüssel, Organisationen.

Elastic 2.0
xinity-ai-daemon

Modell-Runtime-Agent. Läuft auf der Inferenz-Hardware.

Apache 2.0
xinity-cli

Operator-CLI. Installieren, konfigurieren, verwalten.

Apache 2.0
xinity-infoserver

Modell-Metadaten-Schema und YAML-Server.

Apache 2.0
common-db

Gemeinsames DB-Schema und Migrationen, Postgres 17.

Apache 2.0
Auf GitHub ansehen

Lizenzierung: Gateway, Daemon, CLI, Infoserver und common-db stehen unter der Apache License 2.0. Das Dashboard ist source-available unter der Elastic License 2.0. Der gesamte Code ist auditierbar. Die Software wird ohne Gewährleistung bereitgestellt. DSGVO: Die DSGVO-Konformität eines selbst gehosteten Deployments liegt allein in der Verantwortung der betreibenden Organisation. Fragen: contact@xinity.ai