Souveräne KI
Wie Banken On-Premise-KI bewerten können
Die kurze Antwort
Eine Bank sollte On-Premise-KI so bewerten, wie es ihre Aufsichtsbehörde tun wird: indem sie fragt, wer Kundendaten einsehen kann, was protokolliert wird und wie die Bank die Kontrolle behält, falls ein Anbieter ausfällt. Das Modell ist dabei weniger wichtig als die Schicht darum herum – sprich: Zugriffskontrolle, ein Audit-Trail pro Anfrage und Richtlinien, die man einem Prüfer vorlegen kann.
Dieser Leitfaden befasst sich mit der Frage, warum Cloud-KI für Banken nur schwer vereinbar ist, was Aufsichtsbehörden und die interne Revision fragen werden und welche zehn Fragen Sie jedem Anbieter stellen sollten, bevor Sie unterschreiben.
Warum können Banken nicht einfach Cloud-KI nutzen?
Für manche Aufgaben können sie das, aber nicht für Bereiche, die mit Kundendaten in Berührung kommen, ohne dass dafür ein erheblicher Zusatzaufwand entsteht. Drei Regelungen machen dies schwierig.
Bankgeheimnis. In Österreich schützt § 38 des Bankwesengesetzes (BWG) alles, was eine Bank über ihre Kunden erfährt. Ein Prompt mit dem Namen eines Kunden, der Kontohistorie oder einem Kreditakt ist davon ebenso erfasst wie die Antwort, die das Modell zurücksendet.
DORA. Der Digital Operational Resilience Act, Verordnung (EU) 2022/2554, gilt seit dem 17. Jänner 2025. Er behandelt eine externe KI-API als IKT-Drittdienstleister: Sie muss in das Informationsregister aufgenommen werden, erfordert eine Ausstiegsstrategie und fließt in das Konzentrationsrisiko ein, wenn viele Banken auf denselben Anbieter setzen.
Auslagerungsrichtlinien. Nach den EBA-Leitlinien für Auslagerungen kann die Übermittlung von Daten an einen externen KI-Dienst als Auslagerung eingestuft werden, was eigene Vertrags-, Audit- und Meldepflichten nach sich zieht.
Nichts davon verbietet KI. Es bedeutet jedoch, dass jede Anfrage, die das Haus verlässt, Bürokratie, Risiken und Abhängigkeiten schafft. Wenn Sie das Modell auf Ihren eigenen Servern betreiben, fällt der Großteil davon weg, da die Daten das Haus nie verlassen.
Was werden Aufsichtsbehörden und Prüfer fragen?
Erwarten Sie dieselben Fragen, die die interne Revision zu jedem Kernsystem stellt, nun bezogen auf die KI:
Wer hat es wofür genutzt? Welcher Mitarbeiter aus welchem Team hat an welchem Tag welche Anfrage gesendet.
Welches Modell hat geantwortet? Das Modell und die Version, die hinter einer bestimmten Ausgabe stehen, damit ein Ergebnis später nachvollziehbar erklärt werden kann.
Wohin gingen die Daten? Ob Prompts, Dokumente oder Ausgaben gespeichert wurden und wo dies geschah.
Wer darf was tun? Wie Zugriffsrechte vergeben, überprüft und entzogen werden, wenn jemand die Rolle wechselt.
Was passiert, wenn der Anbieter wegfällt? Ob die Bank den Betrieb aufrechterhalten, Modelle wechseln oder die Partnerschaft beenden kann, ohne ihr Setup zu verlieren.
Die EU-KI-Verordnung (AI Act) verschärft dies für bestimmte Anwendungsfälle nochmals. Kreditprüfungen und Bonitätsbewertungen von Privatpersonen werden als hochriskant eingestuft, wobei die entsprechenden Verpflichtungen ab dem 2. Dezember 2027 greifen. Banken, die solche Anwendungsfälle anstreben, müssen Protokollierung und Aufsicht schon weit vor diesem Datum etabliert haben.
Was sollte eine Bank bei einer On-Premise-KI-Plattform bewerten?
Ein Modell auf eigener Hardware laufen zu lassen, ist der einfache Teil. Was es für eine Bank tauglich macht, ist die Kontrollschicht darum herum.
Was zu prüfen ist | Warum es für eine Bank wichtig ist |
Daten bleiben auf Ihren Servern | Prompts und Ausgaben gelangen niemals in die Infrastruktur eines Dritten, wodurch das Bankgeheimnis gewahrt bleibt |
Rollenbasierter Zugriff und Single Sign-On | Berechtigungen folgen Ihrem bestehenden Verzeichnis, sodass ein Kreditsachbearbeiter und ein Händler unterschiedliche Dinge sehen |
Audit-Trail pro Anfrage | Jede Anfrage kann bei einer Prüfung bis zu einer Person, einem Team und einem Modell zurückverfolgt werden |
Kontrollierbare Modellauswahl | Sie entscheiden, welches validierte Modell läuft, und können es austauschen, ohne Anwendungen neu entwickeln zu müssen |
Standard-API | Eine OpenAI-kompatible API sorgt dafür, dass bestehende Tools und Pilotprojekte ohne Code-Anpassung übernommen werden können |
Klare Aufteilung der Verantwortlichkeiten | Sie wissen genau, welche Kontrollen der Anbieter bereitstellt und welche bei Ihren IT- und Sicherheitsteams verbleiben |
Ausstiegsszenario (Exit-Pfad) | Open-Source-Software und offene Modelle bedeuten, dass das Setup auch dann weiterfunktioniert, wenn die Beziehung zum Anbieter endet |
Zehn Fragen an jeden On-Premise-KI-Anbieter
Verlässt jemals ein Prompt, ein Dokument oder eine Ausgabe unsere Server, auch nicht für Telemetrie, Updates oder Support?
Können wir pro Anfrage nachvollziehen, welcher Benutzer, welches Team und welches Modell involviert war?
Lässt sich die Zugriffskontrolle über Single Sign-On mit unserem bestehenden Identity Provider verknüpfen?
Können wir einschränken, welche Teams welche Modelle nutzen dürfen?
Welche Modelle sind für den Betrieb auf der Plattform validiert, und wer entscheidet, wann diese geändert werden?
Können unsere bestehenden Anwendungen angebunden werden, ohne dass sie neu geschrieben werden müssen?
Welche Sicherheits- und Compliance-Kontrollen stellen Sie bereit und welche verbleiben bei uns? Ist das schriftlich festgehalten?
Kann die Software vollständig offline oder in einer Air-Gapped-Umgebung betrieben werden, falls unsere Richtlinien dies erfordern?
Wenn wir die Zusammenarbeit mit Ihnen beenden, was läuft weiter und was verlieren wir?
Kann unsere interne Revision oder ein externer Prüfer den Code und die Protokolle einsehen?
Ein Anbieter, der alle zehn Fragen klar und schriftlich beantwortet, ist ein Partner, den Sie Ihrem Risikoausschuss präsentieren können.
Wo Xinity ins Spiel kommt
Xinity ist die Kontrollschicht um das Modell herum. Es betreibt validierte Open-Weight-Modelle auf Ihren eigenen Servern und ergänzt diese um rollenbasierten Zugriff, Single Sign-On sowie einen Audit-Trail pro Anfrage. Die API ist OpenAI-kompatibel, sodass bestehende Anwendungen ohne Code-Anpassung angebunden werden können.
Die Kernsoftware ist Open Source und öffentlich auf GitHub verfügbar, sodass Ihr Sicherheitsteam den Code vor jeder Installation prüfen kann. Unser Modell der geteilten Verantwortung legt genau fest, welche Kontrollen Xinity bereitstellt und welche bei Ihren Teams verbleiben.
Erfahren Sie auf unserer Seite Sovereign AI for Banks, wie dies für Ihre Bank anwendbar ist, oder starten Sie mit dem 30-tägigen Pilotprojekt.
FAQ
Ist On-Premise-KI mit dem Bankgeheimnis vereinbar? Der Betrieb von KI auf eigenen Servern hält Kundendaten innerhalb der Bank, wodurch das Hauptrisiko für das Bankgeheimnis bei externen KI-Diensten entfällt. Die Compliance hängt dennoch von Ihren Zugriffsregeln, der Protokollierung und den internen Prozessen ab.
Gilt DORA für On-Premise-KI? DORA deckt Ihr IKT-Risiko so oder so ab. On-Premise-KI verringert die Abhängigkeit von Dritten, aber der Softwareanbieter kann dennoch als IKT-Drittdienstleister eingestuft werden und gehört daher in Ihre Bewertung.
Sind Open-Weight-Modelle gut genug für den Bankensektor? Für die meisten internen Aufgaben wie das Zusammenfassen von Dokumenten, das Verfassen von Entwürfen und das Durchsuchen von Richtlinien sind aktuelle Open-Weight-Modelle absolut ausreichend. Das Manko liegt meist in der Governance, nicht in der Qualität des Modells.
Was bedeutet die EU-KI-Verordnung (AI Act) für KI in Banken? Kreditprüfungen und Bonitätsbewertungen von Privatpersonen gelten nach dem EU AI Act als hochriskant und unterliegen ab dem 2. Dezember 2027 strengen Pflichten. Die meisten internen Assistenz-Anwendungsfälle fallen nicht in diese Kategorie.
Können wir klein anfangen? Ja. Die meisten Banken starten mit einem einzigen internen Anwendungsfall auf bestehender oder Pilot-Hardware und erweitern das System, sobald Revision und Sicherheit grünes Licht gegeben haben.
KI-Erklärung
Dieser Artikel wurde mit Unterstützung von KI erstellt und vom Xinity-Team geprüft und bearbeitet. Es handelt sich um allgemeine Informationen, nicht um eine Rechtsberatung.