05.02.2026
GASTBEITRAG

KI in hoch regulierten Umgebungen – höchste Priorität für Kontrolle und Verantwortung

In anspruchsvollen Umgebungen wie dem Finanzsektor ist Künstliche Intelligenz kein Experiment, sondern ein potenziell geschäftskritisches System. Ihr Einsatz erfordert klare rechtliche, organisatorische und technische Rahmenbedingungen. Im Gastbeitrag ordnet Tobias Lint von Ontec AI zentrale Anforderungen ein und zeigt, wie KI in regulierten Umgebungen verantwortungsvoll umgesetzt werden kann.
/artikel/ki-in-hoch-regulierten-umgebungen-hoechste-prioritaet-fuer-kontrolle-und-verantwortung
Tobias Lint von Ontec AI | (c) Ontec AI / grenke
Tobias Lint von Ontec AI | (c) Ontec AI / grenke
Banner für Staffel 2 von No Hype KI

In Branchen wie Finanzierungsdienstleistungen, Versicherungen oder Leasing sind Nachvollziehbarkeit, Kontrolle und Verantwortung zentrale Anforderungen. Entscheidungen müssen erklärbar, Systeme überprüfbar und Prozesse revisionsfähig sein. KI fügt sich in diese Logik nur dann ein, wenn sie von Beginn an als Teil der Gesamtarchitektur gedacht wird.

Ein unkontrollierter Einsatz von KI-Tools – etwa außerhalb der eigenen IT- und Security-Strukturen – kann schnell zu rechtlichen, organisatorischen oder haftungsrechtlichen Problemen führen. Gleichzeitig ist ein vollständiger Verzicht auf KI angesichts des Wettbewerbs- und Automatisierungsdrucks keine realistische Option. Unternehmen müssen daher einen Weg finden, KI kontrolliert und verantwortungsvoll zu nutzen.

Im Finanzsektor besteht noch Unsicherheit, wie stark der EU AI Act greift. Daher stufen viele Organisationen ihre KI-Systeme vorsorglich als „High Risk“ ein, was höhere Anforderungen an Transparenz und Prüfungen mit sich bringt. Bis zur endgültigen Klärung gilt oft das Prinzip: lieber von Anfang an strengere Standards einhalten, als später nachbessern zu müssen.

KI-gesteuerte Systeme können aufgrund ihrer möglichen Einstufung als Hochrisiko-Systeme nur unter speziellen Auflagen Verantwortung tragen. Daher müssen von KI unterstützte Entscheidungen durch zusätzliche regulatorische Vorgaben abgesichert werden.

Anforderungen an KI in hoch regulierten Umgebungen

Der Begriff „hoch reguliert“ beschreibt nicht nur einzelne Gesetze, sondern ein gesamtes Rahmenwerk an Anforderungen. Unternehmen müssen unter anderem sicherstellen, dass klar ist, wo Daten verarbeitet werden, wer darauf zugreifen darf und wie Entscheidungen zustande kommen.

Im Finanzsektor kommen zusätzliche aufsichtsrechtliche Vorgaben hinzu, etwa zu Auslagerungen, Datenhaltung, Betriebsstabilität und Haftungsfragen. Internationale Tätigkeit erhöht die Komplexität weiter, da unterschiedliche nationale Regelwerke berücksichtigt werden müssen. Für KI bedeutet das, dass technische Möglichkeiten stets gegen regulatorische und organisatorische Anforderungen abgewogen werden müssen.

Aus dieser Ausgangslage ergeben sich klare Anforderungen an KI-Systeme:

  • Nachvollziehbarkeit der Ergebnisse:
    KI-Antworten und Empfehlungen müssen erklärbar sein und auf überprüfbaren Grundlagen basieren, sodass Entscheidungen intern wie extern nachvollzogen werden können.
  • Klare Kontrollmechanismen:
    Es muss eindeutig definiert sein, wo Automatisierung endet und an welchen Stellen menschliche Verantwortung und Freigabe erforderlich sind.
  • Datensouveränität und Datenschutz:
    Sensible und personenbezogene Daten dürfen nur innerhalb klar kontrollierter Umgebungen verarbeitet werden und müssen jederzeit der Hoheit des Unternehmens unterliegen.
  • Regulatorische und rechtliche Konformität:
    KI-Systeme müssen bestehende aufsichtsrechtliche, datenschutzrechtliche und branchenspezifische Vorgaben erfüllen und auditierbar sein.
  • Stabile und skalierbare Architektur:
    Lösungen müssen über den Pilotbetrieb hinaus tragfähig sein und auch bei internationalem Einsatz, wachsender Nutzerzahl und steigender Komplexität zuverlässig funktionieren.
  • Integration in bestehende IT- und Security-Strukturen:
    KI darf kein isoliertes Tool sein, sondern muss sich nahtlos in vorhandene Systeme sowie Rollen- und Berechtigungskonzepte einfügen.
  • Governance und organisatorische Verankerung:
    Zuständigkeiten, Entscheidungsprozesse und Regeln für den KI-Einsatz müssen klar definiert und im Unternehmen verankert sein.
  • Betriebs- und Risikomanagement:
    Abhängigkeiten von Modellen, Anbietern und Partnern müssen transparent gemacht und technisch wie organisatorisch abgesichert werden.

Zentrale Erkenntnisse aus der Praxis

Wie diese Anforderungen in der Praxis umgesetzt werden können, zeigt das Beispiel von Ontec AI und der grenke Gruppe, eines international tätigen Finanzdienstleisters.

Im Rahmen einer unternehmensweiten Initiative wurden KI-Use-Cases systematisch erhoben, bewertet und priorisiert. Zwei Anwendungen wurden produktiv umgesetzt: ein unternehmensweiter KI-Chatbot sowie eine KI-gestützte Wissensmanagement-Lösung. Beide Systeme sind in die bestehende IT- und Security-Architektur integriert und unterliegen klar definierten Governance-Regeln.

Der KI-Chatbot ermöglicht Mitarbeitenden den Zugriff auf Sprachmodelle innerhalb einer kontrollierten Umgebung. Abhängig von Sensibilität und Kontext der Anfrage werden unterschiedliche technische Pfade genutzt, sodass die Datenhoheit gewahrt bleibt. Die Wissensmanagement-Lösung basiert auf semantischer Suche und Retrieval-Augmented Generation. Antworten werden aus internen Dokumenten abgeleitet und validiert, sie bleiben daher jederzeit nachvollziehbar und überprüfbar. Ergänzend kommen agentenbasierte Funktionen zum Einsatz, die Anfragen strukturieren und kontextualisieren, ohne Entscheidungen vollständig zu automatisieren.

Aus der Umsetzung lassen sich für KI im hoch regulierten Umfeld folgende Erkenntnisse ableiten:

  • Der Einstieg in KI ist in regulierten Organisationen eine strategische Entscheidung.
  • Erfolgreiche KI-Initiativen beginnen mit der Priorisierung von Use-Cases, nicht mit der Auswahl von Modellen oder Tools.
  • Das Wichtigste, was jedes Unternehmen gemacht haben sollte, sind die klassischen Digitalisierungsschritte bezogen auf ihre Datenquellen: Wer hat warum worauf Zugriff? Wo liegen welche Informationen? Müssen bestimmte Daten besonders geschützt sein? 
  • Fachlich unterschiedliche Anwendungsfälle lassen sich häufig technisch bündeln, wenn sie früh als Archetypen erkannt werden.
  • KI im Finanzsektor ist nur mit Security, Datenschutz und Compliance sinnvoll einsetzbar, da diese Anforderungen den Rahmen jeder KI-Architektur definieren.
  • Skalierbarkeit ist eine Grundvoraussetzung, insbesondere für international tätige Unternehmen mit unterschiedlichen regulatorischen Rahmenbedingungen.
  • Mittelständische Unternehmen müssen besonders fokussiert vorgehen, da Ressourcen begrenzt sind und nicht jede Technologie selbst entwickelt werden kann.
  • Regulatorisch konforme Alternativen zu öffentlichen Gen-AI-Tools sind notwendig, um rechtliche Risiken bei sensiblen Daten zu vermeiden.
  • RAG-basierte Ansätze sind zentral für auditfähiges Wissensmanagement, da sie Nachvollziehbarkeit und Belegbarkeit von Antworten ermöglichen.
  • Human-in-the-Loop bleibt bei geschäftskritischen Entscheidungen unverzichtbar, weil KI-Modelle keine Verantwortung tragen können.
  • Change-Management ist ein wesentlicher Erfolgsfaktor, da KI nur dann Wirkung entfaltet, wenn Mitarbeitende eingebunden und befähigt werden.

Fazit

KI kann auch in hoch regulierten Umgebungen produktiv eingesetzt werden, wenn sie als Teil einer Gesamtarchitektur verstanden wird. Entscheidend ist nicht die Leistungsfähigkeit einzelner Modelle, sondern das Zusammenspiel aus Architektur, Governance und Verantwortung. Unternehmen, die die Gestaltung ihrer IT-Infrastruktur von diesen Aspekten leiten lassen, schaffen die Grundlage für einen nachhaltigen und sicheren KI-Einsatz – selbst im anspruchsvollen Umfeld. Es gilt vorrangig klassische Digitalisierung voranzubringen, dann ist der Einsatz von KI-Systemen oft nur ein weiterer Schritt und kein großer Sprung.

Details zum Projekt wurden gemeinsam mit grenke in einem Webinar vertieft und anhand konkreter Fragestellungen aus dem regulierten Umfeld diskutiert:

Über den Autor

Tobias Lint ist Developer bei Ontec AI. Ontec AI entwickelt modulare KI-Lösungen für Unternehmen mit sensiblen und komplexen Daten, insbesondere in regulierten Branchen.


Aus dem Archiv: Christian Casari von Ontec AI in der brutkasten-Serie „No Hype KI“ (Dezember 2025):

Deine ungelesenen Artikel:
vor 21 Stunden

Pitchen in der Gondel: SKInnovation holt im März bis zu 1.000 Gründer:innen in die Tiroler Berge

Von 10. bis 12. März 2027 geht SKInnovation in Innsbruck und der Axamer Lizum in die elfte Runde. Auf der Bühne stehen unter anderem Gründer:innen von refurbed, woom und KoRo. Außerdem kann man über brutkasten zwei Tickets gewinnen.
/artikel/pitchen-in-der-gondel-skinnovation-holt-im-maerz-bis-zu-1-000-gruenderinnen-in-die-tiroler-berge
vor 21 Stunden

Pitchen in der Gondel: SKInnovation holt im März bis zu 1.000 Gründer:innen in die Tiroler Berge

Von 10. bis 12. März 2027 geht SKInnovation in Innsbruck und der Axamer Lizum in die elfte Runde. Auf der Bühne stehen unter anderem Gründer:innen von refurbed, woom und KoRo. Außerdem kann man über brutkasten zwei Tickets gewinnen.
/artikel/pitchen-in-der-gondel-skinnovation-holt-im-maerz-bis-zu-1-000-gruenderinnen-in-die-tiroler-berge
© SKInnovation

Laptop zu, Skischuhe an: Bei SKInnovation treffen Startups und Investor:innen nicht in einer Messehalle aufeinander, sondern in der Gondel. Von 10. bis 12. März 2027 geht die Startup-Konferenz auf Ski in die elfte Runde, mit Kick-off in Innsbruck und zwei Konferenztagen im Skigebiet Axamer Lizum. Die Veranstalter:innen erwarten 900 bis 1.000 Gründer:innen, Investor:innen und Corporate-Innovation-Teams, vor allem aus Österreich, Deutschland und der Schweiz, aber auch aus dem restlichen Europa und den USA.

„Je mehr heute online und KI-gestützt gearbeitet wird, desto wichtiger werden Vertrauen und authentische Connections“, sagt Gründerin Kathrin Treutinger. „Bei SKInnovation sitzt man zusammen im Lift, fährt die gleiche Abfahrt oder lernt sich bei unzähligen Networking-Gelegenheiten auf der Skihütte und darüber hinaus kennen.“ Das passende Motto: „Out of Office. Into Business.“

Vom Uni-Projekt zum Branchentreff

© SKInnovation

Entstanden ist SKInnovation 2015 an der Universität Innsbruck mit rund 20 Studierenden. Offen ist die außergewöhnliche Konferenz für alle Branchen, Schwerpunkte liegen auf KI, Software, Impact, SportsTech, Female Empowerment und Corporate Innovation.

Ein Pitch, eine Gondelfahrt

Das bekannteste Format ist auch 2027 der Ski Lift Pitch: Startups präsentieren ihre Idee während der Fahrt in der Gondel, gegenüber sitzen passend ausgewählte Investor:innen. Die besten Teams ziehen ins Pitch Final am Freitag ein, bei dem Publikum und Jury gemeinsam abstimmen.

Keynotes, Panels und Masterclasses finden im Hoadlhaus auf 2.340 Metern statt. Dazu kommen eine Startup Fair, vorab gematchte 1:1-Meetings sowie die sogenannten Snow Captains: Kleingruppen, in denen Teilnehmende gemeinsam mit Speaker:innen und Investor:innen Ski fahren. Auch die brutkasten-Redaktion wird vor Ort sein.

Speaker:innen von refurbed bis KoRo

Erste Namen für 2027 stehen fest: refurbed-Mitgründer Kilian Kaminski, Marcus Ihlenfeld, Mitgründer von woom und poptop, dean&david-Gründer David Baumgartner, KoRo-Gründerin Michelle Calios sowie LinkedIn-Creatorin und KI-Expertin Victoria Effer. Weitere Speaker:innen sollen in den kommenden Wochen folgen.

Programm und Tickets

© SKInnovation

Am Mittwoch, 10. März, startet SKInnovation mit einem Welcome-Abend in Innsbruck. Donnerstag und Freitag geht es in die Axamer Lizum, inklusive Sundowner am Hoadl. Am Freitag folgen Pitch Final und Après-Ski-Party, am Samstag ein Community Ski Day mit vergünstigten Lifttickets.

Tickets gibt es auf skinnovation.at, der Skipass für beide Bergtage ist inkludiert. Mit heute (19. November 2026) startet außerdem ein „Season Opening Deal“, laut Veranstalter:innen „der beste Preis, den es bis zum Event noch gibt“, dazu ein Welcome Package mit kostenlosem Skiverleih.


brutkasten verlost zwei Tickets unter seinen LinkedIn-Follower:innen. Alle Infos zur Teilnahme gibt es unter diesem LinkedIn-Post.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

KI in hoch regulierten Umgebungen – höchste Priorität für Kontrolle und Verantwortung

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI in hoch regulierten Umgebungen – höchste Priorität für Kontrolle und Verantwortung

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI in hoch regulierten Umgebungen – höchste Priorität für Kontrolle und Verantwortung

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI in hoch regulierten Umgebungen – höchste Priorität für Kontrolle und Verantwortung

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI in hoch regulierten Umgebungen – höchste Priorität für Kontrolle und Verantwortung

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI in hoch regulierten Umgebungen – höchste Priorität für Kontrolle und Verantwortung

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI in hoch regulierten Umgebungen – höchste Priorität für Kontrolle und Verantwortung

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI in hoch regulierten Umgebungen – höchste Priorität für Kontrolle und Verantwortung

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI in hoch regulierten Umgebungen – höchste Priorität für Kontrolle und Verantwortung