05.02.2026
GASTBEITRAG

KI in hoch regulierten Umgebungen – höchste Priorität für Kontrolle und Verantwortung

In anspruchsvollen Umgebungen wie dem Finanzsektor ist Künstliche Intelligenz kein Experiment, sondern ein potenziell geschäftskritisches System. Ihr Einsatz erfordert klare rechtliche, organisatorische und technische Rahmenbedingungen. Im Gastbeitrag ordnet Tobias Lint von Ontec AI zentrale Anforderungen ein und zeigt, wie KI in regulierten Umgebungen verantwortungsvoll umgesetzt werden kann.
/artikel/ki-in-hoch-regulierten-umgebungen-hoechste-prioritaet-fuer-kontrolle-und-verantwortung
Tobias Lint von Ontec AI | (c) Ontec AI / grenke
Tobias Lint von Ontec AI | (c) Ontec AI / grenke
Banner für Staffel 2 von No Hype KI

In Branchen wie Finanzierungsdienstleistungen, Versicherungen oder Leasing sind Nachvollziehbarkeit, Kontrolle und Verantwortung zentrale Anforderungen. Entscheidungen müssen erklärbar, Systeme überprüfbar und Prozesse revisionsfähig sein. KI fügt sich in diese Logik nur dann ein, wenn sie von Beginn an als Teil der Gesamtarchitektur gedacht wird.

Ein unkontrollierter Einsatz von KI-Tools – etwa außerhalb der eigenen IT- und Security-Strukturen – kann schnell zu rechtlichen, organisatorischen oder haftungsrechtlichen Problemen führen. Gleichzeitig ist ein vollständiger Verzicht auf KI angesichts des Wettbewerbs- und Automatisierungsdrucks keine realistische Option. Unternehmen müssen daher einen Weg finden, KI kontrolliert und verantwortungsvoll zu nutzen.

Im Finanzsektor besteht noch Unsicherheit, wie stark der EU AI Act greift. Daher stufen viele Organisationen ihre KI-Systeme vorsorglich als „High Risk“ ein, was höhere Anforderungen an Transparenz und Prüfungen mit sich bringt. Bis zur endgültigen Klärung gilt oft das Prinzip: lieber von Anfang an strengere Standards einhalten, als später nachbessern zu müssen.

KI-gesteuerte Systeme können aufgrund ihrer möglichen Einstufung als Hochrisiko-Systeme nur unter speziellen Auflagen Verantwortung tragen. Daher müssen von KI unterstützte Entscheidungen durch zusätzliche regulatorische Vorgaben abgesichert werden.

Anforderungen an KI in hoch regulierten Umgebungen

Der Begriff „hoch reguliert“ beschreibt nicht nur einzelne Gesetze, sondern ein gesamtes Rahmenwerk an Anforderungen. Unternehmen müssen unter anderem sicherstellen, dass klar ist, wo Daten verarbeitet werden, wer darauf zugreifen darf und wie Entscheidungen zustande kommen.

Im Finanzsektor kommen zusätzliche aufsichtsrechtliche Vorgaben hinzu, etwa zu Auslagerungen, Datenhaltung, Betriebsstabilität und Haftungsfragen. Internationale Tätigkeit erhöht die Komplexität weiter, da unterschiedliche nationale Regelwerke berücksichtigt werden müssen. Für KI bedeutet das, dass technische Möglichkeiten stets gegen regulatorische und organisatorische Anforderungen abgewogen werden müssen.

Aus dieser Ausgangslage ergeben sich klare Anforderungen an KI-Systeme:

  • Nachvollziehbarkeit der Ergebnisse:
    KI-Antworten und Empfehlungen müssen erklärbar sein und auf überprüfbaren Grundlagen basieren, sodass Entscheidungen intern wie extern nachvollzogen werden können.
  • Klare Kontrollmechanismen:
    Es muss eindeutig definiert sein, wo Automatisierung endet und an welchen Stellen menschliche Verantwortung und Freigabe erforderlich sind.
  • Datensouveränität und Datenschutz:
    Sensible und personenbezogene Daten dürfen nur innerhalb klar kontrollierter Umgebungen verarbeitet werden und müssen jederzeit der Hoheit des Unternehmens unterliegen.
  • Regulatorische und rechtliche Konformität:
    KI-Systeme müssen bestehende aufsichtsrechtliche, datenschutzrechtliche und branchenspezifische Vorgaben erfüllen und auditierbar sein.
  • Stabile und skalierbare Architektur:
    Lösungen müssen über den Pilotbetrieb hinaus tragfähig sein und auch bei internationalem Einsatz, wachsender Nutzerzahl und steigender Komplexität zuverlässig funktionieren.
  • Integration in bestehende IT- und Security-Strukturen:
    KI darf kein isoliertes Tool sein, sondern muss sich nahtlos in vorhandene Systeme sowie Rollen- und Berechtigungskonzepte einfügen.
  • Governance und organisatorische Verankerung:
    Zuständigkeiten, Entscheidungsprozesse und Regeln für den KI-Einsatz müssen klar definiert und im Unternehmen verankert sein.
  • Betriebs- und Risikomanagement:
    Abhängigkeiten von Modellen, Anbietern und Partnern müssen transparent gemacht und technisch wie organisatorisch abgesichert werden.

Zentrale Erkenntnisse aus der Praxis

Wie diese Anforderungen in der Praxis umgesetzt werden können, zeigt das Beispiel von Ontec AI und der grenke Gruppe, eines international tätigen Finanzdienstleisters.

Im Rahmen einer unternehmensweiten Initiative wurden KI-Use-Cases systematisch erhoben, bewertet und priorisiert. Zwei Anwendungen wurden produktiv umgesetzt: ein unternehmensweiter KI-Chatbot sowie eine KI-gestützte Wissensmanagement-Lösung. Beide Systeme sind in die bestehende IT- und Security-Architektur integriert und unterliegen klar definierten Governance-Regeln.

Der KI-Chatbot ermöglicht Mitarbeitenden den Zugriff auf Sprachmodelle innerhalb einer kontrollierten Umgebung. Abhängig von Sensibilität und Kontext der Anfrage werden unterschiedliche technische Pfade genutzt, sodass die Datenhoheit gewahrt bleibt. Die Wissensmanagement-Lösung basiert auf semantischer Suche und Retrieval-Augmented Generation. Antworten werden aus internen Dokumenten abgeleitet und validiert, sie bleiben daher jederzeit nachvollziehbar und überprüfbar. Ergänzend kommen agentenbasierte Funktionen zum Einsatz, die Anfragen strukturieren und kontextualisieren, ohne Entscheidungen vollständig zu automatisieren.

Aus der Umsetzung lassen sich für KI im hoch regulierten Umfeld folgende Erkenntnisse ableiten:

  • Der Einstieg in KI ist in regulierten Organisationen eine strategische Entscheidung.
  • Erfolgreiche KI-Initiativen beginnen mit der Priorisierung von Use-Cases, nicht mit der Auswahl von Modellen oder Tools.
  • Das Wichtigste, was jedes Unternehmen gemacht haben sollte, sind die klassischen Digitalisierungsschritte bezogen auf ihre Datenquellen: Wer hat warum worauf Zugriff? Wo liegen welche Informationen? Müssen bestimmte Daten besonders geschützt sein? 
  • Fachlich unterschiedliche Anwendungsfälle lassen sich häufig technisch bündeln, wenn sie früh als Archetypen erkannt werden.
  • KI im Finanzsektor ist nur mit Security, Datenschutz und Compliance sinnvoll einsetzbar, da diese Anforderungen den Rahmen jeder KI-Architektur definieren.
  • Skalierbarkeit ist eine Grundvoraussetzung, insbesondere für international tätige Unternehmen mit unterschiedlichen regulatorischen Rahmenbedingungen.
  • Mittelständische Unternehmen müssen besonders fokussiert vorgehen, da Ressourcen begrenzt sind und nicht jede Technologie selbst entwickelt werden kann.
  • Regulatorisch konforme Alternativen zu öffentlichen Gen-AI-Tools sind notwendig, um rechtliche Risiken bei sensiblen Daten zu vermeiden.
  • RAG-basierte Ansätze sind zentral für auditfähiges Wissensmanagement, da sie Nachvollziehbarkeit und Belegbarkeit von Antworten ermöglichen.
  • Human-in-the-Loop bleibt bei geschäftskritischen Entscheidungen unverzichtbar, weil KI-Modelle keine Verantwortung tragen können.
  • Change-Management ist ein wesentlicher Erfolgsfaktor, da KI nur dann Wirkung entfaltet, wenn Mitarbeitende eingebunden und befähigt werden.

Fazit

KI kann auch in hoch regulierten Umgebungen produktiv eingesetzt werden, wenn sie als Teil einer Gesamtarchitektur verstanden wird. Entscheidend ist nicht die Leistungsfähigkeit einzelner Modelle, sondern das Zusammenspiel aus Architektur, Governance und Verantwortung. Unternehmen, die die Gestaltung ihrer IT-Infrastruktur von diesen Aspekten leiten lassen, schaffen die Grundlage für einen nachhaltigen und sicheren KI-Einsatz – selbst im anspruchsvollen Umfeld. Es gilt vorrangig klassische Digitalisierung voranzubringen, dann ist der Einsatz von KI-Systemen oft nur ein weiterer Schritt und kein großer Sprung.

Details zum Projekt wurden gemeinsam mit grenke in einem Webinar vertieft und anhand konkreter Fragestellungen aus dem regulierten Umfeld diskutiert:

Über den Autor

Tobias Lint ist Developer bei Ontec AI. Ontec AI entwickelt modulare KI-Lösungen für Unternehmen mit sensiblen und komplexen Daten, insbesondere in regulierten Branchen.


Aus dem Archiv: Christian Casari von Ontec AI in der brutkasten-Serie „No Hype KI“ (Dezember 2025):

Deine ungelesenen Artikel:
17.11.2026

Primedea: Teleradiologie-Startup holt Preseed-Investment von Hansmann

Mit Hauptsitz in Zürich und Standort in Wien will Primedea dem Engpass bei der Radiologie-Befundung durch ein Netzwerk von Ärzt:innen begegnen. Zwei der drei Co-Founder sind Österreicher: Der Radiologe Florian Huber und Serial Founder Christopher Zemina, der brutkasten ein paar Fragen beantwortete.
/artikel/primedea-teleradiologie-startup-holt-preseed-investment-von-hansmann
17.11.2026

Primedea: Teleradiologie-Startup holt Preseed-Investment von Hansmann

Mit Hauptsitz in Zürich und Standort in Wien will Primedea dem Engpass bei der Radiologie-Befundung durch ein Netzwerk von Ärzt:innen begegnen. Zwei der drei Co-Founder sind Österreicher: Der Radiologe Florian Huber und Serial Founder Christopher Zemina, der brutkasten ein paar Fragen beantwortete.
/artikel/primedea-teleradiologie-startup-holt-preseed-investment-von-hansmann
Die Primedea-Gründer v.l.: Samuel Frey, Florian Huber und Christopher Zemina | (c) Primedea
Die Primedea-Gründer v.l.: Samuel Frey, Florian Huber und Christopher Zemina | (c) Primedea

Rund eine Million MRT-Untersuchungen gab es in Österreich im Jahr 2024 – etwa doppelt so viele wie zehn Jahre davor. Währenddessen bleibe laut Ärztekammer fast jede zweite genehmigte Ausbildungsstelle für Radiologie unbesetzt, heißt es vom Startup Primedea mit Sitz in Zürich und Wien in einer Aussendung, „und die Pensionierungswelle der geburtenstarken Jahrgänge steht erst bevor. Spitäler und Institute haben ausgelastete Geräte, aber nicht genug Fachpersonal für die Befundung.“

Plattform verbindet Spitäler und Zentren mit Fachärzt:innen

Bei diesem Problem setzt das Unternehmen an. Die These: Die Situation lässt sich erheblich verbessern, wenn die vorhandenen Kapazitäten von Fachärzt:innen besser genutzt werden. Konkret setzt Primedea auf ein Netzwerk von Radiolog:innen, das über die Plattform mit Spitälern und Radiologiezentren verbunden wird und orts- und zeitungebunden für Befundungen zur Verfügung steht. Dadurch sollen Notfallbefunde in unter 30 Minuten, reguläre Befunde in zwölf bis 24 Stunden vorliegen. Die Bezahlung erfolgt dabei pro Befund.

Mehrere KI-Touchpoints

Eine zentrale Rolle spielt dabei auch KI: Die Primedea-Plattform ist direkt an die Radiologie-Informationssysteme der Kunden angebunden und Untersuchungen können hochgeladen werden. Die KI trifft dann zunächst eine Vorauswahl, um die Untersuchung passenden Fachärzt:innen zuzuordnen. Diese werden dann unter anderem durch ein Speech-to-Report-Sprachmodell auch bei der Befundung unterstützt. Dabei soll das System mit dem Netzwerk laufend verbessert werden.

Co-Founder Florian Huber hält zugleich fest: „KI wird Radiologinnen und Radiologen nicht ersetzen, aber sie wird ihnen Arbeit abnehmen: Sie wird in der Priorisierung, Vorstrukturierung und Befundung unterstützen. Wir setzen KI dort ein, wo sie den Befund schneller und sicherer macht. Die Verantwortung bleibt immer beim Facharzt.“

Komplementäres Founder-Team mit zwei Österreichern

Der Radiologe stammt ursprünglich aus Wien und ist seit Jahren in Zürich tätig. Dort gründete er das Startup gemeinsam mit dem deutschen Serial-Entrepreneur Samuel Frey, der für IT und KI verantwortlich ist und dem Österreicher ,Christopher Zemina, der Wirtschaft, Finanzen, Vertrieb und Rechtliches abdeckt. Dieses setzt seit der Gründung im März dieses Jahres auch auf einen zweiten Standort in Wien, an dem Zemina sitzt.

Er ist in der heimischen Startup-Szene kein Unbekannter. Nach fünf Jahren als Principal bei Speedinvest gründete er 2020 in Berlin das Fintech-Startup Airbank mit, das später in Friday Finance umbenannt wurde. Nach einem 20-Millionen-US-Dollar-Investment im Jahr 2022 erfolgte im Jahr 2023 der Exit an den Mitbewerber Pliant, wie brutkasten berichtete. „Ich war nach dem Exit noch zwei Jahre bei Pliant. Das war eine tolle Zeit, das Unternehmen hatte seine Series-C-Runde und hat sich gut entwickelt. Ich wollte aber wieder etwas Eigenes gründen“, erzählt Zemina gegenüber brutkasten.

Huber und Frey kenne er bereits seit einigen Jahren. „Es hat sich zeitlich gut ergeben. Beide sind ebenfalls aus ihrem jeweils letzten Unternehmen hinausgegangen. Sie haben die Idee zu Primedea bereits mitgebracht und ich bin noch vor der Gründung als dritter Co-Founder dazugestoßen. Wir sind dabei extrem komplementär und ergänzen einander perfekt“, so der Co-Founder.

Hansmann Family Office steigt mit mittlerem sechsstelligen Betrag ein

Damit überzeugte man nun auch Österreichs bekanntesten Business Angel Hansi Hansmann, der mit seinem Family Office mit einem nicht konkret bezifferten mittleren sechsstelligen Betrag bei Primedea einstieg. „Ich investiere vorrangig in Gründer. Bei Primedea sitzt ein Radiologe am Tisch, der das Problem jeden Tag selbst am Befundungsplatz erlebt, daneben zwei Gründer, die schon einmal ein Unternehmen aufgebaut haben. Diese Kombination aus Fachwissen und Umsetzungsstärke sieht man selten“, wird der Investor in einer Aussendung zitiert.

Freilich dürfte Hansmann auch die Geschäftsentwicklung des Startups interessiert haben, das seit Juni live ist und neben einigen Kunden, darunter das Institut Röntgen Eisenstadt und das Institut Frühwald in St. Pölten, auf ein Netzwerk aus bislang 20 Fachärzt:innen verweisen kann. „Es läuft operativ gut und geht schon Richtung Profitabilität“, verrät Zemina gegenüber brutkasten.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

KI in hoch regulierten Umgebungen – höchste Priorität für Kontrolle und Verantwortung

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI in hoch regulierten Umgebungen – höchste Priorität für Kontrolle und Verantwortung

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI in hoch regulierten Umgebungen – höchste Priorität für Kontrolle und Verantwortung

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI in hoch regulierten Umgebungen – höchste Priorität für Kontrolle und Verantwortung

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI in hoch regulierten Umgebungen – höchste Priorität für Kontrolle und Verantwortung

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI in hoch regulierten Umgebungen – höchste Priorität für Kontrolle und Verantwortung

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI in hoch regulierten Umgebungen – höchste Priorität für Kontrolle und Verantwortung

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI in hoch regulierten Umgebungen – höchste Priorität für Kontrolle und Verantwortung

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI in hoch regulierten Umgebungen – höchste Priorität für Kontrolle und Verantwortung