05.02.2026
GASTBEITRAG

KI in hoch regulierten Umgebungen – höchste Priorität für Kontrolle und Verantwortung

In anspruchsvollen Umgebungen wie dem Finanzsektor ist Künstliche Intelligenz kein Experiment, sondern ein potenziell geschäftskritisches System. Ihr Einsatz erfordert klare rechtliche, organisatorische und technische Rahmenbedingungen. Im Gastbeitrag ordnet Tobias Lint von Ontec AI zentrale Anforderungen ein und zeigt, wie KI in regulierten Umgebungen verantwortungsvoll umgesetzt werden kann.
/artikel/ki-in-hoch-regulierten-umgebungen-hoechste-prioritaet-fuer-kontrolle-und-verantwortung
Tobias Lint von Ontec AI | (c) Ontec AI / grenke
Tobias Lint von Ontec AI | (c) Ontec AI / grenke
Banner für Staffel 2 von No Hype KI

In Branchen wie Finanzierungsdienstleistungen, Versicherungen oder Leasing sind Nachvollziehbarkeit, Kontrolle und Verantwortung zentrale Anforderungen. Entscheidungen müssen erklärbar, Systeme überprüfbar und Prozesse revisionsfähig sein. KI fügt sich in diese Logik nur dann ein, wenn sie von Beginn an als Teil der Gesamtarchitektur gedacht wird.

Ein unkontrollierter Einsatz von KI-Tools – etwa außerhalb der eigenen IT- und Security-Strukturen – kann schnell zu rechtlichen, organisatorischen oder haftungsrechtlichen Problemen führen. Gleichzeitig ist ein vollständiger Verzicht auf KI angesichts des Wettbewerbs- und Automatisierungsdrucks keine realistische Option. Unternehmen müssen daher einen Weg finden, KI kontrolliert und verantwortungsvoll zu nutzen.

Im Finanzsektor besteht noch Unsicherheit, wie stark der EU AI Act greift. Daher stufen viele Organisationen ihre KI-Systeme vorsorglich als „High Risk“ ein, was höhere Anforderungen an Transparenz und Prüfungen mit sich bringt. Bis zur endgültigen Klärung gilt oft das Prinzip: lieber von Anfang an strengere Standards einhalten, als später nachbessern zu müssen.

KI-gesteuerte Systeme können aufgrund ihrer möglichen Einstufung als Hochrisiko-Systeme nur unter speziellen Auflagen Verantwortung tragen. Daher müssen von KI unterstützte Entscheidungen durch zusätzliche regulatorische Vorgaben abgesichert werden.

Anforderungen an KI in hoch regulierten Umgebungen

Der Begriff „hoch reguliert“ beschreibt nicht nur einzelne Gesetze, sondern ein gesamtes Rahmenwerk an Anforderungen. Unternehmen müssen unter anderem sicherstellen, dass klar ist, wo Daten verarbeitet werden, wer darauf zugreifen darf und wie Entscheidungen zustande kommen.

Im Finanzsektor kommen zusätzliche aufsichtsrechtliche Vorgaben hinzu, etwa zu Auslagerungen, Datenhaltung, Betriebsstabilität und Haftungsfragen. Internationale Tätigkeit erhöht die Komplexität weiter, da unterschiedliche nationale Regelwerke berücksichtigt werden müssen. Für KI bedeutet das, dass technische Möglichkeiten stets gegen regulatorische und organisatorische Anforderungen abgewogen werden müssen.

Aus dieser Ausgangslage ergeben sich klare Anforderungen an KI-Systeme:

  • Nachvollziehbarkeit der Ergebnisse:
    KI-Antworten und Empfehlungen müssen erklärbar sein und auf überprüfbaren Grundlagen basieren, sodass Entscheidungen intern wie extern nachvollzogen werden können.
  • Klare Kontrollmechanismen:
    Es muss eindeutig definiert sein, wo Automatisierung endet und an welchen Stellen menschliche Verantwortung und Freigabe erforderlich sind.
  • Datensouveränität und Datenschutz:
    Sensible und personenbezogene Daten dürfen nur innerhalb klar kontrollierter Umgebungen verarbeitet werden und müssen jederzeit der Hoheit des Unternehmens unterliegen.
  • Regulatorische und rechtliche Konformität:
    KI-Systeme müssen bestehende aufsichtsrechtliche, datenschutzrechtliche und branchenspezifische Vorgaben erfüllen und auditierbar sein.
  • Stabile und skalierbare Architektur:
    Lösungen müssen über den Pilotbetrieb hinaus tragfähig sein und auch bei internationalem Einsatz, wachsender Nutzerzahl und steigender Komplexität zuverlässig funktionieren.
  • Integration in bestehende IT- und Security-Strukturen:
    KI darf kein isoliertes Tool sein, sondern muss sich nahtlos in vorhandene Systeme sowie Rollen- und Berechtigungskonzepte einfügen.
  • Governance und organisatorische Verankerung:
    Zuständigkeiten, Entscheidungsprozesse und Regeln für den KI-Einsatz müssen klar definiert und im Unternehmen verankert sein.
  • Betriebs- und Risikomanagement:
    Abhängigkeiten von Modellen, Anbietern und Partnern müssen transparent gemacht und technisch wie organisatorisch abgesichert werden.

Zentrale Erkenntnisse aus der Praxis

Wie diese Anforderungen in der Praxis umgesetzt werden können, zeigt das Beispiel von Ontec AI und der grenke Gruppe, eines international tätigen Finanzdienstleisters.

Im Rahmen einer unternehmensweiten Initiative wurden KI-Use-Cases systematisch erhoben, bewertet und priorisiert. Zwei Anwendungen wurden produktiv umgesetzt: ein unternehmensweiter KI-Chatbot sowie eine KI-gestützte Wissensmanagement-Lösung. Beide Systeme sind in die bestehende IT- und Security-Architektur integriert und unterliegen klar definierten Governance-Regeln.

Der KI-Chatbot ermöglicht Mitarbeitenden den Zugriff auf Sprachmodelle innerhalb einer kontrollierten Umgebung. Abhängig von Sensibilität und Kontext der Anfrage werden unterschiedliche technische Pfade genutzt, sodass die Datenhoheit gewahrt bleibt. Die Wissensmanagement-Lösung basiert auf semantischer Suche und Retrieval-Augmented Generation. Antworten werden aus internen Dokumenten abgeleitet und validiert, sie bleiben daher jederzeit nachvollziehbar und überprüfbar. Ergänzend kommen agentenbasierte Funktionen zum Einsatz, die Anfragen strukturieren und kontextualisieren, ohne Entscheidungen vollständig zu automatisieren.

Aus der Umsetzung lassen sich für KI im hoch regulierten Umfeld folgende Erkenntnisse ableiten:

  • Der Einstieg in KI ist in regulierten Organisationen eine strategische Entscheidung.
  • Erfolgreiche KI-Initiativen beginnen mit der Priorisierung von Use-Cases, nicht mit der Auswahl von Modellen oder Tools.
  • Das Wichtigste, was jedes Unternehmen gemacht haben sollte, sind die klassischen Digitalisierungsschritte bezogen auf ihre Datenquellen: Wer hat warum worauf Zugriff? Wo liegen welche Informationen? Müssen bestimmte Daten besonders geschützt sein? 
  • Fachlich unterschiedliche Anwendungsfälle lassen sich häufig technisch bündeln, wenn sie früh als Archetypen erkannt werden.
  • KI im Finanzsektor ist nur mit Security, Datenschutz und Compliance sinnvoll einsetzbar, da diese Anforderungen den Rahmen jeder KI-Architektur definieren.
  • Skalierbarkeit ist eine Grundvoraussetzung, insbesondere für international tätige Unternehmen mit unterschiedlichen regulatorischen Rahmenbedingungen.
  • Mittelständische Unternehmen müssen besonders fokussiert vorgehen, da Ressourcen begrenzt sind und nicht jede Technologie selbst entwickelt werden kann.
  • Regulatorisch konforme Alternativen zu öffentlichen Gen-AI-Tools sind notwendig, um rechtliche Risiken bei sensiblen Daten zu vermeiden.
  • RAG-basierte Ansätze sind zentral für auditfähiges Wissensmanagement, da sie Nachvollziehbarkeit und Belegbarkeit von Antworten ermöglichen.
  • Human-in-the-Loop bleibt bei geschäftskritischen Entscheidungen unverzichtbar, weil KI-Modelle keine Verantwortung tragen können.
  • Change-Management ist ein wesentlicher Erfolgsfaktor, da KI nur dann Wirkung entfaltet, wenn Mitarbeitende eingebunden und befähigt werden.

Fazit

KI kann auch in hoch regulierten Umgebungen produktiv eingesetzt werden, wenn sie als Teil einer Gesamtarchitektur verstanden wird. Entscheidend ist nicht die Leistungsfähigkeit einzelner Modelle, sondern das Zusammenspiel aus Architektur, Governance und Verantwortung. Unternehmen, die die Gestaltung ihrer IT-Infrastruktur von diesen Aspekten leiten lassen, schaffen die Grundlage für einen nachhaltigen und sicheren KI-Einsatz – selbst im anspruchsvollen Umfeld. Es gilt vorrangig klassische Digitalisierung voranzubringen, dann ist der Einsatz von KI-Systemen oft nur ein weiterer Schritt und kein großer Sprung.

Details zum Projekt wurden gemeinsam mit grenke in einem Webinar vertieft und anhand konkreter Fragestellungen aus dem regulierten Umfeld diskutiert:

Über den Autor

Tobias Lint ist Developer bei Ontec AI. Ontec AI entwickelt modulare KI-Lösungen für Unternehmen mit sensiblen und komplexen Daten, insbesondere in regulierten Branchen.


Aus dem Archiv: Christian Casari von Ontec AI in der brutkasten-Serie „No Hype KI“ (Dezember 2025):

Deine ungelesenen Artikel:
18.11.2026

Sarah Buchner: „Wer seinen eigenen Job wegautomatisiert, den behalten wir“

Mit ihrem New Yorker PropTech-Scaleup Trunk Tools hat die Österreicherin Sarah Buchner mittlerweile 70 Millionen Dollar Kapital aufgenommen. Am Rande von brutkasten MOMENTUM sprachen wir mit ihr über KI, Regulatorik und Mindset.
/artikel/sarah-buchner-wer-seinen-eigenen-job-wegautomatisiert-den-behalten-wir
18.11.2026

Sarah Buchner: „Wer seinen eigenen Job wegautomatisiert, den behalten wir“

Mit ihrem New Yorker PropTech-Scaleup Trunk Tools hat die Österreicherin Sarah Buchner mittlerweile 70 Millionen Dollar Kapital aufgenommen. Am Rande von brutkasten MOMENTUM sprachen wir mit ihr über KI, Regulatorik und Mindset.
/artikel/sarah-buchner-wer-seinen-eigenen-job-wegautomatisiert-den-behalten-wir
Trunk-Tools-Gründerin Sarah Buchner © Tobias Gärtner

Wo sie auftritt, sorgt sie für Aufsehen und Begeisterung. Mit gerade einmal Mitte 30 kann die im beschaulichen Eitzing in Oberösterreich aufgewachsene Sarah Buchner bereits einen beachtlichen Lebenslauf vorweisen: Tischlerin, Bauleiterin, Führungskraft bei der Strabag und fünf abgeschlossene Studien, darunter ein MBA an der US-Eliteuni Stanford, sind nur einige Stationen. Mittlerweile ist sie seit sieben Jahren in den USA, 2021 gründete sie in New York das Startup Trunk Tools. Mit diesem sammelte sie mittlerweile insgesamt rund 70 Millionen US-Dollar Investorengelder ein, zuletzt mit einer 40-Millionen-Dollar-Series-B-Runde im Sommer 2025, wie brutkasten berichtete. Schon davor hatte brutkasten die Gründerin in der Cover-Story seines Print-Magazins porträtiert.

Nun war Buchner bei brutkasten MOMENTUM in Wien zu Besuch und ermutigte in ihrer vielbeachteten Keynote das Publikum, mehr Risiko einzugehen. Wir sprachen mit ihr am Rande des Events über die Entwicklung ihres Startups, den KI-Boom, und Unterschiede zwischen den USA und Europa in Politik und Regulatorik.


brutkasten: Wir haben schon mehrmals über dich und dein Startup Trunk Tools berichtet: Ihr habt zuletzt im Sommer vergangenen Jahres eine 40-Millionen-Dollar-Runde geraist. Was hat sich seitdem getan und wie ist die weitere Entwicklung verlaufen?

Sarah Buchner: Wir haben ganz schön viel davon ausgegeben! [lacht] Aber Spaß beiseite: Man raist Geld, um zu investieren. Wir haben direkt angefangen, viele Leute einzustellen, und zählen inzwischen um die 100 Mitarbeiter. Vor einem Jahr hat man Startups ja noch daran gemessen, wie viele Mitarbeiter sie haben. Heute ist es fast umgekehrt, weil viele Aufgaben durch KI-Agenten ersetzt werden. Das ist auch eine Journey, die wir gleich nach der Series B ziemlich aggressiv gestartet haben: eigene KI-Agenten zu bauen, die unser Backoffice und alles Mögliche abwickeln. Natürlich haben wir stark in unser AI- und Engineering-Team investiert. Unsere Produktoberfläche ist heute etwa 50-mal größer als vor einem Jahr – was sich bei unserem Produktangebot getan hat, ist extrem und kaum überschaubar.

In Europa tun sich vor allem etablierte Unternehmen schwer mit der KI-Implementierung, brauchen deutlich länger und stehen vor bürokratischen und regulatorischen Hürden. Ist das in den USA ähnlich, sodass ihr als junges Unternehmen einen Geschwindigkeitsvorteil habt, oder agiert die Branche dort generell schneller?

Change Management ist überall schwierig. Menschen sind per se nicht dafür geboren, Veränderung zu mögen. Ich sage auch unseren Kunden immer: KI bringt zwei Herausforderungen mit sich. Die erste ist die richtige Technologie – das ist der leichtere Teil, weil man ihn testen kann. Die eigentliche Hürde ist: Wie verändern wir die Arbeitsweise von hunderten oder tausenden Mitarbeitern? Wir sind intern extrem aggressiv vorgegangen und haben ganz klare Ziele gesetzt: Wenn du in der nächsten Woche keinen eigenen Workflow gebaut hast, hast du hier keinen Job mehr. Wer seinen eigenen Job wegautomatisiert, den behalten wir. Diese Reverse Psychology funktioniert.

Im US-Markt sehe ich eine wesentlich schnellere Adaption als in Europa, weil Regulierung dort kaum ein Thema ist. Datenschutz und Cybersicherheit sind zwar präsent, aber in Europa hört man oft: „Wir können keine amerikanische KI verwenden. Ihr müsst europäische KI-Modelle einsetzen“. Auf meine Frage, welche das sein sollen, gibt es meist keine Antwort. In Europa spielen bei solchen Entscheidungen viele politische und wertegetriebene Aspekte mit hinein. In Amerika regiert der pure Kapitalismus. Und im Kapitalismus wird KI schneller implementiert als im Sozialismus, schlicht weil sie Geld spart.

Du hast die Politik angesprochen: Nach den Midterms in den USA stellt sich die Frage, wie es weitergeht. Donald Trump hat einen extrem KI-fördernden Kurs verfolgt, während es in der Opposition auch kritischere Stimmen gibt. Erwartest du Auswirkungen oder eine Blockade zwischen Legislative und Exekutive?

Nein, in Amerika regiert die Wirtschaft und nicht die Politik. Da gibt es viel medialen Lärm: Die Medien müssen unterhalten, und dafür wird gesorgt. In den USA wird KI vor allem deshalb forciert, weil sie als Thema der nationalen Sicherheit und des nationalen Interesses gilt. Der Großteil der Entscheider ist überzeugt, dass man die beste KI besitzen muss, um sich zu schützen – vor allem gegenüber China. Sobald etwas von nationaler Sicherheitsrelevanz ist, rückt alles andere in den Hintergrund. Das sieht man auch daran, mit welchen Summen Kriege finanziert werden. Viele der kritischen Stimmen dienen lediglich dem Wahlkampf, durchgesetzt wird davon kaum etwas.

Nach rund sieben Jahren in den USA bist du wieder einmal zu Besuch in Österreich. Wie siehst du die Chancen des heimischen Startup- und Innovationsökosystems in einer Europäischen Union, die stark auf Regulatorik und moralische Leitplanken setzt?

Ich unterscheide hier zwei Kategorien. Als Startup musst du dir die Frage stellen: Trittst du global oder lokal an? Wenn du global im Wettbewerb mitspielen willst, startest du in Europa hinter der Startlinie. In Österreich muss man sich zuerst monatelang fragen: Darf ich diese KI bauen, wie darf ich sie bauen und wo liegen die Daten? Man verbringt sechs bis zwölf Monate allein mit der Frage, ob man es überhaupt tun darf. In den USA baut und testet man einfach. Dort gilt: Erst ausprobieren, dann diskutieren, dann skalieren und am Ende vielleicht regulieren. In Europa wird reguliert, diskutiert, nochmals reguliert, nochmals diskutiert, dann pilotiert und eventuell irgendwann skaliert. In einer globalen Wirtschaft schneidet man sich damit ins eigene Fleisch.

Wenn du global im Wettbewerb mitspielen willst, startest du in Europa hinter der Startlinie.

Ich finde das traurig für das Startup-Ökosystem, denn in Österreich gibt es dieselben Talente wie in Amerika: extrem kluge Menschen mit Drive, die etwas aufbauen wollen. Aber die Rahmenbedingungen erschweren den Erfolg. Es gibt Gründer, die es trotzdem schaffen, aber die statistische Wahrscheinlichkeit ist geringer: Es gibt hier weniger Kapital, mehr Regulierung und ein völlig anderes Mindset.

Stichwort Mindset: Du sprichst bei brutkasten MOMENTUM in deiner Keynote genau darüber. Warum nimmst du den Weg aus den USA auf dich und was möchtest du dem Publikum mitgeben?

Ich werde vor allem von europäischen Medien oft gefragt, warum ich mein Unternehmen in Amerika und nicht in Europa gegründet habe. Meine Firma würde in Europa schlicht nicht existieren – jedenfalls nicht in dieser Geschwindigkeit, Skalierung und mit diesem Erfolg. Das bedeutet aber nicht, dass ich Europa nichts zurückgeben möchte. Meine Karriere wäre ohne Europa nicht möglich gewesen. Ich bin bodenständig aufgewachsen, niemand in meiner Familie hatte einen akademischen Abschluss. Ich konnte vier von fünf Universitätsabschlüssen quasi kostenlos absolvieren, dazu gab es ein funktionierendes Gesundheitswesen und verlässliche Infrastruktur – in Europa kann man es wirklich von ganz unten nach oben schaffen. Dafür bin ich dankbar.

Sarah Buchner auf der Bühne von brutkasten MOMENTUM | (c) Tobias Gärtner / brutkasten

Irgendwann bin ich Europa jedoch entwachsen und brauchte ein größeres Spielfeld. Das europäische Mindset hat mich gebremst: Mir wurde ständig gesagt, ich sei „zu viel“ – zu ehrgeizig, zu fordernd, ich würde zu viele Stunden arbeiten. In Amerika gibt es dieses Stigma nicht. Dort wird Individualismus gefördert: Wenn du extrem in eine Richtung gehst, gilt das als Stärke, weil du der Beste darin werden kannst. In Europa herrscht ein Hang zur Normalisierung, in Amerika ein Drang zur Spitzenleistung – beides hat Vor- und Nachteile.

An welchen konkreten Schrauben müsste man drehen, um die Situation für Gründer in Österreich und Europa nachhaltig zu verbessern?

Das Mindset zu ändern, braucht Zeit – auch wenn sich schon einiges getan hat. Vor zehn Jahren war das Umfeld noch wesentlich konservativer als heute. Ein massives Problem bleibt jedoch die bürokratische und politische Struktur, die man vermeintlich zur Sicherheit der Unternehmen aufgebaut hat. In Amerika gründe ich eine Firma online in zehn Minuten für ein paar hundert Dollar und kann sofort Kapital aufnehmen. Ich persönlich habe im ersten Jahr weder für Anwälte noch für mein Büro Geld bezahlt, weil es enorme Unterstützungssysteme gibt.

Die ersten zwei Jahre einer Gründung sind die härtesten. Alles, was Politik und Verwaltung tun können, um diese Anfangsphase radikal zu vereinfachen, bringt mehr Menschen ins Unternehmertum. Und je mehr Erfolgsbeispiele wir sehen, desto mehr Nachahmer gibt es. Für mich war es schon in den USA schwer, weibliche Vorbilder unter Solo-Foundern zu finden. In Europa ist das noch schwieriger, wenn es pro Land gefühlt nur fünf herausragende Gründerinnen gibt. Psychologisch ist es viel entmutigender, eine von fünf sein zu wollen, als eine von fünfhundert.

Das klingt noch nicht übertrieben optimistisch. Siehst du zum Abschluss dennoch Anlass zu Optimismus für den Standort Europa?

Absolut, man sieht klare Fortschritte! Es steht deutlich mehr Venture Capital zur Verfügung und es gibt weit mehr Startups als vor zehn Jahren. Durch Plattformen wie LinkedIn oder Instagram sehen junge Menschen heute viel früher, dass es abseits der klassischen Konzernkarriere andere Lebenswege gibt. Auch die KI verstärkt diesen Wandel: Viele hinterfragen, ob sie noch einen klassischen Studienabschluss brauchen oder wie die Joblandschaft künftig aussieht. Das treibt viele junge Leute direkt in die Selbstständigkeit. Genau das brauchen wir als Gesellschaft. Diese Bewegung muss weiter unterstützt werden, aber der Trend ist eindeutig positiv.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

KI in hoch regulierten Umgebungen – höchste Priorität für Kontrolle und Verantwortung

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI in hoch regulierten Umgebungen – höchste Priorität für Kontrolle und Verantwortung

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI in hoch regulierten Umgebungen – höchste Priorität für Kontrolle und Verantwortung

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI in hoch regulierten Umgebungen – höchste Priorität für Kontrolle und Verantwortung

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI in hoch regulierten Umgebungen – höchste Priorität für Kontrolle und Verantwortung

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI in hoch regulierten Umgebungen – höchste Priorität für Kontrolle und Verantwortung

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI in hoch regulierten Umgebungen – höchste Priorität für Kontrolle und Verantwortung

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI in hoch regulierten Umgebungen – höchste Priorität für Kontrolle und Verantwortung

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI in hoch regulierten Umgebungen – höchste Priorität für Kontrolle und Verantwortung