05.02.2026
GASTBEITRAG

KI in hoch regulierten Umgebungen – höchste Priorität für Kontrolle und Verantwortung

In anspruchsvollen Umgebungen wie dem Finanzsektor ist Künstliche Intelligenz kein Experiment, sondern ein potenziell geschäftskritisches System. Ihr Einsatz erfordert klare rechtliche, organisatorische und technische Rahmenbedingungen. Im Gastbeitrag ordnet Tobias Lint von Ontec AI zentrale Anforderungen ein und zeigt, wie KI in regulierten Umgebungen verantwortungsvoll umgesetzt werden kann.
/artikel/ki-in-hoch-regulierten-umgebungen-hoechste-prioritaet-fuer-kontrolle-und-verantwortung
Tobias Lint von Ontec AI | (c) Ontec AI / grenke
Tobias Lint von Ontec AI | (c) Ontec AI / grenke
Banner für Staffel 2 von No Hype KI

In Branchen wie Finanzierungsdienstleistungen, Versicherungen oder Leasing sind Nachvollziehbarkeit, Kontrolle und Verantwortung zentrale Anforderungen. Entscheidungen müssen erklärbar, Systeme überprüfbar und Prozesse revisionsfähig sein. KI fügt sich in diese Logik nur dann ein, wenn sie von Beginn an als Teil der Gesamtarchitektur gedacht wird.

Ein unkontrollierter Einsatz von KI-Tools – etwa außerhalb der eigenen IT- und Security-Strukturen – kann schnell zu rechtlichen, organisatorischen oder haftungsrechtlichen Problemen führen. Gleichzeitig ist ein vollständiger Verzicht auf KI angesichts des Wettbewerbs- und Automatisierungsdrucks keine realistische Option. Unternehmen müssen daher einen Weg finden, KI kontrolliert und verantwortungsvoll zu nutzen.

Im Finanzsektor besteht noch Unsicherheit, wie stark der EU AI Act greift. Daher stufen viele Organisationen ihre KI-Systeme vorsorglich als „High Risk“ ein, was höhere Anforderungen an Transparenz und Prüfungen mit sich bringt. Bis zur endgültigen Klärung gilt oft das Prinzip: lieber von Anfang an strengere Standards einhalten, als später nachbessern zu müssen.

KI-gesteuerte Systeme können aufgrund ihrer möglichen Einstufung als Hochrisiko-Systeme nur unter speziellen Auflagen Verantwortung tragen. Daher müssen von KI unterstützte Entscheidungen durch zusätzliche regulatorische Vorgaben abgesichert werden.

Anforderungen an KI in hoch regulierten Umgebungen

Der Begriff „hoch reguliert“ beschreibt nicht nur einzelne Gesetze, sondern ein gesamtes Rahmenwerk an Anforderungen. Unternehmen müssen unter anderem sicherstellen, dass klar ist, wo Daten verarbeitet werden, wer darauf zugreifen darf und wie Entscheidungen zustande kommen.

Im Finanzsektor kommen zusätzliche aufsichtsrechtliche Vorgaben hinzu, etwa zu Auslagerungen, Datenhaltung, Betriebsstabilität und Haftungsfragen. Internationale Tätigkeit erhöht die Komplexität weiter, da unterschiedliche nationale Regelwerke berücksichtigt werden müssen. Für KI bedeutet das, dass technische Möglichkeiten stets gegen regulatorische und organisatorische Anforderungen abgewogen werden müssen.

Aus dieser Ausgangslage ergeben sich klare Anforderungen an KI-Systeme:

  • Nachvollziehbarkeit der Ergebnisse:
    KI-Antworten und Empfehlungen müssen erklärbar sein und auf überprüfbaren Grundlagen basieren, sodass Entscheidungen intern wie extern nachvollzogen werden können.
  • Klare Kontrollmechanismen:
    Es muss eindeutig definiert sein, wo Automatisierung endet und an welchen Stellen menschliche Verantwortung und Freigabe erforderlich sind.
  • Datensouveränität und Datenschutz:
    Sensible und personenbezogene Daten dürfen nur innerhalb klar kontrollierter Umgebungen verarbeitet werden und müssen jederzeit der Hoheit des Unternehmens unterliegen.
  • Regulatorische und rechtliche Konformität:
    KI-Systeme müssen bestehende aufsichtsrechtliche, datenschutzrechtliche und branchenspezifische Vorgaben erfüllen und auditierbar sein.
  • Stabile und skalierbare Architektur:
    Lösungen müssen über den Pilotbetrieb hinaus tragfähig sein und auch bei internationalem Einsatz, wachsender Nutzerzahl und steigender Komplexität zuverlässig funktionieren.
  • Integration in bestehende IT- und Security-Strukturen:
    KI darf kein isoliertes Tool sein, sondern muss sich nahtlos in vorhandene Systeme sowie Rollen- und Berechtigungskonzepte einfügen.
  • Governance und organisatorische Verankerung:
    Zuständigkeiten, Entscheidungsprozesse und Regeln für den KI-Einsatz müssen klar definiert und im Unternehmen verankert sein.
  • Betriebs- und Risikomanagement:
    Abhängigkeiten von Modellen, Anbietern und Partnern müssen transparent gemacht und technisch wie organisatorisch abgesichert werden.

Zentrale Erkenntnisse aus der Praxis

Wie diese Anforderungen in der Praxis umgesetzt werden können, zeigt das Beispiel von Ontec AI und der grenke Gruppe, eines international tätigen Finanzdienstleisters.

Im Rahmen einer unternehmensweiten Initiative wurden KI-Use-Cases systematisch erhoben, bewertet und priorisiert. Zwei Anwendungen wurden produktiv umgesetzt: ein unternehmensweiter KI-Chatbot sowie eine KI-gestützte Wissensmanagement-Lösung. Beide Systeme sind in die bestehende IT- und Security-Architektur integriert und unterliegen klar definierten Governance-Regeln.

Der KI-Chatbot ermöglicht Mitarbeitenden den Zugriff auf Sprachmodelle innerhalb einer kontrollierten Umgebung. Abhängig von Sensibilität und Kontext der Anfrage werden unterschiedliche technische Pfade genutzt, sodass die Datenhoheit gewahrt bleibt. Die Wissensmanagement-Lösung basiert auf semantischer Suche und Retrieval-Augmented Generation. Antworten werden aus internen Dokumenten abgeleitet und validiert, sie bleiben daher jederzeit nachvollziehbar und überprüfbar. Ergänzend kommen agentenbasierte Funktionen zum Einsatz, die Anfragen strukturieren und kontextualisieren, ohne Entscheidungen vollständig zu automatisieren.

Aus der Umsetzung lassen sich für KI im hoch regulierten Umfeld folgende Erkenntnisse ableiten:

  • Der Einstieg in KI ist in regulierten Organisationen eine strategische Entscheidung.
  • Erfolgreiche KI-Initiativen beginnen mit der Priorisierung von Use-Cases, nicht mit der Auswahl von Modellen oder Tools.
  • Das Wichtigste, was jedes Unternehmen gemacht haben sollte, sind die klassischen Digitalisierungsschritte bezogen auf ihre Datenquellen: Wer hat warum worauf Zugriff? Wo liegen welche Informationen? Müssen bestimmte Daten besonders geschützt sein? 
  • Fachlich unterschiedliche Anwendungsfälle lassen sich häufig technisch bündeln, wenn sie früh als Archetypen erkannt werden.
  • KI im Finanzsektor ist nur mit Security, Datenschutz und Compliance sinnvoll einsetzbar, da diese Anforderungen den Rahmen jeder KI-Architektur definieren.
  • Skalierbarkeit ist eine Grundvoraussetzung, insbesondere für international tätige Unternehmen mit unterschiedlichen regulatorischen Rahmenbedingungen.
  • Mittelständische Unternehmen müssen besonders fokussiert vorgehen, da Ressourcen begrenzt sind und nicht jede Technologie selbst entwickelt werden kann.
  • Regulatorisch konforme Alternativen zu öffentlichen Gen-AI-Tools sind notwendig, um rechtliche Risiken bei sensiblen Daten zu vermeiden.
  • RAG-basierte Ansätze sind zentral für auditfähiges Wissensmanagement, da sie Nachvollziehbarkeit und Belegbarkeit von Antworten ermöglichen.
  • Human-in-the-Loop bleibt bei geschäftskritischen Entscheidungen unverzichtbar, weil KI-Modelle keine Verantwortung tragen können.
  • Change-Management ist ein wesentlicher Erfolgsfaktor, da KI nur dann Wirkung entfaltet, wenn Mitarbeitende eingebunden und befähigt werden.

Fazit

KI kann auch in hoch regulierten Umgebungen produktiv eingesetzt werden, wenn sie als Teil einer Gesamtarchitektur verstanden wird. Entscheidend ist nicht die Leistungsfähigkeit einzelner Modelle, sondern das Zusammenspiel aus Architektur, Governance und Verantwortung. Unternehmen, die die Gestaltung ihrer IT-Infrastruktur von diesen Aspekten leiten lassen, schaffen die Grundlage für einen nachhaltigen und sicheren KI-Einsatz – selbst im anspruchsvollen Umfeld. Es gilt vorrangig klassische Digitalisierung voranzubringen, dann ist der Einsatz von KI-Systemen oft nur ein weiterer Schritt und kein großer Sprung.

Details zum Projekt wurden gemeinsam mit grenke in einem Webinar vertieft und anhand konkreter Fragestellungen aus dem regulierten Umfeld diskutiert:

Über den Autor

Tobias Lint ist Developer bei Ontec AI. Ontec AI entwickelt modulare KI-Lösungen für Unternehmen mit sensiblen und komplexen Daten, insbesondere in regulierten Branchen.


Aus dem Archiv: Christian Casari von Ontec AI in der brutkasten-Serie „No Hype KI“ (Dezember 2025):

Deine ungelesenen Artikel:
19.11.2026

First Circle Capital: Österreichische Gründerin schließt 26-Mio.-Dollar-Fonds für afrikanische Fintechs ab

Viele afrikanische Fintechs haben Schwierigkeiten haben, früh an Kapital zu kommen. Eine österreichische Gründerin will diese Finanzierungslücke schließen: Co-Founderin Agnes Aistleitner Kisuule hat mit First Circle Capital einen 26-Millionen-Dollar-Fonds aufgestellt, der junge Finanztechnologie-Unternehmen in Afrika unterstützt.
/artikel/first-circle-capital-oesterreichische-gruenderin-schliesst-26-mio-dollar-fonds-fuer-afrikanische-fintechs-ab
19.11.2026

First Circle Capital: Österreichische Gründerin schließt 26-Mio.-Dollar-Fonds für afrikanische Fintechs ab

Viele afrikanische Fintechs haben Schwierigkeiten haben, früh an Kapital zu kommen. Eine österreichische Gründerin will diese Finanzierungslücke schließen: Co-Founderin Agnes Aistleitner Kisuule hat mit First Circle Capital einen 26-Millionen-Dollar-Fonds aufgestellt, der junge Finanztechnologie-Unternehmen in Afrika unterstützt.
/artikel/first-circle-capital-oesterreichische-gruenderin-schliesst-26-mio-dollar-fonds-fuer-afrikanische-fintechs-ab
First Circle Capital
Agnes Aistleitner Kisuule I © zVg

Agnes Aistleitner Kisuules Weg führte 2019 nach Uganda. Dort bemerkte sie, dass sich am afrikanischen Kontinent einiges Spannendes im Fintech-Bereich tut, aber nicht genug „early stage“-Kapital zur Verfügung steht. So gründete sie gemeinsam mit der Angel-Investorin Selma Ribica (Unicorn Qonto in Frankreich und Lieferservice Dash in Ghana) und Robert Smith First Circle Capital, einen Fintech-Fonds. Unterstützt wurde sie u. a. von Michael Ströck (Calm/Storm Ventures), PSPDFKit- und OpenClaw-Gründer Peter Steinberger, Hermann Futter und Oskar Obereder. – brutkasten berichtete. Die von den beiden Frauen geführte Investmentgesellschaft unterhält Standorte in Kampala, Nairobi, Casablanca und Kapstadt.

First Circle Capital: Finales Closing

„Wenn man heute auf afrikanische Märkte blickt, zeigen sich spannende Entwicklungen vor allem in Ländern wie Südafrika, Ägypten und Marokko sowie punktuell in Subsahara-Afrika“, erzählte Aistleitner Kisuule gegenüber brutkasten noch im Juli 2026 zur KI-Thematik in Afrika. „Allerdings gibt es insgesamt noch zu wenig Aktivitäten und vor allem deutlich weniger Kapital als in Europa“. Damals schon meinte sie, dass es im Fintech-Bereich etwas besser aussehe.

Nun vermeldet die gebürtige Österreicherin das Final Closing ihres ersten Fonds, First Circle Africa Fund I, in Höhe von 26 Millionen US-Dollar. Der auf Finanztechnologie spezialisierte Fonds investiert in afrikanische Startups in der Frühphase, die innovative Finanzprodukte, digitale Dienstleistungen und technologische Infrastruktur für die nächste Generation des afrikanischen Finanzsektors entwickeln.

„Als österreichische Unternehmerin sehe ich im afrikanischen Technologiesektor ein enormes Potenzial, das für Europa und die Weltwirtschaft zunehmend an Bedeutung gewinnt. Besonders beeindruckt mich, wie Gründerinnen und Gründer mit innovativen Technologien konkrete wirtschaftliche und gesellschaftliche Herausforderungen lösen – vom Zugang zu Krediten und Versicherungen bis hin zum Aufbau moderner Finanzinfrastruktur“, erklärt Aistleitner Kisuule. „Afrika bietet aus meiner Sicht außergewöhnliche Chancen für langfristig orientierte Investoren. Mit First Circle Capital wollen wir dazu beitragen, dass aus vielversprechenden technologischen Innovationen nachhaltige, international wettbewerbsfähige Unternehmen entstehen.“

Pre-Seed- und Seed-Phase

Mit Africa Fund I konzentriert sich First Circle Capital auf Investitionen in Unternehmen in der Pre-Seed- und Seed-Phase. Der Fonds verfolgt eine spezialisierte Investmentstrategie in sechs zentralen Fintech-Bereichen: InsurTech, alternative Kreditmodelle, Interoperabilität und Finanzinfrastruktur, Climate-Fintech, Fintech-Software-as-a-Service (SaaS) sowie RegTech.

Die Investmentthese von First Circle Capital, die das Unternehmen als „FinTech 2.0“ bezeichnet, baut auf der ersten Wachstumswelle afrikanischer Zahlungsdienstleister und Kreditplattformen auf. Im Mittelpunkt steht die nächste Innovationsphase des Finanzsektors: ein breiterer Zugang zu Krediten und Versicherungen, leistungsfähigere Finanzinfrastruktur, effizientere digitale Geschäftsprozesse und die bessere Einhaltung regulatorischer Anforderungen.

Ein zunehmend wichtiger Bestandteil dieser Strategie seien sogenannte KI-native Fintech-Unternehmen. Dabei handelt es sich um Startups, die Künstliche Intelligenz, Automatisierung und datengetriebene Prozesse von Anfang an in ihre Geschäftsmodelle integrieren. Dadurch sollen die Kosten für Finanzdienstleistungen gesenkt, effizientere Produkte entwickelt und deutlich größere Kundengruppen erreicht werden.

„Erhebliche Lücken“

„Trotz des außergewöhnlichen Wachstums des afrikanischen Fintech-Sektors in den vergangenen zehn Jahren bestehen weiterhin erhebliche Lücken, insbesondere beim Zugang zu Finanzdienstleistungen, bei der Interoperabilität, der digitalen Infrastruktur und der Verfügbarkeit spezialisierter Finanzprodukte“, sagt Aistleitner Kisuule. „Wir sehen enormes Potenzial darin, Gründerinnen und Gründer zu unterstützen, die genau diese Herausforderungen angehen: indem sie Zahlungen günstiger machen, den Zugang zu Krediten und Versicherungen erweitern, Betrugsprävention und Risikomanagement stärken, Finanzprozesse durch Software effizienter gestalten und innovative Finanzierungslösungen für Branchen wie Landwirtschaft und Energie entwickeln. Africa Fund I ermöglicht es uns, solche Unternehmen frühzeitig zu identifizieren und sie auf ihrem Weg zu führenden Akteuren des afrikanischen Finanzsektors zu begleiten.“

First Circle Capital investiert dabei in ganz Afrika, darunter Kenia, Nigeria, Südafrika, Ägypten, Marokko, Uganda, Ghana und das frankophone Afrika. Zu den Investoren von First Circle Africa Fund I zählen IFC, Bpifrance, MSMEDA, Axian, der Dutch Good Growth Fund, Stellar Foundation und FSD Africa.

In 18 Unternehmen investiert

First Circle Capital hat bereits in 18 Unternehmen in verschiedenen afrikanischen Märkten investiert. Zu den Portfoliounternehmen gehört unter anderem TurnStay, ein südafrikanisches Travel-Fintech-Unternehmen, das grenzüberschreitende Zahlungsinfrastruktur für internationale Reiseanbieter entwickelt. Das marokkanische Unternehmen WafR digitalisiert Transaktionen und Zahlungen über lokale Einzelhandelsgeschäfte, während Scale als Card-as-a-Service-Infrastrukturanbieter Unternehmen und Fintechs die Einführung eigener Kartenprodukte ermöglicht. Mit Orca Fraud ist zudem ein KI-natives Unternehmen im Portfolio vertreten, das Technologien zur Betrugsprävention für Finanzinstitute entwickelt.

Weitere Investments umfassen Opareta, einen Anbieter von SaaS- und Datenlösungen für das Management von Mobile-Money-Agentennetzwerken, sowie Balad, den regulierten Anbieter von Infrastruktur für internationale Geldüberweisungen in Ägypten. Hinzu kommt Power, ein Unternehmen, das großen afrikanischen Banken Lösungen bietet, mit denen Beschäftigte vorzeitig auf bereits verdientes Gehalt zugreifen können.

First Circle Capital mit zusätzlicher Unterstützung

Neben der Bereitstellung von Kapital unterstützt First Circle Capital seine Portfoliounternehmen aktiv in entscheidenden Wachstumsphasen. Dazu gehören der Zugang zu Anschlussfinanzierungen, strategischen Investoren, Geschäftspartnerschaften und neuen Geschäftsmöglichkeiten. Mehrere Portfoliounternehmen bereiten sich mittlerweile auf eine Series-A-Finanzierungsrunde vor, heißt es per Aussendung.

Selma Ribica, Mitgründerin und Managing Partner von First Circle Capital, erklärt: „Africa Fund I basiert auf einer klaren Überzeugung: Die nächste Generation führender afrikanischer Fintech-Unternehmen wird aus jenen Unternehmen hervorgehen, die strukturelle Herausforderungen lösen, welche den Zugang zu Finanzdienstleistungen auf dem Kontinent weiterhin einschränken“, sagt sie.

Und ergänzt: „Besonders spannend finden wir die Entstehung KI-nativer Fintech-Unternehmen. Gründerinnen und Gründer haben heute die Möglichkeit, Finanzunternehmen vom ersten Tag an auf Automatisierung, künstlicher Intelligenz und Software aufzubauen. Das kann die Wirtschaftlichkeit von Finanzdienstleistungen in afrikanischen Märkten grundlegend verändern. Wir möchten diese Unternehmen bereits in ihren frühesten Entwicklungsphasen identifizieren und ihre Gründerinnen und Gründer beim Wachstum eng begleiten.“

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

KI in hoch regulierten Umgebungen – höchste Priorität für Kontrolle und Verantwortung

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI in hoch regulierten Umgebungen – höchste Priorität für Kontrolle und Verantwortung

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI in hoch regulierten Umgebungen – höchste Priorität für Kontrolle und Verantwortung

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI in hoch regulierten Umgebungen – höchste Priorität für Kontrolle und Verantwortung

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI in hoch regulierten Umgebungen – höchste Priorität für Kontrolle und Verantwortung

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI in hoch regulierten Umgebungen – höchste Priorität für Kontrolle und Verantwortung

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI in hoch regulierten Umgebungen – höchste Priorität für Kontrolle und Verantwortung

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI in hoch regulierten Umgebungen – höchste Priorität für Kontrolle und Verantwortung

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI in hoch regulierten Umgebungen – höchste Priorität für Kontrolle und Verantwortung