02.06.2023

KI-Regulierung: Warum wir eine Pflicht für maschinenlesbare Quellenangaben brauchen

Gastbeitrag. Georg Hanschitz, Product & Market Specialist bei Payone, erläutert, welche Chancen eine verpflichtende Quellenangabe bei der KI-Regulierung bieten würde.
/artikel/ki-regulierung-gastbeitrag-georg-hanschitz
(c) der brutkasten / schauer-burkart

Der Ruf nach Regulierung von Künstlicher Intelligenz (KI) ist unüberhörbar und wird mitunter von jenen Unternehmen propagiert, die selbst hoch erfolgreich KI-Anwendungen am globalen Markt platziert haben und betreiben. KI hat die generelle Marktreife für Anwendungen in allen Bereichen des Lebens erlangt, nun sei die Politik gefordert den Einsatz von KI zu regulieren, um Missbrauch zu verhindern, lautet der Tenor.

Herausforderungen einer KI-Regulierung

Übersehen wird dabei, dass kein Regulator alle denkmöglichen Anwendungsfälle auf Zulässigkeit von KI-Integration prüfen wird können und schon gar nicht deren Integrationstiefe – also wie stark KI in einem (einzelnen) Einsatzbereich zur Anwendung kommt. Darüber hinaus werden ethische Fragen zum Resultat von KI-gestützten Ergebnissen gestellt. Inwieweit ein Regulator, dessen Entscheidungen im Rahmen einer länderspezifischen Verwaltungsgerichtsbarkeit zu verantworten sind, sich einer solchen Aufgabe überhaupt stellen kann, ist fraglich. Gerade weil das Regulieren der Anwendbarkeit von KI so diffizil ist, nehmen KI Unternehmen die Politik in die Pflicht – Selbstbeschränkungen oder Regulierung bergen sowohl wirtschaftlich als auch rechtlich sehr hohe Risiken; zu starke Selbstregulierung kostet Marktanteile (da man womöglich freiwillig auf Geschäft verzichtet), zu geringe Selbstregulierung führen womöglich zu Zivilrechts- bzw. Schadensersatzklagen (etwa bei Verletzung der Privatsphäre, Eigentumsrechte, Intellectual Property etc).

Das Dilemma

Die Politik kämpft unterdessen mit der Herausforderung unterschiedlicher Standards. So könnten KI-Oasen entstehen, in denen es so gut wie keine Regulierung gibt, die errechneten Ergebnisse aber in den regulierten Markt Eingang finden. Die Einschränkung und Regulierung von KI Anwendungsfällen ist eine enorme Herausforderung – so wird etwa seit 2014 in der UNO ergebnislos über den Einsatz autonomer Algorithmus gesteuerter Waffen (etwa militärischer Drohnenschwärme) debattiert. Ein Verbot oder verbindliche Regeln, könnten einen militärisch-strategischen Nachteil bedeuten, so der die Kritiker der UNO-Initiative.

Ein möglicher Ausweg

Der vielversprechendste Ansatz einer Regulierung ist eine verpflichtende Quellenangabe. Was beinahe klingt, als wäre es zu einfach um wahr zu sein, kann tatsächlich der beste Ausweg aus dem derzeitigen Regulierungsdilemma sein.

Selbsterklärtes Ziel der KI-Forschung ist es eine sich selbst erklärende, nachvollziehbare und verlässliche Künstliche Intelligenz zu schaffen. Dabei gilt, je mehr verifizierte Daten- und IoT Quellen dem Ergebnis zu Grunde liegen, desto belastbarer ist das Resultat. Source und Type of Source könnten während des Abfrageprozesses in einem eigenen Datenstream erfasst werden, welcher unmöglich als Quellenangabe händisch zu überprüfen wäre; sehr wohl könnte der generierte Quellen-Datenstream aber maschinenlesbar gemacht werden, um ausgewertet zu werden.

Ein praktisches Beispiel:

Angefragt wird, welche Tomatensorte die weltweit beste ist. Neben der Antwort besteht die Möglichkeit den Prozentsatz „verifizierter Quellen“, „der Hauptquelle“ etc. auszulesen. Beziehen sich etwa 70 Prozent des Resultats auf einen oftmals verwendeten bezahlten Artikel eines Tomatenzüchters, so wäre das in der Auswertung sichtbar. Ähnlich wäre es mit so genannten „Fake News“ oder bei „Framing“. Quellen mit fragwürdigem Hintergrund könnten bei der Abfrage angezeigt werden, ähnlich wie es bei Dateien ist, die ein Anti-Virus Programm erkennt.

Welche Chancen dadurch entstehen

KI Unternehmen würden dazu verpflichtet werden, ein entsprechendes Protokoll auszusetzen und die Maschinenlesbarkeit der Quellenangabe zu gewährleisten, wie bei der Einführung der Geodaten-Nutzung am Beginn der 2000er Jahre, könnte dadurch nicht nur ein transparentes Prüfsystem geschaffen werden, sondern auch neue Geschäftsmodelle entstehen. Verletzungen und Missbrauch  im Bereich Datenschutz, Copyright, Datendiebstahl etc. könnten somit sichtbar gemacht und nach kurzer Zeit verhindert werden. Zudem wäre eine solche Regulatorik sowohl seitens der Politik als auch der Unternehmen umsetzbar und für Anwender praktikabel. Ebenso würde eine sie den Anspruch der Universalität erfüllen, da sie unabhängig von Ländergesetzgebungen, Schlupflöchern und Sprachbarrieren eingeführt werden könnte.

Dabei geht es nicht darum den Ball der Regulierung von KI an die Unternehmen zurückzuspielen, es wäre mehr ein Doppelpass zwischen Politik und Wirtschaft um die Anwendbarkeit von KI und das Vertrauen in neue Technologien voranzutreiben. Schlussendlich wäre die Verpflichtung zur maschinenlesbaren Quellenangabe auch ein wichtiger Schritt in Richtung der Vision der KI-Community: Eine sich selbst erklärbare, nachvollziehbare und verlässliche KI zu verwirklichen.

Deine ungelesenen Artikel:
15.09.2026

KI im Investmentprozess: Wie Viessmann sein Deal-Screening beschleunigt

Nach dem zwölf Milliarden Euro schweren Verkauf des Heizungsgeschäfts an Carrier investiert die Viessmann Generations Group mittlerweile langfristig in eine breit aufgestellte Unternehmensgruppe. Nun baut das Familienunternehmen gemeinsam mit iteratec ein Multi-Agenten-System, das die Qualität von Investmententscheidungen maßgeblich verbessern soll: Alexander Pöllmann, Director IT & Digital von Viessmann, und Michael Maier, Director Austria von iteratec, geben im brutkasten-Gespräch einen Einblick.
/artikel/wie-viessmann-sein-deal-screening-mit-ki-umbaut
15.09.2026

KI im Investmentprozess: Wie Viessmann sein Deal-Screening beschleunigt

Nach dem zwölf Milliarden Euro schweren Verkauf des Heizungsgeschäfts an Carrier investiert die Viessmann Generations Group mittlerweile langfristig in eine breit aufgestellte Unternehmensgruppe. Nun baut das Familienunternehmen gemeinsam mit iteratec ein Multi-Agenten-System, das die Qualität von Investmententscheidungen maßgeblich verbessern soll: Alexander Pöllmann, Director IT & Digital von Viessmann, und Michael Maier, Director Austria von iteratec, geben im brutkasten-Gespräch einen Einblick.
/artikel/wie-viessmann-sein-deal-screening-mit-ki-umbaut
Alexander Pöllmann, Director IT & Digital bei der Viessmann Generations Group, und Michael Maier, Director Austria von iteratec (v.l.) | (c) iteratec / beigestellt

Es war eine der bemerkenswertesten Transformationen der deutschen Industrie: 2023 verkaufte Viessmann sein Kerngeschäft, die Klimasparte Viessmann Climate Solutions, für zwölf Milliarden Euro an den US-Konzern Carrier (brutkasten berichtete). Seit Anfang 2024 agiert das Familienunternehmen als Unternehmensgruppe, die aus Deutschland ein globales industrielles Beteiligungsportfolio steuert. Und dieses Kernteam soll nun KI-nativ werden: Gemeinsam mit dem Technologieunternehmen iteratec baut Viessmann ein Multi-Agenten-System, das die Mitarbeiter:innen zu “Buildern von Agenten” verändert.

Vom Heizungsbauer zum langfristigen Unternehmensentwickler  

Das reinvestierte Kapital floss vor allem in industrielle Mittelständler mit Fokus auf nachhaltige Energietransformation: von Grid-Infrastruktur über Fernwärme- und Kühlungslösungen bis zu Kühlhäusern. Dazu zählt etwa die isoplus-Gruppe, ein Hersteller von Nah- und Fernwärmeleitungen mit großen Standorten in Österreich. Über Minderheitsbeteiligungen ist Viessmann außerdem unter anderem an Encavis sowie am Software-Unternehmen AMCS beteiligt, das Emissionen in der Recycling- und Abfallwirtschaft reduzieren soll. 

Beim Thema KI unterscheidet Pöllmann klar zwischen zwei Ebenen: „Wenn wir auf unsere Partner schauen, ist der Kerntreiber klassischerweise Effizienz, also Use Cases entlang der Wertschöpfungskette, um Top- oder Bottom-Line-Potenziale einzusammeln. Auf Ebene des Viessmann-Teams schauen wir viel stärker auf Effektivität: Wie können wir noch bessere Investmententscheidungen treffen und unsere zentrale Entscheidungsqualität maßgeblich erhöhen?“ 

Deal-Screening statt Deal-Sourcing 

Genau das sei allerdings die schwierigere Disziplin, so Pöllmann: „Effizienz-Use-Cases sind aus unserer Sicht häufig leichter, als die Qualität zu erhöhen. KI tendiert in ihrer ursprünglichsten Natur dazu, lieber zu halluzinieren und ungenau zu sein, als eine sehr klare Antwort auf die Frage zu geben: Sollte ich dieses Investment tätigen oder lieber nicht? Welche Risiken habe ich noch nicht gesehen?“ Dies bedingt vor allem den ganzen Kontext einer Transaktion zu kennen. 

Konkret setzt das Multi-Agenten-System deshalb dort an, wo Präzision zählt: beim Screening. Es gehe nicht darum, Deals zu sourcen, betont Pöllmann, sondern den Prozess „Ist ein Deal für uns wirklich relevant?“ deutlich zu verkürzen. Ein Letter of Intent könne so viel schneller analysiert und daraus ein Investmentmemo gebaut werden, angereichert mit weiteren Quellen. 

Dass das Viessmann-Team das System selbst baut, statt auf eine Fertiglösung zu setzen, ist für Pöllmann eine Grundsatzentscheidung: „Wir wollen die Governance in der eigenen Hand haben, aber auch den Prozess, wie wir zu Entscheidungen kommen.“ Fertige KI-Finanzlösungen von der Stange würden der Organisation wenig bringen: „Das ist zwar alles nett und funktioniert auch schnell, aber nicht in der Qualität, wie wir sie erwarten.“ 

Jede:r Mitarbeiter:in wird zum „Builder“ 

Der vielleicht radikalste Teil des Ansatzes: Alle Mitarbeiter:innen der Viessmann Generations Group sollen befähigt werden, selbst KI-Agenten zu bauen. Der Prozess dahinter ist mehrstufig: Ein Intake-Agent nimmt die Idee auf und schärft sie, ein Specification-Agent zieht anschließend das nötige Fachwissen aus den Mitarbeiter:innen heraus und gibt erst ab einem bestimmten Confidence Score grünes Licht. Danach erstellt ein weiterer Agent, der sogenannte Agent-Builder, den fertigen KI-Kollegen. 

Gestartet wurde Ende Jänner mit einem „Hypersprint“, die ersten Prozessagenten gingen im Frühjahr live. „Es ist schon verrückt, was wir in der Zeit entwickelt haben“, sagt Pöllmann. Die größte Herausforderung sei dabei nicht die Technologie: „Die Herausforderung ist wirklich, das Wissen der Kolleg:innen “freizulegen” und die Leute, die verantwortlich sind, in die Verantwortung zu bekommen. So können wir dann gemeinsam den Input, den wir brauchen, identifizieren, um daraus vernünftige Agenten mit hoher Output-Qualität zu bauen.“ 

„Die Rolle des Menschen in der KI-Transformation wird maßgeblich“ 

Bei aller Automatisierung bleibt die Verantwortung beim Menschen, stellt Pöllmann klar: „Am Ende braucht es immer einen Verantwortlichen, und das kann nicht die Maschine sein. Dadurch wird vor allem die Rolle des Menschen in der KI-Transformation maßgeblich gestärkt.“ Wer einen Agenten verantwortet, müsse dessen Ergebnisse kontrollieren, ihn testen und etwa bei der Abkündigung eines KI-Modells nachjustieren. „Damit bekommt jeder in gewisser Weise eine Führungsaufgabe“, so Pöllmann. 

Um den Rollenwandel greifbar zu machen, ließ Viessmann die Mitarbeiter:innen ein eigenes „Role Canvas“ ausfüllen: Was bleibt an Verantwortung beim Menschen, wenn KI-Agenten übernehmen? Das habe viel Verständnis für die Transformation geschaffen, auch bei jenen, deren Berufsbild sich am stärksten verändert. Denn das klassische Profil eines Investmentbankers werde sich fundamental drehen, so Pöllmann. Die Betroffenen hätten das Thema allerdings „sehr gut aufgeschnappt und zeigen große Begeisterung dafür“. 

iteratec: „Die Unschärfe reduzieren“ 

Auf der Umsetzungsseite steht mit iteratec ein Software-Dienstleister, der seit 30 Jahren Individualsoftware entwickelt und sich zunehmend auf KI-Transformation fokussiert. „Unser eigenes Geschäft ändert sich aktuell selbst radikal aufgrund von KI“, sagt Michael Maier, Director Austria von iteratec. Das Unternehmen setzt Multi-Agenten-Projekte unter anderem bei Banken um und hat mit dem Recycling-Konzern Ragn-Sells ein neues Recyclingverfahren auf Basis KI-gestützter Materialanalysen entwickelt. Das Viessmann-Projekt sei „mitunter eines der spannendsten, das wir gerade machen dürfen“, so Maier: „Das nimmt sicher eine Vorreiterrolle ein.“ 

Die Kunst liege darin, schnell voranzukommen und trotzdem verlässliche Resultate zu liefern: „Du musst die Unschärfe so weit reduzieren, dass du dort, wo es wichtig ist, belastbare Ergebnisse hast, mit denen du arbeiten kannst“, sagt Maier. Viessmann kam über einen klassischen Anbieterauswahlprozess zu iteratec. Ausschlaggebend sei das Team gewesen, so Pöllmann: „Ein sehr professionell aufgestelltes Team mit High-End-AI-Capabilities. Die Entwickler sind fast AI-native unterwegs.” 

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

KI-Regulierung: Warum wir eine Pflicht für maschinenlesbare Quellenangaben brauchen

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI-Regulierung: Warum wir eine Pflicht für maschinenlesbare Quellenangaben brauchen

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI-Regulierung: Warum wir eine Pflicht für maschinenlesbare Quellenangaben brauchen

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI-Regulierung: Warum wir eine Pflicht für maschinenlesbare Quellenangaben brauchen

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI-Regulierung: Warum wir eine Pflicht für maschinenlesbare Quellenangaben brauchen

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI-Regulierung: Warum wir eine Pflicht für maschinenlesbare Quellenangaben brauchen

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI-Regulierung: Warum wir eine Pflicht für maschinenlesbare Quellenangaben brauchen

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI-Regulierung: Warum wir eine Pflicht für maschinenlesbare Quellenangaben brauchen

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI-Regulierung: Warum wir eine Pflicht für maschinenlesbare Quellenangaben brauchen