02.06.2023

KI-Regulierung: Warum wir eine Pflicht für maschinenlesbare Quellenangaben brauchen

Gastbeitrag. Georg Hanschitz, Product & Market Specialist bei Payone, erläutert, welche Chancen eine verpflichtende Quellenangabe bei der KI-Regulierung bieten würde.
/artikel/ki-regulierung-gastbeitrag-georg-hanschitz
(c) der brutkasten / schauer-burkart

Der Ruf nach Regulierung von Künstlicher Intelligenz (KI) ist unüberhörbar und wird mitunter von jenen Unternehmen propagiert, die selbst hoch erfolgreich KI-Anwendungen am globalen Markt platziert haben und betreiben. KI hat die generelle Marktreife für Anwendungen in allen Bereichen des Lebens erlangt, nun sei die Politik gefordert den Einsatz von KI zu regulieren, um Missbrauch zu verhindern, lautet der Tenor.

Herausforderungen einer KI-Regulierung

Übersehen wird dabei, dass kein Regulator alle denkmöglichen Anwendungsfälle auf Zulässigkeit von KI-Integration prüfen wird können und schon gar nicht deren Integrationstiefe – also wie stark KI in einem (einzelnen) Einsatzbereich zur Anwendung kommt. Darüber hinaus werden ethische Fragen zum Resultat von KI-gestützten Ergebnissen gestellt. Inwieweit ein Regulator, dessen Entscheidungen im Rahmen einer länderspezifischen Verwaltungsgerichtsbarkeit zu verantworten sind, sich einer solchen Aufgabe überhaupt stellen kann, ist fraglich. Gerade weil das Regulieren der Anwendbarkeit von KI so diffizil ist, nehmen KI Unternehmen die Politik in die Pflicht – Selbstbeschränkungen oder Regulierung bergen sowohl wirtschaftlich als auch rechtlich sehr hohe Risiken; zu starke Selbstregulierung kostet Marktanteile (da man womöglich freiwillig auf Geschäft verzichtet), zu geringe Selbstregulierung führen womöglich zu Zivilrechts- bzw. Schadensersatzklagen (etwa bei Verletzung der Privatsphäre, Eigentumsrechte, Intellectual Property etc).

Das Dilemma

Die Politik kämpft unterdessen mit der Herausforderung unterschiedlicher Standards. So könnten KI-Oasen entstehen, in denen es so gut wie keine Regulierung gibt, die errechneten Ergebnisse aber in den regulierten Markt Eingang finden. Die Einschränkung und Regulierung von KI Anwendungsfällen ist eine enorme Herausforderung – so wird etwa seit 2014 in der UNO ergebnislos über den Einsatz autonomer Algorithmus gesteuerter Waffen (etwa militärischer Drohnenschwärme) debattiert. Ein Verbot oder verbindliche Regeln, könnten einen militärisch-strategischen Nachteil bedeuten, so der die Kritiker der UNO-Initiative.

Ein möglicher Ausweg

Der vielversprechendste Ansatz einer Regulierung ist eine verpflichtende Quellenangabe. Was beinahe klingt, als wäre es zu einfach um wahr zu sein, kann tatsächlich der beste Ausweg aus dem derzeitigen Regulierungsdilemma sein.

Selbsterklärtes Ziel der KI-Forschung ist es eine sich selbst erklärende, nachvollziehbare und verlässliche Künstliche Intelligenz zu schaffen. Dabei gilt, je mehr verifizierte Daten- und IoT Quellen dem Ergebnis zu Grunde liegen, desto belastbarer ist das Resultat. Source und Type of Source könnten während des Abfrageprozesses in einem eigenen Datenstream erfasst werden, welcher unmöglich als Quellenangabe händisch zu überprüfen wäre; sehr wohl könnte der generierte Quellen-Datenstream aber maschinenlesbar gemacht werden, um ausgewertet zu werden.

Ein praktisches Beispiel:

Angefragt wird, welche Tomatensorte die weltweit beste ist. Neben der Antwort besteht die Möglichkeit den Prozentsatz „verifizierter Quellen“, „der Hauptquelle“ etc. auszulesen. Beziehen sich etwa 70 Prozent des Resultats auf einen oftmals verwendeten bezahlten Artikel eines Tomatenzüchters, so wäre das in der Auswertung sichtbar. Ähnlich wäre es mit so genannten „Fake News“ oder bei „Framing“. Quellen mit fragwürdigem Hintergrund könnten bei der Abfrage angezeigt werden, ähnlich wie es bei Dateien ist, die ein Anti-Virus Programm erkennt.

Welche Chancen dadurch entstehen

KI Unternehmen würden dazu verpflichtet werden, ein entsprechendes Protokoll auszusetzen und die Maschinenlesbarkeit der Quellenangabe zu gewährleisten, wie bei der Einführung der Geodaten-Nutzung am Beginn der 2000er Jahre, könnte dadurch nicht nur ein transparentes Prüfsystem geschaffen werden, sondern auch neue Geschäftsmodelle entstehen. Verletzungen und Missbrauch  im Bereich Datenschutz, Copyright, Datendiebstahl etc. könnten somit sichtbar gemacht und nach kurzer Zeit verhindert werden. Zudem wäre eine solche Regulatorik sowohl seitens der Politik als auch der Unternehmen umsetzbar und für Anwender praktikabel. Ebenso würde eine sie den Anspruch der Universalität erfüllen, da sie unabhängig von Ländergesetzgebungen, Schlupflöchern und Sprachbarrieren eingeführt werden könnte.

Dabei geht es nicht darum den Ball der Regulierung von KI an die Unternehmen zurückzuspielen, es wäre mehr ein Doppelpass zwischen Politik und Wirtschaft um die Anwendbarkeit von KI und das Vertrauen in neue Technologien voranzutreiben. Schlussendlich wäre die Verpflichtung zur maschinenlesbaren Quellenangabe auch ein wichtiger Schritt in Richtung der Vision der KI-Community: Eine sich selbst erklärbare, nachvollziehbare und verlässliche KI zu verwirklichen.

Deine ungelesenen Artikel:
03.11.2026

Die Projektmanagerin, die nie schläft: accilium zeigt bei der aIQon KI-Agenten im Echtbetrieb

Mit ihrer ersten „aIQon“ hat die Wiener Strategieberatung accilium ein neues Format gestartet: keine Folien, nur Live-Demos von KI-Agenten, die bereits im Einsatz sind. Im Mittelpunkt stand Aurelia, eine Agentin, die als Mitglied eines Projektteams in Microsoft Teams mitarbeitet.
/artikel/accilium-zeigt-bei-der-aiqon-ki-agenten-im-echtbetrieb
03.11.2026

Die Projektmanagerin, die nie schläft: accilium zeigt bei der aIQon KI-Agenten im Echtbetrieb

Mit ihrer ersten „aIQon“ hat die Wiener Strategieberatung accilium ein neues Format gestartet: keine Folien, nur Live-Demos von KI-Agenten, die bereits im Einsatz sind. Im Mittelpunkt stand Aurelia, eine Agentin, die als Mitglied eines Projektteams in Microsoft Teams mitarbeitet.
/artikel/accilium-zeigt-bei-der-aiqon-ki-agenten-im-echtbetrieb
Opening Fireside Chat bei der aIQon: Peter Allan (accilium) diskutierte mit Alexia Feick (Microsoft) und Paul Strunz (Wien Energie) über KI im Unternehmensalltag. (c) Zsolt Marton

Keine Charts, keine Keynotes, nur Dinge, die funktionieren. Mit dieser Regel eröffnete Peter Allan, AI Lead und Managing Partner bei accilium, am 22. Oktober die erste aIQon im 15. Stock des Juwel Wien. Das Format lehnt sich an Tech-Konferenzen an: Ein Team stellt ein Problem vor, zeigt live, was es dagegen gebaut hat, und erklärt, was es dabei gelernt hat. Allan nannte den Nachmittag ein Experiment. Wer Organisationen das Potenzial von KI vermitteln wolle, komme mit Folien nicht mehr weit, man müsse es zeigen.

Von der Beratung zum Bauen

accilium ist eine österreichische Strategie- und Managementberatung mit Sitz am Wiener Schubertring, die unter anderem für den öffentlichen Sektor arbeitet. Erst im September erhielt das Unternehmen den Zuschlag für einen Rahmenvertrag der Bundesbeschaffung GmbH (BBG) zur Digitalisierung der Verwaltung mit einem Volumen von bis zu 39 Millionen Euro.

Mit der aIQon zeigt accilium eine weitere Seite: Das Unternehmen hat heuer ein eigenes Team aus Forward Deployed Engineers aufgebaut, also Entwickler:innen, die direkt mit den Kunden arbeiten und Lösungen nicht nur konzipieren, sondern auch bauen. Die Rolle kommt aus der Software-Industrie und wird derzeit von führenden KI-Anbietern etabliert. Für eine Beratung heißt das: Strategie und Umsetzung aus einer Hand. Die gezeigten Agenten stammen alle aus diesem Team und laufen bei accilium selbst im Echtbetrieb.

(c) Zsolt Marton

Eine Kollegin, die alles mitliest

Aurelia ist ein eigenes Mitglied in einem Teams-Kanal. Sie hat ein eigenes Konto, liest Kanal, Postfach, Planner und Kalender eines Projekts mit und tut, was das Team ihr sagt. Im Szenario der Demo kehrt Projektleiterin Pia aus zwei Wochen Urlaub zurück und fragt Aurelia, was passiert ist. Statt Dutzende Nachrichten nachzulesen, bekommt sie in einer Antwort, was entschieden wurde und was für sie offen ist. Eine Kollegin ist krank: Aurelia findet deren fällige Aufgaben, schlägt Vertretungen vor und hängt die Aufgaben nach Pias Zustimmung im Planner um. Als die Kundin per Mail den Lenkungskreis vorziehen will, meldet sich Aurelia von selbst, weist darauf hin, dass eine Kollegin an dem Tag im Urlaub ist, und fragt nach, bevor sie den Termin verschiebt. Zum Jour fixe steht die Agenda in der Einladung, und eine Kollegin wird an ihren Kurzbericht erinnert.

(c) Zsolt Marton

Die Regeln dahinter sind klar: Aurelia liest alles mit, meldet sich von selbst aber nur dort, wo das Team es ihr aufgetragen hat. Planner und Kalender ändert sie erst nach einem Ja, Mails nach außen schickt sie nicht. Was sie darf, steht laut accilium im Code und nicht im Prompt. Die Regeln selbst gibt ihr das Team im Kanal, in ganz normalen Sätzen, so wie einer neuen Kollegin. Technisch läuft alles in einem Microsoft-Tenant auf Azure in der EU, das Sprachmodell in der EU-Datenzone.

Das wichtigste Learning kam aus dem eigenen Betrieb: Das richtige Maß ist für jedes Team ein anderes. Manche wollen täglich einen Status, andere jemanden, der im Hintergrund die Fäden zusammenhält und sich nur auf Nachfrage meldet. Deshalb lässt sich heute einstellen, wie proaktiv Aurelia ist. Und weil Teams einen Agenten als Kollegin wahrnehmen, gelte dasselbe wie bei jeder neuen Mitarbeiterin: Beide Seiten müssen sich aneinander gewöhnen.

Dasselbe Prinzip auf drei Ebenen

(c) Zsolt Marton

Zwei weitere Demos zeigten, dass der Ansatz auch jenseits des Projektteams funktioniert. „Linda Legal“ bündelt das Erfahrungswissen einer Rechtsabteilung und prüft direkt in Outlook Verträge gegen Richtlinie und Verhandlungsprotokoll. In der Demo entdeckte sie, dass in einem Paragrafen „jeweils“ statt des vereinbarten „zusammen“ stand, womit pro Wochenabruf 8.000 statt 4.000 Euro fällig geworden wären. Ihr Wissen liegt in lesbaren Dateien, die die Fachabteilung ohne IT selbst pflegt. „Erich Aigner“ wiederum ist ein persönlicher Assistent: Ein Berater erzählt ihm nach einem Kundentermin eine Minute lang, was zu tun ist, danach stehen Nachricht, Folgetermin und Mailentwürfe bereit. Gesendet wird nichts, das entscheidet der Mensch.

(c) Zsolt Marton

Drei Agenten, drei Ebenen: Team, Fachwissen, einzelne Person. Allen gemeinsam ist dasselbe Prinzip. Lesen, sortieren und vorbereiten tun die Agenten selbstständig, ändern und nach außen kommunizieren nur nach menschlicher Freigabe. Und diese Grenze ist technisch verankert, nicht bloß im Prompt versprochen.

Die Technik ist nicht der Engpass

Dass genau das die eigentliche Arbeit ist, zeigte auch der Opening Fireside Chat, in dem Peter Allan mit Alexia Feick und Paul Strunz über KI im Alltag, Top-down und Bottom-up in der Transformation und die Messbarkeit von KI-Projekten sprach. Strunz leitet das Digital Competence Center der Wien Energie, Feick war früher bei accilium und arbeitet heute im Customer Success bei Microsoft. Ihr gemeinsamer Befund: Die heutigen Modelle sind gut genug, der Hebel liegt in Prozessen, Governance und Befähigung. Feick riet, bei konkreten Pain Points anzusetzen statt bei dem Wunsch, „KI zu haben“. Der Output nach sechs Monaten solle eine veränderte Arbeitsweise mit messbarem Ergebnis sein, und lieber ein Use Case im crossfunktionalen Team als 30 kleine Proof-of-Concepts. Strunz ergänzte, dass Effizienzgewinne verpuffen, wenn die Prozesse dahinter nicht angepasst werden; bei der Wien Energie misst man unter anderem die Zahl aktiver Citizen Developer, eingesparte Stunden und eingespartes Geld.

(c) Zsolt Marton

Allan sieht in Agenten vor allem eine Wachstumschance: Es gebe unendlich viel Nachfrage nach Services, und wer es clever mache, nutze Agenten, um jeden einzelnen Job besser und kreativer zu machen. Bei accilium selbst sei keine Stelle durch KI ersetzt worden, wohl aber viel administrative Arbeit weggefallen. Intern begleitet das Unternehmen den Wandel mit einem eigenen Rhythmus: Jede Woche gibt es einen neuen „Build“ mit Skills, Tools und Trainings, wie bei einem Software-Unternehmen.

Alle Demos, Baupläne, Prompts und Skills stellt accilium offen zum Download bereit. Wer nicht dabei war, kann die Agenten also nachbauen. Auch das ist für eine Beratung ungewöhnlich und passt zum Anspruch des Formats: zeigen statt erklären.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

KI-Regulierung: Warum wir eine Pflicht für maschinenlesbare Quellenangaben brauchen

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI-Regulierung: Warum wir eine Pflicht für maschinenlesbare Quellenangaben brauchen

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI-Regulierung: Warum wir eine Pflicht für maschinenlesbare Quellenangaben brauchen

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI-Regulierung: Warum wir eine Pflicht für maschinenlesbare Quellenangaben brauchen

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI-Regulierung: Warum wir eine Pflicht für maschinenlesbare Quellenangaben brauchen

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI-Regulierung: Warum wir eine Pflicht für maschinenlesbare Quellenangaben brauchen

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI-Regulierung: Warum wir eine Pflicht für maschinenlesbare Quellenangaben brauchen

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI-Regulierung: Warum wir eine Pflicht für maschinenlesbare Quellenangaben brauchen

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI-Regulierung: Warum wir eine Pflicht für maschinenlesbare Quellenangaben brauchen