02.06.2023

KI-Regulierung: Warum wir eine Pflicht für maschinenlesbare Quellenangaben brauchen

Gastbeitrag. Georg Hanschitz, Product & Market Specialist bei Payone, erläutert, welche Chancen eine verpflichtende Quellenangabe bei der KI-Regulierung bieten würde.
/artikel/ki-regulierung-gastbeitrag-georg-hanschitz
(c) der brutkasten / schauer-burkart

Der Ruf nach Regulierung von Künstlicher Intelligenz (KI) ist unüberhörbar und wird mitunter von jenen Unternehmen propagiert, die selbst hoch erfolgreich KI-Anwendungen am globalen Markt platziert haben und betreiben. KI hat die generelle Marktreife für Anwendungen in allen Bereichen des Lebens erlangt, nun sei die Politik gefordert den Einsatz von KI zu regulieren, um Missbrauch zu verhindern, lautet der Tenor.

Herausforderungen einer KI-Regulierung

Übersehen wird dabei, dass kein Regulator alle denkmöglichen Anwendungsfälle auf Zulässigkeit von KI-Integration prüfen wird können und schon gar nicht deren Integrationstiefe – also wie stark KI in einem (einzelnen) Einsatzbereich zur Anwendung kommt. Darüber hinaus werden ethische Fragen zum Resultat von KI-gestützten Ergebnissen gestellt. Inwieweit ein Regulator, dessen Entscheidungen im Rahmen einer länderspezifischen Verwaltungsgerichtsbarkeit zu verantworten sind, sich einer solchen Aufgabe überhaupt stellen kann, ist fraglich. Gerade weil das Regulieren der Anwendbarkeit von KI so diffizil ist, nehmen KI Unternehmen die Politik in die Pflicht – Selbstbeschränkungen oder Regulierung bergen sowohl wirtschaftlich als auch rechtlich sehr hohe Risiken; zu starke Selbstregulierung kostet Marktanteile (da man womöglich freiwillig auf Geschäft verzichtet), zu geringe Selbstregulierung führen womöglich zu Zivilrechts- bzw. Schadensersatzklagen (etwa bei Verletzung der Privatsphäre, Eigentumsrechte, Intellectual Property etc).

Das Dilemma

Die Politik kämpft unterdessen mit der Herausforderung unterschiedlicher Standards. So könnten KI-Oasen entstehen, in denen es so gut wie keine Regulierung gibt, die errechneten Ergebnisse aber in den regulierten Markt Eingang finden. Die Einschränkung und Regulierung von KI Anwendungsfällen ist eine enorme Herausforderung – so wird etwa seit 2014 in der UNO ergebnislos über den Einsatz autonomer Algorithmus gesteuerter Waffen (etwa militärischer Drohnenschwärme) debattiert. Ein Verbot oder verbindliche Regeln, könnten einen militärisch-strategischen Nachteil bedeuten, so der die Kritiker der UNO-Initiative.

Ein möglicher Ausweg

Der vielversprechendste Ansatz einer Regulierung ist eine verpflichtende Quellenangabe. Was beinahe klingt, als wäre es zu einfach um wahr zu sein, kann tatsächlich der beste Ausweg aus dem derzeitigen Regulierungsdilemma sein.

Selbsterklärtes Ziel der KI-Forschung ist es eine sich selbst erklärende, nachvollziehbare und verlässliche Künstliche Intelligenz zu schaffen. Dabei gilt, je mehr verifizierte Daten- und IoT Quellen dem Ergebnis zu Grunde liegen, desto belastbarer ist das Resultat. Source und Type of Source könnten während des Abfrageprozesses in einem eigenen Datenstream erfasst werden, welcher unmöglich als Quellenangabe händisch zu überprüfen wäre; sehr wohl könnte der generierte Quellen-Datenstream aber maschinenlesbar gemacht werden, um ausgewertet zu werden.

Ein praktisches Beispiel:

Angefragt wird, welche Tomatensorte die weltweit beste ist. Neben der Antwort besteht die Möglichkeit den Prozentsatz „verifizierter Quellen“, „der Hauptquelle“ etc. auszulesen. Beziehen sich etwa 70 Prozent des Resultats auf einen oftmals verwendeten bezahlten Artikel eines Tomatenzüchters, so wäre das in der Auswertung sichtbar. Ähnlich wäre es mit so genannten „Fake News“ oder bei „Framing“. Quellen mit fragwürdigem Hintergrund könnten bei der Abfrage angezeigt werden, ähnlich wie es bei Dateien ist, die ein Anti-Virus Programm erkennt.

Welche Chancen dadurch entstehen

KI Unternehmen würden dazu verpflichtet werden, ein entsprechendes Protokoll auszusetzen und die Maschinenlesbarkeit der Quellenangabe zu gewährleisten, wie bei der Einführung der Geodaten-Nutzung am Beginn der 2000er Jahre, könnte dadurch nicht nur ein transparentes Prüfsystem geschaffen werden, sondern auch neue Geschäftsmodelle entstehen. Verletzungen und Missbrauch  im Bereich Datenschutz, Copyright, Datendiebstahl etc. könnten somit sichtbar gemacht und nach kurzer Zeit verhindert werden. Zudem wäre eine solche Regulatorik sowohl seitens der Politik als auch der Unternehmen umsetzbar und für Anwender praktikabel. Ebenso würde eine sie den Anspruch der Universalität erfüllen, da sie unabhängig von Ländergesetzgebungen, Schlupflöchern und Sprachbarrieren eingeführt werden könnte.

Dabei geht es nicht darum den Ball der Regulierung von KI an die Unternehmen zurückzuspielen, es wäre mehr ein Doppelpass zwischen Politik und Wirtschaft um die Anwendbarkeit von KI und das Vertrauen in neue Technologien voranzutreiben. Schlussendlich wäre die Verpflichtung zur maschinenlesbaren Quellenangabe auch ein wichtiger Schritt in Richtung der Vision der KI-Community: Eine sich selbst erklärbare, nachvollziehbare und verlässliche KI zu verwirklichen.

Deine ungelesenen Artikel:
02.11.2026

Handy raus, Lesen rein: So werden Österreichs Schüler wirklich KI-fit

KI-Kompetenz ist eine Standortfrage. Sie beginnt aber nicht beim Prompt, sondern beim Lesen, Schreiben und Rechnen - das argumentiert GoStudent-Gründer Felix Ohswald im Gastbeitrag und gibt Einblicke in die Zahlen des aktuellen Berichts zur Zukunft der Bildung des Scaleups.
/artikel/handy-raus-lesen-rein-so-werden-oesterreichs-schueler-wirklich-ki-fit
02.11.2026

Handy raus, Lesen rein: So werden Österreichs Schüler wirklich KI-fit

KI-Kompetenz ist eine Standortfrage. Sie beginnt aber nicht beim Prompt, sondern beim Lesen, Schreiben und Rechnen - das argumentiert GoStudent-Gründer Felix Ohswald im Gastbeitrag und gibt Einblicke in die Zahlen des aktuellen Berichts zur Zukunft der Bildung des Scaleups.
/artikel/handy-raus-lesen-rein-so-werden-oesterreichs-schueler-wirklich-ki-fit
GoStudent
© brutkasten - Felix Ohswald, Gründer GoStudent.

Im November 2024 habe ich hier geschrieben, dass wir bei KI in der Bildung an einem Wendepunkt stehen. Die entscheidende Frage war damals, ob wir KI nutzen, um Lernen zu verbessern, oder nur, um es zu beschleunigen. Zwei Jahre später haben wir die Antwort, zumindest für die Schule: Die Kinder beschleunigen. Verbessert wird wenig.

Ich sage es direkt: Die Debatte über KI an Schulen läuft in die falsche Richtung. Wir reden über Tablets, Apps und Prompt-Kurse. Dabei fehlt vielen Jugendlichen die Voraussetzung, um mit KI überhaupt etwas Sinnvolles anzufangen.

Was die Zahlen zeigen

Für den GoStudent Bericht zur Zukunft der Bildung 2026 haben wir in sechs europäischen Ländern 3.001 Eltern, ihre Kinder zwischen 8 und 16 Jahren und 300 Lehrkräfte befragt, in Österreich 500 Familien.

  • 65 Prozent der österreichischen Schülerinnen und Schüler, die KI für die Schule nutzen, haben nach eigenen Angaben schon KI-Inhalte als eigene Arbeit abgegeben.
  • 43 Prozent wurden noch nie im Umgang mit KI unterrichtet. Nur 15 Prozent hatten eine strukturierte Stunde dazu.
  • Nur 24 Prozent der Eltern meinen, die Regierung tue genug für klare KI-Regeln an Schulen. Das ist der niedrigste Wert aller sechs Länder.
  • Nur 36 Prozent sehen ihr Kind gut auf das Leben nach der Schule vorbereitet. Auch das ist der niedrigste Wert.

Die Kinder nutzen KI also längst. Die Schule bringt ihnen nicht bei, wie man es richtig macht. Und sie sichert immer seltener das, was man dafür braucht.

Wer nicht lesen kann, kann keine KI prüfen

Eine KI schreibt in Sekunden einen Aufsatz, löst eine Textaufgabe, fasst ein Buch zusammen. Ob das Ergebnis stimmt, erkennt nur, wer selbst genau lesen kann, ein Ergebnis im Kopf überschlagen kann und einen eigenen Gedanken zu Papier bringt. Der größte Teil von KI-Kompetenz ist schlicht Grundkompetenz.

Genau dort verlieren wir gerade. Bei PISA 2025 liegt Österreich in Lesen und Mathematik auf dem niedrigsten Stand seit Beginn der Erhebung. Die Hälfte der von uns befragten Lehrkräfte sagt, das Leseverständnis ihrer Schülerinnen und Schüler sei in den letzten fünf Jahren schlechter geworden, 42 Prozent sehen einen Rückgang in Mathematik.

Ein Jugendlicher, der einen Text nicht versteht, wird durch KI nicht klüger. Er wird nur schneller darin, Dinge abzugeben, die er nicht versteht. Deshalb ist mein erster Punkt nicht technisch: Lesen, Schreiben und Rechnen zuerst. Jeden Tag, auch in der Oberstufe.

Handys gehören nicht in die Schule

Ich bin persönlich dafür, dass private Smartphones an allen Schulen tabu sind, nicht nur bis zur achten Schulstufe, sondern bis zur Matura. Frankreich hat sein Verbot im September auf die Oberstufe ausgeweitet. Österreich sollte nachziehen.

Die Gründe stehen in unseren Daten. Fast zwei Drittel der befragten Lehrkräfte sagen, ihre Schülerinnen und Schüler können sich schlechter konzentrieren als vor fünf Jahren. Mehr als die Hälfte der österreichischen Eltern ist ohnehin für ein vollständiges Handyverbot.

Das ist kein Widerspruch zu mehr KI im Unterricht. KI gehört in die Schule, gezielt, angeleitet und auf Schulgeräten. Der private Feed mit TikTok und Messenger gehört nicht in die Klasse. Wer beides gleichsetzt, verwechselt ein Werkzeug mit einer Ablenkung.

Warum das eine Standortfrage ist

Jedes Unternehmen, mit dem ich spreche, baut Prozesse gerade um KI herum neu: Angebote, Kundenservice, Buchhaltung, Software. Gesucht werden nicht Menschen, die KI bedienen können. Bedienen kann jeder. Gesucht werden Menschen, die eine KI-Antwort prüfen, verbessern und dafür geradestehen. Das ist dieselbe Fähigkeit wie vor hundert Jahren: lesen, verstehen, rechnen, urteilen.

Die Politik antwortet darauf mit einem neuen Fach: „Informatik und KI“ in der AHS-Oberstufe ab 2027/28. Ich halte das für die falsche Antwort. Ich hatte in meiner Schulzeit selbst Informatik als Fach. Es war ein Witz, und an diesem Muster ändert ein neuer Name wenig. KI-Kompetenz entsteht nicht in einer Stunde pro Woche mit eigenem Lehrplan. Sie entsteht in jeder Deutschstunde, in der ein Text wirklich verstanden wird, und in jeder Mathestunde, in der ein Kind ein Ergebnis selbst überschlagen kann. Wer gut lesen, schreiben und rechnen kann, lernt den Umgang mit KI in wenigen Wochen. Wer es nicht kann, lernt ihn auch in einem eigenen Fach nicht.

Was Schulen morgen tun können, ohne Verordnung

1. Grundlagen täglich trainieren. Zwanzig Minuten Lesen pro Tag, Kopfrechnen, Texte mit der Hand schreiben. Unspektakulär, aber die Basis für alles andere.

2. Bei der Hausübung den Weg bewerten. KI ist erlaubt, aber mit drei Beilagen: der Prompt, die ursprüngliche KI-Antwort und drei Sätze dazu, was das Kind geändert hat und warum. Dazu fünf Minuten mündliche Nachfrage in der nächsten Stunde.

3. Mehr mündlich prüfen. 44 Prozent der befragten Lehrkräfte halten Präsentationen und Prüfungsgespräche inzwischen für die wirksamste Form der Leistungsbewertung. Einen Aufsatz schreibt ChatGPT in Sekunden. Spontane Rückfragen beantwortet er nicht für das Kind.

4. KI als Fehlersuche unterrichten. Die Klasse lässt die KI eine Mathematikaufgabe lösen und sucht den Fehler. Die KI fasst einen Zeitungsartikel zusammen, die Schüler prüfen jede Aussage gegen das Original. So trainiert KI genau die Grundkompetenzen, die sie sonst ersetzt.

5. Die Lehre mitdenken. 42 Prozent der österreichischen Eltern mit klarer Präferenz wünschen sich zuerst eine Lehre für ihr Kind, nur 34 Prozent ein Studium. Dann gehört KI auch in die Berufsschule: der Elektriker-Lehrling, der ein Angebot mit KI vorbereitet und jede Position selbst nachrechnet.

Was wir selbst gelernt haben

Bei GoStudent setzen wir KI im Unterricht ein, für Zusammenfassungen und Übungsfragen nach jeder Stunde. Unsere Erfahrung: KI macht gute Lehrpersonen wirksamer, ersetzt sie aber nicht. Nur 1 Prozent der befragten Lehrkräfte glaubt, dass KI sie ersetzen könnte. Ich glaube das auch nicht.

Handy raus, Grundlagen rein, KI mit Anleitung. Dafür braucht es kein neues Fach und kein zusätzliches Budget, nur Entscheidungen der Direktionen und den Mut der Politik.

Methodik: Der GoStudent Bericht zur Zukunft der Bildung 2026 basiert auf einer Erhebung von Censuswide unter 3.001 Eltern und ihren Kindern (8 bis 16 Jahre) sowie 300 Lehrkräften in Österreich, Deutschland, Frankreich, Italien, Spanien und dem Vereinigten Königreich (Juni/Juli 2026). Der vollständige Bericht: gostudent.org/de-at/education-report/2026

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

KI-Regulierung: Warum wir eine Pflicht für maschinenlesbare Quellenangaben brauchen

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI-Regulierung: Warum wir eine Pflicht für maschinenlesbare Quellenangaben brauchen

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI-Regulierung: Warum wir eine Pflicht für maschinenlesbare Quellenangaben brauchen

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI-Regulierung: Warum wir eine Pflicht für maschinenlesbare Quellenangaben brauchen

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI-Regulierung: Warum wir eine Pflicht für maschinenlesbare Quellenangaben brauchen

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI-Regulierung: Warum wir eine Pflicht für maschinenlesbare Quellenangaben brauchen

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI-Regulierung: Warum wir eine Pflicht für maschinenlesbare Quellenangaben brauchen

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI-Regulierung: Warum wir eine Pflicht für maschinenlesbare Quellenangaben brauchen

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI-Regulierung: Warum wir eine Pflicht für maschinenlesbare Quellenangaben brauchen