21.07.2023

KI-Regulierung: Zu diesen Maßnahmen wollen sich führende US-Firmen verpflichten

Vertreter führender US-Unternehmen im Bereich künstliche Intelligenz (KI) haben sich am Freitag mit US-Präsident Joe Biden getroffen - und Vorschläge zu einer freiwilligen Selbstregulierung gemacht.
/artikel/us-ki-regulierung-selbstverpflichtung
Logo von OpenAI
Foto: Adobe Stock

Die rasanten Entwicklungen bei künstlicher Intelligenz (KI) machen es für die Politik nicht immer einfach, Schritt zu halten. Dass es KI-Regulierung braucht, ist unbestritten. In der EU arbeitet man daher schon länger am sogennanten AI Act, der aktuell noch zwischen EU-Rat, Parlament und Kommission verhandelt wird – und bis zu dessen Inkrafttreten nach Einschätzung von Beobachter:innen wohl noch zwei bis drei Jahre vergehen könnten.

In den USA ist die Situation anders: Ein Beschluss eines umfassenden gesetzlichen Rechtsrahmens zeichnet sich vorerst noch nicht ab. US-Präsident Joe Biden hat das Thema KI-Regulierung jedoch auf der Agenda. So soll das Weiße Haus aktuell an einer Executive Order zum Einsatz von KI arbeiten, wie ein Vertreter diese Woche gegenüber US-Medien bestätigte.

US-KI-Unternehmen zu Besuch im Weißen Haus

Am Freitag lud Biden jedenfalls führende KI-Unternehmen aus den USA in Weiße Haus ein. Neben den Tech-Riesen Google, Microsoft, Meta und Amazon sind auch das ChatGPT-Unternehmen OpenAI, dessen Konkurrenten Anthropic und das von LinkedIn-Co-Founder Reid Hoffman gegründete KI-Startup Inflection mit dabei.

Und die Unternehmen brachten auch gleich eine Liste an Maßnahmen mit, zu denen sie sich freiwillig selbst verpflichten wollen. Rechtlich bindend ist die Liste nicht. Auch sind keine Strafen bei Verstößen oder überhaupt ein Mechanismus der Durchsetzung der Maßnahmen vorgesehen.

Wasserzeichen für KI-Inhalte geplant

Inhaltlich drehen sich die Punkte auf der Liste im weitesten Sinn um Sicherheitsaspekte: So verpflichten sich die Unternehmen etwa dazu, KI-Systeme vor Veröffentlichung intern und extern testen zu lassen. Weiters wollen die Firmen Informationen zu KI-Risiken mit Regierungssstellen, Wissenschaftlern und der Zivilgesellschaft austauschen.

Außerdem sollen KI-Inhalte mit einem „robusten Wasserzeichen“ oder einer anderen Form von zuverlässiger Kennzeichnung versehen werden. Forschung in den Bereichen KI-Bias und Datenschutzprobleme soll der Liste zufolge „priorisiert“ werden. Andere Punkte bleiben noch vager, so wollen sich die Unternehmen etwa dazu verpflichten, KI zu nutzen, um „zur Bewältigung der größten Herausforderungen der Gesellschaft beizutragen“ – etwa dem Klimawandel oder Krebsprävention.

Kritiker: „Geht nicht weit genug“

Wenig überraschend haben sich auch schon erste Kritiker zu den Vorschlägen geäußert: „Ich denke, es ist ein großartiger erster Schritt, aber er geht nicht weit genug“, wird etwa Gary Marcus, ein bekannter Kritiker aktueller KI-Entwicklungen, von NBC zitiert. „Erstens, weil es freiwillig ist. Zweitens ist eines der wichtigsten Dinge, die wir hier brauchen, welche Daten verwendet werden, um die Modelle zu trainieren, und das ist kein Teil davon“. Bis es keine Transparenz hinsichtlich der Daten gebe, könne die Sache nicht als erledigt betrachtet werden.

Der frühere Psychologie-Professor Marcus hatte im März zu den Unterzeichnern eines offenen Briefs gehört, in dem ein KI-Entwicklungsstopp für sechs Monate gefordert worden war. Der Aufruf war unter anderem auch von Apple-Mitgründer Steve Wozniak und Tesla-CEO Elon Musk unterschrieben worden.

Droht der Digitalwirtschaft eine Regulierungsbremse? Staatssekretär Florian Tursky und Accenture-Österreich-CEO Michael Zettel im Talk:

Deine ungelesenen Artikel:
08.10.2026

KI als Nachhilfe: Wie mathion.ai Lernen verändern will

Mathion.ai erstelle nicht einfach nur Lösungen für Mathematikaufgaben, sondern begleite die Schüler durch gezieltes Fragen auf dem Weg dorthin. In Zukunft soll die KI auch im B2B-Bereich angeboten werden.
/artikel/ki-als-nachhilfelehrer-wie-mathion-ai-lernen-veraendern-will
08.10.2026

KI als Nachhilfe: Wie mathion.ai Lernen verändern will

Mathion.ai erstelle nicht einfach nur Lösungen für Mathematikaufgaben, sondern begleite die Schüler durch gezieltes Fragen auf dem Weg dorthin. In Zukunft soll die KI auch im B2B-Bereich angeboten werden.
/artikel/ki-als-nachhilfelehrer-wie-mathion-ai-lernen-veraendern-will
Die beiden Geschäftsführer von mathion.ai Christoph Blizenetz und Alexander Buchinger | © mathion.ai

„Nächste Stunde ist Mathestunde“, ist vermutlich einer der gefürchtesten Sätze vieler Schüler:innen. Die Aufgaben sind oft schwierig und zermürbend. Da bietet es sich im Zeitalter von KI an, einen kurzen Prompt zu schreiben und Sekunden später wird die Lösung geliefert. Der Lerneffekt hält sich dabei bei vielen Schüler:innen in Grenzen. Hier setzt mathion.ai an.

Die KI von Founder Christoph Blizenetz liefert nicht fertige Lösungen, sondern chattet mit den User:innen und bringt sie so zum Ergebnis. Nach einem Pilotprojekt feierte die KI ihren Launch im vergangenen August. Sie ist in der Schweiz, Deutschland und Österreich erhältlich.

Harvard: „KI-gestütztes Tutoring übertrifft aktives Lernen im Unterricht“

Unterstützung erhalten KI-Tutoren wie jene von Blizenetz von der US-amerikanischen Harvard Universität. Im Juni 2025 veröffentlichte sie eine Studie, laut der KI-gestütztes Tutoring aktives Lernen im Unterricht übertreffe. Studierende, die mit einem KI-Tutor arbeiteten, lernten „deutlich mehr in kürzerer Zeit“ als in einer Präsenzveranstaltung. Außerdem würden sich Schüler:innen stärker eingebunden und motivierter fühlen. Harvard betont die Wirksamkeit „einer breit zugänglichen KI-gestützten Pädagogik zur signifikanten Verbesserung der Lernergebnisse“ und erklärt, dass die Ergebnisse überzeugend für die breite Anwendung einer KI-gestützten Pädagogik sprechen.

ChatGPT bringt dir Fertigkeiten bei, „die einfach nicht stimmen“

Für Blizenetz kann nicht einfach eine beliebige KI zum Lernen verwendet werden. Als ehemaliger Nachhilfelehrer kennt er die Probleme, die auftreten können. „Eine Schülerin hat mittels ChatGPT, das war damals noch etwas Neueres, gelernt und sich dabei Fertigkeiten und Begrifflichkeiten angeeignet, die einfach nicht stimmen“, sagt der 21-Jährige und ergänzt: „Nicht, weil das Opus der Mathematik aus der KI bzw. der LLM falsch ist. Es ist einfach nicht so lehrplanbezogen, wie es nun einmal das Schulbuch aber auch eine Lehrkraft ist.“

Daher begann Blizenetz mit der Entwicklung von mathion.ai, das sich aktuell auf die fünfte bis zur achten Schulstufe fokussiere. Es sei aber ein Ausbau bis hin zu Matura geplant.

Das Programm baut auf einem sogenannten „sokratischen“ System auf. Es stellt User:innen immer wieder Fragen, bis jene die Lösung selbst erarbeitet haben. Mathion.ai möchte dadurch zum Nachdenken anregen.

Dabei kann mit der KI geschrieben als auch gesprochen werden. „Wir haben gemerkt, dass junge Menschen einfach lesefaul sind. Sie können oft einfach nicht mehr wirklich sachlich lesen und Informationen über Texte sauber aufnehmen“, erklärt der mathion.ai-Gründer. Der Text wird dabei nicht einfach vorgelesen, sondern erklärt, „wie es ein Mensch tun würde“.

Mathion.ai liefere nicht einfach nur Ergebnisse, es erarbeite die Lösungen mit den Schüler:innen gemeinsam. | © mathion.ai

Standardisierter Lehrplan

Mathion.ai arbeite dabei nicht nur mit willkürlichen Inhalten, sondern mit einem standardisierten Lehrplan durch seinen Verlagspartner Lemberger, dessen Schulbuch „Genial! Mathematik“ von der fünften bis zur achten Schulstufe in mathion.ai eingefügt wurde. User:innen können Aufgaben aus diesen Büchern auswählen.

Lehrer:innen haben auf der anderen Seite die Möglichkeit über ein Verwaltungsportal ihren Schützlingen Inhalte zuzuweisen. „Da haben wir tausende Übungsaufgaben, die auch kapitelweise in Blöcke gezielt nach Themenbereichen zugewiesen werden können, zu den Schüler:innen und zu den Gruppen“, sagt Blizenetz. Zusätzlich können Lehrkräfte im Verwaltungsportal die Lernstände ihrer Schüler:innen einsehen und auch Inhalte erstellen: „Wir haben da einen eigenen Editor, wo, wie in einer PowerPoint, Textelemente, Dateien, interaktive Aufgaben gebaut und erstellt werden können.“ Der virtuelle Coach Tom führt anschließend durch den Kurs. Zusätzlich können von Lehrer:innen Aufgaben erstellt und zugewiesen werden.

Pädagog:innen durch KI zu ersetzen „ist auch gar nicht unser Ziel“

Wenn die KI bereits eigene Kurse halten kann, drängt sich naturgemäß die Frage auf, ob Lehrkräfte nicht ersetzbar sind. „Weder Lehrpersonen noch Pädagogen wird man durch KI in irgendeiner Art und Weise wirklich ersetzen können, das ist auch gar nicht unser Ziel“, stellt der TU-Student fest. Auch herkömmliche Nachhilfe sieht Blizenetz als sinnvoll an. Für ihn ist mathion.ai eine „Ergänzung“.

Es gebe auch die Möglichkeit für Nachhilifeinstitute, Inhalte einspielen zu können. „Als Schüler bzw. Schülerin habe ich den Unterricht mit der Lehrperson in der Klasse und im Nachhinein kann ich dann die Inhalte, gezielt mit den Aufgaben und dem Input der Lehrperson, weiter üben“, sagt Blizenetz.

Von B2C zu B2B

Mathion.ai kommt ursprünglich aus dem sogenannten Nachmittagsmarkt, in dem Eltern für ihre Kinder ein Abo abschließen. Allerdings möchte sich das Unternehmen nun im B2B-Bereich etablieren.

„Es ist einfach sehr schwierig, vor allem als österreichisches Unternehmen, in diesem B2C-SaaS-Bereich (Anm.: Software-as-a-Service-Bereich) wirklich standhaft zu werden“, erklärt Blizenetz. In Zukunft will sich mathion.ai auf Bildungsinstitute bzw. Bildungseinrichtungen fokussieren. Daher möchte der Gründer sein Unternehmen als zertifizierter Anbieter des Bildungsministeriums auf dem Markt etablieren. Das sei aber ein langer Weg. Mathion.ai befinde sich aktuell am Anfang des Genehmigungsverfahrens, ab September 2027 wolle man die Zertifizierung haben.

100 % eigenfinanziert

Das Unternehmen, offiziell bereits im Juli 2025 gegründet, kommt bisher ohne Investoren-Kapital aus und ist von Anfang an gebootstrappt. Blizenetz hat mathion.ai in Zusammenarbeit mit Weitsprung Solutions aufgebaut, das einen KI-gestützten Lerncoach anbietet. Bisher hat das Unternehmen noch keine Förderungen erhalten, allerdings laufe ein Förderantrag bei Netidee und ein FFG-Antrag für ein Forschungsprojekt werde aktuell erstellt.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

KI-Regulierung: Zu diesen Maßnahmen wollen sich führende US-Firmen verpflichten

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI-Regulierung: Zu diesen Maßnahmen wollen sich führende US-Firmen verpflichten

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI-Regulierung: Zu diesen Maßnahmen wollen sich führende US-Firmen verpflichten

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI-Regulierung: Zu diesen Maßnahmen wollen sich führende US-Firmen verpflichten

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI-Regulierung: Zu diesen Maßnahmen wollen sich führende US-Firmen verpflichten

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI-Regulierung: Zu diesen Maßnahmen wollen sich führende US-Firmen verpflichten

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI-Regulierung: Zu diesen Maßnahmen wollen sich führende US-Firmen verpflichten

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI-Regulierung: Zu diesen Maßnahmen wollen sich führende US-Firmen verpflichten

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

KI-Regulierung: Zu diesen Maßnahmen wollen sich führende US-Firmen verpflichten