Wie die Salzburg AG mit einer neuen Crowdinvesting-Plattform die Energiewende vorantreibt

23.06.2023

So funktioniert das KI-Zertifikat von TÜV Austria

Ein TÜV-Zertifikat soll die Zuverlässigkeit von KI-Anwendungen beweisen und abdecken, was im AI Act (noch) fehlt.

/artikel/so-funktioniert-das-ki-zertifikat-von-tuev-austria

✨ AI Kontextualisierung

Wie stellt man sicher, dass Künstliche Intelligenz das tut, was sie soll? Sei es im Auto, im Krankenhaus, in der eigenen Wohnung oder in der Fabrik – KI-Anwendungen, die aus sicherheits- oder finanzkritischen Gründen Verlässlichkeit nachweisen müssen, brauchen ein entsprechend stichfestes Gütesiegel. Dieser Aufgabe widmet sich der TÜV Austria seit 2021.

Unter dem Namen „Trusted AI“ hat man in Kooperation mit der Johannes Kepler Universität Linz (JKU) und dem Software Competence Center Hagenberg (SCCH) ein Machine-Learning-Zertifizierungsschema entwickelt. Dieses beurteilt KI-Anwendungen und im Gegensatz zu anderen Prüfungsinstituten nicht lediglich die Entwicklungsprozesse. Das Schema beschränkt sich aktuell auf Supervised-Learning-Modelle. Weitere sollen nach und nach folgen.

Die richtige Prüfung für das Zertifikat

Doch wie prüft man? „Es ist wichtig, dass man KI-Anwendungen so trainiert, dass sie zu einem statistischen Maß dort funktionieren, wo man möchte“, erklärt Bernhard Nessler, Research Manager für Deep Learning und Certification beim Software Competence Center Hagenberg, im Gespräch mit brutkasten. Seit vier Jahren ist er an der Konzipierung des Zertifizierungsprozesses beteiligt.

In einem Entwurf eines Positionspapier von Nessler, Sepp Hochreiter (JKU) und Thomas Doms, Sicherheits- und KI-Experte des TÜV Austria, betonen diese die Notwendigkeit der statistischen Prüfung. Man stelle sich ein neues Küchenmesser vor. Wie beim Machine Learning wird es trainiert: An reifen Wassermelonen, Äpfeln, grünem Brokkoli und anderem Gemüse. Ist das Training abgeschlossen, versucht man es zu nutzen. Zwar klappe es bei den genannten Objekten, bei anderen tauchen aber Probleme auf: Es schneidet bei Äpfel der Boskop-Sorte nicht durch, Gurken werden zerquetscht, auch die Anwendung bei unreifen Melonen oder außerhalb der Küche ist nicht einwandfrei möglich.

„Wenn ich die Anwendung trainiert habe, mit etwas zu funktionieren, dann ist sie dafür optimiert“, erklärt Nessler. Wichtig sei zu wissen, wie gut sie bei anderen Fällen arbeitet, die wir erwarten würden. Daher sei die Definition entscheidend für die Beurteilung der Funktionalität, die auch Risiken bzw. Aspekte wie Sicherheit und Fairness umfasst.

Anwendungsweck genau definieren

„Wir können nicht sagen: Das Messer ist zum Gemüse schneiden.“ Das wäre laut Nessler zu vage und daraus würden „schlechte und unzuverlässige Modelle“ werden, die unvorhersehbar sind. Besser wäre beispielsweise zu fragen, wie zuverlässig funktioniert das Messer, wenn ich in einer europäischen Haushaltsküche Gemüse schneide, das zur Zubereitung einer Mahlzeit vorgesehen und im Supermarkt erhältlich ist.

Alle möglichen Fälle wären unmöglich zu prüfen. Man müsse etwas definieren, wo einzelne Samples gezogen werden können. Also in diesem Fall zufällige Testobjekte in Haushaltsküchen in Europa. „Das macht man dann 10.000 Mal – dann kann ich eine Prozentzahl ermitteln und ein statistisches Maß definieren.“ Alle anderen Messmethoden seien eine „Illusion“. Bei Anwendungen wie einem KI-Bildgenerator sei das nicht so tragisch. „Jetzt stelle man sich statt dem Messer aber einen Küchenroboter vor, der den Nutzer:innen schaden kann“, sagt Nessler.

Abgesehen von der Funktionalität, müsse man Nessler nach auch die Definition selbst prüfen. Dabei beachtet man unter anderem auch den ethischen Aspekt. „Wenn eine Anwendung bis auf 2 Prozent bei allen Menschen in Europa funktioniert, aber jene 2 Prozent eine bestimmte Ethnie betreffen, dann haben wir ein Problem mit der Gleichbehandlung.“

Lücke im AI Act

Der AI Act ist das weltweit erste Gesetz für KI-Regulierung. Nessler sieht das Gesetzespaket kritisch: „Es fehlt die echte Prüfung der Funktion nach mathematischen Machine-Learning-Methoden, die seit 40 Jahren wohlbekannt sind.“ Den verantwortlichen EU-Beamt:innen mangle es an Verständnis. Zwar habe man Expert:innen zugezogen, allerdings sei es laut Nessler schon allein nicht einfach zu bestimmen, wer tatsächlich die entsprechende Expertise aufweist. Von jenen „absolut höchst gefragten“ Wissenschafter:innen gäbe es auch „ganz Wenige“.

Gut abgedeckt sei hingegen die Dokumentation und transparente Einsicht. Nessler befürchtet allerdings, dass dafür von kleineren Startups viel Arbeitszeit und Arbeitskraft gefordert wird, die wiederum beim Nachweis der funktionalen Vertrauenswürdigkeit fehlen könnte.

Langwierige Verbesserungen

Nach dem sich das EU-Parlament am 14. Juni über seine Verhandlungsposition entschieden hat, hat der Trilog unmittelbar begonnen. „Die Grundrichtung und die Grundprinzipien des AI Acts, nämlich der risikobasierte Ansatz, die Anknüpfung an eine KI-Definition und die Ausrichtung auf Elemente von vertrauenswürdige KI werden bleiben. Im Detail können und werden sich sehr wahrscheinlich noch Aspekte und Weichenstellungen im AI Act ändern“, erklärt Jeannette Gorzala, Rechtsanwältin und Vizepräsidentin des Europäischen KI-Forums.

Laut Gorzala wird erwartet, dass der AI Act Ende des Jahres beschlossen wird und etwa 2025 voll anwendbar ist. Danach dürfte es dauern bis etwaige Verbesserungen vorgenommen werden. „Die Effekte und die Umsetzung des AI Acts wird von den europäischen Gesetzgebern für einen Zeitraum von rund 5 Jahren beobachtet, damit wären wir ab Inkrafttreten schon bei 2030.“ Wie schnell Anpassungen hänge aber von den angedachten Änderungen ab. „Je umstrittener, desto länger wird der Prozess dauern“, sagt Gorzala.

Große Nachfrage, aber noch keine Zertifikate

Laut Nessler stehen für das TÜV-Austria-Zertifikat schon einige Klienten in der Pipeline. Von Startups oder Produktentwickler:innen, die vor der Gründung stehen bis hin zu größeren Unternehmen aus dem Medizin- und Automobilbereich sowie anderen größeren Industrien. Namen dürfe er noch nicht nennen.

Im TÜV-Austria-Prüfkatalog werden unterschiedliche Ebenen behandelt von der Datenquelle, Zuverlässigkeit bis hin zu ethischen Fragen. Pilotprojekte werden aktuell schon untersucht. Zertifikate wurden bis jetzt noch nicht erteilt. Laut Nessler seien auch viele Anwendungen noch nicht soweit, um ein Zertifikat zu erhalten.

Deine ungelesenen Artikel:

Dominik Perlaki

20.07.2026

Warum ins Valley schauen, wenn man nicht einmal über den Weißwurstäquator muss

Dass Österreich in Sachen Startups nicht an andere Ökosysteme herankommt, liegt am Mindset bzw. an der Kultur, heißt es gerne. Warum sind die Bayern dann so unbeschreiblich viel besser als wir?

/artikel/warum-ins-valley-schauen-wenn-man-nicht-einmal-ueber-den-weisswurstaequator-muss

Dominik Perlaki

20.07.2026

Warum ins Valley schauen, wenn man nicht einmal über den Weißwurstäquator muss

Dass Österreich in Sachen Startups nicht an andere Ökosysteme herankommt, liegt am Mindset bzw. an der Kultur, heißt es gerne. Warum sind die Bayern dann so unbeschreiblich viel besser als wir?

/artikel/warum-ins-valley-schauen-wenn-man-nicht-einmal-ueber-den-weisswurstaequator-muss

Die gute Nachricht für das österreichische Startup-Ökosystem: Im ersten Halbjahr 2026 gab es beim Finanzierungsvolumen ein ordentliches Plus im Vergleich zum Vorjahr, wie brutkasten berichtete. 472 Millionen Euro wurden laut EY-Barometer in heimische Startups und Scaleups investiert – nur die ersten Halbjahre 2021 und 2022 waren stärker. Bei der Anzahl der erfassten Finanzierungsrunden wurde sogar ein neuer Rekord erreicht.

Die dritte Liga

Nun die schlechte Nachricht: Im internationalen Vergleich sind das Peanuts. Ohne Zweifel sollte man die Finanzierungsrunden als individuelle Erfolge einzelner Startups nicht kleinreden. Als gesamtes Ökosystem spielt Österreich international aber bestenfalls in der dritten Liga.

In der ersten Liga bleiben US-Ökosysteme weiterhin unter sich – mit dem Silicon Valley als ewigem Champion. In den Vereinigten Staaten landeten laut Daten des Portals Crunchbase zuletzt wieder mehr als 80 Prozent des globalen Risikokapitals. Finanzierungsrunden für die KI-Riesen im zwei- bis sogar dreistelligen Milliardenbereich sind hier die Spitze des Eisbergs eines Systems, gegen das alle anderen alt aussehen.

In der zweiten Liga wird es spannender: Dort findet sich nicht nur der gewiss ernsthafteste USA-Herausforderer China, sondern auch große europäische Länder wie das traditionell starke Vereinigte Königreich, Deutschland und Frankreich, kleinere wie die Schweiz sowie Schweden und starke internationale Ökosysteme wie Israel, Singapur und Kanada.

Und irgendwo, nicht in der Spitzengruppe, sondern im Mittelfeld der dritten Liga kommt dann auch Österreich.

Warum eigentlich?

Warum? Mit dieser Frage beschäftigt sich das heimische Startup-Ökosystem in Dauerschleife. Denn wir sind ja ein reiches Land – das Kapital wäre eigentlich da. Wir sind ja ein kluges Land – viele unserer Forschungseinrichtungen sind im internationalen Vergleich hervorragend. Wir sind ja ein effizientes Land – Österreich zählt zur globalen Spitzengruppe bei der Arbeitsproduktivität.

Also woran liegt’s? Vielleicht am Mindset? An der Kultur? Wenn es um den Vergleich zum Silicon Valley geht, wird man hier definitiv fündig. Ein völlig anderes Level an Risikobereitschaft sei hier nur als herausstechender Unterschied genannt. Auch beim Match mit dem ähnlich bevölkerungsreichen, aber extrem Startup-starken Schweden kommt man mit dem Argument durchaus weiter. Die skandinavische Mentalität ist anderes und die tief verankerte Kapitalmarktkultur macht einen entscheidenden Unterschied.

Déjà-vu

Und dann ist da Bayern südlich des sogenannten „Weißwurstäquators“ – das Land der Lederhosen, der Bierzelte, des Leberkäses und der hübschen alpinen Landschaften, dessen Bewohner:innen diesen (aus Sicht des Rests von Deutschland) lustigen Dialekt sprechen. Das kommt einem doch bekannt vor.

Gut, man kann Ähnlichkeit natürlich nicht nur an solchen stereotypischen Faktoren festmachen. Aber es lässt sich schwer bestreiten, dass man bei einem Vergleich zwischen Österreich und Bayern mit den Argumenten „andere Kultur“ und „anders Mindset“ nicht weit kommt. Zudem sind die rechtlichen Rahmenbedingungen in Deutschland und Österreich bekanntermaßen sehr ähnlich und auch gesamtwirtschaftlich spielen Deutschlands südöstliches Bundesland und die Alpenrepublik in einer Liga – wiewohl Bayern hier die Nase etwa beim BIP pro Kopf etwas vorne hat.

Und doch: Österreich kam im ersten Halbjahr auf die besagten 472 Millionen Euro Gesamt-Investmentvolumen mit zwei Finanzierungsrunden zu je 100 Millionen Euro als größte Einzelinvestments. Währenddessen: Allein in der bayerischen Hauptstadt München gab es dieses Jahr mit Quantum Systems und Helsing bereits zwei Investments über mehr als eine Milliarde Euro, mit Proxima Fusion (411 Millionen Euro) noch ein weiteres, das schon alleine am österreichischen Gesamthalbjahresvolumen kratzt. Hinzu kommt mit Isar Aerospace (270 Millionen Euro) sogar eine Mega-Runde für ein Startup mit österreichischem Co-Founder und CEO.

Man findet freilich auch hier Gründe, warum der Vergleich nicht zulässig ist, wenn man danach sucht. Etwa dass die beiden Milliardenrunden an DefenseTech-Startups gingen – eine Hype-Branche, die im neutralen Österreich weniger Tradition hat und schwerer zu beackern ist. Aber damit sind gerade einmal die beiden auffälligsten Ausreißer erklärt.

Sucht man weiter, findet man gewiss noch einige Gründe mehr, die sich nicht von heute auf morgen ändern lassen, etwa die traditionell herausragende Stärke von Bayerns Industrie.

Genauer Blick an die Isar

Aber man kommt auch zu einigen Gründen, die mit gezielten politischen Maßnahmen zu erklären sind. Und mit starken universitären Initiativen, allen voran UnternehmerTUM an der TU München. Und ja, hier steht die reichste Frau Deutschlands, Susanne Klatten, als Mäzenin dahinter. Aber: Das Geld wurde richtig gut genutzt. Geld gäbe es schließlich auch hierzulande prinzipiell genug.

Ein genauer Blick an die Isar ist also nicht nur für die heimische Politik lohnend. Mit Offenheit statt Ausreden. Dann könnte es doch auch mit dem Aufstieg aus der dritten in die zweite Liga der Startup-Ökosysteme klappen. Das muss das Ziel sein. Denn wenn Leute mit Lederhosen, Bierzelten, Leberkäse, hübschen alpinen Landschaften und lustigem Dialekt das können, dann können wir das eben.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag