Wie die Salzburg AG mit einer neuen Crowdinvesting-Plattform die Energiewende vorantreibt

23.06.2023

So funktioniert das KI-Zertifikat von TÜV Austria

Ein TÜV-Zertifikat soll die Zuverlässigkeit von KI-Anwendungen beweisen und abdecken, was im AI Act (noch) fehlt.

/artikel/so-funktioniert-das-ki-zertifikat-von-tuev-austria

✨ AI Kontextualisierung

Wie stellt man sicher, dass Künstliche Intelligenz das tut, was sie soll? Sei es im Auto, im Krankenhaus, in der eigenen Wohnung oder in der Fabrik – KI-Anwendungen, die aus sicherheits- oder finanzkritischen Gründen Verlässlichkeit nachweisen müssen, brauchen ein entsprechend stichfestes Gütesiegel. Dieser Aufgabe widmet sich der TÜV Austria seit 2021.

Unter dem Namen „Trusted AI“ hat man in Kooperation mit der Johannes Kepler Universität Linz (JKU) und dem Software Competence Center Hagenberg (SCCH) ein Machine-Learning-Zertifizierungsschema entwickelt. Dieses beurteilt KI-Anwendungen und im Gegensatz zu anderen Prüfungsinstituten nicht lediglich die Entwicklungsprozesse. Das Schema beschränkt sich aktuell auf Supervised-Learning-Modelle. Weitere sollen nach und nach folgen.

Die richtige Prüfung für das Zertifikat

Doch wie prüft man? „Es ist wichtig, dass man KI-Anwendungen so trainiert, dass sie zu einem statistischen Maß dort funktionieren, wo man möchte“, erklärt Bernhard Nessler, Research Manager für Deep Learning und Certification beim Software Competence Center Hagenberg, im Gespräch mit brutkasten. Seit vier Jahren ist er an der Konzipierung des Zertifizierungsprozesses beteiligt.

In einem Entwurf eines Positionspapier von Nessler, Sepp Hochreiter (JKU) und Thomas Doms, Sicherheits- und KI-Experte des TÜV Austria, betonen diese die Notwendigkeit der statistischen Prüfung. Man stelle sich ein neues Küchenmesser vor. Wie beim Machine Learning wird es trainiert: An reifen Wassermelonen, Äpfeln, grünem Brokkoli und anderem Gemüse. Ist das Training abgeschlossen, versucht man es zu nutzen. Zwar klappe es bei den genannten Objekten, bei anderen tauchen aber Probleme auf: Es schneidet bei Äpfel der Boskop-Sorte nicht durch, Gurken werden zerquetscht, auch die Anwendung bei unreifen Melonen oder außerhalb der Küche ist nicht einwandfrei möglich.

„Wenn ich die Anwendung trainiert habe, mit etwas zu funktionieren, dann ist sie dafür optimiert“, erklärt Nessler. Wichtig sei zu wissen, wie gut sie bei anderen Fällen arbeitet, die wir erwarten würden. Daher sei die Definition entscheidend für die Beurteilung der Funktionalität, die auch Risiken bzw. Aspekte wie Sicherheit und Fairness umfasst.

Anwendungsweck genau definieren

„Wir können nicht sagen: Das Messer ist zum Gemüse schneiden.“ Das wäre laut Nessler zu vage und daraus würden „schlechte und unzuverlässige Modelle“ werden, die unvorhersehbar sind. Besser wäre beispielsweise zu fragen, wie zuverlässig funktioniert das Messer, wenn ich in einer europäischen Haushaltsküche Gemüse schneide, das zur Zubereitung einer Mahlzeit vorgesehen und im Supermarkt erhältlich ist.

Alle möglichen Fälle wären unmöglich zu prüfen. Man müsse etwas definieren, wo einzelne Samples gezogen werden können. Also in diesem Fall zufällige Testobjekte in Haushaltsküchen in Europa. „Das macht man dann 10.000 Mal – dann kann ich eine Prozentzahl ermitteln und ein statistisches Maß definieren.“ Alle anderen Messmethoden seien eine „Illusion“. Bei Anwendungen wie einem KI-Bildgenerator sei das nicht so tragisch. „Jetzt stelle man sich statt dem Messer aber einen Küchenroboter vor, der den Nutzer:innen schaden kann“, sagt Nessler.

Abgesehen von der Funktionalität, müsse man Nessler nach auch die Definition selbst prüfen. Dabei beachtet man unter anderem auch den ethischen Aspekt. „Wenn eine Anwendung bis auf 2 Prozent bei allen Menschen in Europa funktioniert, aber jene 2 Prozent eine bestimmte Ethnie betreffen, dann haben wir ein Problem mit der Gleichbehandlung.“

Lücke im AI Act

Der AI Act ist das weltweit erste Gesetz für KI-Regulierung. Nessler sieht das Gesetzespaket kritisch: „Es fehlt die echte Prüfung der Funktion nach mathematischen Machine-Learning-Methoden, die seit 40 Jahren wohlbekannt sind.“ Den verantwortlichen EU-Beamt:innen mangle es an Verständnis. Zwar habe man Expert:innen zugezogen, allerdings sei es laut Nessler schon allein nicht einfach zu bestimmen, wer tatsächlich die entsprechende Expertise aufweist. Von jenen „absolut höchst gefragten“ Wissenschafter:innen gäbe es auch „ganz Wenige“.

Gut abgedeckt sei hingegen die Dokumentation und transparente Einsicht. Nessler befürchtet allerdings, dass dafür von kleineren Startups viel Arbeitszeit und Arbeitskraft gefordert wird, die wiederum beim Nachweis der funktionalen Vertrauenswürdigkeit fehlen könnte.

Langwierige Verbesserungen

Nach dem sich das EU-Parlament am 14. Juni über seine Verhandlungsposition entschieden hat, hat der Trilog unmittelbar begonnen. „Die Grundrichtung und die Grundprinzipien des AI Acts, nämlich der risikobasierte Ansatz, die Anknüpfung an eine KI-Definition und die Ausrichtung auf Elemente von vertrauenswürdige KI werden bleiben. Im Detail können und werden sich sehr wahrscheinlich noch Aspekte und Weichenstellungen im AI Act ändern“, erklärt Jeannette Gorzala, Rechtsanwältin und Vizepräsidentin des Europäischen KI-Forums.

Laut Gorzala wird erwartet, dass der AI Act Ende des Jahres beschlossen wird und etwa 2025 voll anwendbar ist. Danach dürfte es dauern bis etwaige Verbesserungen vorgenommen werden. „Die Effekte und die Umsetzung des AI Acts wird von den europäischen Gesetzgebern für einen Zeitraum von rund 5 Jahren beobachtet, damit wären wir ab Inkrafttreten schon bei 2030.“ Wie schnell Anpassungen hänge aber von den angedachten Änderungen ab. „Je umstrittener, desto länger wird der Prozess dauern“, sagt Gorzala.

Große Nachfrage, aber noch keine Zertifikate

Laut Nessler stehen für das TÜV-Austria-Zertifikat schon einige Klienten in der Pipeline. Von Startups oder Produktentwickler:innen, die vor der Gründung stehen bis hin zu größeren Unternehmen aus dem Medizin- und Automobilbereich sowie anderen größeren Industrien. Namen dürfe er noch nicht nennen.

Im TÜV-Austria-Prüfkatalog werden unterschiedliche Ebenen behandelt von der Datenquelle, Zuverlässigkeit bis hin zu ethischen Fragen. Pilotprojekte werden aktuell schon untersucht. Zertifikate wurden bis jetzt noch nicht erteilt. Laut Nessler seien auch viele Anwendungen noch nicht soweit, um ein Zertifikat zu erhalten.

Deine ungelesenen Artikel:

Martin Pacher

vor 7 Stunden

Zyglox: Grazer Startup holt Sensortechnik aus dem All auf die Schiene

Das Grazer Startup Zyglox misst Belastungen an Radsätzen von Zügen berührungslos mit Sensorik aus der Raumfahrt. Gefördert wird es von der Austria Wirtschaftsservice (aws). Wir haben mit Gründer Jakob Moder gesprochen.

/artikel/zyglox-grazer-startup-holt-sensortechnik-aus-dem-all-auf-die-schiene

Martin Pacher

vor 7 Stunden

Zyglox: Grazer Startup holt Sensortechnik aus dem All auf die Schiene

/artikel/zyglox-grazer-startup-holt-sensortechnik-aus-dem-all-auf-die-schiene

Rund die Hälfte der Lifecycle-Kosten eines Zuges entfällt auf die Wartung, und davon wiederum mehr als die Hälfte auf Räder, Achsen und Fahrwerk, sagt Jakob Moder. Wie stark diese Bauteile im Betrieb tatsächlich belastet werden, wird bisher aber kaum gemessen. Der Grund ist simpel: Es fehlt an präziser Messtechnik, die im Dauerbetrieb einsetzbar ist. Das Grazer Startup Zyglox will das ändern.

„Die Eisenbahn ist nicht ins 21. Jahrhundert gekommen“

Der Name ist ein Wortspiel: Zyglox, gesprochen „Zügloks“, steht für Messtechnik für Züge und Loks. Dahinter stehen Jakob Moder und Erik Gerstl, die zuvor gemeinsam in der Messtechnik gearbeitet haben. Moder wechselte später in den Eisenbahnbereich und erlebte die Lücke dort aus der Praxis. Was es brauche, sei eine Lösung, „die das einerseits zuverlässig erkennt und gleichzeitig gut applizierbar ist“. Sein Urteil: „Bei der Usability ist die Eisenbahn nicht ins 21. Jahrhundert gekommen.“ Ende 2023 gründeten die beiden Techniker Zyglox in Graz.

Die bisherige Methode mit Dehnmessstreifen sei „einfach zu teuer“, erklärt Moder. Der Zug müsse dafür ein bis zwei Wochen zerlegt und instrumentiert werden, deshalb passiere das nur bei der Zulassung. „Das dauert ein Jahr, diese Technik reinzubringen, die Zulassung durchzuführen, und dann wird es wieder rausgenommen.“ Im laufenden Betrieb bleiben nur Beschleunigungssensoren, wie sie auch in jedem Smartphone stecken. „Das ist von der Datenqualität her ganz was anderes. Unser Sensor ist wie 4K, der Beschleunigungssensor liefert ein verpixeltes Foto von den Zuständen.“

Ein Sensor für Zulassung und Dauerbetrieb

Die Lösung von Zyglox lässt sich ohne größere Änderungen am Bauteil anbringen. „Wir haben eine Plug-and-Play-Lösung, die kann man einfach aufstecken“, sagt Moder. Ein Techniker braucht dafür laut Zyglox 30 Minuten. Der Sensor messe Dehnungen an Achsen, Wellen oder Schienen und liefere „gleiche oder bessere Daten als die Lösungen bisher“. Das Ziel ist ein Universalwerkzeug: genau genug für die Zulassung, aber so ausgelegt, dass es danach auf dem Fahrzeug bleibt und die Kräfte im Rad-Schiene-Kontakt dauerhaft erfasst. „Da gibt es ein großes Anwendungsfeld, denn damit wird auch die Infrastruktur überwacht“, so Moder.

Jeden Tag werden auf der Schiene hunderttausende Kilometer zurückgelegt. Zyglox will jeden davon nutzbar machen, um zu lernen, zu verbessern und vorherzusagen. Mit herkömmlichen Methoden war das Erfassen dieser Daten bisher zu teuer, zu langsam und zu aufwendig. © Zyglox

Physik aus dem Trafo, Sensoren aus dem Weltraum

Technisch nutzt Zyglox hochsensitive Magnetfeldsensoren aus der Raumfahrt, das Startup ist Teil eines Downstream-Programms der ESA. Das Prinzip erklärt Moder am Transformator: Der brummt, weil das Magnetfeld des Wechselstroms den Stahl minimal dehnt. „Und wir machen das Umgekehrte: Wenn sich der Stahl dehnt, ändert sich sein Magnetfeld in der Umgebung.“ Ein aktives Messverfahren berücksichtigt dabei den linearen Zusammenhang zwischen Belastung und Sensorsignal. Die Technologie ist patentiert, entwickelt und montiert wird in Graz.

Betreiber als Kunden, Wartung als Hebel

Als primäre Kunden sieht Zyglox die Bahnbetreiber, bei denen die Wartungskosten anfallen. Dazu kommt die Sicherheit: „Es gibt viele Vorfälle, die vielleicht nicht zu einem Unfall führen, wo man aber trotzdem sicherer und zuverlässiger unterwegs wäre, wenn man gutes Condition Monitoring hat.“

Ein kleines Pilotprojekt ist bereits abgeschlossen. Für 2027 ist der Einbau des Systems in Fahrzeuge im regulären Streckenbetrieb geplant, zunächst als Prototyp für einige Wochen Messung. Danach folgt die Zulassung. Ende 2027 soll daraus ein fertiges Produkt werden, erst dann könne die Skalierung beginnen, sagt Moder. An Interesse mangelt es nicht: „Wir können gar nicht alle Pilotprojekte machen“, weil Sensorentwicklung samt Software personalintensiv sei. Ende September zeigt das Team den Prototyp auf der InnoTrans in Berlin, der größten Messe für Schienenfahrzeuge.

Mit aws Preseed und aws Seed vom Effekt zum Produkt

Finanziert hat sich Zyglox bisher aus eigenen Mitteln und über die Austria Wirtschaftsservice (aws). Mit aws Preseed, konkret im Programm „aws Preseed | Seedfinacing – Deep Tech“, hat das Startup die ersten eineinhalb Jahre an der Sensortechnologie getüftelt. „Es hat uns die Möglichkeit gegeben, eine Idee, die bereits validiert war, einfach zu erproben. Einfach Zeit zu haben, weil Hardware dauert ein bisschen, etwa Prototypen zu iterieren“, sagt Moder. Es sei vor allem darum gegangen, „sicherzustellen, dass das dann ein Produkt werden kann“. Seit Mitte 2025 ist Zyglox im Seed-Programm der aws, das voraussichtlich bis Anfang 2028 läuft. Das Team ist inzwischen auf rund sieben Personen gewachsen. Für die Skalierungsphase im kommenden Jahr will sich das Startup nach Investoren umsehen: „Wenn eine Bestellung eintritt oder größer wird, werden wir das mit den aktuellen Mitteln wahrscheinlich nicht mehr stemmen können.“

Standortvorteil Graz

Den Standort Graz sieht Moder als klaren Vorteil: Siemens fertigt hier Fahrwerke, dazu kommen Messdienstleister, Prüfstandbauer und Nextsense. Zyglox sitzt direkt am Campus der TU Graz, mit Zugang zu Prüfständen der Universität und Maschinen der voestalpine. „Die gesamte Infrastruktur ist einzigartig“, sagt Moder. „Im Silicon Valley könnten wir das Produkt wahrscheinlich nicht entwickeln, in Österreich geht es besser. Das ist eigentlich ein bisschen verrückt, aber wir haben hier die optimalen Bedingungen.“

Disclaimer: Dieser Artikel ist im Rahmen einer Medienkooperation mit der Austria Wirtschaftsservice (aws) entstanden.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag