Dass für Unternehmen kein Weg mehr an Agentic AI vorbeiführt, ist mittlerweile ein Gemeinplatz. Dass eine sichere und konforme Umsetzung davon nicht so einfach ist, ebenfalls. „Für KI im Unternehmenskontext gelten andere Spielregeln als im privaten Bereich. Ich spreche hier besonders von souveräner KI“, sagt Marco Porak, Generaldirektor von IBM Österreich, bei einem gemeinsamen Pressetermin mit A1 und dessen Cloud-Tochter Exoscale. Mit einer gemeinsamen Plattform, die IBM watsonx auf A1 Exoscale bringt, will man Unternehmenskunden gemeinsam eine sichere und digital souveräne Lösung bieten.

„Wir sind Teil der kritischen Infrastruktur“

Denn Schatten-KI, also die Nutzung privater bzw. vom Unternehmen nicht genehmigter KI-Anwendungen durch Mitarbeiter:innen, sei ein echtes Sicherheitsrisiko, betont Martin Resel, stv. Vorstandsvorsitzender von A1 und CCO Enterprise. „Unternehmen können es sich nicht leisten, KI nicht zu nutzen. Da geht es um Wettbewerbsfähigkeit. Alles muss effizienter werden, etwa auch in der Verwaltung. Wenn man dann aber Daten global findet, die eigentlich nicht global gespeichert werden sollten, ist das ein Problem“, sagt Resel.

Für viele A1-Unternehmenskunden und auch für A1 selbst sei das besonders relevant. „Wir sind Teil der kritischen Infrastruktur. Viele hochsensible Daten laufen auf unseren Netzen. Wir haben nicht nur Unternehmen aller Größen als Kunden, sondern zum Beispiel auch Ministerien“, sagt der A1-CCO. Gerade in der aktuellen geopolitischen Situation müssten sich Österreich und ganz Europa daher souverän aufstellen.

Orchestrierte KI-Agenten mit klaren Regeln und voller Transparenz

Und wie macht das die gemeinsame Plattform? „Ich bin mir bewusst, dass ich Repräsentant eines amerikanischen Unternehmens bin“, räumt Marco Porak ein. IBM habe aber nach nicht weniger als 98 Jahren am österreichischen Markt ein anderes Standing, als etwa die US-Hyperscaler. Warum? „IBM hat seit jeher das Prinzip, dass Kundendaten Kundendaten sind und die Architektur vom Kunden bestimmt wird“, so Porak. Und: „Globale Innovation und lokale Kontrolle widersprechen einander nicht.“ Genau so sei es auch bei watsonx. Kunden können dort entscheiden, welche KI-Modelle genutzt werden und wo die Daten liegen. Die Bandbreite geht dabei von lokal gehosteten On-Premise-Lösungen über europäische bzw. Open-Source-Modelle auf europäischen Servern bis zu Frontier-Modellen in Datencentern der US-Hyperscaler.

Konkret greift das System auf eine Vielzahl an Large Language Models (LLMs) und Agentic-Modelle zurück und orchestriert KI-Agenten, um Tasks zu erfüllen. Die dazugehörige Governance-Plattform ermöglicht nicht nur das Festlegen der Regeln dafür, sondern bietet auch jederzeit komplette Transparenz, um jeden Arbeitsschritt und die dafür genutzten Modelle nachvollziehen zu können. Für Martin Resel ist dabei ebenfalls klar: „Dass alles, was aus Asien oder Amerika kommt böse ist, sehen wir nicht so. Wichtig ist die Wahlfreiheit.“ Die Plattform sei daher offen für sämtliche Modelle.

„Wir folgen einer sehr strikten Datenklassifizierung – selber und auch für unsere Kunden“

Je nach Usecase und dem damit verbundenen Sicherheits-Level der Daten seien unterschiedliche LLMs und Speicherorte sinnvoll. „Wir folgen einer sehr strikten Datenklassifizierung – selber und auch für unsere Kunden“, sagt Resel. Nach dieser erfolge die Entscheidung, welche Modelle genutzt werden können. Gleichzeitig optimiere die Plattform durch die passende Modell-Auswahl auch den Token-Verbrauch. „Das kann sonst bekanntlich schnell teuer werden“, sagt der A1-CCO.

A1 bietet seinen Enterprise-Kunden nicht nur Zugang zur Plattform, sondern auch begleitende Services, um diese aufzusetzen. Mit den europäischen Datencentern der Tochter Exoscale kommt noch das Angebot der souveränen Cloud im eigenen Land hinzu.

Wie watsonx für A1 und seine Kunden konkret funktioniert, zeigt Exoscale-KI-Experte Christos Kapodistrias beim Pressetermin vor. In seinem Beispiel arbeiteten nicht weniger als 14 KI-Agenten orchestriert zusammen, um eine optimale Vorbereitung auf ein Kundengespräch zu erstellen. „Diesen Usecase nutzen wir auch selber“, erklärt der Experte und zeigt die verschiedenen Sicherheits- und Kontrollmechanismen ebenso wie die Nachvollziehbarkeit über die Governance-Plattform. Marco Porak merkt dazu an: „Man sieht, es gibt mehrere Checkpoints im Prozess, der ‚Human in the Loop‘ bleibt erhalten.“ Denn es gehe eben darum, Menschen bei ihrer Arbeit zu unterstützen.