16.05.2018

„We want to be a scaling platform for startups“

Interview. Hannes Cizek, Head of Group Digital Banking at Raiffeisen Bank International (RBI), explains what he wants to achieve on the new Austrian Fintech Advisory Council, how RBI handles PSD2 regulation, and what he expects from the second round of the Elevator Lab.
/artikel/rbi-head-of-group-digital-banking-we-want-to-be-a-scaling-platform-for-startups
Hannes Cizek about the Elevator Lab and PSD2
(c) Haris Dervisevic / Der Brutkasten: Hannes Cizek
sponsored

Raiffeisen Bank International (RBI) is pursuing several strategies in corporate innovation of which two programs stand out: the „Elevator Lab“, an accelerator program currently running the application phase for its second round, which highlights innovations from startups and the Intrapreneurship Program „Innovation Garden“, which works with the innovative ideas of the roughly 50,000 employees of the RBI Group. Both programs strongly rely on the involvement of the relevant departments and the cooperation between the network banks in the entire CEE region. Hannes Cizek, RBI Head of Group Digital Banking, bears the main responsibility for the programs. In an interview, he talks about his work in the Austrian Fintech Advisory Council, about the challenges posed by the PSD2 regulation and, of course, about the Elevator Lab and Innovation Garden.

⇒ Zur deutschsprachigen Version des Interviews


You are one of the representatives in the new Austrian Fintech Advisory Council, initiated by the Ministry of Finance. What does a major bank like the RBI want to achieve there?

The aim of the Fintech Advisory Council is to network lawmakers with industry players. It is about increasing exchange and tackling concrete issues. The German Fintech Advisory Council, which has been around for two years and works very well, serves as a model. Key drivers were certainly RBI’s position in the Austrian and Central and Eastern European (CEE) markets as well as our strong activity in the field of corporate startup engagement, which was decisive.

The council includes representatives of traditional banks and insurance companies. There are fintech and venture capital representatives, as well as regulators and legislators – it’s a very diverse group. We hope that the Advisory Council will give us the chance to highlight and discuss topics that are relevant to us and that the overall speed will increase somewhat. We will discuss frameworks, important for fintechs and banks to test new services and products for themselves or in cooperation with others. Another aim is to make the council a comprehensive platform so that you no longer need many bilateral appointments with the other players in the field. The law can then be used to determine what is politically relevant and what should be prioritized.

You mentioned cooperation with startups. Do you have concrete suggestions for the council in this context, especially considering the Elevator Lab?

Regardless of the council in which the priorities are set and worked on, the issue of regulatory sandboxes is generally relevant to us as RBI. Banks and fintechs should be allowed to test services and products in an environment that has a low entry barrier, without having to comply with the full legal and regulatory requirements.

What would you test in the sandboxes?

It could be something quite mundane such as a new service for existing customers. However, I would like to test it with a small user group first and for a limited period of time, as is the practice in technology companies. Then there’s the question: do I have to meet all requirements for this small user group from the start or do I create a regulatory sandbox? In Singapore or Great Britain, the model has been around for several years. The second major topic for us as a cross-border bank is the technical standardization of interfaces and data formats and, by extension, the PSD2 regulation.

How will the PSD2 regulation affect RBI? What effect do you expect it to have with regards to your competitors?

It’s difficult to make precise predictions as no one knows what the real impact on the market will be. The PSD2, which was formally put into force at the beginning of the year and has to be transposed into national law by mid-2019, will eventually lead to market liberalization and a wider opening of the financial services sector to third parties. That means we must develop interfaces for the payment’s area and open them up for third parties. This opens up potential for both sides. Because we can also extend our service by offering third party products to our customers. The key term is “Open Banking”.

(c) Haris Dervisevic / Der Brutkasten

„We need to get even closer to what customers are used to from other industries.“

On the other side, there is the challenge that some of these third-party providers will probably try to become the customer interface. That would reduce banks to the role of a product service provider. We believe that banks still have a strong value proposition for the client, especially in terms of security and trust. For us, this means we must continue to improve, especially in the areas of design and user experience. We need to get even closer to what customers are used to from other industries to avoid the risk of losing our role as customer interface in the digital sphere.

So, it’s mainly a technical challenge and there is more competition expected on a horizontal level?

That’s completely right. The goal of new platforms is always to serve two sides. Over the past ten years, we’ve seen some excellent examples, that we did not necessarily anticipate. We used taxis and booked hotels before and yet the situation in these verticals has changed dramatically in a relatively short period of time. We have to take that seriously. We have to analyze that for ourselves and ask: „what does that mean for our industry?“.

That’s one side, the other side is the implementation. There are still many challenges. Many details are not clear yet and that brings us back to the Fintech Advisory Council. We also want to bring up topics that nobody finds “sexy”. For example, there’s the question of who bears the operational risk when opening interfaces with customer data for third parties – even if the customer has agreed. What requirements must this so-called Third-Party Provider (TTP) fulfill and who monitors their compliance? Who will fulfill the many other bank regulatory requirements in the future? And how standardized can these technical interfaces be?

Unfortunately, at the moment, PSD2 leads to diverse standards internationally. This is completely contrary to the original policy objective of creating a digital single market for financial services in the EU. The upcoming months will be a very exciting phase for all of us.

+++ RBI Elevator Lab: New startup search fields for the second batch +++

Regarding the national standards – as a multinational bank, are you at least trying to develop a consistent system internally?

We strive to develop a group-wide API standard, but of course we have to take national circumstances into account. Our original expectation was that the PSD2 would provide stronger specifications. At least concerning technical implementation, data formats, technical interface and the question of how the API has to be built. However, since the PSD2 is a directive and not a regulation in terms of EU law, detailed implementation is the responsibility of national legislation. This year, it was implemented in the Payment Service Provider Act in Austria. In the Czech Republic, Slovakia, Hungary, Romania and Bulgaria, there are separate laws.

Besides Austria, seven of our fourteen CEE markets are EU member states. In the discussions in the Fintech Advisory Council, but also with the stakeholders in our “host countries”, we are of course already pointing out that different national standards for cross-border banks create additional complexity. But the PSD2 not only affects banks, but also fintechs that need to scale their business and for which technical standardization of interfaces is also relevant. The topic is therefore far more complex than, for example, the „Passporting Rule“, which makes it possible to operate with the banking license of one EU member state in another member country.

Speaking of CEE – the application phase for the second round of the Elevator Lab has recently started. You are conducting regional challenges in eight countries with subsidiary banks. What makes you particularly interested in fintechs from the CEE area?

First of all, we see the CEE region as our home market besides Austria. We have been in the region for almost thirty years and have a unique network and access to local ecosystems. The Raiffeisen brand is extremely well known throughout the CEE region. We want to use all of this. Secondly, there are many talents in the CEE region, where there’s traditionally a technological, mathematical and analytical emphasis in education. More and more young people want to stay in their home countries and see us as an attractive employer with enormous potential for their development.

„We made it clear from the beginning that the Elevator Lab is not a ‚PR gag‘ for us.“

How did Corporate Startup Collaboration work in the first run of the Elevator Lab? What’s the current situation with the startups from round one?

For me, the first round of the Elevator Lab was an incredible success. We managed to finish five pilot projects in four months at the same time. This shows that we made a good selection. On the other hand, it shows that the cooperation partners and the organization were in a position to do so. That was the most important thing for me. We made it clear from the beginning that the Elevator Lab is not a „PR gag“ for us, just to be able to say: „RBI also cooperates with startups.“

We want to generate value for both sides, improve our product and service offer and at the same time be a scaling platform. Of course, that requires a tremendous effort. For a startup, it is normal to evolve on such a scale within four months. For an international corporation, four months are a time span in which you may not plan so much. In that sense, the first round of the Elevator Lab was a huge success for us.

Video Interview with Elevator Lab program lead Max Schausberger:

How much support for Elevator Lab did you have within the organization and how did you prepare for the program?

We have a core team, led by Max Schausberger, which manages the Elevator Lab. It was important to us that this part should not be outsourced. If you want to have maximum impact on the organization, you simply must have such a team yourself. It is important to know the relevant people and areas of expertise and business within the group, as well as to understand how the organization actually works.

In addition, we had about 50 internal but also selected external mentors for the first round. The internal mentors are employees who are not part of the core team themselves, but work in the various departments that cooperated with the startups on the projects. There was always a so-called lead mentor who was technically the „single point of contact“ for the startup. It was pretty cool to see how it appealed to and inspired colleagues from a wide range of disciplines. The colleagues were enthusiastic about the program and worked on it in addition to their normal job. Some were also partly exempted, which was important to really push the development of the prototypes.

So, the projects were also widely accepted within the departments?

Certainly. Nobody did it just as a hobby. The departments were already strongly involved in the selection of the startups. Therefore, we knew that, in the case of our five participating startups, there was a very clear business or customer need that we could address together. Therefore, the departments were very committed. The Elevator Lab was not imposed on them, but they were looking for solutions in these areas. I think that was and is decisive for the whole project.

You also have a second program, the „Innovation Garden“. It is an intrapreneurship program where you are searching for ideas, suggestions and concepts from within the organization. What can you tell us about it?

After focusing on Startup Engagement and the launch of Elevator Lab last year, we also wanted to use the innovation potential of our more than 50,000 employees. We believe that this can be done best by transferring the methods we used in the Elevator Lab and in our startup cooperation to the internal organization. Innovation Garden is a platform where ideas are submitted and then evaluated according to similar criteria as in the Elevator Lab. Again, the key questions are: Is there a clear customer and business need? And can the ideas solve these challenges?

Cross-border and cross-functional teams are rated very highly within the program. We want to build scalable solutions for the group as a whole and not for a single market. Then prototypes are developed in short phases of twelve weeks. According to our plan, we’ll have two rounds with a total of eight prototypes by the end of the year. We tested the format last year with three pilot projects and were delighted with the innovative spirit of our teams. It’s certainly a cool program that I expect a lot from this year.

The first round is currently in progress. How many applicants are there?

Currently, about 300 ideas have been submitted and roughly 2,100 colleagues have registered on the platform. The team around Silvia Handler has done a lot of internal communication to promote the Innovation Garden and to implement it. I’m convinced that we can achieve a lot. We have so many good people in the organization. They just need the chance to work on such a project in a clear setup with methodical support and enough resources and budget. Of course, we took care of that. It’s the same logic as in the Elevator Lab – we first validate the idea engaging with end customers from the beginning before even building a prototype. Only ideas that make it into the final selection after the three-month prototype phase will lead to a Minimum Viable Products (MVP).

You spoke of group-wide solutions before. If a particular subsidiary has a single pain point that is perceived as a big problem only in this location, is that still relevant?

If that is a pain point that exists only in that particular organization and not in all others, that would mean that other subsidiaries already have a solution that works. That too is a side goal of Innovation Garden. We want to provide a little more transparency, know-how transfer and exchange within the group.

(c) Haris Dervisevic / Der Brutkasten

„You will make a giant leap with us over the four months.“

Finally, back to the Elevator lab again. Do you have a personal message for the potential applicants?

RBI is an honest and open partner in the CEE region that is looking for cooperation. On elevator-lab.com, you can see which startups participated last year. Just ask them about the program. I think they will give the same feedback. It is not a “uneven relationship”, but a partnership on an equal footing. And from a methodical point of view as well as from the input we can deliver, Elevator Lab is, I believe, a really exciting accelerator program. So, what I want to tell potential applicants is: The program is well structured, it will not exceed your time budget, but it will provide a lot of input for your business idea and you will make a giant leap with us over the four months.

⇒ official Elevator Lab website

Deine ungelesenen Artikel:
27.01.2025

Open Source und KI: „Es geht nicht darum, zu den Guten zu gehören“

Nachlese. Die Nutzung von Open-Source-Modellen eröffnet Unternehmen auch im KI-Bereich weitreichende Möglichkeiten. Es gibt dabei aber auch einiges zu bedenken. Darüber und mehr diskutierten in Folge 5 von "No Hype KI" Stephan Kraft von Red Hat, Florian Böttcher von CANCOM Austria, Natalie Ségur-Cabanac von Women in AI und Patrick Ratheiser von Leftshift.One.
/artikel/no-hype-ki-folge-5
27.01.2025

Open Source und KI: „Es geht nicht darum, zu den Guten zu gehören“

Nachlese. Die Nutzung von Open-Source-Modellen eröffnet Unternehmen auch im KI-Bereich weitreichende Möglichkeiten. Es gibt dabei aber auch einiges zu bedenken. Darüber und mehr diskutierten in Folge 5 von "No Hype KI" Stephan Kraft von Red Hat, Florian Böttcher von CANCOM Austria, Natalie Ségur-Cabanac von Women in AI und Patrick Ratheiser von Leftshift.One.
/artikel/no-hype-ki-folge-5

„No Hype KI“ wird unterstützt von CANCOM AustriaIBMITSVMicrosoftNagarroRed Hat und Universität Graz.

Kollaborativ, transparent, frei zugänglich und nicht profit-orientiert – mit Open-Source-Software wird eine Reihe von Eigenschaften assoziiert. Und oftmals stehen bei der Nutzung ethische Überlegungen im Zentrum. Dabei gibt es auch ganz praktische Gründe, die für eine Verwendung durch Unternehmen sprechen – auch bei der Implementierung von KI-Anwendungen, ist Stephan Kraft, Community Advocate & Business Development OpenShift & Application Services bei Red Hat, überzeugt. In Folge fünf der Serie „No Hype KI“ diskutierte er dieses und weitere Themen mit Florian Böttcher, Solution Architect bei CANCOM Austria, Natalie Ségur-Cabanac, Policy Lead bei Women in AI und Patrick Ratheiser, Gründer & CEO von Leftshift.One.

„Thema ein Stück weit aus dieser emotionalen, moralisierenden Ecke herausholen“

„Ich will das Thema ein Stück weit aus dieser emotionalen, moralisierenden Ecke herausholen“, sagt Stephan Kraft. Für Red Hat als weltweit führenden Anbieter für Open-Source-Lösungen für Unternehmen gehen die Argumente für eine Nutzung nämlich weit darüber hinaus. „Es geht nicht darum, Open Source als Selbstzweck zu sehen, um zu den Guten zu gehören“, so der Experte. Tatsächlich sei die Verwendung von Open Source gerade bei der Etablierung von KI im Unternehmen für Startups und KMU eine wichtige Weichenstellung.

Offenheit, um Diskriminierung entgegenzuwirken

Auch Natalie Ségur-Cabanac sieht Open Source als „Key Technology“ im KI-Bereich. Für „Women in AI“ spiele die Offenheit eine zentrale Rolle: „Diese Offenheit braucht es, um Diskriminierung entgegenzuwirken.“ Open Source verbessere den Zugang für Frauen zur Technologie, die Abbildung von Frauen in den Daten und es vergrößere die Möglichkeiten in der Forschung. Man müsse aber auch aufpassen, ob Software wirklich so offen sei, wie behauptet, sagt sie bezogen auf die aktuellen Diskussionen rund um OpenAI, das sich – ursprünglich als offenes Projekt gestartet – zum profitorientierten Unternehmen entwickelte. Es brauche auch eine klare Definition, was „open“ sei.

Masse an Möglichkeiten

Leftshift.One-Gründer Patrick Ratheiser betont auch die schiere Masse an Möglichkeiten, die Open Source bietet. „2021 hatten wir weltweit Zugriff auf circa 5.000 Open-Source-Modelle. Jetzt sind es bereits mehr als eine Million.“ Die Nutzbarkeit sei also klar gegeben, zudem biete die Technologie eine gewisse Unabhängigkeit und werde über ihre Vielfalt zum Innovationstreiber.

Ist Open Source immer die beste Lösung?

Doch bedeutet das, dass Open Source immer die optimale Lösung ist? Ratheiser sieht das differenziert: „Es ist ganz wichtig zu erkennen, was der Kunde braucht und was in dem Fall gerade notwendig ist. Egal, ob es nun On-Premise, in der Cloud, Open Source oder Closed Source ist.“ Florian Böttcher von CANCOM Austria pflichtet hier bei: „Wir setzen genau so auf hybrid.“

Datenstruktur im Hintergrund ist entscheidend

Ein Thema, bei dem bei Open Source Vorsicht geboten ist, spricht Natalie Ségur-Cabanac an. Besonders wichtig sei es bei KI-Anwendungen, eine gute Datenstruktur im Hintergrund zu haben. „Die Verantwortung, dass ein Modell mit sauberen Daten trainiert worden ist, liegt bei den Anbietern. Bei Open Source verschwimmt das ein bisschen. Wer ist wofür zuständig? Das ist eine Herausforderung für die Compliance zu schauen, wo man selbst verantwortlich ist und wo man sich auf einen Anbieter verlassen kann.“

Compliance: Großes Thema – mehr Sichereheit mit professioneller Unterstützung

Stephan Kraft hakt hier ein. Genau aus solchen Gründen gebe es Unternehmen wie Red Hat, die mit ihrem Enterprise-Support für Open-Source-Lösungen die Qualitätssicherung auch im rechtlichen Bereich übernehmen. „Das ist ein ganz wichtiger Teil unseres Versprechens gegenüber Kunden“, so Kraft. Unbedacht im Unternehmen mit Open Source zu arbeiten, könne dagegen in „Compliance-Fallen“ führen, pflichtet er Ségur-Cabanac bei.

Das sieht auch Patrick Ratheiser als Thema bei Leftshift.One: „Unsere Lösung ist Closed Source, wir setzen aber im Hintergrund Open Source ein. Wichtig ist, dass wir dem Kunden Compliance garantieren können.“ Stephan Kraft empfiehlt Unternehmen bei der Open-Source-Nutzung: „Man kann nicht immer gleich die neueste ‚bleeding edge‘-Lösung nehmen sondern sollte etwas konservativer herangehen.“

Infrastruktur: Gut planen, was man wirklich braucht

Unabhängig davon, ob man nun Open Source oder Closed Source nutzt, braucht es für die Nutzung von KI die richtige Infrastruktur. „Es kommt natürlich auf den Use Case an, den ein Unternehmen umsetzen will. Da sind die Anforderungen an die Infrastruktur sehr unterschiedlich“, grenzt Florian Böttcher ein. CANCOM Austria unterstützt seine Kunden in genau der Frage. Anwendungen wie das Training von KI-Modellen würde aus gutem Grund kaum in Österreich umgesetzt. „KI ist sehr stromhungrig und entwickelt viel Hitze. Das ist schwierig für ein eigenes Data-Center im Unternehmen, gerade wenn man die Strompreise in Österreich ansieht“, so Böttcher.

„Rechenleistungs-Hunger“ von KI könnte sich in Zukunft verringern

Wichtig sei es letztlich, sich als Unternehmen sehr klar darüber zu sein, was man umsetzen wolle. „Danach, welche Software-Lösung man für seinen Use Case einsetzen muss, richtet sich auch die Infrastruktur“, so Böttcher. Er erwarte aber auch, dass die KI-Modelle im nächsten Entwicklungsschritt effizienter werden und der „Rechenleistungs-Hunger“ sich verringere.

Patrick Ratheiser ergänzt: „Es ist grundsätzlich eine Kostenfrage.“ Unternehmen müssten sich sehr gut überlegen, ob sie ein eigenes LLM (Large Language Model) betreiben und dieses sogar selbst trainieren wollen, oder lieber doch eine Usage-basierte Lösung wählen. Er sehe bei österreichischen Unternehmen – auch bei größeren – eine klare Tendenz zur zweiten Variante. „Es lässt sich deutlich schneller einrichten, ist kalkulierbarer und auch viel schneller skalierbar“, erklärt Ratheiser.

Etwa im Forschungsbereich sei es jedoch wichtig und notwendig, auch eigene LLMs und die damit verbundene Infrastruktur zu betreiben. Doch auch die Möglichkeit von hybriden Lösungen biete sich an. „Man kann mittlerweile auch Teile in der Cloud lassen und Teile On-Premise. Man kann etwa nur ein datenschutzsicheres LLM selbst betreiben“, erklärt der Experte, der auch bei der Wahl der genutzten Modelle einen hybriden Ansatz empfiehlt: „Man braucht nicht für alle Use Cases das neueste Modell. Manchmal braucht man überhaupt kein LLM.“

Datenschutz: Einige Herausforderungen bei LLMs

Stichwort: Datenschutz. Hier schafft die europäische Datenschutzgrundverordnung (DSGVO) im KI-Bereich besondere Herausforderungen, weiß Natalie Ségur-Cabanac, die vorab betont: „Ich persönlich halte die DSGVO für ein gutes Regulierungswerk, weil sie sehr viel Spielraum gibt. Ich sage immer: Datenschutz ist sehr komplex, aber nicht kompliziert.“ Konkret seien etwa der Grundsatz der Zweckbezogenheit, also dass man Daten nur für konkrete Zwecke einsetzen darf, und dass man sie minimierend einsetzen muss, relevant für den KI-Bereich. „Da haben wir schon einen Konflikt, weil man ja [bei LLMs] erst einmal schaut, was man aus möglichst vielen Daten machen kann“, so die Expertin.

Ist KI rechtlich innerhalb der EU sogar per se in einem Graubereich?

Auch Transparenzbestimmungen – sowohl in der DSGVO als auch im AI-Act der EU – seien zu beachten. „Wenn ich KI verwende, muss ich auch wissen, was drinnen ist“, fasst Ségur-Cabanac zusammen. Ist KI also rechtlich innerhalb der EU sogar per se in einem Graubereich? „Nein, das glaube ich nicht. Aber man muss seine Hausaufgaben schon gut machen“, sagt die Expertin. Wichtig sei daher auch die im Rahmen des EU-AI-Acts eingeforderte KI-Kompetenz in Unternehmen – im technischen und rechtlichen Bereich.

KI-Kompetenz als zentrales Thema

Patrick Ratheiser stimmt zu: „Neben der Technologie selber sind bei unseren Kunden die Mitarbeiter ein Riesen-Thema. Man muss sie nicht nur wegen dem AI-Act fit bekommen, sondern es geht darum, sie wirklich auf die Anwendungen einzuschulen.“ Wichtig seien dabei auch die Kolleg:innen, die sich bereits mit dem Thema auskennen – die „Pioniere“ im Unternehmen. „AI Literacy ist sicherlich das Thema 2025 und in nächster Zeit. So, wie wir gelernt haben, mit dem Smartphone umzugehen, werden wir es auch mit generativer KI lernen“, so Ratheiser.

„Einfach einmal ausprobieren“

Stephan Kraft ergänzt: Neben einer soliden Datenbasis und der notwendigen Kompetenz brauche es bei KI – gerade auch im Bereich Open Source – noch etwas: „Einfach einmal ausprobieren. Es braucht auch Trial and Error. Das ist vielleicht oft das Schwierigste für CFOs und Geschäftsführer.“ Dieses Ausprobieren sollte aber innerhalb eines festgelegten Rahmens passieren, damit die KI-Implementierung gelingt, meint Natalie Ségur-Cabanac: „Unternehmen brauchen eine KI-Strategie und müssen wissen, was sie mit der Technologie erreichen wollen.“ Auch sich mit den zuvor angesprochenen rechtlichen Anforderungen – Stichwort Compliance – zu beschäftigen, komme zeitlich erst nach der Festlegung der Strategie.


Die gesamte Folge ansehen:

Die Nachlesen der bisherigen Folgen:

Folge 1: “No Hype KI – wo stehen wir nach zwei Jahren ChatGPT?

Folge 2: “Was kann KI in Gesundheit, Bildung und im öffentlichen Sektor leisten?

Folge 3: “Der größte Feind ist Zettel und Bleistift”: Erfolgsfaktoren und Herausforderungen in der KI-Praxis”

Folge 4: KI-Geschäftsmodelle: “Wir nutzen nur einen Bruchteil dessen, was möglich ist”


Die Serie wird von brutkasten in redaktioneller Unabhängigkeit mit finanzieller Unterstützung unserer Partner:innen produziert.

No Hype KI
27.01.2025

Open Source und KI: „Es geht nicht darum, zu den Guten zu gehören“

Nachlese. Die Nutzung von Open-Source-Modellen eröffnet Unternehmen auch im KI-Bereich weitreichende Möglichkeiten. Es gibt dabei aber auch einiges zu bedenken. Darüber und mehr diskutierten in Folge 5 von "No Hype KI" Stephan Kraft von Red Hat, Florian Böttcher von CANCOM Austria, Natalie Ségur-Cabanac von Women in AI und Patrick Ratheiser von Leftshift.One.
27.01.2025

Open Source und KI: „Es geht nicht darum, zu den Guten zu gehören“

Nachlese. Die Nutzung von Open-Source-Modellen eröffnet Unternehmen auch im KI-Bereich weitreichende Möglichkeiten. Es gibt dabei aber auch einiges zu bedenken. Darüber und mehr diskutierten in Folge 5 von "No Hype KI" Stephan Kraft von Red Hat, Florian Böttcher von CANCOM Austria, Natalie Ségur-Cabanac von Women in AI und Patrick Ratheiser von Leftshift.One.

„No Hype KI“ wird unterstützt von CANCOM AustriaIBMITSVMicrosoftNagarroRed Hat und Universität Graz.

Kollaborativ, transparent, frei zugänglich und nicht profit-orientiert – mit Open-Source-Software wird eine Reihe von Eigenschaften assoziiert. Und oftmals stehen bei der Nutzung ethische Überlegungen im Zentrum. Dabei gibt es auch ganz praktische Gründe, die für eine Verwendung durch Unternehmen sprechen – auch bei der Implementierung von KI-Anwendungen, ist Stephan Kraft, Community Advocate & Business Development OpenShift & Application Services bei Red Hat, überzeugt. In Folge fünf der Serie „No Hype KI“ diskutierte er dieses und weitere Themen mit Florian Böttcher, Solution Architect bei CANCOM Austria, Natalie Ségur-Cabanac, Policy Lead bei Women in AI und Patrick Ratheiser, Gründer & CEO von Leftshift.One.

„Thema ein Stück weit aus dieser emotionalen, moralisierenden Ecke herausholen“

„Ich will das Thema ein Stück weit aus dieser emotionalen, moralisierenden Ecke herausholen“, sagt Stephan Kraft. Für Red Hat als weltweit führenden Anbieter für Open-Source-Lösungen für Unternehmen gehen die Argumente für eine Nutzung nämlich weit darüber hinaus. „Es geht nicht darum, Open Source als Selbstzweck zu sehen, um zu den Guten zu gehören“, so der Experte. Tatsächlich sei die Verwendung von Open Source gerade bei der Etablierung von KI im Unternehmen für Startups und KMU eine wichtige Weichenstellung.

Offenheit, um Diskriminierung entgegenzuwirken

Auch Natalie Ségur-Cabanac sieht Open Source als „Key Technology“ im KI-Bereich. Für „Women in AI“ spiele die Offenheit eine zentrale Rolle: „Diese Offenheit braucht es, um Diskriminierung entgegenzuwirken.“ Open Source verbessere den Zugang für Frauen zur Technologie, die Abbildung von Frauen in den Daten und es vergrößere die Möglichkeiten in der Forschung. Man müsse aber auch aufpassen, ob Software wirklich so offen sei, wie behauptet, sagt sie bezogen auf die aktuellen Diskussionen rund um OpenAI, das sich – ursprünglich als offenes Projekt gestartet – zum profitorientierten Unternehmen entwickelte. Es brauche auch eine klare Definition, was „open“ sei.

Masse an Möglichkeiten

Leftshift.One-Gründer Patrick Ratheiser betont auch die schiere Masse an Möglichkeiten, die Open Source bietet. „2021 hatten wir weltweit Zugriff auf circa 5.000 Open-Source-Modelle. Jetzt sind es bereits mehr als eine Million.“ Die Nutzbarkeit sei also klar gegeben, zudem biete die Technologie eine gewisse Unabhängigkeit und werde über ihre Vielfalt zum Innovationstreiber.

Ist Open Source immer die beste Lösung?

Doch bedeutet das, dass Open Source immer die optimale Lösung ist? Ratheiser sieht das differenziert: „Es ist ganz wichtig zu erkennen, was der Kunde braucht und was in dem Fall gerade notwendig ist. Egal, ob es nun On-Premise, in der Cloud, Open Source oder Closed Source ist.“ Florian Böttcher von CANCOM Austria pflichtet hier bei: „Wir setzen genau so auf hybrid.“

Datenstruktur im Hintergrund ist entscheidend

Ein Thema, bei dem bei Open Source Vorsicht geboten ist, spricht Natalie Ségur-Cabanac an. Besonders wichtig sei es bei KI-Anwendungen, eine gute Datenstruktur im Hintergrund zu haben. „Die Verantwortung, dass ein Modell mit sauberen Daten trainiert worden ist, liegt bei den Anbietern. Bei Open Source verschwimmt das ein bisschen. Wer ist wofür zuständig? Das ist eine Herausforderung für die Compliance zu schauen, wo man selbst verantwortlich ist und wo man sich auf einen Anbieter verlassen kann.“

Compliance: Großes Thema – mehr Sichereheit mit professioneller Unterstützung

Stephan Kraft hakt hier ein. Genau aus solchen Gründen gebe es Unternehmen wie Red Hat, die mit ihrem Enterprise-Support für Open-Source-Lösungen die Qualitätssicherung auch im rechtlichen Bereich übernehmen. „Das ist ein ganz wichtiger Teil unseres Versprechens gegenüber Kunden“, so Kraft. Unbedacht im Unternehmen mit Open Source zu arbeiten, könne dagegen in „Compliance-Fallen“ führen, pflichtet er Ségur-Cabanac bei.

Das sieht auch Patrick Ratheiser als Thema bei Leftshift.One: „Unsere Lösung ist Closed Source, wir setzen aber im Hintergrund Open Source ein. Wichtig ist, dass wir dem Kunden Compliance garantieren können.“ Stephan Kraft empfiehlt Unternehmen bei der Open-Source-Nutzung: „Man kann nicht immer gleich die neueste ‚bleeding edge‘-Lösung nehmen sondern sollte etwas konservativer herangehen.“

Infrastruktur: Gut planen, was man wirklich braucht

Unabhängig davon, ob man nun Open Source oder Closed Source nutzt, braucht es für die Nutzung von KI die richtige Infrastruktur. „Es kommt natürlich auf den Use Case an, den ein Unternehmen umsetzen will. Da sind die Anforderungen an die Infrastruktur sehr unterschiedlich“, grenzt Florian Böttcher ein. CANCOM Austria unterstützt seine Kunden in genau der Frage. Anwendungen wie das Training von KI-Modellen würde aus gutem Grund kaum in Österreich umgesetzt. „KI ist sehr stromhungrig und entwickelt viel Hitze. Das ist schwierig für ein eigenes Data-Center im Unternehmen, gerade wenn man die Strompreise in Österreich ansieht“, so Böttcher.

„Rechenleistungs-Hunger“ von KI könnte sich in Zukunft verringern

Wichtig sei es letztlich, sich als Unternehmen sehr klar darüber zu sein, was man umsetzen wolle. „Danach, welche Software-Lösung man für seinen Use Case einsetzen muss, richtet sich auch die Infrastruktur“, so Böttcher. Er erwarte aber auch, dass die KI-Modelle im nächsten Entwicklungsschritt effizienter werden und der „Rechenleistungs-Hunger“ sich verringere.

Patrick Ratheiser ergänzt: „Es ist grundsätzlich eine Kostenfrage.“ Unternehmen müssten sich sehr gut überlegen, ob sie ein eigenes LLM (Large Language Model) betreiben und dieses sogar selbst trainieren wollen, oder lieber doch eine Usage-basierte Lösung wählen. Er sehe bei österreichischen Unternehmen – auch bei größeren – eine klare Tendenz zur zweiten Variante. „Es lässt sich deutlich schneller einrichten, ist kalkulierbarer und auch viel schneller skalierbar“, erklärt Ratheiser.

Etwa im Forschungsbereich sei es jedoch wichtig und notwendig, auch eigene LLMs und die damit verbundene Infrastruktur zu betreiben. Doch auch die Möglichkeit von hybriden Lösungen biete sich an. „Man kann mittlerweile auch Teile in der Cloud lassen und Teile On-Premise. Man kann etwa nur ein datenschutzsicheres LLM selbst betreiben“, erklärt der Experte, der auch bei der Wahl der genutzten Modelle einen hybriden Ansatz empfiehlt: „Man braucht nicht für alle Use Cases das neueste Modell. Manchmal braucht man überhaupt kein LLM.“

Datenschutz: Einige Herausforderungen bei LLMs

Stichwort: Datenschutz. Hier schafft die europäische Datenschutzgrundverordnung (DSGVO) im KI-Bereich besondere Herausforderungen, weiß Natalie Ségur-Cabanac, die vorab betont: „Ich persönlich halte die DSGVO für ein gutes Regulierungswerk, weil sie sehr viel Spielraum gibt. Ich sage immer: Datenschutz ist sehr komplex, aber nicht kompliziert.“ Konkret seien etwa der Grundsatz der Zweckbezogenheit, also dass man Daten nur für konkrete Zwecke einsetzen darf, und dass man sie minimierend einsetzen muss, relevant für den KI-Bereich. „Da haben wir schon einen Konflikt, weil man ja [bei LLMs] erst einmal schaut, was man aus möglichst vielen Daten machen kann“, so die Expertin.

Ist KI rechtlich innerhalb der EU sogar per se in einem Graubereich?

Auch Transparenzbestimmungen – sowohl in der DSGVO als auch im AI-Act der EU – seien zu beachten. „Wenn ich KI verwende, muss ich auch wissen, was drinnen ist“, fasst Ségur-Cabanac zusammen. Ist KI also rechtlich innerhalb der EU sogar per se in einem Graubereich? „Nein, das glaube ich nicht. Aber man muss seine Hausaufgaben schon gut machen“, sagt die Expertin. Wichtig sei daher auch die im Rahmen des EU-AI-Acts eingeforderte KI-Kompetenz in Unternehmen – im technischen und rechtlichen Bereich.

KI-Kompetenz als zentrales Thema

Patrick Ratheiser stimmt zu: „Neben der Technologie selber sind bei unseren Kunden die Mitarbeiter ein Riesen-Thema. Man muss sie nicht nur wegen dem AI-Act fit bekommen, sondern es geht darum, sie wirklich auf die Anwendungen einzuschulen.“ Wichtig seien dabei auch die Kolleg:innen, die sich bereits mit dem Thema auskennen – die „Pioniere“ im Unternehmen. „AI Literacy ist sicherlich das Thema 2025 und in nächster Zeit. So, wie wir gelernt haben, mit dem Smartphone umzugehen, werden wir es auch mit generativer KI lernen“, so Ratheiser.

„Einfach einmal ausprobieren“

Stephan Kraft ergänzt: Neben einer soliden Datenbasis und der notwendigen Kompetenz brauche es bei KI – gerade auch im Bereich Open Source – noch etwas: „Einfach einmal ausprobieren. Es braucht auch Trial and Error. Das ist vielleicht oft das Schwierigste für CFOs und Geschäftsführer.“ Dieses Ausprobieren sollte aber innerhalb eines festgelegten Rahmens passieren, damit die KI-Implementierung gelingt, meint Natalie Ségur-Cabanac: „Unternehmen brauchen eine KI-Strategie und müssen wissen, was sie mit der Technologie erreichen wollen.“ Auch sich mit den zuvor angesprochenen rechtlichen Anforderungen – Stichwort Compliance – zu beschäftigen, komme zeitlich erst nach der Festlegung der Strategie.


Die gesamte Folge ansehen:

Die Nachlesen der bisherigen Folgen:

Folge 1: “No Hype KI – wo stehen wir nach zwei Jahren ChatGPT?

Folge 2: “Was kann KI in Gesundheit, Bildung und im öffentlichen Sektor leisten?

Folge 3: “Der größte Feind ist Zettel und Bleistift”: Erfolgsfaktoren und Herausforderungen in der KI-Praxis”

Folge 4: KI-Geschäftsmodelle: “Wir nutzen nur einen Bruchteil dessen, was möglich ist”


Die Serie wird von brutkasten in redaktioneller Unabhängigkeit mit finanzieller Unterstützung unserer Partner:innen produziert.

No Hype KI
Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag