Wie die Salzburg AG mit einer neuen Crowdinvesting-Plattform die Energiewende vorantreibt

27.01.2025

FOLGE 5 | NACHLESE

Open Source und KI: „Es geht nicht darum, zu den Guten zu gehören“

Nachlese. Die Nutzung von Open-Source-Modellen eröffnet Unternehmen auch im KI-Bereich weitreichende Möglichkeiten. Es gibt dabei aber auch einiges zu bedenken. Darüber und mehr diskutierten in Folge 5 von "No Hype KI" Stephan Kraft von Red Hat, Florian Böttcher von CANCOM Austria, Natalie Ségur-Cabanac von Women in AI und Patrick Ratheiser von Leftshift.One.

/artikel/no-hype-ki-folge-5

✨ AI Kontextualisierung

„No Hype KI“ wird unterstützt von CANCOM Austria, IBM, ITSV, Microsoft, Nagarro, Red Hat und Universität Graz.

Kollaborativ, transparent, frei zugänglich und nicht profit-orientiert – mit Open-Source-Software wird eine Reihe von Eigenschaften assoziiert. Und oftmals stehen bei der Nutzung ethische Überlegungen im Zentrum. Dabei gibt es auch ganz praktische Gründe, die für eine Verwendung durch Unternehmen sprechen – auch bei der Implementierung von KI-Anwendungen, ist Stephan Kraft, Community Advocate & Business Development OpenShift & Application Services bei Red Hat, überzeugt. In Folge fünf der Serie „No Hype KI“ diskutierte er dieses und weitere Themen mit Florian Böttcher, Solution Architect bei CANCOM Austria, Natalie Ségur-Cabanac, Policy Lead bei Women in AI und Patrick Ratheiser, Gründer & CEO von Leftshift.One.

„Thema ein Stück weit aus dieser emotionalen, moralisierenden Ecke herausholen“

„Ich will das Thema ein Stück weit aus dieser emotionalen, moralisierenden Ecke herausholen“, sagt Stephan Kraft. Für Red Hat als weltweit führenden Anbieter für Open-Source-Lösungen für Unternehmen gehen die Argumente für eine Nutzung nämlich weit darüber hinaus. „Es geht nicht darum, Open Source als Selbstzweck zu sehen, um zu den Guten zu gehören“, so der Experte. Tatsächlich sei die Verwendung von Open Source gerade bei der Etablierung von KI im Unternehmen für Startups und KMU eine wichtige Weichenstellung.

Offenheit, um Diskriminierung entgegenzuwirken

Auch Natalie Ségur-Cabanac sieht Open Source als „Key Technology“ im KI-Bereich. Für „Women in AI“ spiele die Offenheit eine zentrale Rolle: „Diese Offenheit braucht es, um Diskriminierung entgegenzuwirken.“ Open Source verbessere den Zugang für Frauen zur Technologie, die Abbildung von Frauen in den Daten und es vergrößere die Möglichkeiten in der Forschung. Man müsse aber auch aufpassen, ob Software wirklich so offen sei, wie behauptet, sagt sie bezogen auf die aktuellen Diskussionen rund um OpenAI, das sich – ursprünglich als offenes Projekt gestartet – zum profitorientierten Unternehmen entwickelte. Es brauche auch eine klare Definition, was „open“ sei.

Masse an Möglichkeiten

Leftshift.One-Gründer Patrick Ratheiser betont auch die schiere Masse an Möglichkeiten, die Open Source bietet. „2021 hatten wir weltweit Zugriff auf circa 5.000 Open-Source-Modelle. Jetzt sind es bereits mehr als eine Million.“ Die Nutzbarkeit sei also klar gegeben, zudem biete die Technologie eine gewisse Unabhängigkeit und werde über ihre Vielfalt zum Innovationstreiber.

Ist Open Source immer die beste Lösung?

Doch bedeutet das, dass Open Source immer die optimale Lösung ist? Ratheiser sieht das differenziert: „Es ist ganz wichtig zu erkennen, was der Kunde braucht und was in dem Fall gerade notwendig ist. Egal, ob es nun On-Premise, in der Cloud, Open Source oder Closed Source ist.“ Florian Böttcher von CANCOM Austria pflichtet hier bei: „Wir setzen genau so auf hybrid.“

Datenstruktur im Hintergrund ist entscheidend

Ein Thema, bei dem bei Open Source Vorsicht geboten ist, spricht Natalie Ségur-Cabanac an. Besonders wichtig sei es bei KI-Anwendungen, eine gute Datenstruktur im Hintergrund zu haben. „Die Verantwortung, dass ein Modell mit sauberen Daten trainiert worden ist, liegt bei den Anbietern. Bei Open Source verschwimmt das ein bisschen. Wer ist wofür zuständig? Das ist eine Herausforderung für die Compliance zu schauen, wo man selbst verantwortlich ist und wo man sich auf einen Anbieter verlassen kann.“

Compliance: Großes Thema – mehr Sichereheit mit professioneller Unterstützung

Stephan Kraft hakt hier ein. Genau aus solchen Gründen gebe es Unternehmen wie Red Hat, die mit ihrem Enterprise-Support für Open-Source-Lösungen die Qualitätssicherung auch im rechtlichen Bereich übernehmen. „Das ist ein ganz wichtiger Teil unseres Versprechens gegenüber Kunden“, so Kraft. Unbedacht im Unternehmen mit Open Source zu arbeiten, könne dagegen in „Compliance-Fallen“ führen, pflichtet er Ségur-Cabanac bei.

Das sieht auch Patrick Ratheiser als Thema bei Leftshift.One: „Unsere Lösung ist Closed Source, wir setzen aber im Hintergrund Open Source ein. Wichtig ist, dass wir dem Kunden Compliance garantieren können.“ Stephan Kraft empfiehlt Unternehmen bei der Open-Source-Nutzung: „Man kann nicht immer gleich die neueste ‚bleeding edge‘-Lösung nehmen sondern sollte etwas konservativer herangehen.“

Infrastruktur: Gut planen, was man wirklich braucht

Unabhängig davon, ob man nun Open Source oder Closed Source nutzt, braucht es für die Nutzung von KI die richtige Infrastruktur. „Es kommt natürlich auf den Use Case an, den ein Unternehmen umsetzen will. Da sind die Anforderungen an die Infrastruktur sehr unterschiedlich“, grenzt Florian Böttcher ein. CANCOM Austria unterstützt seine Kunden in genau der Frage. Anwendungen wie das Training von KI-Modellen würde aus gutem Grund kaum in Österreich umgesetzt. „KI ist sehr stromhungrig und entwickelt viel Hitze. Das ist schwierig für ein eigenes Data-Center im Unternehmen, gerade wenn man die Strompreise in Österreich ansieht“, so Böttcher.

„Rechenleistungs-Hunger“ von KI könnte sich in Zukunft verringern

Wichtig sei es letztlich, sich als Unternehmen sehr klar darüber zu sein, was man umsetzen wolle. „Danach, welche Software-Lösung man für seinen Use Case einsetzen muss, richtet sich auch die Infrastruktur“, so Böttcher. Er erwarte aber auch, dass die KI-Modelle im nächsten Entwicklungsschritt effizienter werden und der „Rechenleistungs-Hunger“ sich verringere.

Patrick Ratheiser ergänzt: „Es ist grundsätzlich eine Kostenfrage.“ Unternehmen müssten sich sehr gut überlegen, ob sie ein eigenes LLM (Large Language Model) betreiben und dieses sogar selbst trainieren wollen, oder lieber doch eine Usage-basierte Lösung wählen. Er sehe bei österreichischen Unternehmen – auch bei größeren – eine klare Tendenz zur zweiten Variante. „Es lässt sich deutlich schneller einrichten, ist kalkulierbarer und auch viel schneller skalierbar“, erklärt Ratheiser.

Etwa im Forschungsbereich sei es jedoch wichtig und notwendig, auch eigene LLMs und die damit verbundene Infrastruktur zu betreiben. Doch auch die Möglichkeit von hybriden Lösungen biete sich an. „Man kann mittlerweile auch Teile in der Cloud lassen und Teile On-Premise. Man kann etwa nur ein datenschutzsicheres LLM selbst betreiben“, erklärt der Experte, der auch bei der Wahl der genutzten Modelle einen hybriden Ansatz empfiehlt: „Man braucht nicht für alle Use Cases das neueste Modell. Manchmal braucht man überhaupt kein LLM.“

Datenschutz: Einige Herausforderungen bei LLMs

Stichwort: Datenschutz. Hier schafft die europäische Datenschutzgrundverordnung (DSGVO) im KI-Bereich besondere Herausforderungen, weiß Natalie Ségur-Cabanac, die vorab betont: „Ich persönlich halte die DSGVO für ein gutes Regulierungswerk, weil sie sehr viel Spielraum gibt. Ich sage immer: Datenschutz ist sehr komplex, aber nicht kompliziert.“ Konkret seien etwa der Grundsatz der Zweckbezogenheit, also dass man Daten nur für konkrete Zwecke einsetzen darf, und dass man sie minimierend einsetzen muss, relevant für den KI-Bereich. „Da haben wir schon einen Konflikt, weil man ja [bei LLMs] erst einmal schaut, was man aus möglichst vielen Daten machen kann“, so die Expertin.

Ist KI rechtlich innerhalb der EU sogar per se in einem Graubereich?

Auch Transparenzbestimmungen – sowohl in der DSGVO als auch im AI-Act der EU – seien zu beachten. „Wenn ich KI verwende, muss ich auch wissen, was drinnen ist“, fasst Ségur-Cabanac zusammen. Ist KI also rechtlich innerhalb der EU sogar per se in einem Graubereich? „Nein, das glaube ich nicht. Aber man muss seine Hausaufgaben schon gut machen“, sagt die Expertin. Wichtig sei daher auch die im Rahmen des EU-AI-Acts eingeforderte KI-Kompetenz in Unternehmen – im technischen und rechtlichen Bereich.

KI-Kompetenz als zentrales Thema

Patrick Ratheiser stimmt zu: „Neben der Technologie selber sind bei unseren Kunden die Mitarbeiter ein Riesen-Thema. Man muss sie nicht nur wegen dem AI-Act fit bekommen, sondern es geht darum, sie wirklich auf die Anwendungen einzuschulen.“ Wichtig seien dabei auch die Kolleg:innen, die sich bereits mit dem Thema auskennen – die „Pioniere“ im Unternehmen. „AI Literacy ist sicherlich das Thema 2025 und in nächster Zeit. So, wie wir gelernt haben, mit dem Smartphone umzugehen, werden wir es auch mit generativer KI lernen“, so Ratheiser.

„Einfach einmal ausprobieren“

Stephan Kraft ergänzt: Neben einer soliden Datenbasis und der notwendigen Kompetenz brauche es bei KI – gerade auch im Bereich Open Source – noch etwas: „Einfach einmal ausprobieren. Es braucht auch Trial and Error. Das ist vielleicht oft das Schwierigste für CFOs und Geschäftsführer.“ Dieses Ausprobieren sollte aber innerhalb eines festgelegten Rahmens passieren, damit die KI-Implementierung gelingt, meint Natalie Ségur-Cabanac: „Unternehmen brauchen eine KI-Strategie und müssen wissen, was sie mit der Technologie erreichen wollen.“ Auch sich mit den zuvor angesprochenen rechtlichen Anforderungen – Stichwort Compliance – zu beschäftigen, komme zeitlich erst nach der Festlegung der Strategie.

Die gesamte Folge ansehen:

Die Nachlesen der bisherigen Folgen:

Folge 1: “No Hype KI – wo stehen wir nach zwei Jahren ChatGPT?“

Folge 2: “Was kann KI in Gesundheit, Bildung und im öffentlichen Sektor leisten?“

Folge 3: “Der größte Feind ist Zettel und Bleistift”: Erfolgsfaktoren und Herausforderungen in der KI-Praxis”

Folge 4: KI-Geschäftsmodelle: “Wir nutzen nur einen Bruchteil dessen, was möglich ist”

Die Serie wird von brutkasten in redaktioneller Unabhängigkeit mit finanzieller Unterstützung unserer Partner:innen produziert.

Deine ungelesenen Artikel:

Ann-Kathrin Salmen

vor 16 Stunden

Sind VCs out? – im Interview mit dem Bits & Pretzels Co-Founder

Seit 2014 zieht die Bits & Pretzels Startup- und Innovationsbegeisterte nach München. Heuer mit Steven Bartlett und Trevor Noah als Stargästen. Mitgründer Bernd Storm van's Gravesande erklärt, warum ein Ankerkunde für viele Startups eine starke Ergänzung oder Alternative zu VC-Kapital sein kann und warum ohne VCs trotzdem kein Startup-Ökosystem existieren würde.

/artikel/sind-vcs-out-im-interview-mit-dem-bits-pretzels-co-founder

Ann-Kathrin Salmen

vor 16 Stunden

Sind VCs out? – im Interview mit dem Bits & Pretzels Co-Founder

/artikel/sind-vcs-out-im-interview-mit-dem-bits-pretzels-co-founder

Weißwurst zum Frühstück, Brezn zur Beteiligungsverhandlung: Wenn München jedes Jahr im Herbst zur Wiesn bläst, verwandelt sich ein Teil der Stadt gleichzeitig in die größte Gründerbühne Europas. Seit 2014 zählt die Bits & Pretzels zu den wichtigsten Innovationsevents des Kontinents. Größen wie Barack Obama oder Arnold Schwarzenegger haben in München bereits ihre Weisheiten mit dem Publikum geteilt. Bei der dreitägigen Konferenz geht es aber nicht nur um Inspiration, sondern vor allem um Austausch und potenzielle Kundengewinnung. Genau darin sieht Bits-&-Pretzels-Mitgründer und Managing Director Bernd Storm van’s Gravesande eine relevante Alternative zur klassischen Kapitalaufnahme über VCs.

brutkasten: Die polarisierende These, mit der wir heute starten: VCs sind out, Corporates sind in. Wie kommst du dazu?

Bernd Storm van’s Gravesande: Ich möchte die zentrale und wichtige Rolle von VCs damit überhaupt nicht kleinreden – ohne Venture Capital gäbe es das ganze Startup-Ökosystem nicht, das muss uns klar sein. Aber die Überspitzung dient natürlich auch dazu, dass wir erkennen: Für viele Startups – nicht für alle – gibt es Alternativen. Nämlich, dass ein Ankerkunde manchmal passender ist als ein Ankerinvestor. Da muss man immer definieren: für wen, für welches Startup, in welcher Phase.

Aber ein Ankerkunde kann sehr wertvoll sein. Nehmen wir ein Beispiel, das gerade in aller Munde ist: Defense. Wir haben die Helsings, die Quantum Systems und so weiter. Das ist eine spezielle Branche, aber das Muster dahinter erkennen wir auch in anderen Branchen. Bei all diesen hast du nicht nur reine VCs, sondern etwa mit der Bundeswehr oder mit internationalen Staaten ganz konkrete Kunden, mit denen du nicht nur über potenzielle Umsätze sprichst, sondern über ganz konkrete.

Wenn du als Startup schon zahlende Kunden mitbringen kannst, ist das so viel mehr wert als jede Powerpoint oder Marktanalyse. Das ist der eigentliche Proof. Du hast einen Ankerkunden und das ist sehr viel wert, auch für künftige Partner- und Kundenbeziehungen oder spätere Finanzierungsrunden.

Ist das eine Entwicklung, die du erst in letzter Zeit beobachtest, oder war das eigentlich immer schon so?

Die Rahmenbedingungen haben sich verändert, es geht verstärkt in diese Richtung. Vor vier, fünf Jahren war Kapital sehr günstig, Venture Capital war auch leichter in höheren Bewertungsrunden aufzunehmen. Da war es nicht so zwingend notwendig, zähe Corporate Deals einzugehen. Diese Rahmenbedingungen haben sich geändert.

Gleichzeitig haben sich aus meiner Sicht auch die Corporates selbst entwickelt. Vor zehn Jahren war es fancy, Acceleratoren und Innovation Labs zu haben, Innovationsprogramme – ein bisschen Schaufensterdekoration. Daraus ist inzwischen ein existenzieller Druck geworden, vor allem im Bereich KI. Die Corporates sehen die Innovation von Startups nicht mehr als Nice-to-have, sondern stehen so stark unter Druck, dass sie darauf angewiesen sind und überlegen müssen, wie sie diese intern nutzen können. Das sind die zwei Hauptfaktoren, die sich geändert haben: die Rahmenbedingungen für die Kapitalaufnahme und die Dringlichkeit der Corporates, externe Innovation aufzunehmen oder mit Startups zusammenzuarbeiten.

Bei der Bits & Pretzels haben wir ja nicht nur Investoren und Kunden, sondern auch 500 CIOs, weil wir verstehen, dass diese künftige Kunden- oder Entwicklungsbeziehung in unserer Wirtschaft notwendig sein wird – wir reden über Europa, über Deutschland. Das ist keine temporäre Reaktion, nach dem Motto: Weil Kapital teurer ist, machen wir eben was anderes. Es geht klar in die Richtung, dass man idealerweise sehr früh im Rahmen der Produktentwicklung gemeinsam mit Ankerkunden erste Umsätze generiert und am Markt Fortschritte erzielt.

Gibt es Red Flags, bei denen du sagen würdest: Finger weg von dieser Corporate-Venturing-Beziehung?

Red Flag ist ein hartes Wort, aber vorsichtig wäre ich bei Innovationslaboren. Ich würde jedem empfehlen, direkt zum Bereichsleiter oder zur Bereichsleiterin mit Umsatz- und Kostenverantwortung zu gehen, weil man dann bei den Entscheider ist. Ich würde mich nur eng committen, wenn man einen Kontakt auf Vorstands- oder Bereichsvorstandsebene hat – einen C-Level-Sponsor, weil man sonst nicht alle Türen öffnen kann.

Man muss sich vor Augen halten: Wenn du ein Corporate als Kunden siehst, ist das ein toller Proof, aber auch ein Riesen-Pain. Ein häufiges Problem, ein Stolperstein, ist die Geschwindigkeit. Wenn ich als kleiner Gründer an einen DAX-Konzern herantrete, bin ich startklar, ich fange morgen mit der Entwicklung an. Aber die brauchen so viele Abstimmungen – Rechtsabteilungen, Bereichsleiter, Einkaufsprozesse, Integrationsschnittstellen, IT-Implementierungsbudgets. Das dauert. Das muss man als Gründer wissen, das geht nicht von heute auf morgen. Was ich aus eigener Erfahrung und von vielen anderen auf der Bits & Pretzels gehört habe, nenne ich „Pilotitis“: Lass uns mal einen kostenlosen Proof of Concept machen und dann weitersehen. Mit hoher Wahrscheinlichkeit geht das nie in den Echtbetrieb, das ist die falsche Herangehensweise.

Beim Thema Kundenrisiko: Wenn Corporates Exklusivität wollen, dann höchstens temporär, sechs, zwölf Monate, aber bitte nicht 24 Monate – sonst bist du gefangen und kannst nur hoffen, dass sie dir Folgeprojekte geben. Ein weiteres mögliches Warnsignal: Wenn sich der Einkaufsprozess so in die Länge zieht, dass etwa ein Betriebsrat zustimmen muss, sollte man sich fragen, ob das trotzdem der richtige Kunde ist – als Gründer hat man ja ohnehin schon Zeitdruck, etwas FOMO und ein bisschen Paranoia.

Wo passen die VCs in diesem Bild trotzdem noch rein? Wo macht es weiterhin mehr Sinn, auf VC zu setzen statt auf Corporates als Pilotkunden?

Grundsätzlich immer, wenn man ein skalierbares Tech-Business-Modell hat. Ich sage nur, dass VC nicht mehr die einzige Option ist. Die Anzahl der Finanzierungsrunden geht runter, die Anzahl der Gründungen geht hoch – also müssen sich Gründer zwangsläufig überlegen, wo sie außer von VCs Geld herbekommen. Umsatz ist das neue Risikokapital, plakativ gesagt. Das kann für viele funktionieren, weil nicht alle von Milliardenrunden wie bei Helsing oder von den gerade raisenden Health-Tech-Companies gesegnet sind. Wir reden auch über den Mittelstand der Gründungen, der ebenfalls Umsatz braucht – und kein VC-Geld zu bekommen heißt nicht automatisch, keinen Erfolg am Markt zu haben. Viele bekommen keinen VC. Und ich plädiere dafür, zu überlegen, dass Umsatz auch gutes, für viele sogar das passende Kapital sein kann.

Auf der Bits & Pretzels findet auch heuer wieder der CIO AI Summit statt, den ich intern kuratiere und hoste. Da kommen 500 CIOs aus dem deutschen Mittelstand, aus der deutschen Industrie und von Großunternehmen zusammen, tauschen sich zunächst untereinander aus, und dann öffnen wir den Raum, damit jeder Gründer und jede Gründerin mit ihnen in Kontakt treten kann. Genau das sind mögliche Kontaktpunkte, um Ankerkunden zu gewinnen – und auch für jedes österreichische Startup, das den deutschen Markt als relevant erachtet, eine sehr effiziente Möglichkeit, Industriekontakte zu knüpfen.

Wenn wir schon bei der Bits & Pretzels sind: Wie ist es euch eigentlich gelungen, Steven Bartlett heuer als Speaker zu gewinnen und auf welche Highlights darf man sich sonst noch freuen?

Beharrlichkeit. Es ist nicht das erste und nicht das zweite Mal, dass wir angefragt haben, das erste Mal ungefähr 2024. Wir haben als Veranstalter den Luxus, aber auch die Bürde, zu überlegen, wer passt, wer motiviert, wer inspiriert, wer den Leuten Energie im Raum gibt und die Gespräche entfacht. Und da waren wir uns immer einig, dass Steven Bartlett ein toller Mensch ist – selbst Gründer, und durch seine Empathie in seinen Interviews betont er immer wieder genau diesen menschlichen Aspekt hinter dem Unternehmen, hinter der Gründung. Das passt sehr gut zu unserem heurigen Motto „Human After All“. Dazu kommt seine enorme Expertise: Er ist ein sehr guter Speaker, ein bisschen Celebrity, aber eben auch ein fantastischer Fachexperte, der die Leute begeistern kann – und das wollen wir. Also leider keine wahnsinnige Story von einem zufälligen Treffen beim Kaffee in London, sondern schlicht Hartnäckigkeit, bis er endlich Zeit hatte.

Ein bisschen in dieselbe Richtung geht auch Trevor Noah, den wir ebenfalls dabei haben: Auch er ist Unternehmer, hat für Microsoft eine KI-Serie gemacht, ist also vom Fach. Ich glaube, solche Personen können unsere Themen nochmal ganz anders beleuchten, aus einer anderen Perspektive, und die Leute begeistern. Ein bisschen Out-of-the-box-Denken eben – deshalb holen wir sie.

Die Bits & Pretzels 2026 findet heuer von 28. bis 30. September 2026 wieder in München statt.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag