KI in der Praxis: Was es braucht und wo die Fallstricke liegen

Was braucht es zum Start? Welche Voraussetzungen müssen für erfolgreiche KI-Projekte erfüllt sein? Wie integriert man KI in bestehende Systeme? Wo stehen wir wirklich bei Agents und wofür eignen sie sich? Diese und weitere Fragen werden  in der neuen Folge von “No Hype KI” behandelt.

Bei brutkasten-Chefredakteur Dominik Meisinger diskutieren:

⚫ Andreas Thomasch (Director & CTO Germany & Austria bei Lenovo)

⚫ Christian Casari (Head of Partnerships & Sales bei ONTEC AI)

⚫ Sarah Eschenbacher (Expertin für AI-Agents & AI Research Engineer bei Fraunhofer Austria)

⚫ Patrick Ratheiser (KI-Experte & Keynote-Speaker sowie Co-Founder und langjähriger CEO von Leftshift One)

---

Um diese Themen geht es im Videotalk:

1. Einstieg: KI-Readiness, Use Cases und Ziele

• Andreas Thomasch betont, dass Unternehmen zunächst eine ehrliche Bestandsaufnahme machen müssen: Welche Skills sind vorhanden, wie sieht die aktuelle Datenstruktur und Datengovernance aus und in welcher Umgebung sollen KI-Anwendungen später laufen.
• Patrick Ratheiser ergänzt, dass viele Unternehmen mit Tools starten, bevor sie sinnvolle Use Cases definiert haben, und plädiert dafür, zuerst die Business- und Produktionsprozesse zu analysieren und dann jene Use Cases zu priorisieren, die einen klaren ROI versprechen.
• Christian Casari erklärt, dass erfolgreiche KI-Einführung immer aus einem Zusammenspiel von technischen Fundamenten (Daten, Skills, Infrastruktur) und organisatorischen Fundamenten (Use Cases, KPIs, Organisation „mitnehmen“) besteht und dass diese beiden Seiten bewusst aufeinander abgestimmt werden müssen.

2. Agents und Anwendungsfälle: Wo KI wirklich Mehrwert bringt

• Sarah Eschenbacher stellt klar, dass die meisten Probleme ohne Agents und oft sogar ohne KI lösbar sind und dass sich Agents besonders für Datenmanagement eignen, etwa wenn verteilte Systeme verbunden werden oder Mitarbeitende per natürlicher Sprache auf SQL-Datenbanken zugreifen sollen.
• Patrick Ratheiser schildert, dass er in Projekten immer zuerst prüft, ob sich ein Problem nicht durch Prozessänderung oder einfache Digitalisierung lösen lässt, statt vorschnell KI oder Chatbots einzusetzen, und warnt vor symbolischen Lösungen wie einem Chatbot zwischen nicht kommunizierenden Abteilungen.
• Christian Casari führt aus, dass wir alle bereits Agents nutzen, wenn Systeme wie ChatGPT mit Tools oder Webzugriff arbeiten, und zeigt am Beispiel eines Digital Assistants für Sunny Cars, wie spezialisierte Agents Daten aus mehreren Datenbanken holen und konkrete Business-Prozesse abbilden, solange es klare Grenzen und Fallbacks gibt.

3. Daten, Governance und Zielarchitektur

• Andreas Thomasch unterstreicht, dass ohne saubere Datenqualität und Datengovernance kein KI-Projekt nachhaltig erfolgreich sein kann und empfiehlt, ganze Datenbereiche „KI-ready“ zu machen, damit mehrere Use Cases auf derselben Datenbasis aufsetzen und sich der Aufwand besser rechnet.
• Christian Casari hebt hervor, dass nicht nur der Speicherort der Daten, sondern vor allem deren Kritikalität entscheidend ist und dass zentrale Unternehmensdaten nicht leichtfertig in die Cloud verlagert werden sollten, sondern eher in hybriden Modellen verarbeitet werden können, bei denen sensible Daten on-premise bleiben.
• Patrick Ratheiser warnt vor schnell zusammengestellten Proof of Concepts, die ohne Überlegungen zu Datenbasis, Zielarchitektur und Compliance entstehen, weil solche POCs zwar beeindrucken, aber oft nicht produktionsfähig sind und dadurch nachträglich doppelte Arbeit verursachen.

4. Organisation, Kompetenzen, Guardrails und Human-in-the-Loop

• Patrick Ratheiser berichtet, dass viele KI-Projekte nach dem POC scheitern und nennt als Gründe falsche oder überambitionierte Use Cases, überhöhte Erwartungshaltungen und mangelnde KI-Kompetenzen, verschärft durch den Widerspruch, dass Unternehmen zwar schulen, aber die Nutzung von Tools wie ChatGPT oft verbieten.
• Sarah Eschenbacher beschreibt Guardrails für Agents als Kombination aus regelbasierten Filtern, die Input und Output etwa über Keywords prüfen, und zusätzlichen LLM-Prüfungen und fordert bei kritischen Entscheidungen zwingend rule-based Stopper und Human-in-the-Loop, um Verantwortlichkeit und Haftung sauber zu regeln.
• Christian Casari macht deutlich, dass Human-in-the-Loop bei wirtschaftlich relevanten Entscheidungen unverzichtbar bleibt, gleichzeitig aber viele Standardfälle vollständig automatisiert werden können, sodass menschliche Mitarbeitende vor allem die komplexen und kritischen Fälle bearbeiten.

5. Modellwahl, Kosten, Energieeffizienz und Erwartungsmanagement

• Sarah Eschenbacher weist darauf hin, dass bessere LLMs nicht automatisch bessere Agents bedeuten und dass die Zukunft in einer Mischung aus besseren Reasoning-Fähigkeiten, kleineren spezialisierten Modellen und effizienter Infrastruktur liegt, wobei Energieeffizienz ein zentrales Thema bleibt.
• Christian Casari vergleicht den aktuellen Einsatz großer Modelle mit einem LKW, der für eine sehr kurze Strecke genutzt wird, und kritisiert, dass triviale Aufgaben oft unnötig mit mächtigen Modellen gelöst werden, obwohl kleinere LLMs technisch ausreichen und erhebliche Kosten- und Energieeinsparungen ermöglichen könnten.
• Patrick Ratheiser sieht das Hauptproblem in der Erwartungshaltung der Nutzerinnen und Nutzer, die vom privaten Gebrauch großer Modelle geprägt ist, und ist überzeugt, dass mit mehr AI-Literacy auch die Akzeptanz für kleinere, weniger „glänzende“, aber effiziente Modelle steigt, wenn deren fachliche Qualität und Nutzen klar vermittelt werden.
• Andreas Thomasch erwartet, dass immer mehr Geräte direkt AI-Fähigkeiten bekommen und kleinere Modelle lokal einsetzen, wodurch Datenschutzrisiken sinken, weil nur verdichtete Informationen weitergegeben werden müssen, und Unternehmen gezwungen sind, ihr begrenztes Energiebudget möglichst wirksam für sinnvolle KI-Workloads einzusetzen.

6. Konkrete Fallstricke und Empfehlungen aus der Schlussrunde

• Christian Casari rät, den gesunden Menschenverstand auch bei KI-Projekten nicht auszuschalten, Projekte wie gewohnt sauber zu planen und erst am Ende über konkrete Tools und Technologien zu entscheiden, wenn klar ist, wo das Unternehmen steht und wohin es will.
• Sarah Eschenbacher warnt davor, mit übergroßen Agent-Visionen zu beginnen, und empfiehlt, mit kleinen, spezialisierten Agents zu starten, deren Nutzen und Grenzen klar definiert sind, statt einen „Alleskönner-Agent“ zu erwarten.
• Patrick Ratheiser empfiehlt, sich nicht vom Wunsch der Geschäftsführung nach dem „komplexesten Use Case“ leiten zu lassen, sondern klein, pragmatisch und risikoarm zu starten und parallel konsequent in AI-Literacy zu investieren, damit die Organisation zu einer lernenden Organisation werden kann.
• Andreas Thomasch appelliert an IT-Abteilungen, sich proaktiv vorzubereiten, eigene Sandbox-Umgebungen und Infrastruktur für KI aufzubauen, intern Know-how zu entwickeln und so in die Lage zu kommen, Fachbereiche realistisch zu beraten und Anfragen nicht nur reaktiv abzuarbeiten.