20.09.2023

Generative KI in Echtzeit: Neue Geschäftspotenziale durch Integration von GPT und Daten-Streaming

Gastbeitrag. Michael Drogalis, Principal Technologist bei Confluent, erklärt die Möglichkeiten von generativer KI für Unternehmen. Wie zum Beispiel beim Echtzeit-Datenfluss.
/artikel/generative-ki-in-echtzeit-neue-geschaeftspotenziale-durch-integration-von-gpt-und-daten-streaming
generative KI
(c) Unsplash - Michael Drogalis, Principal Technologist bei Confluent über generative KI.

Mit GPT-4 hat OpenAI einen intelligenten Chatbot eingeführt, der weltweit für großes Aufsehen gesorgt hat. Es handelt sich dabei um die sogenannte GenAI (aus dem Englischen “generative artificial intelligence”) oder generative KI, die aus automatisierter Sprachverarbeitung und Antwortgenerierung besteht. Diese Technologie hilft bei vielen Projekten in der realen Welt und vor allem in den Bereichen Kundenservice, Marketing und Sales, Softwareentwicklung und Forschung.

Damit eröffnet generative KI Unternehmen bahnbrechende Möglichkeiten. Dazu gehört auch die Integration mit Daten-Streaming, d. h. dem Echtzeit-Datenfluss innerhalb von Organisationen, um echte, produktionsreife Anwendungen mit noch nie dagewesenen Fähigkeiten zu schaffen.

Von der Datenfabriken bis zum Echtzeit-Training von Sprachmodellen

Mit Event-Streaming können Unternehmen ihre internen Datenspeicher nahtlos mit GPT-4 verbinden. Dadurch kann das KI-System nicht nur präzise auf Kundenanfragen reagieren, sondern auch das Verhalten des Modells an spezifische Geschäftsanforderungen anpassen. Ermöglicht wird dies durch “Kontextfenster”, ein Prinzip, das es GPT-4 erlaubt, Informationen aus früheren Teilen eines Chats zu speichern und sein Verhalten entsprechend anzupassen, um relevante und maßgeschneiderte Antworten zu geben.

Daten-Streaming ist bereits die Grundlage vieler GenAI-Infrastrukturen und Softwareprodukte. Dabei sind sehr unterschiedliche Szenarien denkbar: Daten-Streaming als Datenfabrik für die gesamte ML-Infrastruktur, Pattern Scoring mit Stream-Processing für Echtzeit-Vorhersagen, Streaming Data Pipeline Generation mit Text- oder Spracheingabe oder sogar Echtzeit-Online-Training von großen Sprachmodellen.

Aktuelle Grenzen von Generativer KI in Echtzeit

Wie bei jeder Innovation gibt es auch hier Grenzen. Der Ansatz von generativer KI in Echtzeit bringt zwei große Herausforderungen mit sich:

Einerseits ist die Antwortgenerierung von GenAI-Infrastrukturen, die Daten-Streaming unterstützen, durch die Breite der Kontextfenster begrenzt. Wenn diese nicht breit genug sind, können nicht alle Prompts der Benutzer beantwortet werden. Die Aussichten sind jedoch positiv, da KI-Systeme ständig weiterentwickelt werden und Entwickler kontinuierlich daran arbeiten, die Breite der Kontextfenster zu erweitern. Mittel- bis langfristig wird diese Einschränkung daher eher nicht mehr bestehen.

Andererseits ist generative KI in Echtzeit anfällig für sogenannte “Prompt-Injektion-Attacken”, eine neue Art von Schwachstellen bei KI- und ML-Systemen (Machine Learning), hierbei werden widersprüchliche Prompts so aneinandergereiht, dass das System nicht mehr in der Lage ist, sie zu unterscheiden und angemessen darauf zu reagieren. Auf diese Weise können Angreifer Befehle in Datenfelder unter ihrer Kontrolle einfügen und die Maschine zu unerwarteten Aktionen zwingen. Obwohl Prompt-Injektion derzeit meist nur für positive Zwecke genutzt wird, gibt es Szenarien, in denen eine böswillige Manipulation der Antwort zur Umgehung von Einschränkungen oder als Fingerprinting-Technik zur Erkennung von Software, Netzwerkprotokollen, Betriebssystemen oder Hardware-Geräten im Netzwerk verwendet werden könnte.

Generative KI + Daten Streaming: Relevanz und Mehrwert für Unternehmen

Es ist also klar, dass noch erhebliche Fortschritte gemacht werden müssen, bis das Potenzial generativer KI voll ausgeschöpft wird. Es lässt sich jedoch jetzt schon sagen, dass sich sowohl die Streaming-Modelle als auch die großen Sprachmodelle gegenseitig in ihrer Entwicklung vorantreiben werden. Denn generative KI bringt nur dann einen Mehrwert, wenn sie genaue und aktuelle Einsichten liefert, und hier haben Echtzeitdaten eindeutig Vorrang vor “langsamen” Daten.

Über alle Branchen hinweg haben Early Adopter von generativer KI, die in Daten-Streaming-Technologien wie Apache Kafka und Apache Flink integriert ist, bereits bewiesen, dass diese Innovationeinen enormen Mehrwert für Unternehmen bietet.

Deine ungelesenen Artikel:
vor 1 Stunde

Multichannel Starter Paket – der einfache Einstieg ins 360 Grad Marketing

Die RTL-Vermarktungstochter IP Österreich bietet für Startups und Unternehmen ein Multichannel Starter Paket an, um den Einstieg ins 360 Grad Marketing zu erleichtern. Inklusive einer holistischen Strategie, die alle Phasen der Customer Journey berücksichtigt.
/artikel/multichannel-starter-paket-der-einfache-einstieg-ins-360-grad-marketing
vor 1 Stunde

Multichannel Starter Paket – der einfache Einstieg ins 360 Grad Marketing

Die RTL-Vermarktungstochter IP Österreich bietet für Startups und Unternehmen ein Multichannel Starter Paket an, um den Einstieg ins 360 Grad Marketing zu erleichtern. Inklusive einer holistischen Strategie, die alle Phasen der Customer Journey berücksichtigt.
/artikel/multichannel-starter-paket-der-einfache-einstieg-ins-360-grad-marketing
Multichannel Starter Paket, IP Österreich, Werbung schalten, RTL
© IP Österreich/Raphael Fasching - Ricarda Lederle, Sales Managerin Clients & New Business bei IP Österreich,

Es ist leicht, in die Verlockung von programmatischen Werbelösungen großer Suchmaschinenanbieter zu geraten und dabei den Wert einheimischer, vertrauenswürdiger Werbepartner:innen zu übersehen. Doch heimische Angebote können nicht nur sicherstellen, dass ihr Werbeinhalt in seriösen Umgebungen platziert wird; sie können auch eine effektive Markenpräsenz über den gesamten Tagesverlauf garantieren. Ein solcher heimischer Anbieter ist die IP Österreich, eine Vermarktungstochter von RTL Deutschland.

Rund um die Uhr präsent mit Multichannel-Marketing

Das Multichannel-Portfolio der IP Österreich beinhaltet TV, Online, Addressable TV, Connected TV, Digital-Out-of-Home, Influencer-Marketing, Audio und Gaming und erreicht Konsument:innen in unterschiedlichen Lebenssituationen – bei morgendlichen Routinen, unterwegs, während der Mittagspause oder beim abendlichen Entspannen. Diese holistische Strategie berücksichtigt alle Phasen der Customer Journey, einschließlich Wahrnehmung, Überzeugung, Kauf, Service und Kundenbindung.

Überzeugende Vorteile des Multichannel-Starterpakets der IP Österreich

Für den Einstieg in die Werbewelt bietet IP Österreich ein Multichannel-Starter-Paket mit bemerkenswerten Vorteilen. Hierzu gehört die hohe Werbeerinnerung von TV-Werbung, deren Wirkung sogar noch zwei Monate nach dem ersten Kontakt nachweisbar ist.

Im Online-Bereich garantiert das Paket vollständige Markensicherheit durch transparente Sitelists. Zudem bietet das Addressable TV gezieltes Targeting. Mit zahlreichen DOOH-Screens ist auch die Sichtbarkeit im öffentlichen Raum gewährleistet.

Erschwingliche Eintrittskarte in die Welt der Werbung

Ein weiteres Schlüsselmerkmal dieses Pakets ist sein Preispunkt. Bei einer äußerst attraktiven Preisgestaltung bietet IP Österreich einen umfangreichen Einstieg in die Werbewelt. Wenn Unternehmen sich für alle verfügbaren Kanäle entscheiden, wird sogar ein zusätzlicher Multichannel-Rabatt gewährt.

Die Multichannel-Lösungen von IP Österreich, gepaart mit attraktiven Preisen und strategisch durchdachten Werbelösungen, machen es zu einer erstklassigen Wahl für Unternehmen, die ihre Werbepräsenz ausbauen wollen. Weitere Details kann man auf der Webseite der IP Österreich nachschlagen.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Generative KI in Echtzeit: Neue Geschäftspotenziale durch Integration von GPT und Daten-Streaming

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Generative KI in Echtzeit: Neue Geschäftspotenziale durch Integration von GPT und Daten-Streaming

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Generative KI in Echtzeit: Neue Geschäftspotenziale durch Integration von GPT und Daten-Streaming

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Generative KI in Echtzeit: Neue Geschäftspotenziale durch Integration von GPT und Daten-Streaming

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Generative KI in Echtzeit: Neue Geschäftspotenziale durch Integration von GPT und Daten-Streaming

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Generative KI in Echtzeit: Neue Geschäftspotenziale durch Integration von GPT und Daten-Streaming

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Generative KI in Echtzeit: Neue Geschäftspotenziale durch Integration von GPT und Daten-Streaming

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Generative KI in Echtzeit: Neue Geschäftspotenziale durch Integration von GPT und Daten-Streaming

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Generative KI in Echtzeit: Neue Geschäftspotenziale durch Integration von GPT und Daten-Streaming