OpenAI nimmt Tool zur Erkennung von KI-generierten Texten offline
Im Jänner hat das ChatGPT-Unternehmen OpenAI ein neues Tool präsentiert, das mittels künstlicher Intelligenz (KI) generierte Texte automatisiert erkennen sollte. Ein halbes Jahr später wurde das Tool nun offline genommen.
Es ist eine Frage, die sich angesichts der Fortschritte im Bereich künstliche Intelligenz (KI) direkt aufdrängt: Sind wir noch in der Lage, KI-generierte Inhalte zuverlässig als solche zu erkennen? Und wenn ja, wie lange noch? Dass es bereits jetzt nicht so einfach ist, musste nun auch eines der führenden KI-Unternehmen der Welt einräumen: OpenAI, bekannt unter anderem für ChatGPT.
Anfang des Jahres hat das Unternehmen ein Tool präsentiert, das KI-generierte Texte als solche erkennen kann. Zumindest war dies die Absicht. Denn wie sich nun herausstellt, waren die Ergebnisse nicht zufriedenstellend. OpenAI hat das Tool daher bereits in der Vorwoche offline genommen. Die Begründung: Das Tool habe keine hohen Genauigkeitswerte erreicht. OpenAI kommunizierte dies, indem es den Blogeintrag mit der Ankündigung vom Jänner aktualisierte. Eine gesonderte Mitteilung gab es nicht.
OpenAI: „Erforschen effektivere Verfahren“
„Wir arbeiten daran, das Feedback zu berücksichtigen, und erforschen derzeit effektivere Verfahren zur Ermittlung der Herkunft von Texten“, heißt es in dem Update des Blogeintrags. Außerdem habe sich OpenAI verpflichtet, Mechanismen zu entwickeln und einzusetzen, die es den Nutzer:innen ermöglichen zu erkennen, ob Audio- oder visuelle Inhalte von KI generiert wurden.
Tatsächlich war OpenAI eines von sieben führenden US-Unternehmen im KI-Bereich, die anlässlich eines Besuchs im Weißen Haus am Freitag eine Reihe von freiwilligen Selbstverpflichtungen vorgeschlagen hatte (brutkasten berichtete). Eines davon: Ein zuverlässiges Wasserzeichen für KI-generierte Inhalte.
Die Frage, ob sich KI-generierte Texte anderer Anbieter als solche identifizieren lassen, ist unabhängig davon, ob man Outputs von eigenen KI-Tools mit Erkennungszeichen versieht. Allerdings zeigt es die großen Schwierigkeiten, die beim automatisierten Erkennen von KI-Inhalten weiterhin bestehen.
Bereits zum Start auf Einschränkungen hingewiesen
Dass das von OpenAI im Jänner präsentierte KI-Erkennungstool sich nun als nicht effektiv erwiesen hat, ist für das Unternehmen zwar sicherlich alles andere als erfreulich. Überraschend kommt es allerdings nicht, denn die Entwickler:innen hatten bereits beim Start auf eine Reihe an Einschränkungen hingewiesen: Das Tool sei nicht „vollständig zuverlässig“, inbesondere bei kurzen Texten unter 1.000 Zeichen sei es „sehr unzuverlässig“. Überhaupt sei es „unmöglich“, sämtliche Formen von KI-generierten Texten zuverlässig zu erkennen, hieß es in der Ankündigung.
OpenAI wies daher auch darauf hin, dass das Tool generell nicht als hauptsächliches Entscheidungskriterium für die Frage, ob ein Text KI-generiert ist oder nicht, herangezogen werden sollte. Man mache das Tool aber dennoch öffentlich, um Feedback zu erhalten, ob auch solche unvollkommen Tools nützlich seien.
Die Projektmanagerin, die nie schläft: accilium zeigt bei der aIQon KI-Agenten im Echtbetrieb
Mit ihrer ersten „aIQon“ hat die Wiener Strategieberatung accilium ein neues Format gestartet: keine Folien, nur Live-Demos von KI-Agenten, die bereits im Einsatz sind. Im Mittelpunkt stand Aurelia, eine Agentin, die als Mitglied eines Projektteams in Microsoft Teams mitarbeitet.
Die Projektmanagerin, die nie schläft: accilium zeigt bei der aIQon KI-Agenten im Echtbetrieb
Mit ihrer ersten „aIQon“ hat die Wiener Strategieberatung accilium ein neues Format gestartet: keine Folien, nur Live-Demos von KI-Agenten, die bereits im Einsatz sind. Im Mittelpunkt stand Aurelia, eine Agentin, die als Mitglied eines Projektteams in Microsoft Teams mitarbeitet.
Opening Fireside Chat bei der aIQon: Peter Allan (accilium) diskutierte mit Alexia Feick (Microsoft) und Paul Strunz (Wien Energie) über KI im Unternehmensalltag. (c) Zsolt Marton
Keine Charts, keine Keynotes, nur Dinge, die funktionieren. Mit dieser Regel eröffnete Peter Allan, AI Lead und Managing Partner bei accilium, am 22. Oktober die erste aIQon im 15. Stock des Juwel Wien. Das Format lehnt sich an Tech-Konferenzen an: Ein Team stellt ein Problem vor, zeigt live, was es dagegen gebaut hat, und erklärt, was es dabei gelernt hat. Allan nannte den Nachmittag ein Experiment. Wer Organisationen das Potenzial von KI vermitteln wolle, komme mit Folien nicht mehr weit, man müsse es zeigen.
Von der Beratung zum Bauen
accilium ist eine österreichische Strategie- und Managementberatung mit Sitz am Wiener Schubertring, die unter anderem für den öffentlichen Sektor arbeitet. Erst im September erhielt das Unternehmen den Zuschlag für einen Rahmenvertrag der Bundesbeschaffung GmbH (BBG) zur Digitalisierung der Verwaltung mit einem Volumen von bis zu 39 Millionen Euro.
Mit der aIQon zeigt accilium eine weitere Seite: Das Unternehmen hat heuer ein eigenes Team aus Forward Deployed Engineers aufgebaut, also Entwickler:innen, die direkt mit den Kunden arbeiten und Lösungen nicht nur konzipieren, sondern auch bauen. Die Rolle kommt aus der Software-Industrie und wird derzeit von führenden KI-Anbietern etabliert. Für eine Beratung heißt das: Strategie und Umsetzung aus einer Hand. Die gezeigten Agenten stammen alle aus diesem Team und laufen bei accilium selbst im Echtbetrieb.
(c) Zsolt Marton
Eine Kollegin, die alles mitliest
Aurelia ist ein eigenes Mitglied in einem Teams-Kanal. Sie hat ein eigenes Konto, liest Kanal, Postfach, Planner und Kalender eines Projekts mit und tut, was das Team ihr sagt. Im Szenario der Demo kehrt Projektleiterin Pia aus zwei Wochen Urlaub zurück und fragt Aurelia, was passiert ist. Statt Dutzende Nachrichten nachzulesen, bekommt sie in einer Antwort, was entschieden wurde und was für sie offen ist. Eine Kollegin ist krank: Aurelia findet deren fällige Aufgaben, schlägt Vertretungen vor und hängt die Aufgaben nach Pias Zustimmung im Planner um. Als die Kundin per Mail den Lenkungskreis vorziehen will, meldet sich Aurelia von selbst, weist darauf hin, dass eine Kollegin an dem Tag im Urlaub ist, und fragt nach, bevor sie den Termin verschiebt. Zum Jour fixe steht die Agenda in der Einladung, und eine Kollegin wird an ihren Kurzbericht erinnert.
(c) Zsolt Marton
Die Regeln dahinter sind klar: Aurelia liest alles mit, meldet sich von selbst aber nur dort, wo das Team es ihr aufgetragen hat. Planner und Kalender ändert sie erst nach einem Ja, Mails nach außen schickt sie nicht. Was sie darf, steht laut accilium im Code und nicht im Prompt. Die Regeln selbst gibt ihr das Team im Kanal, in ganz normalen Sätzen, so wie einer neuen Kollegin. Technisch läuft alles in einem Microsoft-Tenant auf Azure in der EU, das Sprachmodell in der EU-Datenzone.
Das wichtigste Learning kam aus dem eigenen Betrieb: Das richtige Maß ist für jedes Team ein anderes. Manche wollen täglich einen Status, andere jemanden, der im Hintergrund die Fäden zusammenhält und sich nur auf Nachfrage meldet. Deshalb lässt sich heute einstellen, wie proaktiv Aurelia ist. Und weil Teams einen Agenten als Kollegin wahrnehmen, gelte dasselbe wie bei jeder neuen Mitarbeiterin: Beide Seiten müssen sich aneinander gewöhnen.
Dasselbe Prinzip auf drei Ebenen
(c) Zsolt Marton
Zwei weitere Demos zeigten, dass der Ansatz auch jenseits des Projektteams funktioniert. „Linda Legal“ bündelt das Erfahrungswissen einer Rechtsabteilung und prüft direkt in Outlook Verträge gegen Richtlinie und Verhandlungsprotokoll. In der Demo entdeckte sie, dass in einem Paragrafen „jeweils“ statt des vereinbarten „zusammen“ stand, womit pro Wochenabruf 8.000 statt 4.000 Euro fällig geworden wären. Ihr Wissen liegt in lesbaren Dateien, die die Fachabteilung ohne IT selbst pflegt. „Erich Aigner“ wiederum ist ein persönlicher Assistent: Ein Berater erzählt ihm nach einem Kundentermin eine Minute lang, was zu tun ist, danach stehen Nachricht, Folgetermin und Mailentwürfe bereit. Gesendet wird nichts, das entscheidet der Mensch.
(c) Zsolt Marton
Drei Agenten, drei Ebenen: Team, Fachwissen, einzelne Person. Allen gemeinsam ist dasselbe Prinzip. Lesen, sortieren und vorbereiten tun die Agenten selbstständig, ändern und nach außen kommunizieren nur nach menschlicher Freigabe. Und diese Grenze ist technisch verankert, nicht bloß im Prompt versprochen.
Die Technik ist nicht der Engpass
Dass genau das die eigentliche Arbeit ist, zeigte auch der Opening Fireside Chat, in dem Peter Allan mit Alexia Feick und Paul Strunz über KI im Alltag, Top-down und Bottom-up in der Transformation und die Messbarkeit von KI-Projekten sprach. Strunz leitet das Digital Competence Center der Wien Energie, Feick war früher bei accilium und arbeitet heute im Customer Success bei Microsoft. Ihr gemeinsamer Befund: Die heutigen Modelle sind gut genug, der Hebel liegt in Prozessen, Governance und Befähigung. Feick riet, bei konkreten Pain Points anzusetzen statt bei dem Wunsch, „KI zu haben“. Der Output nach sechs Monaten solle eine veränderte Arbeitsweise mit messbarem Ergebnis sein, und lieber ein Use Case im crossfunktionalen Team als 30 kleine Proof-of-Concepts. Strunz ergänzte, dass Effizienzgewinne verpuffen, wenn die Prozesse dahinter nicht angepasst werden; bei der Wien Energie misst man unter anderem die Zahl aktiver Citizen Developer, eingesparte Stunden und eingespartes Geld.
(c) Zsolt Marton
Allan sieht in Agenten vor allem eine Wachstumschance: Es gebe unendlich viel Nachfrage nach Services, und wer es clever mache, nutze Agenten, um jeden einzelnen Job besser und kreativer zu machen. Bei accilium selbst sei keine Stelle durch KI ersetzt worden, wohl aber viel administrative Arbeit weggefallen. Intern begleitet das Unternehmen den Wandel mit einem eigenen Rhythmus: Jede Woche gibt es einen neuen „Build“ mit Skills, Tools und Trainings, wie bei einem Software-Unternehmen.
Alle Demos, Baupläne, Prompts und Skills stellt accilium offen zum Download bereit. Wer nicht dabei war, kann die Agenten also nachbauen. Auch das ist für eine Beratung ungewöhnlich und passt zum Anspruch des Formats: zeigen statt erklären.
Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.