19.06.2023

Yale-Befragung zu KI: Über 40 Prozent der Top-CEOS befürchten Ende der Menschheit

Eine Umfrage vom Chief Executive Leadership Institute zeigt, wie unterschiedlich die Meinungen zu KI ausfallen, auch bei den CEOs großer US-Konzerne.
/artikel/yale-befragung-zu-ki-ueber-40-prozent-der-top-ceos-befuerchten-ende-der-menschheit
Foto: Unsplash/Zhenyu Luo

Die Sorgen vor Künstlicher Intelligenz scheinen nicht abzuflachen und zum Teil auch die Führungskräfte großer internationaler Konzerne zu beschäftigen. Einer Yale-Umfrage nach glauben 42 Prozent der CEOs, dass KI das Potenzial hat, die Menschheit in fünf bis zehn Jahren zu vernichten bzw. eine existenzielle Bedrohung darstellt.

Die Befragung wurde im Rahmen einer virtuellen Veranstaltung des Chief Executive Leadership Institute durchgeführt, wie CNN berichtet. Dabei wurden 119 CEOs befragt – darunter die Geschäftsführer:innen von Walmart, Coca-Cola, Xerox, Zoom sowie CEOs aus dem Pharma-, Medien- und Erzeugungsbereich.

Großteil sieht Potenzial und ist „nicht besorgt“

Allerdings: Die meisten bzw. 58 Prozent denken, dass dies niemals passieren könnte und seien „nicht besorgt“. In einer weiteren Frage führten 42 Prozent an, dass sie die potentielle KI-Katastrophe für überbewertet halten.

Hinsichtlich der Vorteile zeigte sich eine größere Übereinstimmung. Gerade mal 13 Prozent sehen die potentielle Chance durch Künstliche Intelligenz für überbewertet. Die größten transformativen Auswirkungen erwarten die CEOs beim Gesundheitswesen (48 Prozent), bei professionellen Dienstleistungen/IT (35 Prozent) und in den Medien- und Digital-Industrie (11 Prozent).

CEOs: Fünf Meinungslager bei Künstlicher Intelligenz

Laut dem Yale-Professor Jeffrey Sonnenfeld teilen sich die Befragten in fünf verschiedene Lager auf, wie er gegenüber CNN erklärt. „Curious creators“ denken etwa, dass man alles, was man tun kann, auch machen sollte. Dann gebe es die „euphoric true believers“, die in der Technologie nur das Gute sehen. Die „commercial profiteers“ wollen hingegen enthusiastisch an der neuen Technologie verdienen. Diesen Pro-Lagern stehen die „alarmistischen Aktivist:innen“ und die Global Governance-Advokat:innen gegenüber. Laut Sonnenfeld reden alle Gruppen mit selbstgerechter Empörung aneinander vorbei.

Eine Furcht bzw. zumindest eine Vorsicht dürfte bei Personen innerhalb und außerhalb der Tech-Bubble bestehen. So warnten erst kürzlich der Ex-Google Chef und KI-Pionier Geoffrey Hinton oder Elon Musk und weitere vor Gefahren der Technologie.

Glaubt man den KI-Forscher:innen aus Österreich, dürfte sich keine „Weltuntergangsszenarien à la Terminator“ anbahnen. Bei einer Veranstaltung der Austrian Society for Artificial Intelligence (ASAI) sprach Wissenschafter Christoph Lampert allerdings an, dass er noch immer auf vorherrschende Angst stößt, wenn er über seine Arbeit spricht: „Es ist wichtig, in der Gesellschaft Akzeptanz zu erreichen.“

Deine ungelesenen Artikel:
10.11.2026

KI-Agenten gezielt steuern: Warum klare Grenzen im Kundenservice entscheidend sind

KI-Agenten können im Kundenservice viel leisten, solange sie wissen, wo ihre Grenzen liegen. Ein Gastbeitrag über die gezielte Steuerung von KI im Kundenkontakt.
/artikel/ki-agenten-gezielt-steuern-warum-klare-grenzen-im-kundenservice-entscheidend-sind
10.11.2026

KI-Agenten gezielt steuern: Warum klare Grenzen im Kundenservice entscheidend sind

KI-Agenten können im Kundenservice viel leisten, solange sie wissen, wo ihre Grenzen liegen. Ein Gastbeitrag über die gezielte Steuerung von KI im Kundenkontakt.
/artikel/ki-agenten-gezielt-steuern-warum-klare-grenzen-im-kundenservice-entscheidend-sind

Ein Kunde fragt nach dem Lieferstatus seiner Bestellung. Ein anderer benötigt eine Produktempfehlung. Ein dritter möchte wissen, welche Bedingungen für eine Reklamation gelten. Obwohl alle drei Anfragen im Kundenservice eingehen, stellen sie unterschiedliche Anforderungen an den Einsatz künstlicher Intelligenz. Denn während eine Produktberatung individuell formuliert werden kann, müssen Auskünfte zu Vertragsbedingungen auf verbindlichen Informationen beruhen.

Für mittelständische Unternehmen stellt sich deshalb eine zentrale Frage: Wie lässt sich genau festlegen, welche Informationen KI-Agenten nutzen und welche Aufgaben sie eigenständig übernehmen dürfen?

Unternehmen müssen bestimmen, worauf die KI zugreifen darf

Moderne Sprachmodelle können Informationen verarbeiten, Zusammenhänge erkennen und Antworten formulieren. Im Kundenservice reicht diese Fähigkeit allein jedoch nicht aus. Entscheidend ist, dass die KI ausschließlich auf Informationen und Funktionen zugreift, die für das jeweilige Anliegen freigegeben sind.

Bei Fragen zu Lieferbedingungen sollte sie beispielsweise nur die aktuellen Unternehmensrichtlinien berücksichtigen. Bei einer allgemeinen Produktberatung kann es dagegen sinnvoll sein, verschiedene Wissensquellen miteinander zu verknüpfen. Für eine Bestellstatusabfrage wiederum benötigt der Agent Zugriff auf aktuelle Daten aus einem angebundenen System.

Was in der Praxis häufig unterschätzt wird: KI muss im Unternehmen nicht als frei agierendes System eingesetzt werden. Durch gezielte Konfiguration lassen sich Informationsquellen, Antwortvorgaben und Handlungsmöglichkeiten so eingrenzen, dass KI-Agenten innerhalb klar definierter Regeln arbeiten. Damit können Unternehmen KI auch dort einsetzen, wo Verlässlichkeit und Kontrolle besonders wichtig sind.

Dabei lässt sich nicht nur festlegen, welche internen Dokumente, Datenbanken oder externen Quellen verwendet werden dürfen. Auch der Zugriff auf eine Websuche oder die Ausführung bestimmter Aktionen kann eingeschränkt werden.

Restriktiv, generativ oder agentisch: Der Anwendungsfall entscheidet

Je nach Aufgabe können unterschiedliche KI-Ansätze zum Einsatz kommen. Diese schließen sich nicht gegenseitig aus, sondern lassen sich innerhalb einer Kundenservice-Lösung miteinander kombinieren.

Restriktive KI: Antworten innerhalb klarer Vorgaben

Bei verbindlichen Auskünften sind enge Grenzen notwendig. Ein restriktiv konfigurierter KI-Agent greift ausschließlich auf freigegebene Informationen zurück und darf definierte Antwortvorgaben nicht verlassen.

Fehlen die erforderlichen Informationen, sollte das System keine Aussagen ergänzen oder Vermutungen anstellen. Stattdessen kann es die Anfrage an einen Mitarbeitenden weiterleiten.

Dieser Ansatz eignet sich beispielsweise für Garantiebedingungen, Vertragsinformationen oder sensible Serviceprozesse.

Generative KI: Individuelle Antworten auf kontrollierter Wissensbasis

Andere Anliegen erfordern eine flexiblere Kommunikation. Möchte ein Kunde mehrere Produkte vergleichen oder technische Zusammenhänge verstehen, kann generative KI Informationen aus hinterlegten Wissensquellen zusammenführen und verständlich aufbereiten.

Dabei muss die KI nicht auf ihr allgemeines Trainingswissen zurückgreifen. Sie kann so konfiguriert werden, dass ihre Antworten ausschließlich auf ausgewählten Unternehmensinformationen basieren. Die Formulierung bleibt flexibel, während die zugelassenen Informationsquellen klar definiert sind.

Agentische KI: Aufgaben innerhalb festgelegter Berechtigungen ausführen

Agentische KI geht über die reine Beantwortung von Fragen hinaus. Sie kann verfügbare Werkzeuge auswählen, Schnittstellen nutzen und mehrstufige Aufgaben bearbeiten.

Beispielsweise kann ein KI-Agent eine Bestellnummer entgegennehmen, den zugehörigen Status über eine Schnittstelle abfragen und die Information anschließend verständlich ausgeben.

Welche Aktionen er ausführen darf, legt das Unternehmen fest. Ein Agent kann somit berechtigt sein, Bestelldaten abzurufen, ohne gleichzeitig Änderungen oder Stornierungen vornehmen zu dürfen.

Die Steuerung erfolgt auf Ebene einzelner Anliegen

Für mittelständische Unternehmen ist es häufig sinnvoll, nicht sämtliche Kundenanfragen nach denselben Regeln bearbeiten zu lassen.

So lässt sich beispielsweise festlegen, dass ein Agent bei Fragen zu Unternehmensrichtlinien ausschließlich interne Dokumente verwendet. Bei allgemeinen Fachfragen kann eine ergänzende Websuche erlaubt sein. Geht es hingegen um kundenspezifische Informationen, erfolgt der Zugriff über eine autorisierte Schnittstelle.

Auch die Grenzen der Automatisierung können individuell definiert werden. Während ein Agent den Bearbeitungsstand einer Reklamation selbstständig mitteilen darf, kann eine Erstattungsentscheidung weiterhin einem Mitarbeitenden vorbehalten bleiben.

Entsprechende Möglichkeiten zur Verknüpfung von Wissensquellen, KI-Funktionen und bestehenden Systemen bieten Plattformen wie DialogBits für den KI-gestützten Kundenservice.

Praxisbeispiel: KI-Agent beim HERDT-Verlag

Wie sich die Bearbeitung unterschiedlicher Kundenanliegen mit kontrollierten Systemzugriffen verbinden lässt, zeigt der HERDT-Verlag für Bildungsmedien.

Dort unterstützt der KI-Agent „Berti“ Kunden im Online-Shop. Über angebundene Werkzeuge kann er unter anderem Bestellinformationen abrufen und verschiedene Anliegen innerhalb eines Gesprächs bearbeiten.

Die verfügbaren Funktionen und ihre Einsatzmöglichkeiten werden dabei konfiguriert. Anhand der jeweiligen Kundenanfrage wählt der Agent ein geeignetes Werkzeug aus, ohne uneingeschränkten Zugriff auf sämtliche Systeme zu erhalten.

In den ersten zwei Wochen nach der Umstellung beantwortete Berti bereits 76 Kundenanfragen eigenständig. Die Success Story des HERDT-Verlags zeigt, wie dieser Ansatz in der Praxis umgesetzt wurde.

Fazit: Kontrolle ist die Grundlage sinnvoller Automatisierung

Der Einsatz von KI-Agenten im Kundenservice bedeutet nicht, künstlicher Intelligenz möglichst viele Freiheiten einzuräumen. Vielmehr müssen Unternehmen bestimmen können, welche Informationen genutzt, welche Antworten formuliert und welche Aktionen ausgeführt werden dürfen.

Gerade für mittelständische Betriebe liegt darin ein wesentlicher Vorteil: Unterschiedliche Serviceprozesse lassen sich automatisieren, ohne für jede Anfrage denselben Handlungsspielraum zuzulassen. Entscheidend ist nicht, wie viel ein KI-Agent grundsätzlich kann, sondern was er im jeweiligen Kontext tatsächlich darf.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Yale-Befragung zu KI: Über 40 Prozent der Top-CEOS befürchten Ende der Menschheit

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Der Inhalt dieses Artikels zeigt, dass die potentiellen Folgen der Künstlichen Intelligenz von Führungskräften großer internationaler Unternehmen als bedrohlich wahrgenommen werden und diskutiert werden. Diese Diskussion kann Auswirkungen auf zukünftige Entwicklungen und Regulierungen der Technologie haben sowie auf die öffentliche Wahrnehmung und Akzeptanz von KI.

Yale-Befragung zu KI: Über 40 Prozent der Top-CEOS befürchten Ende der Menschheit

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Die Befragung des Chief Executive Leadership Institute der Yale-Universität ergab, dass 42 Prozent der CEOs besorgt sind, dass KI eine existenzielle Bedrohung darstellen könnte und sogar das Ende der Menschheit in fünf bis zehn Jahren bewirken könnte. Obwohl die Mehrheit davon überzeugt ist, dass derartige Katastrophen nicht eintreten werden, zeigt dies, dass Führungskräfte großer internationaler Konzerne diese Möglichkeit in Betracht ziehen, was möglicherweise die Strategien der Unternehmen bei der Implementierung von KI beeinflussen wird.

Yale-Befragung zu KI: Über 40 Prozent der Top-CEOS befürchten Ende der Menschheit

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Als Innovationsmanager:in sollten Sie die Bedeutung von Künstlicher Intelligenz (KI) und deren Auswirkungen auf Ihr Unternehmen verstehen. Die Yale-Umfrage zeigt, dass CEOs unterschiedliche Meinungen darüber haben, ob KI eine Bedrohung für die Menschheit darstellt oder nicht. Es ist wichtig, sich über diese Meinungsverschiedenheiten bewusst zu sein und eine klare Strategie zu entwickeln, wie Ihr Unternehmen mit KI umgehen wird, um die größtmöglichen Vorteile zu nutzen und gleichzeitig mögliche Risiken zu minimieren.

Yale-Befragung zu KI: Über 40 Prozent der Top-CEOS befürchten Ende der Menschheit

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Als Investor:in sollten Sie sich bewusst sein, dass Bedenken bezüglich Künstlicher Intelligenz auch von Top-CEOs geteilt werden und dass dies Auswirkungen auf Unternehmen und Branchen haben kann, die auf Technologie und Automatisierung setzen. Es ist wichtig, die Entwicklung von KI und ihr Potenzial genau zu beobachten und bei Investitionsentscheidungen zu berücksichtigen, insbesondere wenn Sie in Branchen wie Gesundheitswesen, professionellen Dienstleistungen/IT oder Medien- und Digital-Industrie investieren möchten, da KI für diese Branchen transformative Auswirkungen haben könnte.

Yale-Befragung zu KI: Über 40 Prozent der Top-CEOS befürchten Ende der Menschheit

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Als Politiker:in sollten Sie sich mit dem Thema Künstliche Intelligenz und den potenziellen Risiken und Vorteilen, die damit einhergehen, ausführlich auseinandersetzen. Die Yale-Umfrage zeigt, dass auch Top-CEOs sich mit diesen Fragen beschäftigen. Es ist wichtig, sich dieser Thematik bewusst zu sein, um politische Entscheidungen treffen zu können, die sowohl die Chancen, als auch die Risiken von KI berücksichtigen.

Yale-Befragung zu KI: Über 40 Prozent der Top-CEOS befürchten Ende der Menschheit

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Das Yale-CEO-Umfrageergebnis zeigt, dass die Sorge vor einer existenziellen Bedrohung durch künstliche Intelligenz bei Führungskräften internationaler Konzerne präsent ist. Es gibt jedoch auch CEOs, die diese Bedenken für überbewertet halten oder die Chance von KI positiv betrachten. Die Meinungen sind in fünf Gruppen aufgeteilt, und es gibt eine allgemeine Furcht vor den möglichen Risiken der Technologie. KI-Forscher in Österreich sprechen stattdessen dafür, dass es wichtig ist, in der Gesellschaft Akzeptanz zu erreichen.

Yale-Befragung zu KI: Über 40 Prozent der Top-CEOS befürchten Ende der Menschheit

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

  • Yale-Professor Jeffrey Sonnenfeld
  • Geoffrey Hinton, Ex-Google Chef und KI-Pionier
  • Elon Musk
  • Christoph Lampert, Wissenschafter der Austrian Society for Artificial Intelligence (ASAI)

Yale-Befragung zu KI: Über 40 Prozent der Top-CEOS befürchten Ende der Menschheit

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

  • Yale
  • Chief Executive Leadership Institute
  • Walmart
  • Coca-Cola
  • Xerox
  • Zoom

Yale-Befragung zu KI: Über 40 Prozent der Top-CEOS befürchten Ende der Menschheit