17.10.2022

So soll bei Salesforce eine „ethische KI“ sichergestellt werden

Kathy Baxter ist die KI-Expertin beim CRM- und Marketing-Softwarehersteller Salesforce und kämpft für den ethischen Einsatz der Technologie. Der brutkasten hatte Gelegenheit für ein Interview mit Baxter auf der Dreamforce in San Francisco.
/artikel/so-soll-bei-salesforce-eine-ethische-ki-sichergestellt-werden
Ethik in der KI - Kathy Baxter von Salesforce
Kathy Baxter | (c) Salesforce

Kathy Baxter, Principal Architect, Ethical AI Practice bei Salesforce, stammt aus der Psychologie, brachte aber über 20 Jahre Erfahrung von großen Tech-Unternehmen mit zu Salesforce – unter anderem aus der UX (User Experience)-Forschung bei Silicon Valley Schwergewichten wie Oracle, Ebay, Google. Als Salesforce vor Jahren eine „AI-First“-Company wurde, startete Baxter mit der Entwicklung von Chatbots. Heute setzt sie sich intern vor allem für die Einhaltung „ethischer KI“ ein – für diese Aufgabe wurde bei Salesforce sogar ein eigener, neuer Job in der Zentrale in San Francisco geschaffen.

Welches Potenzial bringt KI ins Marketing?

Baxter: Personalisierung ist wirklich das große Ding. Man will Empfehlungen erreichen, die dich ansprechen. Traditionell läuft das immer noch oft mit Demografie. Du bist eine Frau, also empfehlen wir Makeup. Männer sehen diese Anzeigen nicht. In den letzten Jahren haben wir aber gelernt, das Gender ein Spektrum hat. Jemand männliches kann sich ebenfalls für Makeup interessieren. Genauso gibt es Frauen, die keine Kleider mögen. Also müssen wir uns auf Interessen und Verhalten konzentrieren.

Viele Marken tun sich mit Personalisierung immer noch schwer. Ist ein Problem vielleicht, dass sich Kundenverhalten und die Umstände sich ständig und stark verändern?

Sich auf Demografie verlassen reicht einfach nicht mehr. Die Magie von KI ist, dass sie ständig lernt. Generation Z bringt eine neue Komplexität in das Gender-Thema, identifiziert sich aber stark damit. Die Pandemie hat das Kundenverhalten komplett auf den Kopf gestellt. KI kann damit umgehen und Probleme verhindert – zum Beispiel, dass Retailer ohne Ware oder mit viel zu viel Ware dastehen.

Mit dem Ende der Cookies kommen neue Fragen auf. Wie schaffen wir es Vertrauen aufzubauen? Wenn die Third-Party-Daten weg sind, kommt das, was wir „Zero-Party Daten“ nennen. Wie können wir dich dazu bringen, dass du mir verrätst, was mich interessiert. Wir wollen dieses Vertrauen aufbauen, indem wir transparent sind. Der Kunde muss den Wert sehen, was er davon hat, wenn er diese Infos mit uns teilt – und wissen, was wir über ihn schon wissen. KI kann zudem Rückschlüsse ziehen wie „wenn dir dies gefällt, kannst du auch das gebrauchen“. Händler stehen vor Problemen wie Engpässe in der Lieferkette – hier können solche Empfehlungen eine riesige Hilfe bedeuten.

Aus dem Vertrauensverhältnis ergibt sich auch eine Verpflichtung für Brands abzuliefern, richtig?

Nicht nur daraus – auch aus Regulierungen. In Kalifornien gibt es zum Beispiel Vorgaben, wie Daten, die von Kindern stammen, verarbeitet werden dürfen. Es gibt Verpflichtungen für Transparenz, wie ein KI-Modell arbeitet – und warum es etwas empfiehlt. Selbst wenn sich eine Marke nicht so sehr um Vertrauen kümmert – die Privatsphäre-Vorgaben werden sie dazu zwingen.

Jeder Softwarehersteller bewirbt inzwischen seine eigene KI-Technologie. IBM mit Watson, Adobe mit Sensei. Was macht Salesforce mit seiner KI-Engine Einstein besser als die anderen?

Wir bieten „No-Code“ und „Low-Code“-Lösungen für eine CRM-spezifische KI. Wir bieten auch eine General-Purpose-Entwicklungsumgebung, für KI-Anwendungen aller Art. Aber gebrauchsfertige Lösungen für Chatbots, die Sales und Kundenservice verstehen, die wissen wer der nächste Lead sein könnte oder die Verkaufsabbrüche verhindern können, sind sehr hilfreich, um Kundenbeziehungen an den Start und zum Laufen zu bekommen. In unserer Marketing Cloud haben wir einen Subject Line Generator, der verschiedene Tonalitäten versteht. Er kann FOMO [Anm.: Fear of Missing out] oder einen freundlichen Ton in der E-Mail Betreffzeile anschlagen.

Dennoch können die Kunden mit „Einstein Builder“ unsere Technologien nutzen, um ihr eigenes KI-Modell auf dieser Basis zu entwickeln. Mit der Partnerschaft von AWS (Amazon Web Service) findet eine Demokratisierung von KI statt – nach dem Motto „Bring your AI“. So können Kunden die Daten aus einer Customer Data Plattform mit unserer Lösung zusammenbringen.

Ein Fokus der Salesforce-Keynote 2022 waren Echtzeit-Daten – ein großer Game-Changer in Sachen Personalisierung?

Daten sind oft statisch, fragmentiert, veraltet, ungenau – und dann auch noch schwer oder gar nicht zugänglich. Echtzeit mit unserer Lösung Genie ändert das komplett. Damit bekommen wir die alle und die genauesten Daten – die exakte Prognosen ermöglichen. Am Anfang von Covid sahen wir „schwarze Schwäne“. Die ganzen Datenmodelle brachen zusammen, weil sie nicht mehr funktionierten. Das zeigt, was Echtzeitdaten bewirken können – und wie wichtig Echtzeit wirklich ist.

Viele Unternehmen tun sich schwer dabei ihre Entscheidungen auf Basis von Daten, statt mit dem Bauchgefühl der jahrelangen Business-Erfahrung zu fällen. Was könnte helfen, Daten als Entscheidungshilfe mehr zu akzeptieren?

Wir wissen, wie wichtig Transparenz und Erklärungen sind. Das macht Einstein. Unsere Software zeigt, warum eine Empfehlung gegeben wird. Es ist so besser nachvollziehbar, warum ein bestimmter Kunde der nächste Lead sein wird. Das liefert Wertschöpfung im Geschäft, schafft Return on Investment und etabliert im Unternehmen Daten als Entscheidungshilfe.

Es gibt viele Horrorszenarien rund um KI. In Europa gibt es viele Skeptiker, etwa dass künstliche Intelligenz ein Jobkiller sein wird – oder gar die Weltherrschaft übernehmen wird. Kann Salesforce mit seinem „Ehtical AI“-Ansatz diese Ängste nehmen?

Das große Dilemma ist diese KI generierte Kunst, die gerade im Netz kursiert. Dall-e oder andere Bildgeneratoren erzeugen Bilder mit Copyrights, die sie sich selbst als System geben. Die künstliche Intelligenz wurde aber mit Bildern von echten Künstlern trainiert, die nichts für ihren Input bekommen. Das ist etwas, was wir als Gesellschaft oder Staat verhindern müssen. Wir sorgen mit unserem „Ethical AI“- Richtlinien dafür, dass Rechte – zum Beispiel das Grundrecht sich mit seiner Arbeit den Lebensunterhalt zu verdienen – respektiert und eingehalten werden.

Die Terminator-Szenarien, in denen die KI alles übernimmt und uns in Büroklammern verwandelt – diese sind Jahrzehnte weit weg in der Zukunft. Wir müssen uns aber auf die Schäden konzentrieren, die KI heute anrichten kann, wenn zum Beispiel Kunst kostenlos generiert wird und den Künstlern ihre Arbeit wegnimmt.

Schlimm ist auch wenn Gesichtserkennung falsche Vorhersagen macht und die Polizei deswegen die falschen Personen festnimmt. Oder wenn die KI unfairerweise bestimmten Personen den Zugang zu Jobs verhindert. Diese Dinge müssen heute angegangen werden. Aus diesem Grund ist zum Beispiel Gesichtserkennung in unserer KI mit ihren strengen Richtlinen nicht erlaubt.

Deine ungelesenen Artikel:
05.11.2026

IV-Chefökonom Christian Helmenstein zum Wiener KI-Zentrum: „Regeln ohne Anwendung bleiben Papier“

Interview: Christian Helmenstein, Chefökonom der Industriellenvereinigung und Leiter des Instituts für Wirtschaftsforschung Economica, begrüßt Wiens Pläne für ein internationales KI-Zentrum unter dem Dach der UNO. Im Interview spricht er über die Chancen für den Standort Österreich und erklärt, warum globale KI-Regeln auch praktisch angewendet werden müssen.
/artikel/iv-chefoekonom-christian-helmenstein-zum-wiener-ki-zentrum-regeln-ohne-anwendung-bleiben-papier
05.11.2026

IV-Chefökonom Christian Helmenstein zum Wiener KI-Zentrum: „Regeln ohne Anwendung bleiben Papier“

Interview: Christian Helmenstein, Chefökonom der Industriellenvereinigung und Leiter des Instituts für Wirtschaftsforschung Economica, begrüßt Wiens Pläne für ein internationales KI-Zentrum unter dem Dach der UNO. Im Interview spricht er über die Chancen für den Standort Österreich und erklärt, warum globale KI-Regeln auch praktisch angewendet werden müssen.
/artikel/iv-chefoekonom-christian-helmenstein-zum-wiener-ki-zentrum-regeln-ohne-anwendung-bleiben-papier
KI-Zentrum Wien
Christian Helmenstein; Chefökonom der Industriellenvereinigung | © IV.

Ende Oktober schlug die Bundesregierung vor, ein internationales KI-Zentrum in Wien anzusiedeln. Es soll unter dem Dach der UNO stehen und Staaten, Wissenschaft und Wirtschaft zusammenbringen, um das Potenzial von KI auszuloten, ihre Risiken zu erforschen und gemeinsame Standards zu entwickeln.

KI als emotionales Thema

Eine Umfrage unter Österreichs KI-Experten zeigte größtenteils Zustimmung – siehe hier -, aber auch Kritik und mahnende Worte zur richtigen Vorgangsweise bei solch einem Vorhaben.

KI-Zentren, besonders Rechenzentren, stoßen global auf starke Ablehnung, benötigen sie doch enorme Mengen an Strom, Wasser und Flächen. Der Stern schrieb jüngst im Artikel mit dem Namen „Sie bauen Monster in unsere Landschaften“: „In Ohio sind es die neuen Schimpfwörter: Meta, Amazon, xAI, Google, OpenAI“. Darin wurden Rechenzentren als großes Politikum in den USA beschrieben und es wurde gezeigt, wie Anrainer:innen gegen solche Pläne ankämpfen.

In Österreich formierte sich Widerstand gegen das von Google geplante Datenzentrum in Kronstorf, wie der ORF in seiner Dokumentation „Google an der Enns: Der Streit ums Rechenzentrum“ Mitte September zeigte. Auch brutkasten fing damals Stimmen ein, die von „Standort-Fortschritt“ bis hin zu „Vasall Europa“ sprachen.

Bei dem Vorschlag hier handelt es sich explizit nicht um ein Datenzentrum, sondern um einen: „Ort, an dem Menschen aus der ganzen Welt gemeinsam daran arbeiten, das Potenzial von KI auszuloten, ihre Risiken zu verstehen und ihre Zukunft mitzugestalten“, wie Bundeskanzler Christian Stocker (ÖVP) per Aussendung mitteilte.

Christian Helmenstein, Chefökonom der Industriellenvereinigung, sieht in diesem Sinne in Künstlicher Intelligenz eine Schlüsseltechnologie unserer Zeit und erläutert, welche Rolle Österreich künftig dabei spielen könnte.


brutkasten: Herr Helmenstein, wie stehen Sie zu diesem Vorschlag der Bundesregierung ein internationales KI-Zentrum unter dem Dach der UNO nach Wien zu bringen?

Helmenstein: Die Initiative der Bundesregierung halte ich für einen ausgesprochen aussichtsreichen Vorstoß. Künstliche Intelligenz ist eine globale Schlüsseltechnologie, die nicht nur unsere Arbeitswelt, sondern unsere gesamte Lebensrealität durchdringen wird und weder an Staats- noch an Branchengrenzen haltmacht. Ein solches Zentrum sollte dazu beitragen, die Risiken besonders leistungsfähiger KI-Modelle beherrschbar zu machen, zugleich aber helfen, ihre politischen, ökonomischen und gesellschaftlichen Chancen zu erschließen.

Als einer von vier Amtssitzen der Vereinten Nationen bietet Wien dafür hervorragende Voraussetzungen und kann sein Profil als Standort internationaler Organisationen weiter schärfen. Hier hat auch die Internationale Atomenergie-Organisation ihren Sitz, die in der Debatte über eine globale KI-Aufsicht wiederholt als Vorbild genannt wird. Sie verbindet seit Jahrzehnten die Kontrolle einer Hochrisikotechnologie mit der Förderung ihrer friedlichen Nutzung. Genau an diesem Doppelmandat sollte sich auch ein KI-Zentrum orientieren.

Institutionell bewegt sich die Initiative allerdings in einem Spannungsfeld zweier Taktfrequenzen: Neue KI-Modellgenerationen folgen einander im Abstand weniger Monate, internationale Vereinbarungen reifen über Jahre. Wer das eine Tempo mit dem anderen verwechselt, schreibt Regeln für die Technologie von gestern. Ein KI-Zentrum muss daher mit dem Innovationstempo Schritt halten können.

Welche Bedeutung hätte das für den Standort Wien und Österreich?

Ein solches Zentrum wäre ein erheblicher strategischer Standortgewinn. Österreich wird realistischerweise nicht zu den weltweit führenden Entwicklungsstandorten großer KI-Basismodelle (Foundation Models) wie beispielsweise LLMs zählen. Dieses Rennen entscheiden Volkswirtschaften mit anderen Kapital- und Rechenkapazitäten. Sehr wohl aber kann Österreich international eine führende Rolle dabei spielen, KI sicher und produktiv nutzbar zu machen.

Und die Rolle von Wien konkret?

Wien könnte sich als Knotenpunkt für KI-Governance, KI-Anwendungen und den damit verbundenen Technologietransfer etablieren. Der eigentliche wirtschaftliche Mehrwert entsteht allerdings nicht durch das Türschild einer weiteren internationalen Institution, sondern durch die Forschungsprojekte, Investitionen und Kooperationen, die sie auslöst. Ein Zentrum, das nur tagt, belebt den Kongresstourismus. Ein Zentrum, das prüft, forscht und Anwendungen begleitet, zieht internationale Spitzenkräfte, Forschungseinrichtungen sowie innovative Unternehmen und damit Wertschöpfung an.

Das Thema „Rechenzentren“ wird oftmals emotional und kontrovers diskutiert: Gibt es Einwände gegen das KI-Zentrum?

Gegen die Zielsetzung per se nicht, wohl aber gegen eine Umsetzung ohne klares Profil. Das Feld ist zum Teil bereits besetzt, auch innerhalb der UNO, die erst im Vorjahr ein wissenschaftliches KI-Panel und einen globalen Dialog über KI-Governance eingerichtet hat. Genf, Sitz der Internationalen Fernmeldeunion und im Juli Gastgeber der ersten Dialogrunde, ist ein ernstzunehmender Mitbewerber. Ein Wiener Zentrum braucht daher ein eindeutig abgegrenztes Mandat mit operativem Zusatznutzen.

Gerade die Einbettung in die UNO bietet dabei eine besondere Chance. Die EU hat mit dem AI Act ihr Hauptaugenmerk auf Regulierung gelegt und die Fristen für Hochrisikosysteme inzwischen verschoben, unter anderem, weil die notwendigen technischen Standards noch nicht vorlagen. Die UNO kann demgegenüber zusätzlich die Perspektive der Entwicklungs- und Schwellenländer einbringen und den Zugang zu KI sowie ihren Nutzen für die wirtschaftliche Entwicklung stärker in den Vordergrund stellen.

Was bedeutet das für den Umgang mit den KI-Großmächten?

Darin liegt auch ein Schlüssel, um die führenden KI-Nationen einzubinden, allen voran die USA und China. Sie gewinnt man durch den erkennbaren Nutzen gemeinsamer Standards, nicht durch zusätzliche Auflagen allein. Wir brauchen internationale Sicherheitsstandards, aber keine internationale Innovationsbremse.

Was müsste Wien konkret tun, um sich als Zentrum für die Entwicklung und praktische Anwendung von KI zu positionieren? Und auch um praxisnahe Anwendungen in Wirtschaft und Verwaltung einzubringen?

Vielversprechend wäre es, an vorhandene Kompetenzen in Wien anzuknüpfen. Mit der UNIDO ist bereits eine UNO-Organisation ansässig, die sich intensiv mit dem Einsatz von KI für nachhaltige industrielle Entwicklung beschäftigt. Sie betreibt gemeinsam mit Partnern in Shanghai ein KI-Exzellenzzentrum für Industrie und Produktion, das den Technologietransfer in Entwicklungsländer unterstützt, und treibt zugleich im eigenen Haus die Nutzung von KI voran.

Economica unterstützt die UNIDO bei der praktischen Implementierung von KI in ihren Arbeitsabläufen. Aus dieser Zusammenarbeit wissen wir, welch hoher Stellenwert konkreten Anwendungen über die grundsätzlichen Fragestellungen hinaus zukommt. Dabei bestätigt sich: Auch im öffentlichen Sektor hängt die Akzeptanz von KI davon ab, dass Prozessänderungen erklärt werden und sensible Daten unter eigener Kontrolle bleiben. Ein Wiener KI-Zentrum könnte daher eine besonders wertvolle Brücke schlagen: zwischen globaler Governance, technologischer Innovation und ihrer praktischen Umsetzung in Unternehmen und öffentlicher Verwaltung.

Was bedeutet das schlussendlich für eine mögliche Ausrichtung des Zentrums?

Konkret hieße das, Sicherheitsstandards nicht nur zu formulieren, sondern an realen Anwendungen zu erproben und bewährte Lösungen in jene Länder zu tragen, denen dafür die Kapazitäten fehlen. Die besondere Chance Wiens liegt darin, zwei Welten zusammenzubringen, die einander bislang zu selten begegnen: die internationale Verständigung über die Spielregeln der KI und ihre konkrete Anwendung zur Steigerung von Produktivität, Wertschöpfung und Wohlstand. Regeln ohne Anwendung bleiben Papier. Anwendung ohne Regeln verspielt Vertrauen.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

So soll bei Salesforce eine „ethische KI“ sichergestellt werden

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

So soll bei Salesforce eine „ethische KI“ sichergestellt werden

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

So soll bei Salesforce eine „ethische KI“ sichergestellt werden

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

So soll bei Salesforce eine „ethische KI“ sichergestellt werden

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

So soll bei Salesforce eine „ethische KI“ sichergestellt werden

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

So soll bei Salesforce eine „ethische KI“ sichergestellt werden

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

So soll bei Salesforce eine „ethische KI“ sichergestellt werden

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

So soll bei Salesforce eine „ethische KI“ sichergestellt werden

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

So soll bei Salesforce eine „ethische KI“ sichergestellt werden