17.10.2022

So soll bei Salesforce eine „ethische KI“ sichergestellt werden

Kathy Baxter ist die KI-Expertin beim CRM- und Marketing-Softwarehersteller Salesforce und kämpft für den ethischen Einsatz der Technologie. Der brutkasten hatte Gelegenheit für ein Interview mit Baxter auf der Dreamforce in San Francisco.
/artikel/so-soll-bei-salesforce-eine-ethische-ki-sichergestellt-werden
Ethik in der KI - Kathy Baxter von Salesforce
Kathy Baxter | (c) Salesforce

Kathy Baxter, Principal Architect, Ethical AI Practice bei Salesforce, stammt aus der Psychologie, brachte aber über 20 Jahre Erfahrung von großen Tech-Unternehmen mit zu Salesforce – unter anderem aus der UX (User Experience)-Forschung bei Silicon Valley Schwergewichten wie Oracle, Ebay, Google. Als Salesforce vor Jahren eine „AI-First“-Company wurde, startete Baxter mit der Entwicklung von Chatbots. Heute setzt sie sich intern vor allem für die Einhaltung „ethischer KI“ ein – für diese Aufgabe wurde bei Salesforce sogar ein eigener, neuer Job in der Zentrale in San Francisco geschaffen.

Welches Potenzial bringt KI ins Marketing?

Baxter: Personalisierung ist wirklich das große Ding. Man will Empfehlungen erreichen, die dich ansprechen. Traditionell läuft das immer noch oft mit Demografie. Du bist eine Frau, also empfehlen wir Makeup. Männer sehen diese Anzeigen nicht. In den letzten Jahren haben wir aber gelernt, das Gender ein Spektrum hat. Jemand männliches kann sich ebenfalls für Makeup interessieren. Genauso gibt es Frauen, die keine Kleider mögen. Also müssen wir uns auf Interessen und Verhalten konzentrieren.

Viele Marken tun sich mit Personalisierung immer noch schwer. Ist ein Problem vielleicht, dass sich Kundenverhalten und die Umstände sich ständig und stark verändern?

Sich auf Demografie verlassen reicht einfach nicht mehr. Die Magie von KI ist, dass sie ständig lernt. Generation Z bringt eine neue Komplexität in das Gender-Thema, identifiziert sich aber stark damit. Die Pandemie hat das Kundenverhalten komplett auf den Kopf gestellt. KI kann damit umgehen und Probleme verhindert – zum Beispiel, dass Retailer ohne Ware oder mit viel zu viel Ware dastehen.

Mit dem Ende der Cookies kommen neue Fragen auf. Wie schaffen wir es Vertrauen aufzubauen? Wenn die Third-Party-Daten weg sind, kommt das, was wir „Zero-Party Daten“ nennen. Wie können wir dich dazu bringen, dass du mir verrätst, was mich interessiert. Wir wollen dieses Vertrauen aufbauen, indem wir transparent sind. Der Kunde muss den Wert sehen, was er davon hat, wenn er diese Infos mit uns teilt – und wissen, was wir über ihn schon wissen. KI kann zudem Rückschlüsse ziehen wie „wenn dir dies gefällt, kannst du auch das gebrauchen“. Händler stehen vor Problemen wie Engpässe in der Lieferkette – hier können solche Empfehlungen eine riesige Hilfe bedeuten.

Aus dem Vertrauensverhältnis ergibt sich auch eine Verpflichtung für Brands abzuliefern, richtig?

Nicht nur daraus – auch aus Regulierungen. In Kalifornien gibt es zum Beispiel Vorgaben, wie Daten, die von Kindern stammen, verarbeitet werden dürfen. Es gibt Verpflichtungen für Transparenz, wie ein KI-Modell arbeitet – und warum es etwas empfiehlt. Selbst wenn sich eine Marke nicht so sehr um Vertrauen kümmert – die Privatsphäre-Vorgaben werden sie dazu zwingen.

Jeder Softwarehersteller bewirbt inzwischen seine eigene KI-Technologie. IBM mit Watson, Adobe mit Sensei. Was macht Salesforce mit seiner KI-Engine Einstein besser als die anderen?

Wir bieten „No-Code“ und „Low-Code“-Lösungen für eine CRM-spezifische KI. Wir bieten auch eine General-Purpose-Entwicklungsumgebung, für KI-Anwendungen aller Art. Aber gebrauchsfertige Lösungen für Chatbots, die Sales und Kundenservice verstehen, die wissen wer der nächste Lead sein könnte oder die Verkaufsabbrüche verhindern können, sind sehr hilfreich, um Kundenbeziehungen an den Start und zum Laufen zu bekommen. In unserer Marketing Cloud haben wir einen Subject Line Generator, der verschiedene Tonalitäten versteht. Er kann FOMO [Anm.: Fear of Missing out] oder einen freundlichen Ton in der E-Mail Betreffzeile anschlagen.

Dennoch können die Kunden mit „Einstein Builder“ unsere Technologien nutzen, um ihr eigenes KI-Modell auf dieser Basis zu entwickeln. Mit der Partnerschaft von AWS (Amazon Web Service) findet eine Demokratisierung von KI statt – nach dem Motto „Bring your AI“. So können Kunden die Daten aus einer Customer Data Plattform mit unserer Lösung zusammenbringen.

Ein Fokus der Salesforce-Keynote 2022 waren Echtzeit-Daten – ein großer Game-Changer in Sachen Personalisierung?

Daten sind oft statisch, fragmentiert, veraltet, ungenau – und dann auch noch schwer oder gar nicht zugänglich. Echtzeit mit unserer Lösung Genie ändert das komplett. Damit bekommen wir die alle und die genauesten Daten – die exakte Prognosen ermöglichen. Am Anfang von Covid sahen wir „schwarze Schwäne“. Die ganzen Datenmodelle brachen zusammen, weil sie nicht mehr funktionierten. Das zeigt, was Echtzeitdaten bewirken können – und wie wichtig Echtzeit wirklich ist.

Viele Unternehmen tun sich schwer dabei ihre Entscheidungen auf Basis von Daten, statt mit dem Bauchgefühl der jahrelangen Business-Erfahrung zu fällen. Was könnte helfen, Daten als Entscheidungshilfe mehr zu akzeptieren?

Wir wissen, wie wichtig Transparenz und Erklärungen sind. Das macht Einstein. Unsere Software zeigt, warum eine Empfehlung gegeben wird. Es ist so besser nachvollziehbar, warum ein bestimmter Kunde der nächste Lead sein wird. Das liefert Wertschöpfung im Geschäft, schafft Return on Investment und etabliert im Unternehmen Daten als Entscheidungshilfe.

Es gibt viele Horrorszenarien rund um KI. In Europa gibt es viele Skeptiker, etwa dass künstliche Intelligenz ein Jobkiller sein wird – oder gar die Weltherrschaft übernehmen wird. Kann Salesforce mit seinem „Ehtical AI“-Ansatz diese Ängste nehmen?

Das große Dilemma ist diese KI generierte Kunst, die gerade im Netz kursiert. Dall-e oder andere Bildgeneratoren erzeugen Bilder mit Copyrights, die sie sich selbst als System geben. Die künstliche Intelligenz wurde aber mit Bildern von echten Künstlern trainiert, die nichts für ihren Input bekommen. Das ist etwas, was wir als Gesellschaft oder Staat verhindern müssen. Wir sorgen mit unserem „Ethical AI“- Richtlinien dafür, dass Rechte – zum Beispiel das Grundrecht sich mit seiner Arbeit den Lebensunterhalt zu verdienen – respektiert und eingehalten werden.

Die Terminator-Szenarien, in denen die KI alles übernimmt und uns in Büroklammern verwandelt – diese sind Jahrzehnte weit weg in der Zukunft. Wir müssen uns aber auf die Schäden konzentrieren, die KI heute anrichten kann, wenn zum Beispiel Kunst kostenlos generiert wird und den Künstlern ihre Arbeit wegnimmt.

Schlimm ist auch wenn Gesichtserkennung falsche Vorhersagen macht und die Polizei deswegen die falschen Personen festnimmt. Oder wenn die KI unfairerweise bestimmten Personen den Zugang zu Jobs verhindert. Diese Dinge müssen heute angegangen werden. Aus diesem Grund ist zum Beispiel Gesichtserkennung in unserer KI mit ihren strengen Richtlinen nicht erlaubt.

Deine ungelesenen Artikel:
16.07.2026

CEO European Startup Network: „Wir haben Roaming fürs Handy, aber Startups können keine Grenzen überschreiten“

Interview. Clark Parsons, CEO des European Startup Network, über EU Inc., den Wettbewerbsnachteil der europäischen Fragmentierung – und warum gerade Österreich eine Chance verschläft.
/artikel/ceo-european-startup-network-wir-haben-roaming-fuers-handy-aber-startups-koennen-keine-grenzen-ueberschreiten
16.07.2026

CEO European Startup Network: „Wir haben Roaming fürs Handy, aber Startups können keine Grenzen überschreiten“

Interview. Clark Parsons, CEO des European Startup Network, über EU Inc., den Wettbewerbsnachteil der europäischen Fragmentierung – und warum gerade Österreich eine Chance verschläft.
/artikel/ceo-european-startup-network-wir-haben-roaming-fuers-handy-aber-startups-koennen-keine-grenzen-ueberschreiten
Clark Parsons, CEO des European Startup Network | (c) Parsons

Macht es richtig oder macht es gar nicht“ – Mit diesen Worten brachte EU-Inc.-Mitinitiator Andreas Klinger im Vorjahr die Frustration des Startup-Ökosystems auf den Punkt. Begonnen hatte alles im Oktober 2024 mit einer Koalition europäischer Gründer:innen und Investor:innen, deren Petition zehntausende Unterschriften sammelte. Dann kam der Auftritt von Ursula von der Leyen in Davos, im März schließlich der Vorschlag der Kommission – der schon vor seiner Präsentation geleakt wurde und die Szene enttäuschte. In einem offenen Brief warnten EU-INC, Allied for Startups und das European Startup Network vor „27 verschiedenen Geschmacksrichtungen“ der neuen Rechtsform.

In den kommenden Tagen legt das Parlament seinen Bericht vor. Clark Parsons, CEO des European Startup Network, ist seit Beginn Teil dieses Prozesses. Im Interview spricht der ehemalige Gründer und heutige Investor über die 28. Rechtsform, den Widerstand von Gewerkschaften und Notaren – und über eine Chance, die Österreich gerade verschläft.


brutkasten: Warum ist eine EU Inc. so wichtig? Warum konzentriert ihr euch nicht eher auf den Kapitalmarkt oder andere Aspekte?

Der Kapitalmarkt ist die andere Hälfte des Themas, keine Frage. Aber EU Inc. ist aus ein paar Realitäten entstanden. Wir haben in Europa keinen Binnenmarkt für Startups und keinen für Kapital. Wenn Sie ein Tech-Unternehmen gründen, haben Sie 27 Mitgliedstaaten und rund 60 verschiedene Rechtsformen. In Wien mag es genügend Investoren im Ökosystem geben. Aber sind Sie in Bukarest oder Athen, gibt es sehr wenig Kapital. Viele europäische Gründerinnen und Gründer gründen deshalb nie in ihrem Heimatland – manchmal in Estland, manchmal in London, meistens in Delaware. Und die Ironie ist: Selbst Gründer aus Frankreich oder Deutschland gehen nach Delaware.

Warum ausgerechnet Delaware?

Weil es zum De-facto-Standard geworden ist. Jeder kennt es, jeder versteht es, es gibt einen langen Bestand an Rechtsprechung. Wachstumskapital ist in Europa schwer zu bekommen, also gehen Sie früher oder später in die USA – und dort sagen alle Investoren: „Es wäre viel einfacher, wenn du eine Delaware Inc. hättest, in die ich investieren kann, statt deine verrückte GmbH-Struktur verstehen zu müssen.“ Manche amerikanische Investoren kommen nie nach Deutschland, weil sie sich sonst zwei Tage lang beim Notar den Vertrag vorlesen lassen müssten – ein Kabuki-Theater, das außerhalb des deutschsprachigen Raums als verrückt gilt. Also haben Leute wie Andreas Klinger gefragt: Warum schaffen wir nicht etwas, das mit Delaware konkurriert?

Das ist die Idee des 28. Regimes.

Genau. Die Draghi- und die Letta-Berichte haben beide festgestellt: Wir sind nicht wettbewerbsfähig genug, und einer der Hauptgründe ist, dass wir keinen echten Binnenmarkt haben. Wir sind zu fragmentiert, und das schadet uns massiv. Beide griffen eine Idee auf, die Brüssel seit dreißig Jahren das 28. Regime nennt: ein Rechtsrahmen, der europaweit gilt. Sie registrieren einmal, es gibt ein Vehikel, das jeder kennt. Wir haben Roaming fürs Handy, unsere Bürger und Arbeitnehmer überqueren Grenzen problemlos – aber unsere Startups können das nicht. Das ist doch Wahnsinn.

Kritiker sagen, das sei ein Nischenthema. Nur für ein paar reiche Investoren.

Tech ist in Europa in einem Jahrzehnt von vier auf fünfzehn Prozent des BIP gewachsen. Das ist die nächste Ökonomie für Europa. Wenn Sie glauben, wir fallen hinter die USA und China zurück; wenn Sie wollen, dass alte Industrie überlebt, muss sie mit Robotik und KI modernisiert werden. Selbst wenn Ihr Hauptthema der Klimawandel ist: All das lösen Startups und Scaleups. Regierungen lösen das nicht, Gründerinnen und Gründer tun es. Sie schaffen Werte und Arbeitsplätze. Wenn Sie also nicht dafür arbeiten, dass man in Europa gründen und wachsen kann, dann beschweren Sie sich später nicht, dass Ihre Kinder keine Jobs haben. Das ist kein Nischenthema – es ist die Quelle, aus der alles fließt.

Und woran würde man messen, ob EU Inc. funktioniert?

An ziemlich einfachen KPIs. Wie viele EU Incs werden gegründet? Setzen unsere Gründer künftig eine EU Inc. auf statt einer deutschen GmbH oder einer englischen Limited? Aktuell überschreiten nur rund 18 Prozent unseres Investmentkapitals Grenzen. Und einen KPI, an den niemand denkt: Wie viele EU Incs werden von Menschen gegründet, die gar nicht in Europa sitzen? Amerikaner, Inder, Chinesen gründen in Delaware. Warum sollten sie nicht eine EU Inc. gründen – und damit sofort Zugang zu einem Markt von 450 Millionen Menschen haben? Für Beitrittskandidaten wie die Ukraine oder Montenegro, aber auch für die Schweiz, Norwegen oder das Vereinigte Königreich könnte das die Speerspitze wirtschaftlicher Integration sein.

Welche Rolle könnte Österreich dabei spielen?

Österreich hat sich lange als Westeuropas Tor nach Osteuropa verstanden. Das muss nicht verschwinden – im Gegenteil, es lässt sich mit einer EU Inc. stärken. Bislang war es vielleicht einfacher, in Wien Anwälte und Notare zu haben, die wissen, wie man am Balkan operiert. Wenn eine EU Inc. automatischen Zugang zu diesen Gründern gibt, könnt ihr euch als Tor nach Osteuropa neu erfinden. Wenn ein Wiener VC plötzlich leicht in ein Bukarester Team investieren kann, ohne einen Anwalt für 50.000 Euro zu bezahlen, der das rumänische System erklärt, dann nehmen wir enorm viel Reibung heraus. In Wien gibt es mehr Kapital als in vielen dieser Städte, direkte Flüge, juristische Kompetenz. Das ist eine echte Chance – und keine, über die man ein Märchen erzählen müsste.

Die Gewerkschaften fürchten, EU Inc. höhle Arbeitsrechte aus.

Das hat mit der Realität wenig zu tun. Es ist eine optionale Rechtsform – keine bestehende Form verschwindet. Und das Arbeitsrecht ist hier gar nicht drin: Stelle ich einen Deutschen an, gilt deutsches Arbeitsrecht, mit Kündigungsschutz und ab einer bestimmten Zahl mit Betriebsrat – immer dort, wo der Beschäftigte sitzt und arbeitet. Niemand wird betrogen. Man hatte Angst, ein Wirt in Tirol zahle dem Koch dann kein Gehalt, sondern nur Anteile. Ich dachte, es gibt einen Mindestlohn. Wenn Sie wollen, schreiben wir hinein, dass Mindestlohngesetze weiter gelten – kein Problem. Was mich wirklich verblüfft, ist der Kampf gegen Mitarbeiterbeteiligung. Karl Marx wollte, dass die Arbeiter die Produktionsmittel besitzen – und wir müssen hart darum kämpfen, die Beschäftigten zu bereichern.

Und die Notare, die auf Rechtssicherheit pochen?

Viele Mitgliedstaaten kommen ohne Notare im Prozess bestens zurecht. Niemand behauptet, estnischen Startups fehle Rechtssicherheit, obwohl man dort in zehn Minuten online gründet. Wir schaffen ja Kontrollen nicht ab – Artikel 14 erlaubt die Prüfung durch ein Gericht, eine zuständige Behörde oder einen Notar. Wir streichen nur den verpflichtenden Kanal, nicht die Kontrolle. Dass rigorose KYC- und Geldwäscheprüfungen online funktionieren, hat Wien mit Bitpanda längst gezeigt.

Gibt es einen Anreiz, die Notare an Bord zu holen?

Absolut. Staaten können Prüffunktionen delegieren – für den TÜV gehe ich zur DEKRA, nicht zur Stadt. Wenn österreichische oder deutsche Notare zu ihren Regierungen gingen und sagten: „Macht uns zum Teil dieser Zertifizierung innerhalb von zwei Werktagen“ – man würde sie mit offenen Armen empfangen. Sie könnten eine großartige Cottage-Industrie aufbauen, die Brücke zum Bankkonto oder zur Steuernummer sein. Ein österreichischer Notar könnte nach Dubai fliegen und sagen: „Gründet eine EU Inc., kommt nach Österreich, wir machen den One-Stop-Shop.“ Sonst übernehmen Stripe Atlas, Qonto und die Neobanks das Geschäft. Ich habe bloß noch keine einzige Idee der Notare gesehen, wie sie Teil der Lösung sein wollen. Sie sollten, ich wage es zu sagen, ein bisschen wie Startups denken.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

So soll bei Salesforce eine „ethische KI“ sichergestellt werden

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

So soll bei Salesforce eine „ethische KI“ sichergestellt werden

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

So soll bei Salesforce eine „ethische KI“ sichergestellt werden

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

So soll bei Salesforce eine „ethische KI“ sichergestellt werden

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

So soll bei Salesforce eine „ethische KI“ sichergestellt werden

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

So soll bei Salesforce eine „ethische KI“ sichergestellt werden

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

So soll bei Salesforce eine „ethische KI“ sichergestellt werden

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

So soll bei Salesforce eine „ethische KI“ sichergestellt werden

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

So soll bei Salesforce eine „ethische KI“ sichergestellt werden