17.10.2022

So soll bei Salesforce eine „ethische KI“ sichergestellt werden

Kathy Baxter ist die KI-Expertin beim CRM- und Marketing-Softwarehersteller Salesforce und kämpft für den ethischen Einsatz der Technologie. Der brutkasten hatte Gelegenheit für ein Interview mit Baxter auf der Dreamforce in San Francisco.
/artikel/so-soll-bei-salesforce-eine-ethische-ki-sichergestellt-werden
Ethik in der KI - Kathy Baxter von Salesforce
Kathy Baxter | (c) Salesforce

Kathy Baxter, Principal Architect, Ethical AI Practice bei Salesforce, stammt aus der Psychologie, brachte aber über 20 Jahre Erfahrung von großen Tech-Unternehmen mit zu Salesforce – unter anderem aus der UX (User Experience)-Forschung bei Silicon Valley Schwergewichten wie Oracle, Ebay, Google. Als Salesforce vor Jahren eine „AI-First“-Company wurde, startete Baxter mit der Entwicklung von Chatbots. Heute setzt sie sich intern vor allem für die Einhaltung „ethischer KI“ ein – für diese Aufgabe wurde bei Salesforce sogar ein eigener, neuer Job in der Zentrale in San Francisco geschaffen.

Welches Potenzial bringt KI ins Marketing?

Baxter: Personalisierung ist wirklich das große Ding. Man will Empfehlungen erreichen, die dich ansprechen. Traditionell läuft das immer noch oft mit Demografie. Du bist eine Frau, also empfehlen wir Makeup. Männer sehen diese Anzeigen nicht. In den letzten Jahren haben wir aber gelernt, das Gender ein Spektrum hat. Jemand männliches kann sich ebenfalls für Makeup interessieren. Genauso gibt es Frauen, die keine Kleider mögen. Also müssen wir uns auf Interessen und Verhalten konzentrieren.

Viele Marken tun sich mit Personalisierung immer noch schwer. Ist ein Problem vielleicht, dass sich Kundenverhalten und die Umstände sich ständig und stark verändern?

Sich auf Demografie verlassen reicht einfach nicht mehr. Die Magie von KI ist, dass sie ständig lernt. Generation Z bringt eine neue Komplexität in das Gender-Thema, identifiziert sich aber stark damit. Die Pandemie hat das Kundenverhalten komplett auf den Kopf gestellt. KI kann damit umgehen und Probleme verhindert – zum Beispiel, dass Retailer ohne Ware oder mit viel zu viel Ware dastehen.

Mit dem Ende der Cookies kommen neue Fragen auf. Wie schaffen wir es Vertrauen aufzubauen? Wenn die Third-Party-Daten weg sind, kommt das, was wir „Zero-Party Daten“ nennen. Wie können wir dich dazu bringen, dass du mir verrätst, was mich interessiert. Wir wollen dieses Vertrauen aufbauen, indem wir transparent sind. Der Kunde muss den Wert sehen, was er davon hat, wenn er diese Infos mit uns teilt – und wissen, was wir über ihn schon wissen. KI kann zudem Rückschlüsse ziehen wie „wenn dir dies gefällt, kannst du auch das gebrauchen“. Händler stehen vor Problemen wie Engpässe in der Lieferkette – hier können solche Empfehlungen eine riesige Hilfe bedeuten.

Aus dem Vertrauensverhältnis ergibt sich auch eine Verpflichtung für Brands abzuliefern, richtig?

Nicht nur daraus – auch aus Regulierungen. In Kalifornien gibt es zum Beispiel Vorgaben, wie Daten, die von Kindern stammen, verarbeitet werden dürfen. Es gibt Verpflichtungen für Transparenz, wie ein KI-Modell arbeitet – und warum es etwas empfiehlt. Selbst wenn sich eine Marke nicht so sehr um Vertrauen kümmert – die Privatsphäre-Vorgaben werden sie dazu zwingen.

Jeder Softwarehersteller bewirbt inzwischen seine eigene KI-Technologie. IBM mit Watson, Adobe mit Sensei. Was macht Salesforce mit seiner KI-Engine Einstein besser als die anderen?

Wir bieten „No-Code“ und „Low-Code“-Lösungen für eine CRM-spezifische KI. Wir bieten auch eine General-Purpose-Entwicklungsumgebung, für KI-Anwendungen aller Art. Aber gebrauchsfertige Lösungen für Chatbots, die Sales und Kundenservice verstehen, die wissen wer der nächste Lead sein könnte oder die Verkaufsabbrüche verhindern können, sind sehr hilfreich, um Kundenbeziehungen an den Start und zum Laufen zu bekommen. In unserer Marketing Cloud haben wir einen Subject Line Generator, der verschiedene Tonalitäten versteht. Er kann FOMO [Anm.: Fear of Missing out] oder einen freundlichen Ton in der E-Mail Betreffzeile anschlagen.

Dennoch können die Kunden mit „Einstein Builder“ unsere Technologien nutzen, um ihr eigenes KI-Modell auf dieser Basis zu entwickeln. Mit der Partnerschaft von AWS (Amazon Web Service) findet eine Demokratisierung von KI statt – nach dem Motto „Bring your AI“. So können Kunden die Daten aus einer Customer Data Plattform mit unserer Lösung zusammenbringen.

Ein Fokus der Salesforce-Keynote 2022 waren Echtzeit-Daten – ein großer Game-Changer in Sachen Personalisierung?

Daten sind oft statisch, fragmentiert, veraltet, ungenau – und dann auch noch schwer oder gar nicht zugänglich. Echtzeit mit unserer Lösung Genie ändert das komplett. Damit bekommen wir die alle und die genauesten Daten – die exakte Prognosen ermöglichen. Am Anfang von Covid sahen wir „schwarze Schwäne“. Die ganzen Datenmodelle brachen zusammen, weil sie nicht mehr funktionierten. Das zeigt, was Echtzeitdaten bewirken können – und wie wichtig Echtzeit wirklich ist.

Viele Unternehmen tun sich schwer dabei ihre Entscheidungen auf Basis von Daten, statt mit dem Bauchgefühl der jahrelangen Business-Erfahrung zu fällen. Was könnte helfen, Daten als Entscheidungshilfe mehr zu akzeptieren?

Wir wissen, wie wichtig Transparenz und Erklärungen sind. Das macht Einstein. Unsere Software zeigt, warum eine Empfehlung gegeben wird. Es ist so besser nachvollziehbar, warum ein bestimmter Kunde der nächste Lead sein wird. Das liefert Wertschöpfung im Geschäft, schafft Return on Investment und etabliert im Unternehmen Daten als Entscheidungshilfe.

Es gibt viele Horrorszenarien rund um KI. In Europa gibt es viele Skeptiker, etwa dass künstliche Intelligenz ein Jobkiller sein wird – oder gar die Weltherrschaft übernehmen wird. Kann Salesforce mit seinem „Ehtical AI“-Ansatz diese Ängste nehmen?

Das große Dilemma ist diese KI generierte Kunst, die gerade im Netz kursiert. Dall-e oder andere Bildgeneratoren erzeugen Bilder mit Copyrights, die sie sich selbst als System geben. Die künstliche Intelligenz wurde aber mit Bildern von echten Künstlern trainiert, die nichts für ihren Input bekommen. Das ist etwas, was wir als Gesellschaft oder Staat verhindern müssen. Wir sorgen mit unserem „Ethical AI“- Richtlinien dafür, dass Rechte – zum Beispiel das Grundrecht sich mit seiner Arbeit den Lebensunterhalt zu verdienen – respektiert und eingehalten werden.

Die Terminator-Szenarien, in denen die KI alles übernimmt und uns in Büroklammern verwandelt – diese sind Jahrzehnte weit weg in der Zukunft. Wir müssen uns aber auf die Schäden konzentrieren, die KI heute anrichten kann, wenn zum Beispiel Kunst kostenlos generiert wird und den Künstlern ihre Arbeit wegnimmt.

Schlimm ist auch wenn Gesichtserkennung falsche Vorhersagen macht und die Polizei deswegen die falschen Personen festnimmt. Oder wenn die KI unfairerweise bestimmten Personen den Zugang zu Jobs verhindert. Diese Dinge müssen heute angegangen werden. Aus diesem Grund ist zum Beispiel Gesichtserkennung in unserer KI mit ihren strengen Richtlinen nicht erlaubt.

Deine ungelesenen Artikel:
10.07.2026

Martin Ohneberg: „Wir dürfen nicht zu einem Land der Anwender werden“

HENN-Eigentümer und CEO Martin Ohneberg hielt beim World Venture Forum in Kitzbühel die Rede zum Gala-Dinner - mit einer unbequemen Botschaft an Europa. Im brutkasten-Interview spricht er über digitale Souveränität als letzte Chance, den Transformationsdruck im Automotive und den Megatrend Kühlung, von Rechenzentren bis zu humanoiden Robotern.
/artikel/martin-ohneberg-wir-duerfen-nicht-zu-einem-land-der-anwender-werden
10.07.2026

Martin Ohneberg: „Wir dürfen nicht zu einem Land der Anwender werden“

HENN-Eigentümer und CEO Martin Ohneberg hielt beim World Venture Forum in Kitzbühel die Rede zum Gala-Dinner - mit einer unbequemen Botschaft an Europa. Im brutkasten-Interview spricht er über digitale Souveränität als letzte Chance, den Transformationsdruck im Automotive und den Megatrend Kühlung, von Rechenzentren bis zu humanoiden Robotern.
/artikel/martin-ohneberg-wir-duerfen-nicht-zu-einem-land-der-anwender-werden
Martin Ohneberg am World Venture Forum in Kitzbühel | (c) brutkasten

Beim World Venture Forum in Kitzbühel hielt Martin Ohneberg auf Einladung von Initiator Berthold Baurek-Karlic die Rede zum Gala-Dinner: über Europa im globalen Kontext. Seine Botschaft, die er im brutkasten-Gespräch wiederholt: Europa hat kein Ideen-, sondern ein Umsetzungs- und Kapitalproblem. Und: „Wir reden nicht von einer Krise, sondern von einer Transformation.“ In der Transformation bringe Warten nichts.

Ohneberg weiß, wovon er spricht. Der Vorarlberger Industrielle übernahm 2011 die HENN Gruppe und baute den Verbindungstechnologie-Spezialisten zum Nischen-Weltmarktführer bei Ladeluft-Schnellkupplungen für die Automobilindustrie aus – eine Position, die das Unternehmen bis heute hält. Während die Branche mitten in einer schmerzhaften Transformation steckt, richtet er seine Gruppe nun auf einen Megatrend aus, der von KI-Rechenzentren bis zu humanoiden Robotern reicht: Kühlung.

Im Gespräch mit brutkasten erklärt Ohneberg, warum Europa beim Thema Souveränität den letzten Moment erreicht hat, weshalb das Self-driving Car der echte Game Changer wird und was passieren muss, damit der Kontinent nicht zum reinen Anwender fremder Technologien wird.


brutkasten: In deiner Rede beim World Venture Forum hast du die Formel „Europe discusses, America decides, Asia acts“ aufgegriffen. Gleichzeitig läuft gerade die Debatte um Europas digitale Souveränität. Ist da ein Momentum?

Martin Ohneberg: Wenn Europa jetzt beim Thema Souveränität nicht aufwacht, wird es ganz schwierig. Ich glaube, es ist der letzte Moment. Das wurde erkannt, der Draghi-Report hat seinen Teil dazu beigetragen. Jetzt muss gehandelt werden. Die Frage ist: Haben wir noch eine Chance, das Ruder herumzureißen? Die Gefahr ist, dass wir vom Land der Innovation und der Produktion zum Land der Anwender werden. Und leicht wird das nicht: Kapital ist der Rohstoff der Zukunft. Wenn man sich den Börsengang von SpaceX anschaut, sind das Dimensionen, da können wir in Europa nicht mit. Wir haben tolle Ideen und viele tolle Startups. Aber wenn man anschaut, wo sie skalieren und wo sie das Geld holen, ist es dann doch Amerika.

Was muss auf europäischer Ebene passieren? Sollte die öffentliche Beschaffung etwa gezielt europäische Lösungen bevorzugen?

Man kann das leicht sagen, aber es ist diffiziler, als oft geglaubt wird. Unsere Abhängigkeiten sind in vielen Technologien und bei seltenen Erden inzwischen so groß, dass es extrem schwierig ist, sich stärker gegen andere Nationen aufzustellen. Dazu fehlt die Geschlossenheit: 27 Länder, jeder agiert selbst, Frankreich anders als Deutschland. Natürlich macht es Sinn, die europäische Wirtschaft stärker zu schützen. Aber die eigentlichen Probleme liegen tiefer: Wir haben keinen einheitlichen Kapitalmarkt, weshalb das Geld, das in Europa durchaus vorhanden ist, hauptsächlich nach Amerika geht. Die Bürokratie ist überbordend. Und wir müssen wegkommen von den Überschriften, ob das jetzt Green Deal heißt oder Industrial Acceleration Act, und in die Umsetzung kommen. Europa ist prädestiniert für tolle Strategien und Visionen. Am Ende mangelt es an der konsequenten Umsetzung.

Woran scheitert die?

Wir haben tolle Universitäten, Innovationen, eine starke Industrie. Aber wir bringen es nicht auf die Straße, weil Europa ein zu komplexes Gebilde ist. Allein die Geschwindigkeit: Bis etwas durch Parlament und Kommission ist, vergehen im Schnitt rund 18 Monate. Bis es in Kraft tritt, reden wir von zwei, drei Jahren. Wir sind aber in einer Zeit angekommen, in der Speed der Key ist. Es passieren ja Dinge, aber sie passieren halt außerhalb Europas. Das ist eigentlich das Thema. Die Konsequenz: Bei uns wird gegründet und entwickelt, skaliert wird in Amerika. Und dann importieren wir die Produkte wieder, die wir selbst erfunden haben.

Du bist mit HENN Zulieferer der Automobilindustrie. Bei VW und anderen ist enormer Druck im System. Wie nimmst du die Lage wahr?

Das, was jetzt in Europa passiert, ist meiner Ansicht nach erst der Beginn. Da wird noch mehr kommen. Vor ein paar Jahren hat man für diese Zeit von 125 Millionen produzierten Autos weltweit gesprochen, wir sind jetzt bei rund 90 bis 92 Millionen. Global wird wenig Wachstum vorhanden sein, dafür kommt ein massiver Verdrängungswettbewerb zwischen den Regionen, der nach aktuellem Stand zugunsten Asiens ausgehen wird. Wichtig ist mir die Unterscheidung: Wir reden nicht von einer Krise, sondern von einer Transformation. Eine Krise geht vorbei, ob Corona, Suezkanal oder Energiepreise. Die Transformation bleibt. In der Krise kannst du durchtauchen, in der Transformation bringt Warten nichts. Du musst handeln und gestalten.

Du siehst den nächsten großen Schub bei Self-driving Cars. Warum ausgerechnet dort?

Weil sich die Mobilität damit noch einmal fundamental verändert. Beim E-Auto ist der Customer Benefit de facto der Ausstieg aus fossilen Brennstoffen. Das ist ideologisch, ob das ein riesiger Kundenvorteil ist, kann man diskutieren. Das Self-driving Car hat den echten Customer Benefit: Ich muss nicht mehr selbst fahren und kann jederzeit einsteigen. Wenn man sich anschaut, was Waymo, Huawei und andere schon auf der Straße haben und welche Datenmengen dort täglich generiert werden, kann man sich vorstellen, wie schnell das gehen wird. Für die Zulieferindustrie heißt das: extreme Standardisierung und Konsolidierung. Autos werden modular. Man kauft künftig ein „Skateboard“ mit vier Rädern, Batterie und integrierter Software, das Self-driving-Modul wird eingeschoben wie früher das erste Navi ins Auto. Und es wird die Foxconns geben, die das komplette Modul fertigen.

Wie stellt sich HENN darauf ein?

Wir kommen aus einer Nische, in der wir bis heute Weltmarktführer sind, der Ladeluft, und transformieren uns in einen Markt, der groß, aber extrem kompetitiv ist. Wir sind de facto in einem Red Ocean unterwegs. Deshalb richten wir die Gruppe stark auf den Megatrend Kühlung aus. Überall, wo verstärkt Elektrizität eingesetzt wird, braucht es Kühlung, und künftig immer öfter Wasserkühlung, weil die Leistungen so hoch sind. Die Rechenzentren, die jetzt gebaut werden, müssen alle wassergekühlt werden. Das ist unser Heimspiel: Da haben wir erste Anwendungen, Prototypen und intensive Gespräche. Dazu kommen Renewables wie Windkraft. Und humanoide Roboter, die aktuell noch luftgekühlt sind, künftig aber ebenfalls wassergekühlt werden müssen.

Stichwort Humanoide und Physical AI: Hat Europa dort überhaupt eine Chance?

Die Voraussetzungen wären da: Wir haben die Ingenieure, die klassische Industrie, hohe Innovationstätigkeit. Und die Notwendigkeit ist hundertprozentig gegeben: Demografisch müssen wir in Automatisierung und Robotik investieren, Punkt. Aber aktuell passiert wieder fast alles außerhalb Europas. Wenn Europa Souveränität ernst nimmt, muss spätestens bei den Humanoiden sichergestellt sein, dass es ein europäisches Produkt gibt, weil der Vergleich zum Menschen so nahe ist. Wenn China, die USA oder andere unsere Humanoiden in den Produktionshallen steuern, weiß ich nicht, ob das so angenehm ist. Es gibt positive Schritte wie die große Finanzierungsrunde von Neura Robotics mit Partnern wie Bosch und Schaeffler. Aber das Kapital fließt insgesamt wiederum nicht nach Europa. Die große Frage wird sein: Wie hoch ist unser Wertschöpfungsanteil? Dass wir anwenden werden, davon bin ich überzeugt. Ob wir ein eigenes Ökosystem aufbauen können, das entscheidet sich jetzt.

Zum Abschluss: Was gibst du Gründer:innen mit, die jetzt starten?

Es gibt nichts Besseres, als Unternehmer zu sein. Das ist die Champions League der Wirtschaft. Es kann jeder Unternehmer werden. Man braucht den Mut zu sagen: Jetzt mache ich den Sprung. Und dann Konsequenz. Aber es muss klar sein: Eine Unternehmerkarriere hat immer Höhen und Tiefen. Der Unternehmer ist der Einzige, der wirklich Risiko nimmt. Er ist bis zum Schluss auf dem Schiff.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

So soll bei Salesforce eine „ethische KI“ sichergestellt werden

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

So soll bei Salesforce eine „ethische KI“ sichergestellt werden

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

So soll bei Salesforce eine „ethische KI“ sichergestellt werden

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

So soll bei Salesforce eine „ethische KI“ sichergestellt werden

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

So soll bei Salesforce eine „ethische KI“ sichergestellt werden

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

So soll bei Salesforce eine „ethische KI“ sichergestellt werden

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

So soll bei Salesforce eine „ethische KI“ sichergestellt werden

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

So soll bei Salesforce eine „ethische KI“ sichergestellt werden

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

So soll bei Salesforce eine „ethische KI“ sichergestellt werden