25.01.2023

So diskriminiert KI: ChatGPT entfacht Debatte neu

Jasmin Reisinger und Gabriele Bolek-Fügl erklären, wie Diskriminierung in der Künstlichen Intelligenz und in der KI-Branche funktionieren und was man dagegen tun könnte. Der Fall ChatGPT hat die Debatte neu entfacht.
/artikel/so-diskriminiert-ki-chatgpt-entfacht-debatte-neu
Gabriele Bolek-Fügl und Jasmin Reisinger (Women in AI Austria) sprechen über ChatGPT und Ethik in der KI © Bolek-Fügl; Reisinger; Parradee/AdobeStock
Gabriele Bolek-Fügl und Jasmin Reisinger (Women in AI Austria) sprechen über ChatGPT und Ethik in der KI © Bolek-Fügl; Reisinger; Parradee/AdobeStock

Die Kritik um ChatGPT und die Möglichkeit, rassistische oder sexistische Statements im Zuge der Nutzung zu erhalten, gibt es bereits länger. Mittlerweile hat sich die Debatte über die ethischen Aspekte der Künstlichen Intelligenz (KI) erweitert. Der Chatbot wurde soweit trainiert, dass scheinbar keine diskriminierenden Statements mehr vorkommen. Die erfolgreiche Behebung hat seinen Preis. Wie Recherchen des Time Magazins zeigen, hat die hinter ChatGPT stehende Firma OpenAI Textausschnitte an das Trainingsdatenunternehmen Sama gesendet, um die KI zu trainieren. Klickarbeiter:innen der Sama-Außenstelle in Kenia wurden dafür laut Time Magazin nicht nur mit unter zwei Dollar die Stunde für ihre Arbeit bezahlt, sondern waren mit teils traumatisierenden Inhalten konfrontiert. Um eine KI manuell zu trainieren, braucht es nämlich Menschen, die die toxischen Inhalte als solche klassifizieren und der KI übermitteln. 

Solche Skandale werfen Fragen auf: Wie können einer KI diskriminierende, sexistische und rassistische Inhalte abtrainiert werden, ohne zugleich in der realen Welt prekäre Arbeitsbedingungen zu bestärken? Im gemeinnützigen Verein “Women in Artificial Intelligence Austria” setzen sich mehrere AI-Expertinnen nicht nur mit den technologischen Aspekten, sondern auch mit der Geschlechterlücke in der Künstlichen Intelligenz auseinander. Damit widmen sie sich einer speziellen Form der Diskriminierung in der KI. Im brutkasten-Gespräch bewerten Jasmin Reisinger und Gabriele Bolek-Fügl von “Women in AI” den Fall ChatGPT und erklären die technologischen Hintergründe und was man in der Branche beachten muss, sodass gerechte Rahmenbedingungen herrschen – sowohl in der Technologie, als auch in der Realität.


Was ist Diskriminierung in der AI und wie findet sie aktuell statt?

Jasmin und Gabriele: Eine Künstliche Intelligenz lernt selbständig auf Basis von sehr vielen Datensätzen, die der Mensch bereitstellt. Diese Datensätze bilden entweder eine Momentaufnahme ab, die die bisherige Realität darstellt – inklusive der Diskriminierung von einzelnen Menschengruppen. Oder sie bilden eine Situation ab, von der umfassende Datensätze vorhanden sind. Bei zweiterem bedeutet dies, dass selten eine ausgewogene Bandbreite der Menschen in den Daten vorhanden ist. Außerdem werden die KI-Modelle von einer homogenen Gruppe von Programmierer:innen erstellt. Auch das ist eine Quelle dafür, dass sich Vorurteile in den Ergebnissen von KI-Systemen widerspiegeln.

Diskriminierung im Kontext von KI bedeutet demnach, dass Interpretationsmuster vom Menschen übernommen werden können. So können negative Diskriminierungsstrukturen entstehen. Um dies zu vermeiden, müssen Trainingsdaten “bereinigt” oder “ergänzt” werden und das ist bei Millionen von Datensätzen keine einfache Aufgabe. Vor dieser Herausforderung steht aktuell OpenAI und deren Chatbot “ChatGPT”, der für sein Können bestaunt und für seine Limitierungen kritisiert wird.

Wie beobachtet bzw. bewertet ihr diesen Sachverhalt rund um OpenAI und deren Umgang mit externen Angestellten?

Jasmin: Der Time-Artikel zu OpenAI hat bestimmte Vorgänge im Hintergrund sehr detailliert beleuchtet, die der breiten Öffentlichkeit vorher unbekannt waren. Wie bereits erwähnt ist die Bereinigung von riesigen Datensätzen eine Herausforderung, zu der es oft (noch) keine einfache Lösung gibt. Dabei sind zwei Perspektiven zu beachten: Einerseits sollte die KI-Industrie bei heiklen Datensätzen nicht auf einfache Lösungen zurückgreifen, die auf der Ausbeutung billiger Arbeitskräfte beruhen, um schnellen technologischen Fortschritt zu erreichen. Andererseits ist die Involvierung von diversen Personengruppen mit unterschiedlichen Lebensrealitäten zu begrüßen, da sie für ausgewogenere KI-Modelle stehen können.

Gabriele: Die Reaktion der Öffentlichkeit wird OpenAI langfristig dazu zwingen, ethisch unbedenkliche Wege zu finden, wie sie ihre Technologie weiterentwickeln können. Ethische Beurteilungen unterliegen immer einem gesellschaftlichen Diskurs und da stehen wir noch ganz am Anfang. Es ist jedenfalls zu begrüßen, dass die Daten von ChatGPT nach unterschiedlichen Kriterien beurteilt und bereinigt wurden. KI-Systeme anderer Hersteller mussten aufgrund von nicht ausreichend bereinigten Daten bald wieder deaktiviert werden. Ethik ist nicht einfach da. Ethische KI-Systeme bedeuten die Abbildung der gesellschaftlichen Meinung zu einem bestimmten Zeitpunkt, und diese kann sich rasch ändern. Und es bedeutet viel Arbeit, diese Meinung in tausenden Datensätzen abzubilden.

Jasmin: Ich möchte an dieser Stelle jedoch betonen, dass nicht alle KI-Systeme mit Hochrisiko-Datensätzen gefüttert werden (müssen). Die Qualitätssicherung in der Glasindustrie z.B. ist weit weg von Themen wie Rassismus oder Sexismus, und verbessert tatsächlich die Arbeitsprozesse für Arbeitnehmer:innen. Den Fall OpenAI werden wir weiterhin beobachten.

Viele Menschen vergessen bei Künstlicher Intelligenz die manuellen Aspekte – also die Content Moderation hinter der Menschen stehen, die ungefiltert mit sämtlichen Daten konfrontiert werden. Teilweise kann das auch zu einer psychischen Belastung für Arbeitnehmer:inenn führen. Wie kann man sich diese manuellen Aspekte vorstellen?

Jasmin: Um Datensätze als Basis für KI-Systeme nutzen zu können, müssen diese einem “Labeling” unterzogen werden. Der Mensch kennzeichnet dann z.B. die Merkmale einer Katze, damit die KI lernt, woran sie eine Katze erkennen oder von einem Hund unterscheiden kann.

Bei Millionen von Datensätzen muss z.B. im Falle von OpenAI gekennzeichnet werden, welche Daten diskriminierend, rassistisch, sexistisch usw. sind, um qualitativ hochwertige, wertfreie Datensätze zu erzielen. Erst dann kann die KI “gute” Ergebnisse liefern. Vor- oder Nachteile gibt es in dem Sinne nicht. Der steigende Bedarf an “Data Labeling” wird viele Unternehmen lediglich vor eine Herausforderung stellen.

Gabriele: Dass potentiell traumatisierende Informationen von Menschen angesehen werden müssen, um ein Daten Labeling für KI durchzuführen, ist der Realität geschuldet. Diese Daten wurden aus einem bestimmten Grund von Menschen erstellt. Dieser war nicht, als Trainingsdaten für eine KI herangezogen zu werden, sondern Angst, Betroffenheit oder Ähnliches bei anderen Personen zu erzeugen.

OpenAI ist nicht das erste und vermutlich nicht das letzte Unternehmen, bei dem so etwas vorkommt. Gerade in Anbetracht der Tatsache, dass wir jetzt auf einen AI-Hype blicken: Wie muss sich die AI-Branche verändern, damit solche Arbeitsbedingungen aufgehalten werden?

Gabriele: Wollen wir ethische KI-Systeme, so muss vorher ein gesellschaftlicher Diskurs zu den ethischen Werten stattfinden. Dann kann versucht werden, diese in den KI-Modellen abzubilden. Bekannt ist das Beispiel, ob ein selbstfahrendes Auto eher einen 80-jährigen Mann bei einer unausweichlichen Kollision verletzen soll oder die Mutter mit Kinderwagen.

Die Auslagerung des “Data Labeling” in andere Länder mit billigeren Kostenstrukturen und Lohn hat auch mehrere Aspekte. Aus Diversitätsgründen ist es einerseits zu begrüßen, außerdem werden so auch Arbeitsplätze mit für die Länder meist gutem Lohn geschaffen. Andererseits werden häufig jene Sachverhalte ausgelagert, die man den eigenen Angestellten nicht zumuten möchte. Das ist ethisch sicher bedenklich.

Da Millionen von Datensätzen gelabelt werden müssen, sind die KI-Unternehmen darauf angewiesen, in andere Länder auszuweichen, um die Kosten für die KI-Systeme nicht immens hoch werden zu lassen und die Arbeit parallel zur Entwicklung durchzuführen. Kosten KI-Systeme letztendlich zu viel, werden sie von nur wenigen Kund:innen genutzt. Es verzerrt den Wettbewerb noch mehr, wenn diese Methodik nur einem kleinen Benutzerkreis zur Verfügung steht, der sich hohe Kosten leisten kann.

Jasmin: Zusätzlich ist noch der geografische Aspekt zu beachten. In Europa herrscht im Gegensatz zu den USA ein Bestreben nach regulierten, vertrauenswürdigen KI-Systemen. Hier wird durchaus betont, dass sowohl in technischer als auch gesellschaftlicher Hinsicht, kein Schaden angerichtet, sondern ausschließlich positive wirtschaftliche und gesellschaftliche Beiträge geleistet werden sollen. Ein konkreter Rechtsrahmen fehlt zwar auch hier noch, aber die Richtung stimmt. Langfristig werden Länder wie die USA an Regulierungen und Leitlinien feilen müssen, wenn sie das Vertrauen der Benutzer:innen erlangen bzw. behalten wollen.

Deine ungelesenen Artikel:
21.03.2024

Künstliche Intelligenz & Suchmaschinenoptimierung – Chance oder Risiko?

Gastbeitrag. Was bedeutet der Aufstieg von künstlicher Intelligenz (KI) für Suchmaschinenoptimierung (SEO)? Johannes Luger von SEOschmiede erläutert Chancen und Risiken für Website-Betreiber:innen.
/artikel/ki-seo-chance-oder-risiko
21.03.2024

Künstliche Intelligenz & Suchmaschinenoptimierung – Chance oder Risiko?

Gastbeitrag. Was bedeutet der Aufstieg von künstlicher Intelligenz (KI) für Suchmaschinenoptimierung (SEO)? Johannes Luger von SEOschmiede erläutert Chancen und Risiken für Website-Betreiber:innen.
/artikel/ki-seo-chance-oder-risiko
Johannes Luger von SEOschmiede über KI & SEO
Johannes Luger von SEOschmiede | Foto: SEOschmiede, Adobe Stock (Hintergrund)

Die rasante Entwicklung künstlicher Intelligenz (KI) revolutioniert die Welt des Online-Marketings. KI bietet Unterstützung bei der Analyse von Daten und der Erstellung von Inhalten, doch der Einsatz birgt auch Risiken für Website-Betreiber:innen.

Was sich für Onlineshops & Websites durch KI ändert

Noch bevor fortschrittliche Technologien wie ChatGPT den Markt erreichten, erleichterten Plattformen wie Fiverr, Upwork und Co. die Erstellung von Webinhalten erheblich. Diese Online-Marktplätze ermöglichten es, auf ein globales Netzwerk von Freelancer:innen zuzugreifen, die Texte, Grafiken und andere Inhalte zu erschwinglichen Preisen anbieten.

Der einfache Zugang zu Inhalten und spätestens die Einführung von ChatGPT führte zu einer erheblichen Zunahme von Duplikaten und nur geringfügig modifizierten Texten im Internet, was letztlich die Qualität der Suchergebnisse beeinträchtigte.

Als Antwort darauf setzte Google mehrere Updates durch, zuletzt im März 2024, um gegen minderwertige Inhalte vorzugehen und das Nutzererlebnis zu verbessern.

Um sich in diesem veränderten Umfeld hervorzuheben, ist es heutzutage entscheidend, einzigartige und originelle Inhalte zu erstellen, die sich klar von der Masse abheben. Sichtbarkeit in den Suchmaschinen wird zukünftig mehr denn je mit authentischem und unverwechselbarem Content verbunden sein.

Interaktivität wird unglaublich wichtig

Interaktivität entwickelt sich aus Sicht der SEO-Agentur SEOschmiede zu einem zentralen Element einer herausragenden Nutzererfahrung. Rechner, Tools, interaktive Checklisten und Tabellen, unterstützt durch den Einsatz von künstlicher Intelligenz (KI), werden zu einem entscheidenden Faktor in der Content-Strategie. Die gute Nachricht ist, dass KI hervorragend eingesetzt werden kann, um solche interaktiven Anwendungen zu entwickeln.

In der nahen Zukunft wird entscheidend sein, welche Akteur:innen im digitalen Umfeld die Nase vorn haben werden. Aus SEO-Perspektive könnte argumentiert werden, dass Webseiten mit interaktiven Features durch längere Verweilzeiten und ihr Potenzial als linkwürdige Assets – also Inhalte, die zur Verlinkung durch andere Webseiten anregen – einen klaren Wettbewerbsvorteil erzielen.

Dies bedeutet, dass Webseitenbetreiber:innen, die in interaktive Tools investieren und diese durch KI noch weiter verbessern, nicht nur das Engagement und die Zufriedenheit ihrer Nutzer:innen steigern, sondern auch ihre Sichtbarkeit und vor allem die Autorität im Internet weiter ausbauen können. In einer Zeit, in der der Wettbewerb um Aufmerksamkeit stetig wächst, könnte dies ein entscheidender Faktor für den Erfolg sein.

Funktioniert klassische SEO-Optimierung noch?

Die Landschaft der Suchmaschinenoptimierung (SEO) ist dynamisch, doch grundlegende Optimierungsstrategien bleiben auch in Zeiten von ChatGPT und weiteren KI-Tools erhalten. Dazu gehören Maßnahmen wie die Optimierung von Title-Tags, die Strukturierung von Überschriften und weitere Faktoren wie Meta-Beschreibungen, Alt-Texte für Bilder, interne Verlinkungen sowie der Fokus auf Suchintentionen der Zielgruppen. Diese Maßnahmen sind keineswegs überholt; vielmehr bilden sie das Fundament für eine effektive SEO.

Googles primäres Ziel war und ist es, die Nutzererfahrung zu verbessern. Die Qualität und Relevanz des Contents, eine klare und logische Website-Architektur sowie eine mobilfreundliche Gestaltung sind Aspekte, die in diesem Bestreben weiterhin entscheidend sind.

Es ist möglich, dass die Bedeutung von Backlinks als Rankingfaktor zugunsten von Nutzersignalen, wie etwa der Verweildauer oder der Interaktionsrate, leicht abnimmt. Auch der Pagespeed, also die Ladezeit einer Webseite, wird wahrscheinlich an Bedeutung gewinnen, da dieser die Nutzerzufriedenheit direkt beeinflusst. Aber das bleibt vorerst Spekulation.

SEO für ChatGPT und andere Sprachmodelle (LLMs)

Neben den etablierten Kanälen wie Suchmaschinen und Social Media entsteht mit den fortschrittlichen Sprachmodellen wie ChatGPT ein neuer, wesentlicher Bereich für das Online-Marketing. Für Expert:innen in diesem Sektor ist es unerlässlich, die Bedeutung der Optimierung in diesem neuen Umfeld zu erkennen.

Der Grund dafür liegt auf der Hand: Menschen beginnen, direkt in LLMs (Large Language Models) nach Informationen, Dienstleistungen oder Produkten zu suchen. Die Anpassung an diese Entwicklung ist nicht nur eine Option, sondern eine Notwendigkeit für zukunftsorientierte Marketingstrategien. Die Optimierung für LLMs ähnelt auf den ersten Blick der Suchmaschinenoptimierung, hat aber ihre eigenen Feinheiten und ist sehr viel dynamischer, wie einige Tests bereits zeigen konnten.

Fazit

Die rasante Entwicklung der künstlichen Intelligenz (KI) im Online-Marketing präsentiert sowohl signifikante Chancen als auch Herausforderungen für die gesamte Branche. KI transformiert die Landschaft durch fortschrittliche Datenanalyse und Content-Erstellung, fordert aber gleichzeitig Website-Betreiber:innen heraus, sich durch hochwertigen Content von der Masse abzuheben. Die Integration von KI zur Entwicklung interaktiver Tools öffnet neue Wege, um Nutzerbindung und -zufriedenheit zu verbessern, was essenziell für die Steigerung der Online-Sichtbarkeit und -Autorität ist.

Obwohl die Bedeutung klassischer SEO-Techniken bestehen bleibt, zeichnet sich ein Wandel hin zu Nutzersignalen und einer agileren Optimierung von Inhalten ab. Die Anpassung an neue Technologien wie fortschrittliche Sprachmodelle, exemplarisch ChatGPT, wird zunehmend kritisch, um in der dynamischen digitalen Welt erfolgreich zu sein.

Für Online-Marketer:innen, Shopbetreiber:innen und Website-Besitzer:innen bergen die aktuellen Entwicklungen sowohl enorme Chancen als auch alltägliche Herausforderungen. Der Wettbewerb im Bereich der Suchmaschinenoptimierung und des Online-Marketings wird intensiver, was sowohl Gewinner als auch Verlierer hervorbringen wird.

Es ist entscheidend, sich kontinuierlich mit den neuesten Trends und Entwicklungen auseinanderzusetzen und schnell auf Neuerungen reagieren zu können. Diese Anpassungsfähigkeit ist der Schlüssel, um die sich bietenden Möglichkeiten zu ergreifen und den bevorstehenden Herausforderungen effektiv zu begegnen.


Über den Autor

Johannes Luger ist Gründer und Head of SEO bei SEOschmiede. Die Agentur für SEO & Content Marketing hat Standorte in Wien und Oberösterreich. Sie ist offizieller Google Ads Partner.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

So diskriminiert KI: ChatGPT entfacht Debatte neu

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

So diskriminiert KI: ChatGPT entfacht Debatte neu

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

So diskriminiert KI: ChatGPT entfacht Debatte neu

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

So diskriminiert KI: ChatGPT entfacht Debatte neu

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

So diskriminiert KI: ChatGPT entfacht Debatte neu

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

So diskriminiert KI: ChatGPT entfacht Debatte neu

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

So diskriminiert KI: ChatGPT entfacht Debatte neu

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

So diskriminiert KI: ChatGPT entfacht Debatte neu

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

So diskriminiert KI: ChatGPT entfacht Debatte neu