01.02.2023

Gute KI, böse KI: Künstliche Intelligenz entwickelt Medikamente und chemische Waffen

Sogar im Gesundheitsbereich akzeleriert die künstliche Intelligenz die Erstellung von Diagnosen oder Entwicklung von Medikamenten. Doch KI ist nicht immer vorteilhaft.
/artikel/gute-ki-boese-ki-kuenstliche-intelligenz-entwickelt-medikamente-und-chemische-waffen
(c) Phonlamai Photo's

Das Thema künstliche Intelligenz (KI) ist seit Monaten in aller Munde. Falls nun jemand befürchtet, dass auch dieser Artikel sich mit dem altbekannten Chatbot “ChatGPT” befasst, hat kein Grund zur Sorge, denn KI kann noch viel mehr. Sie kann beispielsweise Medikamente für unheilbare Krankheiten entwickeln, ärztliche Diagnosen erstellen und auch giftige Moleküle gestalten, die als Basis für chemische Waffen verwendet werden könnten. Dem Einsatz von KI sind also – fast – keine Grenzen gesetzt, das bestätigen auch die Lösungen von Salesforce (ProGen) und von Google und DeepMind (MedPaLM). Wie Wissenschaftler:innen aber bekräftigen, erhöht sich mit der steigenden Einsatzfähigkeit dieser Technologien auch das Missbrauchsrisiko. In diesem Fall für die potenzielle Herstellung von chemischen Waffen.

Künstlich erstellte Proteine helfen mit Umweltschutz

Doch bevor wir über Szenarien denken, wo ausgeklügelte Roboter die Erdbevölkerung mit eigens entwickelten Kampfgasen zerstören, gibt es auch durchaus freundlichere generative KI-Modelle, die Menschen mit chronischen Krankheiten wie rheumatoide Arthritis und Multiple Sklerose dabei helfen, Behandlungsmöglichkeiten zu finden. In diesem Bereich ist auch das KI-Sprachmodell ProGen von Salesforce tätig. ProGen wurde erstmals im Jahr 2020 vorgestellt und mit rund 280 Millionen Muster aus einem der größten Proteindatenbanken trainiert. Ziel ist es, künstliche Proteine sowohl für den Einsatz in der Pharmazie als auch für den Umweltschutz zu kreieren. Letzteres gelingt über die Bekämpfung von Bakterien und den Abbau von Kunststoffen mit dem Einsatz von KI-generierten Molekülen.

Der Unterschied zwischen natürlichen und künstlichen Proteinen wurde in einem Labor der University of California, San Francisco, festegestellt. Hierfür haben Wissenschaftler:innen die antibakterielle Wirkung beider Proteine getestet. Die Ergebnisse zeigen, dass 73 Prozent der künstlich erzeugten Proteine von ProGen wirksam waren, verglichen mit 59 Prozent der natürlichen Proteine. Das bedeutet, dass ProGen Forscher:innen dazu befähigt, vor allem maßgeschneiderte Proteine mit gewünschten Eigenschaften zu entwickeln, die hohen Temperaturen standhalten oder sich sogar an andere Moleküle binden.

Google und DeepMind entwickeln medizinischen Chatbot

Der ChatGPT-Fokus der letzten Wochen hat eine wichtige Entwicklung in der KI-Branche überblendet. Google und DeepMind haben kürzlich einen medizinischen Chatbot namens Med-PalM entwickelt, der auf Fragen von Betroffenen medizinische Auskünfte gibt. Diese basieren auf einem Large Language Model (LLM) sowie auf einem großen und komplexen Datensatz aus der Medizinforschung. Die KI kann dadurch logische Zusammenschlüsse aus Daten ziehen und User:innen mit Antworten auf Mediziner:innen-Niveau geben. Basierend auf professionellen medizinischen Prüfungen, Forschung und Verbraucheranfragen zu medizinischen Themen könnte Med-PalM bald auch für klinische Anwendungen infrage kommen.

Künstliche Intelligenz als Bösewicht?

So vielfältig und hilfreich die künstliche Intelligenz für die Menschen auch ist, umso gefährlicher kann sie auch sein. Wie auch das Fachmedium Forschung und Wissen berichtet, hat eine Gruppe von Wissenschaftler:innen des Unternehmens Collaborations Pharmaceuticeals und aus dem Labor Spiez aus der Schweiz Dank ihres Molekülgenerators MegaSyn herausgefunden, dass die KI nicht nur für die Herstellung von Medikamenten, sondern auch für die Entwicklung von chemischen Waffen eingesetzt werden könnte. Die Forscher:innen haben den Molekülgenerator so modifiziert, sodass er möglichst giftige Stoffe statt ungiftige findet, mit Fokus auf ähnlichen Verbindungen wie dem gefährlichen Nervengift VX.

Innerhalb von nur sechs Stunden wurden über 40.000 Moleküle entdeckt, darunter auch Nervengifte wie VX, aber auch jene, die von der KI neu entwickelt wurden. Obwohl noch nicht bestätigt wurde, wie toxisch die neuen Moleküle sind, gehen Wissenschaftler:innen davon aus, dass es sich um einen hohen giftigen Anteil handelt. Laut Aussagen der Forscher:innen könnten die Ergebnisse der KI für die Entwicklung von Chemiewaffen genutzt werden. Deshalb sei es wichtig, die Wissenschaft über das große Missbrauchsrisiko dieser Technologien zu informieren. Aber auch Präventionsmaßnahmen seien hierfür notwendig.

Deine ungelesenen Artikel:
29.09.2026

So will A1 den KI-Boom für sich nutzen

ICT ist für die A1 Group aktuell der Wachstumsmarkt schlechthin. Die große Aufgabe: KI operativ in Unternehmen zu bringen. Welche Strategien man dabei verfolgt, erklärten Group-CEO Alejandro Plater und Group-CTO Alexander Kuchar am Rande des "A1 ICT Summit".
/artikel/so-will-a1-den-ki-boom-fuer-sich-nutzen
29.09.2026

So will A1 den KI-Boom für sich nutzen

ICT ist für die A1 Group aktuell der Wachstumsmarkt schlechthin. Die große Aufgabe: KI operativ in Unternehmen zu bringen. Welche Strategien man dabei verfolgt, erklärten Group-CEO Alejandro Plater und Group-CTO Alexander Kuchar am Rande des "A1 ICT Summit".
/artikel/so-will-a1-den-ki-boom-fuer-sich-nutzen
A1 Group CEO Alejandro Plater und A1 Group CTO Alexander Kuchar | (c) A1 Group
A1 Group CEO Alejandro Plater und A1 Group CTO Alexander Kuchar | (c) A1 Group

„Als sich das Internet durchgesetzt hat, gab es ‚Greenfield-Unternehmen‘ wie Google, die keine Legacy hatten und etablierte Unternehmen wie Microsoft, die sich transformieren mussten. Jetzt sind wir in der gleichen Situation. Während OpenAI, Anthropic und Co. etwas komplett Neues aufbauen, müssen die bestehenden Player, wie etwa auch wir, die Transformation schaffen“, sagt Alejandro Plater, CEO der A1 Group, am Rande des A1 ICT Summit. Und er fügt an: „Microsoft ist diese Transformation damals sehr gut gelungen. Wir wollen wie Microsoft sein.“

ICT als entscheidender Wachstumsmarkt

Mehr noch als um die Herausforderungen, die KI innerhalb des Konzerns mit sich bringt, geht es für die Gruppe dabei darum, dem Markt zu liefern, was gebraucht wird. Das große Schlagwort lautet ICT mit umfassenden Cloud- und KI-basierten Angeboten für Unternehmen. Von 2021 auf 2025 wuchs der Gruppenumsatz in dem Bereich von 285 auf 573 Millionen Euro – eine durchschnittliche jährliche Wachstumsrate von 19 Prozent. Was das mit dem KI-Boom zu tun hat, bringt Plater auf den Punkt: „Wir sind groß und haben die Möglichkeiten, schnell auf alle Entwicklungen zu reagieren. Viele Unternehmen sind klein und haben diese Möglichkeiten nicht. Das ist eine große Chance für uns.“

„Souveränität heißt für uns in erster Linie: Du hast die Wahl.“

Eine Rolle spielt dabei natürlich auch das aktuell große Thema Digitale Souveränität. „Souveränität heißt für uns in erster Linie: Du hast die Wahl. Es gibt mehrere Alternativen und du kannst entscheiden“, erklärt Alexander Kuchar, CTO der A1 Group. Das trifft vor allem auf den Cloud-Bereich zu, wo man mit der Tochter Exoscale ein eigenes Angebot mit Data-Centern an zahlreichen europäischen Standorten hat, gleichzeitig aber auch Angebote der US-Hyperscaler vertreibt. „Es kommt hier immer auf die konkreten Kundenbedürfnisse an, welche Variante die sinnvollste ist“, sagt der CTO.

In Sachen KI setzt A1 dagegen primär auf Open-Source-Modelle, also einen genuin souveränen Ansatz. Dass diese technologisch nicht mit den Frontier-LLMs der US-Giganten mithalten können, sieht Kuchar wenig problematisch. Die Entwicklung verlaufe verschoben, aber parallel. „Was die Frontier-Modelle heute können, werden die Open-Source-Modelle in kurzer Zeit können“, so der CTO. Entscheidend seien die tatsächlichen Bedürfnisse der Unternehmenskunden – und hier spiele etwa auch die Abwägung zwischen Performance und Kosten eine große Rolle. Die Wahl falle daher oft bewusst auf schwächere Modelle, die den spezifischen Zweck aber – günstiger – erfüllen.

Strategie: Leute vor Ort

CEO Plater sieht das Thema aus der Vogelperspektive: „Es geht nicht primär um die Technologie. Es geht um das Leadership in den Unternehmen.“ Entscheidend sei, wie die Technologie operativ ankomme und es gelinge, die ganze Organisation mitzunehmen. A1 setzt dabei auf Präsenz in seinen Märkten. „Es ist überraschend, wie unterschiedlich unsere Märkte sind. Wenn ein US-Player kommt, und den Unternehmen erklären will, wie sie ihr Business zu führen haben, wird das nicht funktionieren“, sagt Alexander Kuchar. Und Plater ergänzt: „Das ist unsere Strategie: Wir haben Leute vor Ort, die die Sprache sprechen. Wir haben Callcenter und Techniker, die zu einem kommen. Bei den Hyperscalern erreichst du niemanden.“

Dass die besagten Callcenter schon in absehbarer Zeit nicht mehr mit Menschen, sondern mit KI-Agenten besetzt sein werden, ist für den CEO gleichzeitig eine Selbstverständlichkeit: „Die KI passt sich sogar an den spezifischen Dialekt der Anrufenden an. Menschen können es damit nicht aufnehmen“, meint er. Und ob aber Kund:innen nicht dennoch mit echten Menschen sprechen wollen? „Man wird nicht erkennen, dass es eine KI ist“, so Plater, „bloß, wenn die Regulatorik vorschreibt, das schon bei Gesprächsbeginn kenntlich zu machen.“

Generell sei die Regulatorik auch etwas, das ihn beschäftige, sagt der CEO, konkret die Unterschiede zwischen den Ländern bzw. den Großregionen: „So viel ist klar: Die weniger regulierten bewegen sich schneller – im Positiven wie im Negativen – und die stärker regulierten bewegen sich langsamer – im Positiven wie im Negativen.“

„Je weniger Systeme, Tools und Prozesse man hat, desto einfacher ist es zu kontrollieren.“

Ein großes damit verbundenes Thema ist die Sicherheit. „Wir arbeiten mit mehreren Strategien daran, die Cyber-Security stetig zu verbessern“, sagt dazu Plater. Erstens versuche man etwa, wo es gehe, zu vereinfachen. „Je weniger Systeme, Tools und Prozesse man hat und je simpler alles ist, desto einfacher ist es zu kontrollieren.“ Zweitens habe man eigene Teams, die ständig die neuesten Entwicklungen im Auge behielten und solche, die konstant Angriffe auf das eigene System simulieren, um Lücken zu finden. Auch hier sieht der CEO eine große Chance für die A1 Group, die CTO Kuchar benennt: „Wir bieten hier maßgeschneiderte Lösungen für KMU.“

Und wie sieht es mit den zuletzt vielfach kolportierten globalen Bedrohungsszenarien durch KI aus, die bis zur befürchteten Auslöschung der Menschheit gehen? „Ich bin nicht sehr fatalistisch bei dem Thema“, sagt Plater. Man müsse solche Szenarien schon in Perspektive setzen. „Was sind die tatsächlichen Möglichkeiten, die so drastisch sein könnten? Das ist für mich eher Science Fiction. Aber wer weiß, vielleicht irre ich mich.“

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Gute KI, böse KI: Künstliche Intelligenz entwickelt Medikamente und chemische Waffen

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Gute KI, böse KI: Künstliche Intelligenz entwickelt Medikamente und chemische Waffen

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Gute KI, böse KI: Künstliche Intelligenz entwickelt Medikamente und chemische Waffen

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Gute KI, böse KI: Künstliche Intelligenz entwickelt Medikamente und chemische Waffen

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Gute KI, böse KI: Künstliche Intelligenz entwickelt Medikamente und chemische Waffen

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Gute KI, böse KI: Künstliche Intelligenz entwickelt Medikamente und chemische Waffen

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Gute KI, böse KI: Künstliche Intelligenz entwickelt Medikamente und chemische Waffen

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Gute KI, böse KI: Künstliche Intelligenz entwickelt Medikamente und chemische Waffen

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Gute KI, böse KI: Künstliche Intelligenz entwickelt Medikamente und chemische Waffen