01.02.2023

Gute KI, böse KI: Künstliche Intelligenz entwickelt Medikamente und chemische Waffen

Sogar im Gesundheitsbereich akzeleriert die künstliche Intelligenz die Erstellung von Diagnosen oder Entwicklung von Medikamenten. Doch KI ist nicht immer vorteilhaft.
/artikel/gute-ki-boese-ki-kuenstliche-intelligenz-entwickelt-medikamente-und-chemische-waffen
(c) Phonlamai Photo's

Das Thema künstliche Intelligenz (KI) ist seit Monaten in aller Munde. Falls nun jemand befürchtet, dass auch dieser Artikel sich mit dem altbekannten Chatbot “ChatGPT” befasst, hat kein Grund zur Sorge, denn KI kann noch viel mehr. Sie kann beispielsweise Medikamente für unheilbare Krankheiten entwickeln, ärztliche Diagnosen erstellen und auch giftige Moleküle gestalten, die als Basis für chemische Waffen verwendet werden könnten. Dem Einsatz von KI sind also – fast – keine Grenzen gesetzt, das bestätigen auch die Lösungen von Salesforce (ProGen) und von Google und DeepMind (MedPaLM). Wie Wissenschaftler:innen aber bekräftigen, erhöht sich mit der steigenden Einsatzfähigkeit dieser Technologien auch das Missbrauchsrisiko. In diesem Fall für die potenzielle Herstellung von chemischen Waffen.

Künstlich erstellte Proteine helfen mit Umweltschutz

Doch bevor wir über Szenarien denken, wo ausgeklügelte Roboter die Erdbevölkerung mit eigens entwickelten Kampfgasen zerstören, gibt es auch durchaus freundlichere generative KI-Modelle, die Menschen mit chronischen Krankheiten wie rheumatoide Arthritis und Multiple Sklerose dabei helfen, Behandlungsmöglichkeiten zu finden. In diesem Bereich ist auch das KI-Sprachmodell ProGen von Salesforce tätig. ProGen wurde erstmals im Jahr 2020 vorgestellt und mit rund 280 Millionen Muster aus einem der größten Proteindatenbanken trainiert. Ziel ist es, künstliche Proteine sowohl für den Einsatz in der Pharmazie als auch für den Umweltschutz zu kreieren. Letzteres gelingt über die Bekämpfung von Bakterien und den Abbau von Kunststoffen mit dem Einsatz von KI-generierten Molekülen.

Der Unterschied zwischen natürlichen und künstlichen Proteinen wurde in einem Labor der University of California, San Francisco, festegestellt. Hierfür haben Wissenschaftler:innen die antibakterielle Wirkung beider Proteine getestet. Die Ergebnisse zeigen, dass 73 Prozent der künstlich erzeugten Proteine von ProGen wirksam waren, verglichen mit 59 Prozent der natürlichen Proteine. Das bedeutet, dass ProGen Forscher:innen dazu befähigt, vor allem maßgeschneiderte Proteine mit gewünschten Eigenschaften zu entwickeln, die hohen Temperaturen standhalten oder sich sogar an andere Moleküle binden.

Google und DeepMind entwickeln medizinischen Chatbot

Der ChatGPT-Fokus der letzten Wochen hat eine wichtige Entwicklung in der KI-Branche überblendet. Google und DeepMind haben kürzlich einen medizinischen Chatbot namens Med-PalM entwickelt, der auf Fragen von Betroffenen medizinische Auskünfte gibt. Diese basieren auf einem Large Language Model (LLM) sowie auf einem großen und komplexen Datensatz aus der Medizinforschung. Die KI kann dadurch logische Zusammenschlüsse aus Daten ziehen und User:innen mit Antworten auf Mediziner:innen-Niveau geben. Basierend auf professionellen medizinischen Prüfungen, Forschung und Verbraucheranfragen zu medizinischen Themen könnte Med-PalM bald auch für klinische Anwendungen infrage kommen.

Künstliche Intelligenz als Bösewicht?

So vielfältig und hilfreich die künstliche Intelligenz für die Menschen auch ist, umso gefährlicher kann sie auch sein. Wie auch das Fachmedium Forschung und Wissen berichtet, hat eine Gruppe von Wissenschaftler:innen des Unternehmens Collaborations Pharmaceuticeals und aus dem Labor Spiez aus der Schweiz Dank ihres Molekülgenerators MegaSyn herausgefunden, dass die KI nicht nur für die Herstellung von Medikamenten, sondern auch für die Entwicklung von chemischen Waffen eingesetzt werden könnte. Die Forscher:innen haben den Molekülgenerator so modifiziert, sodass er möglichst giftige Stoffe statt ungiftige findet, mit Fokus auf ähnlichen Verbindungen wie dem gefährlichen Nervengift VX.

Innerhalb von nur sechs Stunden wurden über 40.000 Moleküle entdeckt, darunter auch Nervengifte wie VX, aber auch jene, die von der KI neu entwickelt wurden. Obwohl noch nicht bestätigt wurde, wie toxisch die neuen Moleküle sind, gehen Wissenschaftler:innen davon aus, dass es sich um einen hohen giftigen Anteil handelt. Laut Aussagen der Forscher:innen könnten die Ergebnisse der KI für die Entwicklung von Chemiewaffen genutzt werden. Deshalb sei es wichtig, die Wissenschaft über das große Missbrauchsrisiko dieser Technologien zu informieren. Aber auch Präventionsmaßnahmen seien hierfür notwendig.

Deine ungelesenen Artikel:
12.11.2026

530 Mio. US-Dollar: Investments für zwei Münchner Startups

Agile Robots holt sich 500 Millionen US-Dollar Kapital. Währenddessen schließt das Deeptech-Startup SE3 eine Finanzierungsrunde von 30 Millionen US-Dollar ab.
/artikel/530-mio-us-dollar-investments-fuer-zwei-muenchner-startups
12.11.2026

530 Mio. US-Dollar: Investments für zwei Münchner Startups

Agile Robots holt sich 500 Millionen US-Dollar Kapital. Währenddessen schließt das Deeptech-Startup SE3 eine Finanzierungsrunde von 30 Millionen US-Dollar ab.
/artikel/530-mio-us-dollar-investments-fuer-zwei-muenchner-startups
Links Agile-Robots-CEO Zhaopeng Chen mit einem Humanoiden und rechts die SE3-Technologie im Einsatz | (c) Agile Robotics / SE3 / Canva

„Unsere Vision ist, dass intelligente Roboter überall auf der Welt in Fabriken und Lagern mit Menschen zusammenarbeiten“, mit diesen Worten verkündet Zhaopeng Chen, Gründer und CEO von Agile Robots, eine Finanzierungsrunde von 500 Millionen US-Dollar. Angeführt wurde die Serie-F-Runde von der SoftBank Group. Weitere Investoren kommen aus der Automobilindustrie, der künstlichen Intelligenz sowie der Digital- und Industrietechnologie, darunter etwa Nvidia, die Hitachi Group und T.Capital. Insgesamt steigt das eingeworbene Kapital des Münchner Scaleups auf zwei Milliarden US-Dollar. Die Bewertung des Unternehmens beträgt nun 8,5 Milliarden US-Dollar.

Kapital für internationales Wachstum

„Wir bringen Physical AI aus dem Labor in die Industrie, sei es in der Logistik, der Automobil- und Elektronikbranche oder der Fertigung. Mit der neuen Finanzierung können wir schneller international wachsen, unsere Präsenz in wichtigen Märkten ausbauen und unsere Produktionskapazitäten erweitern“, sagt Chen. Man wolle vor allem seine Präsenz in den USA stärken und die Entwicklung neuer Robotikanwendungen beschleunigen.

Agile Robots entwickelt humanoide und mobile Roboter, Roboterarme und -hände sowie die Software und KI-Modelle, die sie steuern. Dadurch können Industrieunternehmen auch Aufgaben automatisieren, für die bisher menschliches Fingerspitzengefühl und Urteilsvermögen nötig waren. 

30 Millionen US-Dollar für Europas Verteidigung

Ebenfalls eine Finanzierungsrunde in Millionenhöhe, wenn auch nicht in der Größenordnung von Agile Robots, sicherte sich das Münchner Startup SE3. In einer Serie-A-Finanzierungsrunde lukrierte die Deeptech-Firma 30 Millionen US-Dollar. Accel führte die Runde an, mit Beteiligung von Keen, Lakestar und Seedcamp.

„Die Finanzierung dient dem Ausbau der Entwicklungs-, Vertriebs- und Betriebsteams von SE3, um für die Erfüllung weiterer Aufträge im Zuge des Unternehmenswachstums gerüstet zu sein“, schreibt das Unternehmen auf seiner Webseite. Neben der Stärkung der Präsenz in Deutschland und der Ukraine eröffnet SE3 auch ein Büro in Großbritannien und plant die weitere Expansion in Europa.

Das Münchner Unternehmen arbeitet daran, Sensordaten in räumliches Verständnis umzuwandeln, sodass Maschinen autonom arbeiten können. SE3 entwickelt seine Technologie für komplexe Umgebungen, in denen Systeme zuverlässig funktionieren müssen, auch bei Störungen der Satellitennavigation. Das Startup konzentriert sich primär auf die europäische Verteidigung. Dieser Sektor bleibt vorerst der Schwerpunkt. Ab 2027 sollen Robotik, Katastrophenschutz und andere zivile Anwendungen für anspruchsvolle Umgebungen erforscht werden.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Gute KI, böse KI: Künstliche Intelligenz entwickelt Medikamente und chemische Waffen

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Gute KI, böse KI: Künstliche Intelligenz entwickelt Medikamente und chemische Waffen

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Gute KI, böse KI: Künstliche Intelligenz entwickelt Medikamente und chemische Waffen

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Gute KI, böse KI: Künstliche Intelligenz entwickelt Medikamente und chemische Waffen

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Gute KI, böse KI: Künstliche Intelligenz entwickelt Medikamente und chemische Waffen

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Gute KI, böse KI: Künstliche Intelligenz entwickelt Medikamente und chemische Waffen

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Gute KI, böse KI: Künstliche Intelligenz entwickelt Medikamente und chemische Waffen

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Gute KI, böse KI: Künstliche Intelligenz entwickelt Medikamente und chemische Waffen

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Gute KI, böse KI: Künstliche Intelligenz entwickelt Medikamente und chemische Waffen