01.02.2023

Gute KI, böse KI: Künstliche Intelligenz entwickelt Medikamente und chemische Waffen

Sogar im Gesundheitsbereich akzeleriert die künstliche Intelligenz die Erstellung von Diagnosen oder Entwicklung von Medikamenten. Doch KI ist nicht immer vorteilhaft.
/artikel/gute-ki-boese-ki-kuenstliche-intelligenz-entwickelt-medikamente-und-chemische-waffen
(c) Phonlamai Photo's

Das Thema künstliche Intelligenz (KI) ist seit Monaten in aller Munde. Falls nun jemand befürchtet, dass auch dieser Artikel sich mit dem altbekannten Chatbot “ChatGPT” befasst, hat kein Grund zur Sorge, denn KI kann noch viel mehr. Sie kann beispielsweise Medikamente für unheilbare Krankheiten entwickeln, ärztliche Diagnosen erstellen und auch giftige Moleküle gestalten, die als Basis für chemische Waffen verwendet werden könnten. Dem Einsatz von KI sind also – fast – keine Grenzen gesetzt, das bestätigen auch die Lösungen von Salesforce (ProGen) und von Google und DeepMind (MedPaLM). Wie Wissenschaftler:innen aber bekräftigen, erhöht sich mit der steigenden Einsatzfähigkeit dieser Technologien auch das Missbrauchsrisiko. In diesem Fall für die potenzielle Herstellung von chemischen Waffen.

Künstlich erstellte Proteine helfen mit Umweltschutz

Doch bevor wir über Szenarien denken, wo ausgeklügelte Roboter die Erdbevölkerung mit eigens entwickelten Kampfgasen zerstören, gibt es auch durchaus freundlichere generative KI-Modelle, die Menschen mit chronischen Krankheiten wie rheumatoide Arthritis und Multiple Sklerose dabei helfen, Behandlungsmöglichkeiten zu finden. In diesem Bereich ist auch das KI-Sprachmodell ProGen von Salesforce tätig. ProGen wurde erstmals im Jahr 2020 vorgestellt und mit rund 280 Millionen Muster aus einem der größten Proteindatenbanken trainiert. Ziel ist es, künstliche Proteine sowohl für den Einsatz in der Pharmazie als auch für den Umweltschutz zu kreieren. Letzteres gelingt über die Bekämpfung von Bakterien und den Abbau von Kunststoffen mit dem Einsatz von KI-generierten Molekülen.

Der Unterschied zwischen natürlichen und künstlichen Proteinen wurde in einem Labor der University of California, San Francisco, festegestellt. Hierfür haben Wissenschaftler:innen die antibakterielle Wirkung beider Proteine getestet. Die Ergebnisse zeigen, dass 73 Prozent der künstlich erzeugten Proteine von ProGen wirksam waren, verglichen mit 59 Prozent der natürlichen Proteine. Das bedeutet, dass ProGen Forscher:innen dazu befähigt, vor allem maßgeschneiderte Proteine mit gewünschten Eigenschaften zu entwickeln, die hohen Temperaturen standhalten oder sich sogar an andere Moleküle binden.

Google und DeepMind entwickeln medizinischen Chatbot

Der ChatGPT-Fokus der letzten Wochen hat eine wichtige Entwicklung in der KI-Branche überblendet. Google und DeepMind haben kürzlich einen medizinischen Chatbot namens Med-PalM entwickelt, der auf Fragen von Betroffenen medizinische Auskünfte gibt. Diese basieren auf einem Large Language Model (LLM) sowie auf einem großen und komplexen Datensatz aus der Medizinforschung. Die KI kann dadurch logische Zusammenschlüsse aus Daten ziehen und User:innen mit Antworten auf Mediziner:innen-Niveau geben. Basierend auf professionellen medizinischen Prüfungen, Forschung und Verbraucheranfragen zu medizinischen Themen könnte Med-PalM bald auch für klinische Anwendungen infrage kommen.

Künstliche Intelligenz als Bösewicht?

So vielfältig und hilfreich die künstliche Intelligenz für die Menschen auch ist, umso gefährlicher kann sie auch sein. Wie auch das Fachmedium Forschung und Wissen berichtet, hat eine Gruppe von Wissenschaftler:innen des Unternehmens Collaborations Pharmaceuticeals und aus dem Labor Spiez aus der Schweiz Dank ihres Molekülgenerators MegaSyn herausgefunden, dass die KI nicht nur für die Herstellung von Medikamenten, sondern auch für die Entwicklung von chemischen Waffen eingesetzt werden könnte. Die Forscher:innen haben den Molekülgenerator so modifiziert, sodass er möglichst giftige Stoffe statt ungiftige findet, mit Fokus auf ähnlichen Verbindungen wie dem gefährlichen Nervengift VX.

Innerhalb von nur sechs Stunden wurden über 40.000 Moleküle entdeckt, darunter auch Nervengifte wie VX, aber auch jene, die von der KI neu entwickelt wurden. Obwohl noch nicht bestätigt wurde, wie toxisch die neuen Moleküle sind, gehen Wissenschaftler:innen davon aus, dass es sich um einen hohen giftigen Anteil handelt. Laut Aussagen der Forscher:innen könnten die Ergebnisse der KI für die Entwicklung von Chemiewaffen genutzt werden. Deshalb sei es wichtig, die Wissenschaft über das große Missbrauchsrisiko dieser Technologien zu informieren. Aber auch Präventionsmaßnahmen seien hierfür notwendig.

Deine ungelesenen Artikel:
11.09.2026

Warum digitale Souveränität bei der Innovation beginnt

Österreichs Verwaltung und Wirtschaft laufen auf der Infrastruktur dreier US-Konzerne, und das Lagebild des Bundeskanzleramts rückt digitale Souveränität inzwischen in den Fokus der nationalen Sicherheit. Mathias Lipp-Rosenthal, Gründer der KI Schmiede, schreibt in seinem Gastbeitrag, warum heimische Anbieter längst bereit wären und was noch fehlt: der Staat als Kunde.
/artikel/warum-digitale-souveraenitaet-bei-der-innovation-beginnt
11.09.2026

Warum digitale Souveränität bei der Innovation beginnt

Österreichs Verwaltung und Wirtschaft laufen auf der Infrastruktur dreier US-Konzerne, und das Lagebild des Bundeskanzleramts rückt digitale Souveränität inzwischen in den Fokus der nationalen Sicherheit. Mathias Lipp-Rosenthal, Gründer der KI Schmiede, schreibt in seinem Gastbeitrag, warum heimische Anbieter längst bereit wären und was noch fehlt: der Staat als Kunde.
/artikel/warum-digitale-souveraenitaet-bei-der-innovation-beginnt
Mathias Lipp-Rosenthal, Gründer der KI Schmiede | Foto: Lipp-Rosenthal

Das im August veröffentlichte Gesamtstaatliche Lagebild 2026 des Krisensicherheitsberaters im Bundeskanzleramt enthält einen Satz, der bislang wenig Beachtung fand: Angesichts der Cyberbedrohung rücke digitale Souveränität weiter in den Fokus der nationalen Sicherheit. Daraus leitet es eine unbequeme Handlungsoption ab, nämlich die Förderung von EU-Anbietern und den Verzicht auf externe Anbieter bei künftigen Beschaffungen. Im (ersten) Lagebild 2025 kam der Begriff nicht vor. Aus einem Standortthema wurde binnen eines Jahres eine Sicherheitsfrage.

Der Ist-Zustand ist bekannt. Verwaltung und Wirtschaft in Österreich laufen weitgehend auf Infrastruktur dreier US-Konzerne. Der CLOUD Act erlaubt US-Behörden den Zugriff auf Daten, die diese Unternehmen verarbeiten, unabhängig vom Standort des Rechenzentrums. Als Microsoft im Frühjahr 2025 plötzlich das Konto des Chefanklägers des Internationalen Strafgerichtshofs sperrte, wurde sichtbar, dass die Verfügbarkeit einer digitalen Grundleistung an einer Entscheidung außerhalb Europas hängen kann. Die Leistungsfähigkeit der Hyperscaler steht außer Streit. Zu klären ist, welche Funktionen ein Staat in fremder Hand belassen kann.

Vorbilder im öffentlichen Sektor

Das Österreichische Bundesheer hat mit der Umstellung auf LibreOffice die Kontrolle über einen zentralen Arbeitsplatzbaustein zurückgeholt, die Schweizer Armee migriert ihr Kommando Cyber auf openDesk.

Am weitesten gehen die Niederlande. Dort stellt die Regierung die gesamte Bundesverwaltung auf digitale Souveränität um. Seit Juli 2026 ist von US-Clouds für E-Mail und Dokumente abzuraten, Daten müssen in Europa bleiben und für jeden Dienst muss ein Ausstiegsplan vorliegen.

Sicherheit als Grundbedürfnis der Wirtschaft

Die Frage stellen sich zunehmend auch heimische Unternehmen. Sie wollen wissen, ob ihre Daten in Europa liegen, wer darauf zugreifen kann und ob der Dienst, auf dem ihr Tagesgeschäft läuft, morgen noch verfügbar ist. Souverän zu arbeiten heißt für sie vor allem, Sicherheit zu haben: dass Daten nicht von Drittstaaten abgegriffen werden können und dass sie sich auf die Infrastruktur, die ihr Geschäft trägt, tatsächlich verlassen können.

Anbieter, die diesen Wechsel möglich machen, gibt es in Österreich und Europa bereits. Sie stellen Rechenleistung, Plattformdienste und KI-Modelle bereit, die europäischem Recht unterliegen und deren Betrieb nachvollziehbar bleibt. Was ihnen fehlt, ist nicht die Kompetenz, sondern die Nachfrage, die sie in jene Größe trägt, in der sie für den Mittelstand zur echten Option werden.

Mehr als ein Hackathon

Im Mai 2026 haben das Bundeskanzleramt und die TU Austria dazu einen Public AI Hackathon veranstaltet. In 48 Stunden entwickelten 25 Talente Prototypen für die öffentliche Verwaltung, präsentiert vor Staatssekretär Alexander Pröll und einer Jury aus Verwaltung, Politik und Forschung. Das Format zeigt, dass der Wille zur Zusammenarbeit zwischen Staat und Nachwuchs vorhanden ist. Es zeigt auch, wo die Grenze liegt. Zwei Tage Hackathon ersetzen keine Strategie, mit der die Startup-Szene dauerhaft in den Aufbau souveräner Infrastruktur eingebunden wird. Auf einen Prototyp sollte eine Beschaffung folgen, auf eine Veranstaltung ein Förderprogramm, auf ein Teilnahmezertifikat ein zahlender Kunde.

Der Hebel heißt öffentliche Nachfrage

Genau hier liegt der Hebel für Österreich. Öffentliche Nachfrage entscheidet, ob heimische Anbieter jene Größe erreichen, die sie brauchen, um für die Wirtschaft eine echte Option zu sein. Wenn Bund, Länder und Förderstellen gezielt bei europäischen und österreichischen Anbietern beschaffen, stärkt das deren Marktposition und signalisiert der gesamten Startup-Branche, dass sich Investitionen in souveräne Technologie lohnen. Souveränität und Innovation stehen dabei nicht im Widerspruch, sie bedingen einander: Wer die Kontrolle über seine Infrastruktur behält, kann auf ihr aufbauen, statt sie nur zu mieten.

Für Österreich heißt das, die Empfehlung des Lagebilds über einzelne Prototypen hinaus zu denken. Jede Ausschreibung, jedes Förderprogramm und jede Anschlussfinanzierung entscheidet mit darüber, ob die österreichische Startup-Branche zu jenem Anbieter heranwächst, von dem Verwaltung, Sicherheitsbehörden und Mittelstand in zehn Jahren abhängen können. Wer Gründerinnen und Gründer heute mit mehr als einem Zertifikat ausstattet, entscheidet mit über die technologische Souveränität von morgen.


Über den Gastautor:

Mathias Lipp-Rosenthal ist Gründer der KI Schmiede, einer im Juni 2026 gestarteten Beratung, die Unternehmen im DACH-Raum bei der Einführung und Schulung von KI begleitet. Zuvor war er stellvertretender Klubdirektor der Neos und Mitgründer von Voter AI; die Gründung der KI Schmiede hat brutkasten hier bereits vorgestellt.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Gute KI, böse KI: Künstliche Intelligenz entwickelt Medikamente und chemische Waffen

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Gute KI, böse KI: Künstliche Intelligenz entwickelt Medikamente und chemische Waffen

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Gute KI, böse KI: Künstliche Intelligenz entwickelt Medikamente und chemische Waffen

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Gute KI, böse KI: Künstliche Intelligenz entwickelt Medikamente und chemische Waffen

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Gute KI, böse KI: Künstliche Intelligenz entwickelt Medikamente und chemische Waffen

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Gute KI, böse KI: Künstliche Intelligenz entwickelt Medikamente und chemische Waffen

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Gute KI, böse KI: Künstliche Intelligenz entwickelt Medikamente und chemische Waffen

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Gute KI, böse KI: Künstliche Intelligenz entwickelt Medikamente und chemische Waffen

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Gute KI, böse KI: Künstliche Intelligenz entwickelt Medikamente und chemische Waffen