01.02.2023

Gute KI, böse KI: Künstliche Intelligenz entwickelt Medikamente und chemische Waffen

Sogar im Gesundheitsbereich akzeleriert die künstliche Intelligenz die Erstellung von Diagnosen oder Entwicklung von Medikamenten. Doch KI ist nicht immer vorteilhaft.
/artikel/gute-ki-boese-ki-kuenstliche-intelligenz-entwickelt-medikamente-und-chemische-waffen
(c) Phonlamai Photo's

Das Thema künstliche Intelligenz (KI) ist seit Monaten in aller Munde. Falls nun jemand befürchtet, dass auch dieser Artikel sich mit dem altbekannten Chatbot “ChatGPT” befasst, hat kein Grund zur Sorge, denn KI kann noch viel mehr. Sie kann beispielsweise Medikamente für unheilbare Krankheiten entwickeln, ärztliche Diagnosen erstellen und auch giftige Moleküle gestalten, die als Basis für chemische Waffen verwendet werden könnten. Dem Einsatz von KI sind also – fast – keine Grenzen gesetzt, das bestätigen auch die Lösungen von Salesforce (ProGen) und von Google und DeepMind (MedPaLM). Wie Wissenschaftler:innen aber bekräftigen, erhöht sich mit der steigenden Einsatzfähigkeit dieser Technologien auch das Missbrauchsrisiko. In diesem Fall für die potenzielle Herstellung von chemischen Waffen.

Künstlich erstellte Proteine helfen mit Umweltschutz

Doch bevor wir über Szenarien denken, wo ausgeklügelte Roboter die Erdbevölkerung mit eigens entwickelten Kampfgasen zerstören, gibt es auch durchaus freundlichere generative KI-Modelle, die Menschen mit chronischen Krankheiten wie rheumatoide Arthritis und Multiple Sklerose dabei helfen, Behandlungsmöglichkeiten zu finden. In diesem Bereich ist auch das KI-Sprachmodell ProGen von Salesforce tätig. ProGen wurde erstmals im Jahr 2020 vorgestellt und mit rund 280 Millionen Muster aus einem der größten Proteindatenbanken trainiert. Ziel ist es, künstliche Proteine sowohl für den Einsatz in der Pharmazie als auch für den Umweltschutz zu kreieren. Letzteres gelingt über die Bekämpfung von Bakterien und den Abbau von Kunststoffen mit dem Einsatz von KI-generierten Molekülen.

Der Unterschied zwischen natürlichen und künstlichen Proteinen wurde in einem Labor der University of California, San Francisco, festegestellt. Hierfür haben Wissenschaftler:innen die antibakterielle Wirkung beider Proteine getestet. Die Ergebnisse zeigen, dass 73 Prozent der künstlich erzeugten Proteine von ProGen wirksam waren, verglichen mit 59 Prozent der natürlichen Proteine. Das bedeutet, dass ProGen Forscher:innen dazu befähigt, vor allem maßgeschneiderte Proteine mit gewünschten Eigenschaften zu entwickeln, die hohen Temperaturen standhalten oder sich sogar an andere Moleküle binden.

Google und DeepMind entwickeln medizinischen Chatbot

Der ChatGPT-Fokus der letzten Wochen hat eine wichtige Entwicklung in der KI-Branche überblendet. Google und DeepMind haben kürzlich einen medizinischen Chatbot namens Med-PalM entwickelt, der auf Fragen von Betroffenen medizinische Auskünfte gibt. Diese basieren auf einem Large Language Model (LLM) sowie auf einem großen und komplexen Datensatz aus der Medizinforschung. Die KI kann dadurch logische Zusammenschlüsse aus Daten ziehen und User:innen mit Antworten auf Mediziner:innen-Niveau geben. Basierend auf professionellen medizinischen Prüfungen, Forschung und Verbraucheranfragen zu medizinischen Themen könnte Med-PalM bald auch für klinische Anwendungen infrage kommen.

Künstliche Intelligenz als Bösewicht?

So vielfältig und hilfreich die künstliche Intelligenz für die Menschen auch ist, umso gefährlicher kann sie auch sein. Wie auch das Fachmedium Forschung und Wissen berichtet, hat eine Gruppe von Wissenschaftler:innen des Unternehmens Collaborations Pharmaceuticeals und aus dem Labor Spiez aus der Schweiz Dank ihres Molekülgenerators MegaSyn herausgefunden, dass die KI nicht nur für die Herstellung von Medikamenten, sondern auch für die Entwicklung von chemischen Waffen eingesetzt werden könnte. Die Forscher:innen haben den Molekülgenerator so modifiziert, sodass er möglichst giftige Stoffe statt ungiftige findet, mit Fokus auf ähnlichen Verbindungen wie dem gefährlichen Nervengift VX.

Innerhalb von nur sechs Stunden wurden über 40.000 Moleküle entdeckt, darunter auch Nervengifte wie VX, aber auch jene, die von der KI neu entwickelt wurden. Obwohl noch nicht bestätigt wurde, wie toxisch die neuen Moleküle sind, gehen Wissenschaftler:innen davon aus, dass es sich um einen hohen giftigen Anteil handelt. Laut Aussagen der Forscher:innen könnten die Ergebnisse der KI für die Entwicklung von Chemiewaffen genutzt werden. Deshalb sei es wichtig, die Wissenschaft über das große Missbrauchsrisiko dieser Technologien zu informieren. Aber auch Präventionsmaßnahmen seien hierfür notwendig.

Deine ungelesenen Artikel:
10.09.2026

Kommission schlägt neues Europäisches Innovationsgesetz vor – das sind die Eckpunkte

Die EU-Kommission hat gestern den European Innovation Act vorgeschlagen. Ziel ist es, Europas innovativste Ideen in Europa zu entwickeln, zu finanzieren und erfolgreich zu skalieren. Als zentrale Initiative der EU-Startup- und Scaleup-Strategie sowie des EU-Kompasses für Wettbewerbsfähigkeit soll der Vorschlag dazu beitragen, die langfristige Wettbewerbsfähigkeit und die technologische Souveränität der EU zu stärken.
/artikel/kommission-schlaegt-neues-europaeisches-innovationsgesetz-vor-das-sind-die-eckpunkte
10.09.2026

Kommission schlägt neues Europäisches Innovationsgesetz vor – das sind die Eckpunkte

Die EU-Kommission hat gestern den European Innovation Act vorgeschlagen. Ziel ist es, Europas innovativste Ideen in Europa zu entwickeln, zu finanzieren und erfolgreich zu skalieren. Als zentrale Initiative der EU-Startup- und Scaleup-Strategie sowie des EU-Kompasses für Wettbewerbsfähigkeit soll der Vorschlag dazu beitragen, die langfristige Wettbewerbsfähigkeit und die technologische Souveränität der EU zu stärken.
/artikel/kommission-schlaegt-neues-europaeisches-innovationsgesetz-vor-das-sind-die-eckpunkte
European Innovation Act
© European Commission

Europa verfügt über eine starke Forschungslandschaft sowie über qualifizierte Fachkräfte und innovative Unternehmen. Gleichzeitig bestehen innerhalb der EU unterschiedliche regulatorische Rahmenbedingungen, und der Zugang zu Finanzierungen kann für innovative Unternehmen eine Herausforderung darstellen. Dadurch werden in Europa entwickelte Innovationen nicht immer in Europa weiterentwickelt und wirtschaftlich genutzt. Der nun von der EU-Kommission vorgeschlagene European Innovation Act soll dazu beitragen, diese Rahmenbedingungen zu verbessern und Unternehmen dabei zu unterstützen, grenzüberschreitend zu wachsen und international wettbewerbsfähig zu werden.

Zugang zu Finanzierung und Vergabeverfahren

Der Vorschlag setzt im Prinzip an zwei zentralen Herausforderungen für Innovationen in Europa an: dem Zugang zu Finanzierung und der stärkeren Nutzung öffentlicher Beschaffung.

Erstens soll der Zugang zu Finanzierungen für innovative Unternehmen erleichtert werden. Viele Startups und Scaleups verfügen über Patente, geistiges Eigentum und andere immaterielle Vermögenswerte. Deren Bewertung kann jedoch komplex sein und den Zugang zu Investitionen erschweren.

Der Vorschlag sieht daher einen gemeinsamen EU-Rahmen für die Bewertung von geistigem Eigentum vor. Zudem soll ein digitaler Marktplatz geschaffen werden, der Anbieter und Interessenten für geistiges Eigentum zusammenbringen und Unternehmen durch fachliche Unterstützung bei der Vermarktung ihrer Innovationen unterstützen soll.

Nach Angaben der Kommission könnten diese Maßnahmen die Verwaltungskosten um rund 35 Mio. Euro senken und zusätzliche Finanzierungen von bis zu 10,2 Mrd. Euro pro Jahr über IP-gestütztes Risiko- und Fremdkapital ermöglichen.

F&E-Aufträge

Zweitens soll ein gemeinsames Verfahren für die Vergabe von Forschungs- und Entwicklungsaufträgen (F&E) eingeführt werden. Dieses soll für mehr Rechtssicherheit sorgen und dazu beitragen, neue Technologien schneller zur Marktreife zu bringen. Dazu zählen auch Technologien, die zur Bewältigung gemeinsamer gesellschaftlicher Herausforderungen etwa in den Bereichen Gesundheit, Bildung und saubere Mobilität beitragen können. Zudem soll die gemeinsame Durchführung von F&E-Aufträgen durch öffentliche Auftraggeber aus verschiedenen Mitgliedstaaten erleichtert werden.

Nach Angaben der Kommission könnten diese Maßnahmen zu Einsparungen von rund einer Milliarde Euro pro Jahr bei öffentlichen Auftraggebern führen und zusätzliche jährliche Gewinne von 25,92 Mrd. Euro für Unternehmen ermöglichen. Nach Einschätzung der Kommission könnte zudem das EU-BIP im zehnten Jahr um 0,24 bis 0,42 Prozent über dem Niveau (Anm.: ohne die Maßnahmen) liegen. Im selben Zeitraum könnten – so die Erwartung – bis zu 507.000 zusätzliche Arbeitsplätze entstehen.

„Mit dem Europäischen Innovationsgesetz gehen wir der Fragmentierung direkt entgegen: einen Rahmen für die Bewertung von Rechten des geistigen Eigentums, einen digitalen Marktplatz, der Käufer und Verkäufer verbindet, und einen einfacheren Weg für die Vergabe öffentlicher Aufträge für Spitzenforschung und -entwicklung. Und das ist erst der Anfang. Bis 2028 werden wir einen echten Binnenmarkt schaffen, in dem Ideen schneller skalieren, Finanzen freier zirkulieren und die strategische Autonomie Europas gestärkt wird. Das ist das Europa, das wir aufbauen“, sagt Ekaterina Sacharieva, EU-Kommissarin für Startups, Forschung und Innovation.

EU-Referenzrahmen für Reallabore

Parallel – und separat zum European Innovation Act zu sehen – möchte die Kommission Innovator:innen zudem dabei unterstützen, neue Ideen schneller in marktfähige Lösungen zu überführen. Dazu ist ein Vorschlag für einen gemeinsamen Rahmen für regulatorische Reallabore vorgesehen.

Reallabore ermöglichen es Unternehmen, Forschungseinrichtungen und Behörden, neue Produkte, Dienstleistungen oder Technologien zeitlich begrenzt in einem kontrollierten Umfeld und unter Aufsicht der zuständigen Behörden zu erproben. Dadurch sollen Erfahrungen mit den geltenden regulatorischen Anforderungen gesammelt werden. Gleichzeitig erhalten Behörden Erkenntnisse darüber, wie bestehende Vorschriften auf neue Technologien angewendet werden können und ob gegebenenfalls Anpassungsbedarf besteht.

In einzelnen Bereichen des EU-Rechts gibt es bereits regulatorische Reallabore. Ein einheitlicher europäischer Ansatz besteht bislang jedoch nicht, sodass sich unterschiedliche Verfahren und regulatorische Rahmenbedingungen ergeben. Eine geplante Empfehlung des Rates soll daher einen gemeinsamen EU-Referenzrahmen für Reallabore in Bereichen schaffen, die bislang nicht durch entsprechende EU-Rechtsvorschriften abgedeckt sind. Dabei sollen Erfahrungen aus den Mitgliedstaaten und bestehenden EU-Initiativen einbezogen werden – mit dem Ziel, die Erprobung innovativer Lösungen zu erleichtern und gleichzeitig öffentliche Interessen zu berücksichtigen.


Zusammenfassung

Worum geht es?
Der European Innovation Act soll Hindernisse für Innovation abbauen, den Weg von der Forschung zum Markt beschleunigen und die Nutzung von geistigem Eigentum erleichtern.

Drei zentrale Maßnahmen

  • Bewertung von geistigem Eigentum: Ein EU-weiter Rahmen soll die Bewertung von Patenten und anderem geistigem Eigentum vereinheitlichen und dadurch den Zugang zu Finanzierung für innovative Startups erleichtern.
  • Digitaler Marktplatz: Eine digitale Plattform soll Käufer und Verkäufer von geistigem Eigentum zusammenbringen.
  • F&E-Beschaffung: Ein gemeinsames Verfahren für die öffentliche Beschaffung von Forschung und Entwicklung soll die Beschaffung und grenzüberschreitende Zusammenarbeit vereinfachen und die Entwicklung und Erprobung innovativer Lösungen fördern.

Erwartete Auswirkungen

  • 10,2 Mrd. EUR zusätzliche Finanzierung für Unternehmen pro Jahr durch die bessere Nutzung von geistigem Eigentum
  • 35 Mio. EUR jährliche Einsparungen bei Verwaltungskosten für Unternehmen durch eine harmonisierte Bewertung von geistigem Eigentum
  • 1 Mrd. EUR jährliche Einsparungen bei öffentlichen Auftraggebern durch effizientere FuE-Beschaffung und vereinfachte grenzüberschreitende Verfahren
  • 25,9 Mrd. EUR zusätzliche jährliche Gewinne für Unternehmen, die an FuE-Beschaffung beteiligt sind
  • 0,24–0,42 % erwarteter Anstieg des EU-BIP über die nächsten zehn Jahre
  • bis zu 507.000 zusätzliche Arbeitsplätze in der EU innerhalb der nächsten zehn Jahre

Quelle: Europäische Kommission, „European Innovation Act“, September 2026. Bei den genannten wirtschaftlichen Effekten handelt es sich um erwartete Auswirkungen.

Toll dass du so interessiert bist!
Hinterlasse uns bitte ein Feedback über den Button am linken Bildschirmrand.
Und klicke hier um die ganze Welt von der brutkasten zu entdecken.

brutkasten Newsletter

Aktuelle Nachrichten zu Startups, den neuesten Innovationen und politischen Entscheidungen zur Digitalisierung direkt in dein Postfach. Wähle aus unserer breiten Palette an Newslettern den passenden für dich.

Montag, Mittwoch und Freitag

AI Summaries

Gute KI, böse KI: Künstliche Intelligenz entwickelt Medikamente und chemische Waffen

AI Kontextualisierung

Welche gesellschaftspolitischen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Gute KI, böse KI: Künstliche Intelligenz entwickelt Medikamente und chemische Waffen

AI Kontextualisierung

Welche wirtschaftlichen Auswirkungen hat der Inhalt dieses Artikels?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Gute KI, böse KI: Künstliche Intelligenz entwickelt Medikamente und chemische Waffen

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Innovationsmanager:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Gute KI, böse KI: Künstliche Intelligenz entwickelt Medikamente und chemische Waffen

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Investor:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Gute KI, böse KI: Künstliche Intelligenz entwickelt Medikamente und chemische Waffen

AI Kontextualisierung

Welche Relevanz hat der Inhalt dieses Artikels für mich als Politiker:in?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Gute KI, böse KI: Künstliche Intelligenz entwickelt Medikamente und chemische Waffen

AI Kontextualisierung

Was könnte das Bigger Picture von den Inhalten dieses Artikels sein?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Gute KI, böse KI: Künstliche Intelligenz entwickelt Medikamente und chemische Waffen

AI Kontextualisierung

Wer sind die relevantesten Personen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Gute KI, böse KI: Künstliche Intelligenz entwickelt Medikamente und chemische Waffen

AI Kontextualisierung

Wer sind die relevantesten Organisationen in diesem Artikel?

Leider hat die AI für diese Frage in diesem Artikel keine Antwort …

Gute KI, böse KI: Künstliche Intelligenz entwickelt Medikamente und chemische Waffen