WEF erforscht Einsatz von KI-generierten Patienten und Daten in klinischen Studien

Führende Politiker und Wirtschaftsvertreter aus aller Welt treffen sich diese Woche in Davos, Schweiz, zum jährlichen Treffen des Weltwirtschaftsforums (WEF). Eines der zentralen Themen in diesem Jahr ist die „künstliche Intelligenz [KI] als treibende Kraft für Wirtschaft und Gesellschaft“.

Doch während sich die Staats- und Regierungschefs auf die Diskussion über KI vorbereiten, finanziert ein WEF-Projekt, das erstmals 2019 angekündigt wurde, bereits Forschungsarbeiten über die Verwendung von „künstlichen”,  durch KI erzeugten „Patienten” und Daten in klinischen Studien.

Die synthetischen Daten würden mit Hilfe von KI entwickelt – und anschließend an KI weitergegeben, um sie zu „trainieren”.

Die britische Arzneimittelbehörde, die Medicines and Healthcare Products Regulatory Agency (MHSA), erhielt 750.387 £ (ca. 950.000 $) für dieses Projekt, mit dem offenbar die derzeit laufenden Forschungsarbeiten an mindestens zwei britischen Universitäten – der Universität von Birmingham und der Brunel Universität London unterstützt werden.

Der Regulators’ Pioneer Fund der britischen Regierung hat das Projekt 2022 finanziert. Die Finanzierung geht offenbar auf eine Vereinbarung zwischen der britischen Regierung und dem WEF vom Januar 2019 zurück, die besagt, dass „die britische Regierung eine führende Rolle bei der Revolution der Regulierung spielen soll, um die Industrie der Zukunft zu fördern”.

Im Rahmen dieser Vereinbarung wurde das Vereinigte Königreich „das erste Land, das mit dem WEF-Zentrum für die vierte industrielle Revolution zusammenarbeitet” und dabei auf einer „bestehenden Zusammenarbeit” im Bereich der KI aufbaut.

Befürworter des Einsatzes von KI zur Erstellung „künstlicher” klinischer Studiendaten und -teilnehmer sagen, dass dies weitaus kostengünstiger sei als die Verwendung menschlicher Teilnehmer, Bedenken hinsichtlich des Datenschutzes im Zusammenhang mit von Menschen erhobenen Daten ausräumen und die „Gleichbehandlung” verbessern könne.

Experten, die mit The Defender sprachen, äußerten jedoch Bedenken darüber, wie diese Technologie eingesetzt werden könnte.

Mary Holland, Präsidentin und CEO von Children’s Health Defense (CHD), sagte, die Anziehungskraft synthetischer klinischer Daten, die durch künstliche Intelligenz erzeugt werden, sei „leicht zu verstehen”.

„Die Gewinnung echter Patientendaten ist zeitaufwändig, teuer und erfordert tatsächlich die Zustimmung des Patienten”, so Holland. „Künstliche Daten hingegen erfordern nichts von alledem. Wie praktisch – und lukrativ – für Big Pharma“, sagte Holland.

Brian Hooker, Ph.D., leitender Direktor für Wissenschaft und Forschung bei CHD, bezeichnete von KI generierte „künstliche” Patienten und Daten als „ein äußerst beängstigendes Vorhaben”.

„Der Einsatz von künstlicher Intelligenz zur Generierung von Daten – für Kontroll- und Versuchsgruppen von ,Patienten’ – scheint ein Weg zu sein, um bei völlig unzureichend getesteten zugelassenen Impfstoffen wie dem COVID-19-mRNA-Impfstoff von Pfizer und Moderna noch mehr zu sparen”, sagte er.

Dr. Meryl Nass, Internistin und Epidemiologin im Bereich biologischer Kriegsführung, sagte: „Die Pharmaindustrie will keine echten klinischen Studien, bevor sie ihre Produkte verkaufen kann. Die meisten Medikamente und Impfstoffe scheitern während der Versuche, weil sich Menschen einfach nicht wie Mäuse oder Ratten in der realen Welt verhalten. Und klinische Studien sind sehr teuer.”

„Jetzt wollen sie gefälschte klinische Studien einführen”, sagte Nass.

Allerdings gibt es einen „Haken”, so Holland. „Die Daten können einfach absolut falsch sein.”

„Dieser Plan für KI-Informationen zu klinischen Studien erinnert mich an die Wahlergebnisse in der Sowjetunion, wo bemerkenswerterweise der einzige Kandidat auf dem Stimmzettel immer 99 % der Stimmen erhielt – und das sogar ohne KI”, sagte sie. „Man kann sich ähnliche KI-Studienergebnisse für medizinische Produkte vorstellen wie die Ergebnisse der klinischen Studie zur COVID-19-Injektion mit einer angeblichen Wirksamkeit von 99 %.”

Michael Rectenwald, Ph.D., Autor von „Google Archipelago: The Digital Gulag and the Simulation of Freedom”, sagte, dass „künstliche” Teilnehmer an klinischen Studien und Daten Teil der umfassenderen Agenda des WEF und seines Gründers und geschäftsführenden Vorsitzenden Klaus Schwab sind, KI in vielen Bereichen der Gesellschaft einzuführen.

„Schwab und das WEF glauben, dass die Zukunft der KI gehört”, sagte Rectenwald. „Sie glauben, dass KI Wahlen überflüssig machen wird, und jetzt sagen sie, dass KI klinische Studien für Impfstoffe mit echten menschlichen Probanden überflüssig machen wird. Solche KI-Maßnahmen sind offen für die Manipulation der Ergebnisse, und dem WEF wäre nichts lieber als die Manipulation von Impfstoffstudien – und Wahlen”, sagte er.

Befürworter loben das „enorme Potenzial” des Einsatzes von KI zur Erzeugung künstlicher Patienten und Daten

Dies geht aus einem 2023 in Clinical Cancer Informatics veröffentlichten Artikel hervor:

„Synthetische Daten sind künstliche Daten, die ohne reale Patienteninformationen von einem Algorithmus erzeugt werden, der darauf trainiert ist, die Eigenschaften eines realen Quelldatensatzes zu erlernen, und die inzwischen weit verbreitet sind, um die Forschung in den Biowissenschaften zu beschleunigen.”

„Synthetische Daten imitieren reale klinisch-genomische Merkmale und Ergebnisse und anonymisieren Patienteninformationen. Der Einsatz dieser Technologie ermöglicht es, die wissenschaftliche Nutzung und den Wert der realen Daten zu erhöhen und damit die Präzisionsmedizin in der Hämatologie und die Durchführung klinischer Studien zu beschleunigen.”

„Das heißt, der Zugang zu Trainingsdaten wird erleichtert, ohne dass die Privatsphäre der Patienten so stark beeinträchtigt wird, es wird ein besserer Zugang zu Validierungs- oder Vergleichs-Datensätzen ermöglicht, es werden Datenlücken geschlossen, die sonst bestehen würden, und die Stichprobengröße wird erhöht.”

Dieses Konzept scheint auf der bestehenden Praxis der Verwendung von „Surrogat-Endpunkten” in klinischen Studien aufzubauen, bei denen die Forscher nicht messen, ob sich die Studienteilnehmer besser fühlen oder länger leben oder ob die Teilnehmer einen Schlaganfall erlitten haben, sondern stattdessen Ersatzmessungen verwenden, von denen die Forscher lediglich erwarten, dass sie eine Vorhersagekraft haben.

Nach Bertalan Meskó, M.D., Ph.D., Direktor des Medical Futurist Institute, können „künstliche Patienten” definiert werden als „eine Reihe von Daten, die die gewünschten menschlichen Eigenschaften repräsentieren … basierend auf großen Mengen von realen Patientendaten, ohne tatsächlich rückverfolgbare reale Patientendaten zu enthalten”.

„Künstliche Patienten können die Antwort auf mehr als ein Problem der modernen Medizin sein”, schrieb Meskó, „darunter auch der Schutz der Privatsphäre der Patienten”. „Eines Tages könnten virtuelle Patienten zum Standardwerkzeug werden”, um „die Wirksamkeit und die potenziellen Nebenwirkungen vielversprechender Arzneimittelmoleküle abzuschätzen oder den Einsatz bestehender Moleküle zu optimieren”, die Erfolgsquote neuer medizinischer Geräte zu modellieren oder die Placebo-Kontrollgruppe in klinischen Studien zu ersetzen.

„Die Verwendung von Daten aus der realen Welt als Patientengruppe in einer Studie, die oft als synthetischer Kontrollarm bezeichnet wird, kann Forschungsstudien effizienter machen – Unternehmen müssen nicht so viele Menschen in klinische Studien aufnehmen und können garantieren, dass diejenigen, die sich bewerben, die Behandlung auch tatsächlich erhalten”, schrieb er und fügte hinzu, dass „künstliche Kontrollgruppen auch die Gleichbehandlung in der klinischen Forschung verbessern können”.

„Viele hoffen, dass künstliche Patienten eines Tages in der Lage sein werden, Menschen und Tiere in klinischen Versuchen vollständig zu ersetzen, wobei Tiere wahrscheinlich die ersten sein werden”, schrieb Meskó.

In der Übersicht über das von der britischen Regierung finanzierte Projekt heißt es, dass die Zuweisung von Patienten aus klinischen Studien zu Kontrollgruppen „bei einigen Gesundheitszuständen eine Herausforderung darstellen kann, da die zufällige Zuweisung zu einer Kontrollgruppe den Patienten den Zugang zu Behandlungen verwehren könnte, die ihr Leben verlängern oder ihre Symptome verbessern könnten”.

In der Projektübersicht heißt es weiter: „Viele klinische Studien haben auch Schwierigkeiten, genügend Patienten zu rekrutieren, insbesondere solche, die sich mit seltenen Krankheiten befassen.”

Jedoch – „Jüngste Verbesserungen bei der Rechenleistung haben es den Forschern ermöglicht, künstliche Patienten mit ähnlichen Gesundheitsinformationen wie echte Patienten in klinischen Studien zu schaffen”, heißt es in der Projektübersicht. Diese „künstlichen Daten” könnten dann dazu beitragen, „kleinere klinische Studien anzukurbeln und die Zahl der für einen Erfolg erforderlichen Patienten zu verringern”.

Künstlich erzeugte Informationen könnten auch verwendet werden, um „Gruppen in der Gesellschaft besser widerzuspiegeln, die in klinischen Studien weniger gut vertreten sind, einschließlich verschiedener Altersgruppen und Ethnien”, heißt es in der Projektübersicht:

„In Zukunft könnten diese Ansätze mit echten Patienteninformationen kombiniert werden oder diese sogar ersetzen. Ein Erfolg dieses Projekts könnte dazu beitragen, die Art und Weise, wie klinische Studien bei häufigen und seltenen Krankheiten durchgeführt werden, zu verändern, ihre Kosten zu senken und die Erprobung neuer Behandlungen zu verbessern.”

Die beiden laufenden Studien an der University of Birmingham und der Brunel University London werden bis Anfang 2025 fortgeführt. Außerdem haben sie mindestens eine von Fachleuten begutachtete Arbeit verfasst, die demnächst in Heliyon veröffentlicht werden soll.

In einer öffentlich zugänglichen Version des Papiers heißt es: „Fortgeschrittene Systeme zur Erzeugung von synthetischen Daten können sensible personenbezogene Datensätze modellieren, indem sie simulierte Stichproben von Daten mit realistischen Korrelationsstrukturen und Verteilungen erstellen, jedoch mit einem stark reduzierten Risiko der Identifizierung von Personen.”

„Dies birgt ein enormes Potenzial in der Medizin, wo sensible Patientendaten simuliert und geteilt werden können, was die Entwicklung und robuste Validierung neuer KI-Technologien für Diagnose und Krankheitsmanagement ermöglicht”, heißt es in dem Papier weiter.

Allerdings, so die Autoren des Papiers, „ist die Unterrepräsentation von Gruppen eine der Formen, in denen sich Verzerrungen beim maschinellen Lernen manifestieren können [und] dies kann auch zu strukturell fehlenden Daten oder falschen Korrelationen und Verteilungen führen, die sich in den synthetischen Daten widerspiegeln, die aus verzerrten zugrundeliegenden realen Datensätzen erzeugt werden.“

Ein neuer, von den Forschern entwickelter Ansatz, BayesBoost, überwindet angeblich diese Herausforderungen, indem er „eine hervorragende Fähigkeit zur Identifizierung unterrepräsentierter Gruppen innerhalb von Daten bei Vorgabe eines sensiblen Attributs und einer Zielkrankheit” und „durch die Erzeugung neuer synthetischer Daten, die nicht von der realen Datenverteilung abweichen”, demonstriert.

„Wir müssen auf klinischen Studien mit menschlichen Probanden bestehen”

Selbst Befürworter des Einsatzes von KI zur Entwicklung „künstlicher” Patienten und klinischer Studiendaten weisen auf die Unzulänglichkeiten dieser Technologie hin.

Meskó zufolge ist „die Verwendung künstlicher Patienten für die Entwicklung von Medikamenten oder Medizinprodukten … ein vielversprechender Bereich, aber es ist noch ein langer Weg, bis die Modelle die erforderliche Komplexität erreichen und gleichzeitig wirklich repräsentativ für die menschliche Bevölkerung sind”.

Er wies darauf hin, dass KI-Modelle und -Datensätze unvollkommen sind und „Verzerrungen” enthalten: „Wenn wir maschinelles Lernen und Deep-Learning-Algorithmen auf diesen synthetischen, unvollkommenen Datensätzen entwickeln lassen, besteht die Gefahr, dass sie zu Schlussfolgerungen kommen, die in der realen Welt mehr oder weniger falsch sind.”

Die Autoren des Regulatory Focus Papiers fragten sich, „unter welchen Umständen, wenn überhaupt, es akzeptabel wäre, dass AIaMD [künstliche Intelligenz als Medizinprodukt] mit synthetischen Daten im Vergleich zu realen Daten trainiert oder getestet wird” und ob „es Möglichkeiten gibt, synthetische Daten zu verwenden, um AIaMD-Modelle besser zu validieren oder zu testen”.

Experten, die mit The Defender sprachen, äußerten sich jedoch besorgt über die Ergebnisse, die aus solchen Modellen resultieren können – und über mögliche Folgen für die Allgemeinheit, die sich aus Medikamenten und Behandlungen ergeben, die anhand solcher Modelle klinisch getestet werden.

Booker sagte, dass durch KI erzeugte „künstliche” Teilnehmer an klinischen Studien und Daten sehr wahrscheinlich problematisch sein werden, da der Wissenschaft heute noch wichtige Kenntnisse über die menschliche Physiologie fehlen.

„KI ist nur so gut wie der Algorithmus, der für die Simulation erstellt wird, und es gibt so viel, was wir nicht über die menschliche Physiologie wissen, insbesondere auf Bevölkerungsebene”, sagte er. „Es ist eine Hybris, etwas anderes zu glauben, und extrem gefährlich für die ahnungslosen Seelen, denen dies untergeschoben werden soll.”

Nass führte ein hypothetisches Beispiel an. Sie sagte:

„Nehmen wir einmal an, die Messung eines willkürlichen Antikörperspiegels – ohne nachzuweisen, dass er ein Surrogat für echte Immunität ist – würde an die Stelle eines tatsächlichen Wirksamkeitstests treten. Alles, was Sie tun müssen, ist, jemandem Ihr Versuchsprodukt zu injizieren, ihn dann in 2 bis 4 Wochen zurückzubringen und eine Blutprobe zu nehmen, die ausnahmslos zeigt, dass jetzt Antikörper vorhanden sind.”

„Diese Antikörper können Krankheiten verhindern, sie können Krankheiten verstärken (schwerer machen), sie können Ihr Krankheitsrisiko erhöhen oder sie können nichts bewirken, was man messen kann. Das spielt keine Rolle. Voilà! Das war einfach. Lizenz erteilt.”

„Die Einführung von ,klinischen KI-Versuchen’ scheint eine weitere Methode zu sein, mit der die Oberherren des WEF versuchen, die Weltbevölkerung in planetarische Laborratten zu verwandeln”, so Holland.

Nass sagte, dass es für Pharmaunternehmen „immer noch billiger ist … überhaupt keine Menschen einzusetzen. Sie einfach zu modellieren.”

„Warum nicht, wenn die FDA ihre Aufgabe darin sieht, ein überzeugendes Affentheater einer Regulierungsbehörde zu veranstalten”, fragte sie.

Andere Experten verknüpften die Bemühungen um die Entwicklung „künstlicher” Teilnehmer an klinischen Studien und Daten mit weiter gefassten WEF-Tagesordnungspunkten, einschließlich der Bemühungen, sich auf eine hypothetische „Krankheit X” vorzubereiten und ihr entgegenzuwirken, vor der die Weltgesundheitsorganisation und andere warnen, dass sie die nächste Pandemie auslösen könnte.

„Die Bestrebungen, innerhalb von 100 Tagen gegen die Krankheit X zu impfen, würden höchstwahrscheinlich diesen unzureichenden Ersatz für tatsächliche Patientendaten verwenden, um ihr unglaubwürdiges Ziel zu erreichen”, so Hooker.

Die „Krankheit X” ist eine der Tagesordnungspunkte des WEF-Treffens in dieser Woche in Davos, während im Jahr 2021 die die britische Regierung und die Coalition for Epidemic Preparedness and Innovations (CEPI) ihre „100-Tage-Mission“ ankündigten, um die Fähigkeit aufzubauen, innerhalb von 100 Tagen einen Impfstoff gegen eine zukünftige „Krankheit X“ zu entwickeln.

„Wir müssen auf klinischen Versuchen mit menschlichen Probanden bestehen, egal wie sehr das WEF und seine ,public-private partners‘ versuchen, uns mit Technologie zu blenden und zu verwirren”, sagte Rectenwald.

CHD.TV wird die ganze Woche über die Treffen in Davos berichten.