Anforderungen an die Datenqualität für eine sichere, hochwertige, geschlechter-spezifische und vielfältig sensible KI in der Medizin

Positionspapier des Ausschusses Gesundheitspolitik des BayLFR

Aktueller Stand:

Künstliche Intelligenz (KI) in der Medizin gehört heute zur alltäglichen Praxis in vielen medizinischen Disziplinen und entwickelt sich in rasantem Tempo weiter. Von Früherkennung über Diagnostik bis hin zur individuellen Therapieempfehlung unterstützen KI-gestützte Programme die Arbeit von Ärztinnen und Ärzten sowohl im ambulanten als auch im stationären Sektor. Viele Studien bestätigen eine sehr hohe Sensitivität von KI-Programmen, z. B. in der Bildgebung, die ähnlich gut oder sogar besser ist als die der Ärztinnen und Ärzte. Nachweislich werden die besten Ergebnisse erzielt, wenn Mensch und KI zusammenarbeiten bzw. die KI als Unterstützung dient. Folglich werden Krankheiten schneller und genauer diagnostiziert und Therapieoptionen individueller bewertet.

KI in der Medizin bietet ein enormes Potenzial, ihr Erfolg ist aber von mehreren Faktoren abhängig. Entscheidend aus unserer Sicht ist u. a. die Qualität und Art der eingespeisten Daten. Eine KI kann nur so gut sein wie die Daten, mit denen sie trainiert wird. Fehlerhafte, undifferenzierte, unspezifische oder unvollständige Daten würden zwangsläufig zu falschen Diagnosen und Empfehlungen führen.

In diesem Papier richten wir den Fokus auf die Anforderungen an die Datenqualität, mit der KI gespeist wird, und als frauenpolitisches Gremium auf deren Relevanz für geschlechtsspezifische Medizin im Speziellen.

Mindestanforderungen an die Datenqualität für KI in der Medizin:

Repräsentativität und Spezifität:

KI muss für alle Menschen anwendbar sein, unabhängig von Alter, Geschlecht oder ethnischer Herkunft. Die KI muss sowohl für Männer, Frauen als auch für nicht-binäre Menschen jeden Alters verlässliche Ergebnisse liefern. Folglich muss verhindert werden, dass die Daten lediglich auf einer bestimmten ethnischen Gruppe basieren.

Datenschutz und Ethik:

Grundsätzlich muss bei der Erhebung und Verarbeitung sensibler Gesundheitsdaten der Datenschutz und der Datentransfer im Sinne der DSGVO1 oder HIPAA2 gesichert und optimalerweise doppelt geprüft und validiert werden. Um auch ethischen Anforderungen zu genügen, muss die KI nachvollziehbar und transparent sein. Ärztinnen / Ärzte und Patientinnen / Patienten müssen verstehen, wie und warum die KI zu der vorgeschlagenen Entscheidung gekommen ist ("Explainable AI").

Evidenz und klinische Validierung:

KI-Modelle müssen von Ärztinnen / Ärzten nicht nur verstanden werden, sie müssen vielmehr wissenschaftlich validiert und von Fachärztinnen / Fachärzten geprüft werden, bevor sie zum Einsatz kommen. Es braucht langfristig klinische Studien, die zeigen, dass die KI tatsächliche Verbesserungen für Patientinnen / Patienten bringt.

Integration, Vernetzung und Abrufbarkeit:

Grundsätzlich muss KI mit einer umfangreichen Datenmenge gespeist werden, bevor ein Programm diese Daten analysieren, vernetzen, interpretieren und Ergebnisse produzieren kann. Dieser Datentransfer muss automatisiert erfolgen. Dafür ist sicherzustellen, dass KI direkten Anschluss an die bestehenden Krankenhausinformationssysteme (KIS) und die ambulanten Systeme hat sich möglichst ohne Aufwand in deren Abläufe integrieren lässt (eine Frage der Akzeptanz). KI muss zusätzlich unterschiedliche Datenformate verarbeiten können, angefangen bei der elektronischen Patientenakte, über die Kurve auf der Intensivstation bis hin zu CT- und MRT-Scans. Daneben muss KI die Daten von verschiedensten Quellen (Krankenhäuser, amb. und stat. Pflegeeinrichtungen, RehaEinrichtungen, MVZ, Einzelpraxen etc.) sinnvoll zusammenführen, kombinieren und interpretieren. KI muss in der Lage sein, für Anwendungen wie z. B. in der Notfallversorgung oder der Telemedizin auch live generierte Daten zu verarbeiten.

Kontinuierliche Verbesserung / Upgrades:

Maschinelles „Lernen“ bewirkt, dass sich KI kontinuierlich weiterentwickelt und verbessert. Gleichzeitig gibt es neue Erkenntnisse in der Medizin, die in die bestehenden KI-Programme integriert werden müssen. Das erfordert eine permanente Überwachung und Einspeisung von neuen Daten, die korrekt gekennzeichnet sein müssen, z. B. durch von Ärztinnen und Ärzten validierte Diagnosen.

Fazit:

KI ist in der Medizin bereits alltägliche Realität und findet breite Anwendung. Ihre Entwicklung schreitet rasant voran und wird die Gesundheitsversorgung revolutionieren. Nur hochwertige, diverse und sichere Daten ermöglichen vertrauenswürdige und effektive KIgestützte Gesundheitslösungen. Damit sie tatsächlich eine Verbesserung für Patientinnen / Patienten bringt, muss gewährleistet sein, dass die Daten mindestens den o. g. Anforderungen an Qualität, Diversität, Relevanz und Evidenz entsprechen, datenschutzrelevante und ethische Aspekte berücksichtigen und dass KI prinzipiell zur Unterstützung von Ärztinnen / Ärzten und nicht alternativ zu diesen eingesetzt wird. Wenn KI-Programme mit geschlechtssensiblen und diversifizierten Gesundheitsdaten (z. B. Alter und Ethnie) gespeist werden, können sie eine Schlüsselrolle bei der Weiterentwicklung von Gendermedizin spielen und deren Implementierung erheblich beschleunigen.

Wir danken den Mitgliedern des Fachausschusses Gesundheitspolitik:
Dr. Didona Weippert, Marie-Isabel von Schweinitz, Beate Guhl, Andrea Holzapfel, Jessica Leicher, Brigitte Schobeß, Ingrid Schumann, Sabine Slawik, Loretta Speidel, Claudia Spiegel, Anja Wessely und Angela Zellner für ihre fachliche Expertise.

Wir sind ein Zusammenschluss von 58 Landes-Frauenverbänden und Frauengruppen gemischter Landesverbände, sind überparteilich, überkonfessionell und unabhängig und vertreten insgesamt knapp vier Millionen Frauen in Bayern. Seit unserer Gründung 1973 tragen wir zur Verwirklichung von Gleichberechtigung und Chancengleichheit von Frauen in Staat, Wirtschaft und Gesellschaft bei.