Der Einsatz Künstlicher Intelligenz (KI) im Bereich der psychischen Gesundheitsversorgung und Gesundheitsforschung birgt ein erhebliches Potenzial, doch eine neue Studie hat wesentliche Defizite offengelegt, die auf eine übermäßig beschleunigte Förderung neuer KI-Modelle hindeuten, die erst noch auf ihre Tauglichkeit in der Realität überprüft werden müssen.
Wie KI die psychische Gesundheitsversorgung unterstützen kann
2021 lebten in der Europäischen Region der WHO mehr als 150 Mio. Menschen mit einer psychischen Erkrankung. In den vergangenen Jahren hat die COVID-19-Pandemie die Lage noch verschärft. Denn die Menschen waren weniger in der Lage, Leistungen in Anspruch zu nehmen, und die Zunahme von Stressbelastung, ungünstigen wirtschaftlichen Bedingungen, Konflikten und Gewalt haben gezeigt, wie anfällig die psychische Gesundheit sein kann.
Gleichzeitig hat KI zu einer wahren Revolution in der Medizin und im Gesundheitswesen geführt. KI wird als neuartiges Instrument für die Planung von Angeboten im Bereich der psychischen Gesundheitsversorgung sowie die Identifizierung und Überwachung von psychischen Gesundheitsproblemen bei Individuen und Bevölkerungsgruppen angesehen. KI-gesteuerte Tools können digitalisierte Daten aus dem Gesundheitswesen – die in einer Vielzahl von Formaten wie elektronischen Patientenakten, medizinischen Bildern und handschriftlichen klinischen Notizen vorliegen – dazu nutzen, Vorgänge zu automatisieren, Kliniker zu unterstützen und das Verständnis der Ursachen komplexer Gesundheitsstörungen zu vertiefen.
In dem von WHO/Europa im September 2022 präsentierten Aktionsplan zur Förderung der digitalen Gesundheit in der Europäischen Region der WHO (2023–2030) wird auch die Notwendigkeit von Innovationen im Bereich der prädiktiven Analytik für bessere Gesundheit durch Big Data und KI anerkannt.
„Angesichts der zunehmenden Nutzung Künstlicher Intelligenz im Gesundheitswesen ist es wichtig, den aktuellen Stand der Anwendung von KI für die Forschung im Bereich der psychischen Gesundheit zu bewerten, um Informationen über Trends, Defizite, Chancen und Herausforderungen zu gewinnen“, sagt Dr. David Novillo-Ortiz, Regionalbeauftragter für Daten und digitale Gesundheit bei WHO/Europa, einer der Autoren der Studie.
Herausforderungen
Die Publikation „Methodische und qualitative Mängel bei der Nutzung Künstlicher Intelligenz bei der Forschung im Bereich der psychischen Gesundheit: eine systematische Bestandsaufnahme“, die von Experten der Polytechnischen Universität Valencia und von WHO/Europa verfasst wurde, befasste sich konkret mit der Nutzung von KI für Studien über psychische Störungen in den Jahren 2016 bis 2021.“
„Wir haben festgestellt, dass die Nutzung von KI-Anwendungen in der Forschung im Bereich der psychischen Gesundheit unausgewogen ist und überwiegend bei der Erforschung von depressiven Störungen, Schizophrenie und anderen psychotischen Störungen zum Einsatz kommt. Dies deutet auf erhebliche Lücken in unserem Verständnis hin, wie sie zur Erforschung anderer psychischer Gesundheitsprobleme eingesetzt werden können“, fügt Dr. Ledia Lazeri, Regionalbeauftragte für psychische Gesundheit bei WHO/Europa, hinzu.
Dank der von KI eröffneten Möglichkeiten können politische Entscheidungsträger Erkenntnisse über effizientere Strategien zur Förderung von Gesundheit und über den aktuellen Stand bei psychischen Störungen gewinnen. Doch KI ist oft mit einer komplexen Anwendung von Statistiken, mathematischen Ansätzen und hochdimensionalen Daten verbunden, die bei unsachgemäßem Vorgehen zu Verzerrungen, einer ungenauen Interpretation von Ergebnissen und überzogenem Optimismus hinsichtlich der Gesamtbilanz von KI führen können. Die Studie fand erhebliche Mängel bei der Verarbeitung von Statistiken durch die KI-Anwendungen, eine nicht ausreichend häufige Validierung von Daten und zu wenig Evaluation des Risikos von Verzerrungen.
Darüber hinaus geben auch andere Bereiche Anlass zur Besorgnis, etwa das Fehlen einer transparenten Berichterstattung über KI-Modelle, was ihre Reproduzierbarkeit beeinträchtigt. Die Studie kam zu dem Ergebnis, dass Daten und Modelle meist privat bleiben und es wenig Zusammenarbeit zwischen den Forschern gibt.
„Der Mangel an Transparenz und die methodischen Mängel geben Anlass zur Besorgnis, da sie eine sichere, praktische Umsetzung von KI verzögern. Außerdem wird offenbar die Datentechnik für die KI-Modelle übersehen oder missverstanden, und die Daten werden oft nicht ausreichend verwaltet. Diese erheblichen Mängel deuten möglicherweise auf eine übermäßig beschleunigte Förderung neuer KI-Modelle hin, ohne dass diese zuvor auf ihre Tauglichkeit in der Realität überprüft werden“, erklärt Dr. Novillo-Ortiz.
„Künstliche Intelligenz bildet einen Eckpfeiler der bevorstehenden digitalen Revolution. In dieser Studie konnten wir einen kurzen Blick darauf werfen, was die Gesundheitssysteme in den nächsten Jahren dazu veranlassen wird, ihre Strukturen und Verfahren anzupassen, um in der psychischen Gesundheitsversorgung Fortschritte zu erzielen“, fügt Antonio Martinez-Millana, Assistenzprofessor an der Polytechnischen Universität Valencia, ein weiterer Autor der Studie, hinzu.
Ausgewählte Ergebnisse der Studie wurden auf einer Veranstaltung von WHO/Europa am 7. Dezember 2022 präsentiert. Auf der Veranstaltung mit dem Titel „Analyse von Big Data und KI im Bereich der psychischen Gesundheit“ erörterten Experten aus der gesamten Europäischen Region die Frage, wie KI-Modelle sinnvoll in die Planung der psychischen Gesundheitsversorgung einbezogen werden können, aber auch Sicherheitsaspekte und Erfolgsfaktoren wie die Einbeziehung von Menschen mit psychischen Gesundheitsproblemen in den Entwicklungsprozess.