Laut einer neuen, von der Universität Zürich und WHO/Europa durchgeführten Studie kann Künstliche Intelligenz (KI) die Gesundheitsbehörden bei der Risikokommunikation und bei der Bekämpfung der Verbreitung von Falschinformationen während gesundheitlicher Notlagen unterstützen. Ihre Anwendung muss jedoch strengen ethischen Grundsätzen genügen, um das Vertrauen der Öffentlichkeit zu erhalten und ihre Sicherheit zu schützen.
Die Studie, die im BMJ Global Health veröffentlicht wurde, ist die erste internationale multi- und transdisziplinäre Forschungsarbeit, in der die Auswirkungen von KI auf Risikokommunikation, Bürgerbeteiligung und Infodemien-Management (RCCE-IM) umfassend bewertet werden. Im Zuge eines Konsensbildungsprozesses bewertete ein Gremium von 54 Experten aus 27 Ländern die Chancen und Herausforderungen des Einsatzes von KI bei der Bewältigung von Notlagen.
Nutzung von KI für die Risikokommunikation und die Bewältigung von Infodemien während Notlagen
Aus einer früheren Studie von WHO/Europa ging hervor, dass die Verwirrung um Gesundheitsinformationen, insbesondere bei Seuchenausbrüchen und Katastrophen, bei denen sich der wissenschaftliche Kenntnisstand laufend verändert, die gesundheitlichen Entscheidungen der Menschen negativ beeinflussen und Schutzmaßnahmen behindern kann. Experten der Universität Zürich und von WHO/Europa haben festgestellt, dass KI-Tools sich durchaus positiv darauf auswirken können, wie Gesundheitsbehörden ihre Botschaften auf bestimmte Bevölkerungsgruppen zuschneiden, die Anliegen der Bevölkerung in Echtzeit aufgreifen und die Reichweite und Inklusivität von Gesundheitsinformationen und -empfehlungen verbessern können, insbesondere in mehrsprachigen, multikulturellen oder unterversorgten Umfeldern.
Die Studie unterstreicht jedoch auch die Risiken, die mit dem Einsatz von KI verbunden sind, darunter algorithmische Verzerrungen, datenschutzrechtliche Bedenken und das Potenzial, gesundheitliche Ungleichheiten zu verschärfen. Wenn gesundheitsbezogene Botschaften nicht zielgerichtet sind oder Daten nicht sorgfältig verwendet werden, können sie gefährdeten Bevölkerungsgruppen unbeabsichtigt schaden oder zur Verbreitung von Fehlinformationen und Desinformationskampagnen beitragen.
„Wir haben gesehen, wie schnell sich falsche Informationen während Notlagen verbreiten und Auswirkungen auf das Leben der Menschen haben können. Dies ist eine der größten Herausforderungen unserer Zeit. KI hat das Potenzial, dieses Problem wirksam anzugehen, indem sie schädliche Argumente frühzeitig erkennt und relevante und genaue Informationen an verschiedene Zielgruppen richtet. Die Ergebnisse dieser Studie sind zwar ermutigend, mahnen aber auch zur Vorsicht. Innovation darf nie auf Kosten des Vertrauens oder der Sicherheit gehen“, erklärt Cristiana Salvi, Regionalbeauftragte für Risikokommunikation, Bürgerbeteiligung und Infodemie-Management in der Abteilung Gesundheitliche Notlagen bei WHO/Europa.
Dr. Daniela Mahl, eine Mitautorin der Studie, die an der Universität Zürich forscht, fügt hinzu: „Die Fähigkeit der KI, die Arbeit zum Schutz der öffentlichen Gesundheit zu unterstützen oder zu untergraben, hängt davon ab, wie sie reguliert und umgesetzt wird. Der Grat zwischen Innovation und Schaden ist schmal, insbesondere bei Notlagen mit hohem Risikopotenzial. Unsere Ergebnisse unterstreichen die Notwendigkeit klarer Grundsätze und einer weitreichenden fachübergreifenden Zusammenarbeit, die sicherstellt, dass KI die Kommunikation im Gesundheitsbereich wirklich stärkt.“
Auf dem Weg zu einer verantwortungsbewussten und inklusiven KI
In der Studie werden Leitprinzipien und umsetzbare Maßnahmen skizziert, die den verantwortungsbewussten Umgang mit KI im Bereich RCCE-IM erleichtern sollen. Dazu gehören die Schaffung eines klaren Regulierungsrahmens, die Schulung von Gesundheitsfachkräften und die Förderung von Inklusivität und Barrierefreiheit bei KI-Anwendungen. Außerdem wird ein international koordinierter Ansatz für den Umgang mit diesen Technologien gefordert, der fair, menschenzentriert, sicher und transparent ist. Ferner wird empfohlen, die fachübergreifende Zusammenarbeit zu verstärken, um sicherzustellen, dass die KI-Tools in verschiedene kulturelle, regionale und technologische Kontexte passen.
„Diese Studie verdeutlicht das Potenzial und die Komplexität des Einsatzes von KI in der Risikokommunikation und beim Infodemie-Management während Notlagen. Dabei geht es nicht nur um technische Aufrüstung. Vielmehr ist hier ein Umdenken bei der Gestaltung, Erprobung und Skalierung dieser Interventionen erforderlich. Können wir sicherstellen, dass die Erkenntnisse der KI in zeitnahe, umsetzbare und ethisch vertretbare Interventionen vor Ort übersetzt werden? Deshalb sollten wir in sowohl innovative als auch ethisch vertretbare Lösungen investieren, die das Vertrauen der Öffentlichkeit stärken, insbesondere in komplexen und sich schnell entwickelnden Situationen“, sagt Dr. David Novillo-Ortiz, Regionalbeauftragter für Daten, Evidenz und digitale Gesundheit bei WHO/Europa.
Die Empfehlungen der Studie decken sich mit denen aus diversen Rahmenkonzepten der Europäischen Region. So wird in dem neuen Strategie- und Aktionsplan „Vorsorge 2.0“ von WHO/Europa der Komplex RCCE-IM in den Mittelpunkt der Bewältigung von Notlagen gestellt und mehr digitale Kompetenz gefordert. Der Ausbau der Kapazitäten der Länder für eine wirksamere Steuerung der digitalen Umgestaltung im Gesundheitswesen ist eine der zentralen Prioritäten des Aktionsplans zur Förderung der digitalen Gesundheit in der Europäischen Region der WHO (2023–2030) und des dazugehörigen Fortschrittsberichts. Dazu gehört die Erforschung von Innovationen im Bereich der prädiktiven Analytik für mehr Gesundheit durch KI, mit einem besonderen Augenmerk auf dem Infodemie-Management.