Dans une nouvelle publication, l’OMS passe en revue les principaux aspects à prendre en considération concernant la réglementation de l’intelligence artificielle (IA) pour la santé. Cette publication souligne combien il est important de mettre en place des systèmes d'intelligence artificielle qui soient à la fois sûrs et efficaces, de les mettre rapidement à disposition des personnes qui en ont besoin et de favoriser le dialogue entre les parties prenantes – y compris les développeurs, les autorités de réglementation, les fabricants, les soignants et les patients.
Au vu de l’augmentation des données de santé disponibles et des progrès rapides des techniques d’analyse (que celles-ci s’appuient sur l’apprentissage automatique ou sur des modèles logiques ou statistiques), les outils d’IA pourraient transformer le secteur de la santé. L’OMS est consciente du potentiel de l’intelligence artificielle pour améliorer les résultats dans ce domaine en renforçant les essais cliniques, en améliorant le diagnostic médical, le traitement, les auto-soins et les soins centrés sur la personne, et en venant compléter les connaissances et les compétences du personnel de santé. L’IA pourrait par exemple s'avérer bénéfique là où l’on manque de spécialistes, notamment pour l’interprétation des balayages rétiniens et des radios et pour de nombreuses autres applications.
Or, les technologies d’IA – y compris les grands modèles de langage (LLM) – sont actuellement déployées rapidement, parfois sans que l’on ait bien pu évaluer leur efficacité potentielle : elles pourraient aussi bien profiter aux utilisateurs finaux, comme les professionnels de la santé et les patients, que leur nuire. Les systèmes d’IA peuvent accéder à des informations personnelles sensibles lorsqu’ils utilisent des données de santé : il faut donc mettre en place des cadres juridiques et réglementaires solides pour protéger la vie privée et préserver la sécurité et l’intégrité. Cette publication entend contribuer à la mise sur pied et au bon fonctionnement de tels dispositifs.
« L’intelligence artificielle ouvre des perspectives très prometteuses pour la santé, mais pose également des problèmes de taille : pratiques non éthiques de collecte de données de santé, menaces en matière de cybersécurité, amplification des biais ou encore diffusion accrue de fausses informations », a déclaré le Dr Tedros Adhanom Ghebreyesus, Directeur général de l’OMS. « Ces nouvelles orientations aideront les pays à réglementer efficacement l’IA en vue de tirer parti de son potentiel, par exemple pour le traitement du cancer ou la détection de la tuberculose, tout en réduisant le plus possible les risques qui lui sont associés. »
En réponse à la demande croissante des pays, qui souhaitent pouvoir gérer de façon responsable la progression rapide des technologies de santé liées à l’IA, cette publication de l’OMS met en évidence six grands domaines sur lesquels axer la réglementation de l’IA pour la santé.
- Pour renforcer la confiance, le document souligne l’importance de faire preuve de transparence et de conserver des traces écrites, notamment en documentant de bout en bout le cycle de vie des produits et en effectuant un suivi des procédures utilisées pour les mettre au point.
- Du point de vue de la gestion des risques, les problématiques de l’« usage attendu », de l’« apprentissage continu », des interventions humaines, des modèles d’entraînement et des menaces de cybersécurité doivent être traitées dans une démarche globale, en employant des modèles aussi simples que possible.
- La validation externe des données et une conception claire de l’usage attendu permettent d’assurer la sécurité et facilitent la réglementation.
- Un engagement en faveur de la qualité des données, par exemple en procédant à une évaluation rigoureuse des systèmes avant de les mettre sur le marché, est essentiel si l’on veut garantir que les systèmes n’amplifient ni les biais, ni les erreurs.
- Le document traite les défis que soulèvent les grandes réglementations complexes telles que le Règlement général sur la protection des données, en Europe, et la loi HIPAA (Health Insurance Portability and Accountability Act) aux États-Unis d’Amérique. Il s’attache à en comprendre la portée d’application et les exigences en matière de consentement, au service de la protection de la vie privée et de la protection des données.
- Les efforts visant à renforcer la collaboration entre les organes de réglementation, les patients, les professionnels de la santé, les représentants du secteur et les partenaires de gouvernements peuvent nous aider à garantir que les produits et les services restent conformes à la réglementation, tout au long de leur cycle de vie.
Les systèmes d’IA sont complexes et dépendent du code utilisé, mais aussi des données avec lesquelles ils sont nourris, qui peuvent par exemple être issues du cadre clinique ou d’interactions avec les utilisateurs. Une meilleure réglementation peut aider à gérer les risques de voir l’IA amplifier les biais présents dans les données d’entraînement.
Par exemple, il peut arriver que les modèles d’IA ne tiennent pas correctement compte de la diversité des populations, ce qui entraîne des biais et des inexactitudes, voire des défaillances. Pour atténuer ces risques, on peut s’appuyer sur la réglementation afin de veiller à ce que les caractéristiques des personnes que l’on retrouve dans les données d’entraînement (notamment leur genre, leur race et leur origine ethnique) soient dûment communiquées, et à ce que les ensembles de données soient délibérément structurés d’une manière représentative.
L’objectif de la nouvelle publication de l’OMS est de présenter les grands principes que les gouvernements et les autorités de réglementation pourraient suivre afin d’élaborer de nouvelles orientations en matière d’IA ou d’adapter celles qui existent déjà, au niveau national ou régional.