Anticiper les effets secondaires des algorithmes de santé
Le recours à des logiciels utilisant l’Intelligence artificielle devient un dispositif à usage médical. Mais il est nécessaire de bien maîtriser leurs conditions d’utilisation.
Carte blanche. L’intelligence artificielle (IA) ne cesse de faire ses preuves dans divers domaines de la vie quotidienne. L’un des plus prometteurs et le plus avancé est celui de la santé tant l’impact sur l’amélioration de la vie humaine et de son bien-être est important. L’usage des algorithmes pour la médecine personnalisée comme l’aide au diagnostic, la prédiction des réponses aux traitements, les pronostics avancés, le suivi des traitements, les essais cliniques, etc. ­offre des outils très précieux qui font gagner du temps (et parfois de la précision) aux cliniciens comme aux radiologues ainsi qu’aux entreprises pharmaceutiques. La question de la confiance dans les algorithmes s’est beaucoup posée ces derniers temps, en particulier dans les domaines ­critiques comme la santé, la cybersécurité et la défense. Ainsi, le contrôle des algorithmes est à l’évidence une exigence indispensable pour tout déploiement en routine clinique chaque fois qu’ils interviennent dans la prise de décision médicale. Au-delà des questions éthiques ou de données personnelles et de vie privée, la sécurité et l’intégrité physique et mentale des patients sont des prérequis. Consultation internationale La Food and Drug Administration (FDA, l’autorité de santé américaine) a autorisé, en avril 2018, la commercialisation du premier dispositif médical utilisant l’IA pour détecter un niveau de rétinopathie diabétique. En mai, la FDA a lancé une consultation internationale sur le cadre et les dispositions à prendre pour l’homologation d’un service logiciel utilisant l’apprentissage profond considéré comme dispositif médical « AI/ML as SaMD » (Software as Medical Device). Un schéma a été partagé en vue d’une réglementation future dans ce domaine. Article réservé à nos abonnés Lire aussi Enquête au cœur de l’intelligence artificielle, ses promesses et ses périls Tout comme la commercialisation d’un médicament nécessite une autorisation de mise sur le marché, cela devient le cas pour les logiciels utilisant l’IA. Il faut bien maîtriser leurs conditions d’utilisation et leurs « effets secondaires », même s’ils ne sont pas de nature chimique mais logicielle. Le parallèle est aussi intéressant à faire avec l’industrie alimentaire. Il y a nécessité de tracer l’origine des ingrédients et des procédés de leur transformation. Leurs équivalents dans ce cas seront les données, les paramètres et les algorithmes qui les ingèrent pour produire des prédictions. Sécurité du ­patient Pour le contrôle des algorithmes d’apprentissage en tant que dispositif à usage médical, il faut, entre autres, considérer le contrôle des flux de données et de leur intégrité, de la répétabilité et de la reproductibilité des résultats. Il y a une variabilité par essence dans le cycle de vie du logiciel ayant des fonctions d’auto-apprentissage. La traçabilité, comme garantie de transparence et de responsabilité algorithmique, trouve tout son sens dans le cadre médical.