IA générative et santé : il serait « contraire à l’éthique » de se passer de ces outils selon l’Académie de médecine

IA générative et santé : il serait « contraire à l’éthique » de se passer de ces outils selon l’Académie de médecine - Le 5 mars, l’Académie nationale de médecine a adopté un rapport relatif aux systèmes d’IA générative en santé[1]. « Tous les domaines de la santé et toutes les spécialités sont concernés », assure l’Académie. « Les systèmes d’intelligence artificielle générative (SIAgen) impressionnent par leur capacité à produire en quelques secondes des textes souvent pertinents, mais aussi parfois erronés ». Ainsi, « tous ont en commun qu’une validation humaine est indispensable avant leur mise en œuvre », prévient l’instance.

Un fonctionnement à part

Les SIAgen fonctionnent « à partir d’auto-apprentissage basé sur un nombre extrêmement élevé d’exemples ». « Ce qui est très différent de l’approche humaine, qui s’appuie sur l’expérience, le contexte et un système de valeurs », souligne l’Académie de médecine. Ces systèmes génèrent des textes « avec une grande rapidité », par des moyens stochastiques, mais ils ne sont « pas entrainés à rechercher ou à dire la vérité ».

L’instance insiste sur la qualité des données utilisées pour l’entrainement des modèles, c’est « fondamental ». Or, actuellement, la quantité des données nécessaire à cet entrainement, recueillies en particulier sur internet, ne permet pas « de vérifier leur qualité ni leur diversité ».

Un vaste champ d’applications

Le champ d’applications des SIAgen dans le domaine de la santé est très vaste. Ainsi, « la mise au point de systèmes d’aide à la décision clinique est depuis longtemps un objectif des spécialistes de l’IA, indique l’Académie. Mais les résultats ne sont pas à la hauteur des espoirs malgré des investissements financiers très importants dans ce secteur ». L’année dernière, « près de 700 dispositifs utilisant des technologies d’IA dans le domaine de la santé ont été approuvés par la FDA ». Cependant, « il y a un pas majeur entre proposer un diagnostic à partir d’un résumé de cas clinique publié dans un journal où les SIAgen peuvent exceller, et la synthèse, faite par un médecin, des données cliniques et paracliniques (images, biologie) d’un patient réel ».

Source : www.genethique.org

Découvrir la suite de l'article sur le site d'origine

Commentaire du CPDH

Un rapport très intéressant de l’Académie de Médecine sur les intelligences artificielles génératives, nous montre l’intérêt et les limites de l’IA pour soigner. Comme dans d’autres secteurs, l’IA doit être réglementée et les responsabilités établies, pour être bénéfique à l’être humain. Cela demande des processus d’analyse et de validation humains.

‍