IMPACTS DE L’IA SUR LA SANTE : PROGRES MEDICAUX, EVOLUTIONS DES METIERS ET MAITRISE DE L’HUMAIN

Publié 15 janvier 2024

Synthèse du petit-déjeuner du 19 décembre 2023

ChatGPT a rendu les avancées de l’Intelligence Artificielle (IA) très visibles auprès du grand public. La diffusion rapide de cette technologie a permis une déculpabilisation sur l’utilisation d’IA plus simples, telles que celles de reconnaissances d’images dans le champ de la santé. Ces technologies permettent des progrès significatifs et des évolutions des pratiques dans de nombreux secteurs et en particulier dans le domaine médical. Pour quels progrès et quels impacts sur les métiers ? Pourquoi la supervision humaine reste-t-elle essentielle ? Quel est le rôle du nouveau règlement européen ? Comment l’assurance santé sera-t-elle impactée ?

David Gruson, Docteur en droit, ancien directeur d’Hôpital, diplômé de l’ENA, et conseiller-maître à la Cour des Comptes, est spécialiste de l’éthique et de l’IA. Il a co-fondé Ethik-IA, opérateur de référence de la Garantie Humaine de l’IA.

1/ Un diagnostic plus rapide par les spécialistes

L’année 2023 a mis un coup de projecteur sur les progrès de l’IA avec l’irruption de ChatGPT par la start-up Open AI (partenaire de Microsoft). Son système auto-apprenant, composé de plusieurs blocs de connaissances, est assimilable à un réseau d’apprentissage. C’est un modèle de langage étendu (LLM) capable de reconnaître et de générer du texte (entre autres tâches), grâce à une percée dans l’accès à de larges bases de données.
ChatGPT présente la particularité de se diffuser 30 fois plus vite que Facebook à ses débuts, car les impacts sont simples à décrire et l’appropriation de l’outil également. A condition de savoir reformuler ses questions en cas de réponses erronées de l’outil.
L’utilisation dans la pratique quotidienne de ChatGPT a permis d’accélérer la diffusion d’une IA plus simple, de reconnaissance d’images, en santé :
- dans la chaîne du médicament (de la production en laboratoire à l’officine de pharmacie), outil de lutte contre les ruptures d’approvisionnement ;
- pour détecter des cancers de la peau, du sein ou des poumons, l’IA peut s’avérer tout aussi fiable que la lecture de clichés opérée par un spécialiste, après l’apprentissage à partir de milliers d’images médicales de patients. Sur ce sujet, Ethik-IA collabore avec Unicancer, réseau de 20 établissements de santé privés à but non lucratifs (dont Gustave Roussy) ;
- pour détecter de façon automatisée des pathologies oculaires (tels que le glaucome) avec les rétinophotographies, permettant un traitement adapté et une prise en charge précoce ;
- pour détecter des fractures par analyse des radios, avec un taux de fiabilité de 95 %.

En revanche, en santé, la percée de l’IA générative semble concerner essentiellement la production de contenus éditoriaux et la gestion du back office dans les établissements, mais aussi pour les complémentaires santé.
Malgré la fiabilité avérée de ces dispositifs, leur supervision par des experts est nécessaire.

2/Un accord au Parlement européen

La courbe d’accélération sera-t-elle plus forte en 2024 qu’en 2023 ou allons-nous assister à un moment de consolidation des acquis de l’IA générative ?
Les sources de progrès, français et européen, résident plutôt dans nos capacités à générer des algorithmes sur des sujets spécifiques à partir de la grande quantité de données dont nous disposons. En revanche, il est nécessaire de disposer d’un cadre propice au développement de l’innovation dans un écosystème de confiance. C’est en ce sens qu’Ethik-IA milite, depuis sa création en 2017, pour mettre l’Humain au centre de la régulation de l’IA afin d’en maîtriser les enjeux éthiques. Son credo ? Faire reconnaître la nécessité de mettre en place une Garantie Humaine sur les dispositifs d’IA, permettant ainsi une régulation positive sans freiner le développement d’innovations.
Reconnu par le Comité consultatif national d’éthique dès 2018 et intégré dans la loi de bioéthique française de 2021, le principe de supervision humaine est désormais intégré dans le règlement européen sur l’IA (AI Act), adopté le 14 juin 2023. Le 9 décembre 2023, le trilogue de l’UE est parvenu à un accord qui sera formellement adopté dans les semaines qui viennent. Ce texte disposera alors de la même force que le RGPD (Règlement général sur la protection des données) et rentrera en application en 2025 avec l’obligation pour les concepteurs et les utilisateurs de mettre en place une garantie humaine, pour les IA à haut risque, objectivable par les autorités de régulation, très probablement la CNIL et l’ACPR. Avec à la clé, en cas de non-respect de la mise en place de la Garantie Humaine, une sanction financière comprise entre 2 et 7% du chiffre d’affaires mondial.
Néanmoins, le texte ne précise pas le niveau et le type de supervision à mettre en place. Ainsi, les concepteurs de l’IA et les utilisateurs auront la main pour mettre en œuvre cette Garantie Humaine.
Le règlement européen étant protecteur, il faudra résister à la tentation française de surtransposition de la Directive européenne, consistant à ajouter des couches règlementaires non prévues. Cette surtransposition en droit français risquerait en effet de freiner l’innovation et donc les progrès médicaux.
L’Executive Order de Joe Biden sur l’IA, publié le 30 octobre 2023, établit un niveau de régulation équivalent sur le contrôle Humain que l’IA Act européen. En revanche, des écarts de régulations sont constatés avec la Chine et la Russie. Un environnement géopolitique où l’IA en santé peut être vecteur d’attaques et de risques cyber.

Concrètement, la mise en place de cette garantie humaine, peut s’appuyer sur des tiers de confiance. Ethik-IA a mis en place dans le champ des soins buccodentaires un modèle pilote de collège de garantie humaine. Trois fois par an, des experts dentistes de l’UFSBD se réunissent avec des représentants des patients et du concepteur de l’IA pour analyser les écarts entre les résultats de l’IA et ceux des dentistes (dans les mêmes conditions que l’IA), des boucles de rétroaction étant prévu en cas d’écart. Au même titre que l’UFSBD, d’autres organisations se positionnent d’ores et déjà, comme certains établissements de santé, tel que Unicancer, par exemple.

3/ Une source d’innovation pour l’Assurance

L’Assurance est un espace intermédiaire entre fonction support, prise en charge médicale et gestion du risque. L’IA est facteur d’innovation pour l’Assurance, et sera source de transformation.
Pour le secteur de l’assurance, l’ACPR pourrait être l’autorité de régulation pour vérifier la mise en œuvre de la garantie humaine.
L’IA pourra bien évidemment concerner les activités relevant du Livre III du Code de la Mutualité – les établissements. Mais au-delà, cela pourrait permettre à ce secteur de proposer de véritables solutions de prévention. Et sur un tout autre sujet, elle pourrait être utilisée pour la lutte contre la fraude l’assurance RC des professions médicales.
L’IA est en mesure d’améliorer la détection précoce des maladies chroniques et donc aura un impact positif en matière de prévoyance.
C’est en développant l’IA, en mettant en place une supervision humaine, et en démontrant l’utilité de ces modèles que les IA de prévention se développeront et trouveront leur place. En partant sur des modèles simples, comme le dépistage ou la prévention de maladies chroniques…
Les effets induits des progrès médicaux sur la santé devraient avoir un impact positif sur le coût du risque pour l’Assurance et donner des marges pour investir dans l’innovation.

4/Pas de « purges » des emplois en back office

Dans le domaine de la radiologie qui bénéficie d’un recul de presque 5 ans sur l’usage de l’IA, il n’a pas été constaté de baisse des besoins de radiologues, mais plutôt un effet de déplacement de leur fonction.
L’effet de l’IA s’est fait sentir sur l’emploi en back office dans le domaine médical. L’impact en termes d’emplois est évalué entre 40 000 et 80 000 ETP (Equivalent Temps Plein), notamment sur les fonctions support de type RH ou Finance. Pour autant, il ne s’agit pas d’une « purge » par rapport à 1,3 million d’emplois dans le secteur.
L’IA, en améliorant l’organisation du secteur médical et en contribuant à une véritable gestion prévisionnelle des emplois et des compétences, pourrait générer entre 500 M€ et 1Md€ d’économies pour financer l’innovation médicale.