© Photo de BoliviaInteligente sur Unsplash

Depuis quelques mois, ChatGPT est au cœur de l’actualité. Ce prototype d’agent conversationnel s’appuyant sur l’intelligence artificielle (IA) a été développé par la firme californienne OpenAI à partir des modèles de traitement du langage les plus avancés. Au-delà de ses capacités conversationnelles, ChatGPT est capable de générer des textes de manière autonome pour apporter des réponses aux questions des utilisateurs.

Des performances qui soulèvent déjà leur lot de questionnements et de préoccupations : des universités craignant la fraude aux examens l’ont interdit, des chercheurs l’ont testé pour écrire un article scientifique… En creux, la médiatisation de ChatGPT pose la question plus vaste de la place de l’IA dans nos vies, et de la valeur ajoutée qu’elle pourrait ou non avoir dans certains domaines, notamment dans le champ scientifique. La question éthique a, de ce fait, de plus en plus d’importance : comment s’assurer de la véracité des informations relayées par un tel outil ? Dans le domaine clinique, un diagnostic posé par une IA est-il réellement fiable ? Certaines professions sont-elles amenées à disparaître, remplacées par des systèmes d’IA plus performants ?

Canal Détox se penche sur le sujet, en s’intéressant spécifiquement aux implications de l’IA en pratique clinique et dans la recherche biomédicale.

Des promesses déçues en médecine

Dans les sciences biomédicales, l’IA est depuis plusieurs années considérée comme une méthode prometteuse, pouvant potentiellement bénéficier au patient. Parmi les innovations attendues : l’optimisation de la prise en charge du patient, l’amélioration du diagnostic des maladies, la prédiction de l’état de santé futur du patient et la personnalisation de son suivi. En radiologie et en oncologie par exemple, des financements massifs ont déjà été alloués à des équipes de recherche travaillant sur le sujet.

Cependant, la réalité du terrain est plus nuancée. De nombreux systèmes d’IA développés ces dernières années se sont en fait avérés plutôt décevants. Parmi les exemples les plus connus, on peut citer celui de l’IA IBM Watson Health. Ce système a été conçu pour guider la pratique des médecins, afin de les aider à améliorer les soins et de proposer les traitements les plus adaptés aux patients, notamment en oncologie. Toutefois, pour développer et entraîner l’IA, des données jugées de mauvaises qualités ainsi que des populations non représentatives auraient été sélectionnées, et une méthodologie inadéquate aurait été utilisée. Les modèles finaux présentaient des performances faibles susceptibles d’entraîner des erreurs médicales si les professionnels de santé avaient suivi les recommandations de l’IA à la lettre.

D’autres études ont montré que l’intelligence artificielle pouvait être utilisée en clinique pour prédire le risque de maladie cardiovasculaire ou encore le devenir de patients atteints de certains cancers. Cependant, la fiabilité des résultats variait grandement en fonction de la qualité des données utilisées pour alimenter les systèmes d’IA.

Ces cas illustrent un paradoxe que de nombreux chercheurs tentent de mettre en avant depuis plusieurs années. En théorie, l’IA est censée être plus efficace pour développer un modèle diagnostique ou pronostique, par rapport aux méthodes traditionnellement utilisées en médecine, car elle est capable d’intégrer une plus grande quantité de données et de paramètres. Néanmoins, dans les faits, elle ne fait pas toujours mieux (voir encadré).

Par conséquent, on constate aujourd’hui un contraste inquiétant entre les promesses de l’IA, et l’absence d’applications et de démonstrations rigoureuses de sa pertinence clinique. Des travaux ont récemment montré que la majorité des études utilisant l’IA ont de nombreuses limites. Les systèmes d’IA sur lesquelles elles s’appuient sont en effet généralement entraînés à partir de données issues de populations de patients de faible qualité, avec des protocoles inadaptés et des échantillons trop petits et/ou peu représentatifs. Ces systèmes sont par ailleurs rarement validés de façon indépendante, ce qui limite la possibilité de les implémenter et de généraliser leur usage au niveau mondial.

En outre, une prise en charge adaptée et réellement personnalisée repose aussi en partie sur la relation qu’entretient le médecin avec son patient, sur sa capacité à intégrer des éléments de contexte socio-culturels, à décrypter les états émotionnels de la personne en face de lui… Autant d’éléments que l’IA est encore bien loin de pouvoir intégrer.

Ces faiblesses méthodologiques posent des questions quant à la fiabilité de l’IA et à son implémentation concrète dans les systèmes de santé – et sur les risques liés à son utilisation dans la prise en charge des patients.

Écrire des articles scientifiques grâce à l’IA ?

Si l’on revient au cas de ChatGPT, il est clair que cette IA n’a été pensée ni pour accompagner la pratique des chercheurs ou des médecins, ni pour proposer des diagnostics. Néanmoins, il est en théorie possible pour n’importe quel utilisateur de soumettre à l’IA les inquiétudes qu’il pourrait avoir concernant sa santé – avec le risque d’obtenir des conseils erronés qui mettraient sa santé en danger.

Par ailleurs, si on quitte la pratique clinique pour s’intéresser aux implications dans la recherche pharmacologique, il est intéressant de s’arrêter sur une étude menée par des chercheurs espagnols, qui a fait l’objet de vives discussions. Ces derniers ont fait rédiger à ChatGPT un article scientifique complet sur le rôle des IA dans la découverte des médicaments. Une prouesse qui devrait inquiéter la communauté scientifique ? Pas tant que cela si l’on en croit l’expérience des chercheurs : en effet, ceux-ci ont dû largement retravailler et corriger l’article, ChatGPT n’ayant pas été capable, entre autres, de donner des références scientifiques correctes. Autre point d’importance, l’IA n’est entraînée qu’avec des données allant jusqu’à 2021 : elle ne dispose donc pas des informations les plus récentes.

Plus inquiétant en revanche, des chercheurs américains ont demandé à l’IA de rédiger de toutes pièces 50 résumés de recherche médicale à partir d’une sélection de résumés déjà publiés dans des revues scientifiques prestigieuses. Les chercheurs ont ensuite comparé les résumés produits par l’IA aux résumés originaux, en les soumettant à un détecteur de plagiat et à un détecteur de contenus d’IA. Ils ont aussi demandé à un groupe de chercheurs de repérer parmi les résumés ceux qui étaient authentiques et ceux qui avaient été générés de façon automatique.

Résultat : aucun plagiat n’a été détecté. De plus, si le détecteur d’IA n’a repéré que 66 % des résumés générés, les chercheurs n’ont pas fait beaucoup mieux en n’identifiant correctement que 68 % des résumés générés. Un constat qui soulève une interrogation pour le futur : si des résumés scientifiques peuvent facilement être générés par n’importe qui grâce à l’IA et si les experts ne parviennent pas toujours à les identifier, comment les chercheurs pourront-ils toujours s’assurer que les résultats scientifiques sur lesquels ils fondent leurs réflexions ne sont pas inventés ?

Plus largement, que ce soit pour développer un modèle de prédiction diagnostique ou pour rédiger un texte scientifique en s’appuyant sur ChatGPT, la question de la crédibilité, de la rigueur scientifique et de la véracité des informations relayées par l’IA est cruciale. Ce phénomène est en outre exacerbé par le manque de transparence quant au développement des modèles fondés sur l’IA qui ne connaissent du monde que l’information parfois biaisée et incomplète qu’on leur donne.

Et pour l’avenir ?

Ni les médecins ni les chercheurs ne seront remplacés par l’IA de sitôt. En effet, les limites méthodologiques de ces systèmes sont importantes, et leurs performances doivent encore être améliorées. À l’heure actuelle, rien ne vaut les interactions humaines pour proposer une prise en charge adaptée, fondée sur les particularités de chaque patient et l’expertise des médecins pour valider un diagnostic.

Il est toutefois nécessaire de réfléchir dès maintenant aux nombreuses problématiques méthodologiques et éthiques que l’IA soulève, et à la manière dont ces outils peuvent non pas remplacer les scientifiques et les médecins, mais au contraire représenter une valeur ajoutée quant à l’optimisation du suivi du patient et à l’amélioration des prises de décisions cliniques.

Texte rédigé avec le soutien de Alexandre Loupy, Marc Raynaud et Agathe Truchot au sein du Centre de recherche cardiovasculaire de Paris (Parcc) (unité 970 Inserm/Université de Paris ), équipe Paris Transplant Group 

© Photo Yura Fresh/ Unsplash

Alors qu’un nombre croissant de femmes à travers le monde se détournent de la contraception hormonale, plusieurs centaines de millions d’entre-elles ont recours chaque jour à des applications permettant de suivre leurs cycles menstruels et de contrôler leur fertilité. Développées pour la plupart aux États-Unis et dans certains pays d’Europe, ces applications recueillent des informations intimes collectées auprès des usagères – notamment concernant la date des dernières règles, les symptômes liés au cycle, l’état de santé général, les humeurs, la libido, l’usage de préservatifs lors des rapports sexuels…

La plupart des applications de suivi menstruel sont gratuites. D’autres donnent également la possibilité, via des options payantes, d’affiner les prédictions et d’obtenir des conseils personnalisés.

Quelles sont les données scientifiques disponibles pour évaluer l’efficacité de ces applications ? Leur fiabilité pour garantir une contraception naturelle aux femmes est-elle avérée ? Et enfin, la protection des données personnelles est-elle assurée pour préserver le droit à la vie privée des usagères ? Canal Détox fait le point.

Un contexte propice à l’essor des applications

Le rejet des modes de contraception médicaux conventionnels (pilule, DIU, patch…) et notamment des contraceptifs hormonaux est une tendance qui s’accentue déjà depuis une quinzaine d’années, suite notamment à la commercialisation des pilules de 3^e et 4^e générations qui s’était accompagnée d’une augmentation des cas de thromboses veineuses. De manière plus générale, afin de se réapproprier leurs corps et d’éviter les effets secondaires liés à la prise d’hormones, de nombreuses femmes ne veulent plus avoir recours à la pilule. Elles souhaitent adopter des modes de contraception plus « naturels », et les applications de suivi du cycle menstruel répondent à ce besoin.

La popularité grandissante de ces applications soulève plusieurs questions éthiques en ce qui concerne la protection des données personnelles des usagères et aussi les défauts de fiabilité de prédiction des applications pour le contrôle de la fertilité.

Aux États-Unis, les craintes relatives à la protection de la vie privée et des données personnelles sont exacerbées dans le contexte du renversement historique de l’arrêt Roe vs. Wade qui ouvre la voie à la criminalisation de l’avortement dans de nombreux États. En effet, certains observateurs ont alerté sur le risque que les données numériques renseignées dans ces applications de suivi menstruel soient utilisées par la justice pour identifier des femmes ayant ou souhaitant avorter.

Efficacité des applications : encore des limites 

Des publications scientifiques récentes ont permis d’y voir plus clair quant à l’efficacité des applications pour aider les femmes à contrôler leur fertilité et à éviter une grossesse non désirée.

Plus de la moitié de ces applications s’appuient sur des paramètres peu fiables pour prédire la période de fertilité et la date d’ovulation. En effet, comme l’ont montré des études rigoureuses et des revues de littérature, elles se fondent sur la méthode du calendrier des règles, en fait une « méthode Ogino »[1] version numérique. Or, celle-ci connait des limites significatives puisque des variations de durée de cycles de 7 jours et plus concernent la moitié de la population féminine. Même les femmes avec des cycles très réguliers ont des jours d’ovulation variables. Des données publiées suggèrent ainsi qu’en s’appuyant uniquement sur la méthode du calendrier, la plupart de ces applications font des erreurs de prédiction.

En revanche, il existe des paramètres plus fiables comme la température corporelle (+ 0,2/0,4 °C après l’ovulation), l’aspect de la glaire cervicale[2] ou la concentration urinaire de l’hormone lutéinisante (qui augmente juste avant l’ovulation). Or ils sont rarement pris en compte dans les algorithmes des applications.

Dans les faits, si certaines applications peuvent proposer un suivi fondé sur de nombreux paramètres et donc une efficacité théorique élevée, elles se heurtent aussi à l’utilisation qu’en font les femmes dans leur vie de tous les jours. En effet, beaucoup d’utilisatrices éprouvent des difficultés à suivre les consignes requises par les applications. Noter régulièrement les dates des règles, prendre sa température ou interpréter l’aspect de la glaire cervicale sont des procédures contraignantes, qui, si elles ne sont pas suivies à la lettre, vont rendre les algorithmes de prédiction inopérants.

Des craintes avérées sur la protection des données

L’autre question éthique majeure associée à l’utilisation de ces applications – la protection des données personnelles – a fait l’objet de nombreux travaux, portés notamment par des ONG qui défendent la vie privée. Il ressort de ces investigations que la plupart des applications ne prennent pas suffisamment de mesures pour protéger les données personnelles des utilisatrices, les partageant notamment avec des sociétés tierces (dont Google et Amazon). Or, les femmes sont rarement informées sur le risque de voir leurs données sur leur vie sexuelle intime exploitées par des tiers à des fins commerciales ou autres.

Face à ces différents constats, vu le nombre croissant de femmes qui utilisent ces applications à travers le monde, le comité d’éthique de l’Inserm a publié un rapport en septembre 2022 (voir encadré) appelant à une vigilance éthique pour éclairer le choix des femmes dans les méthodes de contrôle des cycles et de la fertilité.

[1] La méthode Ogino consiste à s’abstenir de tout rapport sexuel pendant la période de fécondité de la femme.

[2] Les cellules qui tapissent le col de l’utérus sécrètent du mucus qu’on appelle la glaire cervicale, dont l’aspect change au cours du cycle. En période de fertilité, la consistance et la structure de la glaire permettent au sperme de passer pour aller féconder l’ovule.

Imprimer des tissus vivants est-il si facile que ça ? Et arrive-t-on aujourd’hui à obtenir des organes fonctionnels ?