© Photo de BoliviaInteligente sur Unsplash

Depuis quelques mois, ChatGPT est au cœur de l’actualité. Ce prototype d’agent conversationnel s’appuyant sur l’intelligence artificielle (IA) a été développé par la firme californienne OpenAI à partir des modèles de traitement du langage les plus avancés. Au-delà de ses capacités conversationnelles, ChatGPT est capable de générer des textes de manière autonome pour apporter des réponses aux questions des utilisateurs.

Des performances qui soulèvent déjà leur lot de questionnements et de préoccupations : des universités craignant la fraude aux examens l’ont interdit, des chercheurs l’ont testé pour écrire un article scientifique… En creux, la médiatisation de ChatGPT pose la question plus vaste de la place de l’IA dans nos vies, et de la valeur ajoutée qu’elle pourrait ou non avoir dans certains domaines, notamment dans le champ scientifique. La question éthique a, de ce fait, de plus en plus d’importance : comment s’assurer de la véracité des informations relayées par un tel outil ? Dans le domaine clinique, un diagnostic posé par une IA est-il réellement fiable ? Certaines professions sont-elles amenées à disparaître, remplacées par des systèmes d’IA plus performants ?

Canal Détox se penche sur le sujet, en s’intéressant spécifiquement aux implications de l’IA en pratique clinique et dans la recherche biomédicale.

Des promesses déçues en médecine

Dans les sciences biomédicales, l’IA est depuis plusieurs années considérée comme une méthode prometteuse, pouvant potentiellement bénéficier au patient. Parmi les innovations attendues : l’optimisation de la prise en charge du patient, l’amélioration du diagnostic des maladies, la prédiction de l’état de santé futur du patient et la personnalisation de son suivi. En radiologie et en oncologie par exemple, des financements massifs ont déjà été alloués à des équipes de recherche travaillant sur le sujet.

Cependant, la réalité du terrain est plus nuancée. De nombreux systèmes d’IA développés ces dernières années se sont en fait avérés plutôt décevants. Parmi les exemples les plus connus, on peut citer celui de l’IA IBM Watson Health. Ce système a été conçu pour guider la pratique des médecins, afin de les aider à améliorer les soins et de proposer les traitements les plus adaptés aux patients, notamment en oncologie. Toutefois, pour développer et entraîner l’IA, des données jugées de mauvaises qualités ainsi que des populations non représentatives auraient été sélectionnées, et une méthodologie inadéquate aurait été utilisée. Les modèles finaux présentaient des performances faibles susceptibles d’entraîner des erreurs médicales si les professionnels de santé avaient suivi les recommandations de l’IA à la lettre.

D’autres études ont montré que l’intelligence artificielle pouvait être utilisée en clinique pour prédire le risque de maladie cardiovasculaire ou encore le devenir de patients atteints de certains cancers. Cependant, la fiabilité des résultats variait grandement en fonction de la qualité des données utilisées pour alimenter les systèmes d’IA.

Ces cas illustrent un paradoxe que de nombreux chercheurs tentent de mettre en avant depuis plusieurs années. En théorie, l’IA est censée être plus efficace pour développer un modèle diagnostique ou pronostique, par rapport aux méthodes traditionnellement utilisées en médecine, car elle est capable d’intégrer une plus grande quantité de données et de paramètres. Néanmoins, dans les faits, elle ne fait pas toujours mieux (voir encadré).

Par conséquent, on constate aujourd’hui un contraste inquiétant entre les promesses de l’IA, et l’absence d’applications et de démonstrations rigoureuses de sa pertinence clinique. Des travaux ont récemment montré que la majorité des études utilisant l’IA ont de nombreuses limites. Les systèmes d’IA sur lesquelles elles s’appuient sont en effet généralement entraînés à partir de données issues de populations de patients de faible qualité, avec des protocoles inadaptés et des échantillons trop petits et/ou peu représentatifs. Ces systèmes sont par ailleurs rarement validés de façon indépendante, ce qui limite la possibilité de les implémenter et de généraliser leur usage au niveau mondial.

En outre, une prise en charge adaptée et réellement personnalisée repose aussi en partie sur la relation qu’entretient le médecin avec son patient, sur sa capacité à intégrer des éléments de contexte socio-culturels, à décrypter les états émotionnels de la personne en face de lui… Autant d’éléments que l’IA est encore bien loin de pouvoir intégrer.

Ces faiblesses méthodologiques posent des questions quant à la fiabilité de l’IA et à son implémentation concrète dans les systèmes de santé – et sur les risques liés à son utilisation dans la prise en charge des patients.

Écrire des articles scientifiques grâce à l’IA ?

Si l’on revient au cas de ChatGPT, il est clair que cette IA n’a été pensée ni pour accompagner la pratique des chercheurs ou des médecins, ni pour proposer des diagnostics. Néanmoins, il est en théorie possible pour n’importe quel utilisateur de soumettre à l’IA les inquiétudes qu’il pourrait avoir concernant sa santé – avec le risque d’obtenir des conseils erronés qui mettraient sa santé en danger.

Par ailleurs, si on quitte la pratique clinique pour s’intéresser aux implications dans la recherche pharmacologique, il est intéressant de s’arrêter sur une étude menée par des chercheurs espagnols, qui a fait l’objet de vives discussions. Ces derniers ont fait rédiger à ChatGPT un article scientifique complet sur le rôle des IA dans la découverte des médicaments. Une prouesse qui devrait inquiéter la communauté scientifique ? Pas tant que cela si l’on en croit l’expérience des chercheurs : en effet, ceux-ci ont dû largement retravailler et corriger l’article, ChatGPT n’ayant pas été capable, entre autres, de donner des références scientifiques correctes. Autre point d’importance, l’IA n’est entraînée qu’avec des données allant jusqu’à 2021 : elle ne dispose donc pas des informations les plus récentes.

Plus inquiétant en revanche, des chercheurs américains ont demandé à l’IA de rédiger de toutes pièces 50 résumés de recherche médicale à partir d’une sélection de résumés déjà publiés dans des revues scientifiques prestigieuses. Les chercheurs ont ensuite comparé les résumés produits par l’IA aux résumés originaux, en les soumettant à un détecteur de plagiat et à un détecteur de contenus d’IA. Ils ont aussi demandé à un groupe de chercheurs de repérer parmi les résumés ceux qui étaient authentiques et ceux qui avaient été générés de façon automatique.

Résultat : aucun plagiat n’a été détecté. De plus, si le détecteur d’IA n’a repéré que 66 % des résumés générés, les chercheurs n’ont pas fait beaucoup mieux en n’identifiant correctement que 68 % des résumés générés. Un constat qui soulève une interrogation pour le futur : si des résumés scientifiques peuvent facilement être générés par n’importe qui grâce à l’IA et si les experts ne parviennent pas toujours à les identifier, comment les chercheurs pourront-ils toujours s’assurer que les résultats scientifiques sur lesquels ils fondent leurs réflexions ne sont pas inventés ?

Plus largement, que ce soit pour développer un modèle de prédiction diagnostique ou pour rédiger un texte scientifique en s’appuyant sur ChatGPT, la question de la crédibilité, de la rigueur scientifique et de la véracité des informations relayées par l’IA est cruciale. Ce phénomène est en outre exacerbé par le manque de transparence quant au développement des modèles fondés sur l’IA qui ne connaissent du monde que l’information parfois biaisée et incomplète qu’on leur donne.

Et pour l’avenir ?

Ni les médecins ni les chercheurs ne seront remplacés par l’IA de sitôt. En effet, les limites méthodologiques de ces systèmes sont importantes, et leurs performances doivent encore être améliorées. À l’heure actuelle, rien ne vaut les interactions humaines pour proposer une prise en charge adaptée, fondée sur les particularités de chaque patient et l’expertise des médecins pour valider un diagnostic.

Il est toutefois nécessaire de réfléchir dès maintenant aux nombreuses problématiques méthodologiques et éthiques que l’IA soulève, et à la manière dont ces outils peuvent non pas remplacer les scientifiques et les médecins, mais au contraire représenter une valeur ajoutée quant à l’optimisation du suivi du patient et à l’amélioration des prises de décisions cliniques.

Texte rédigé avec le soutien de Alexandre Loupy, Marc Raynaud et Agathe Truchot au sein du Centre de recherche cardiovasculaire de Paris (Parcc) (unité 970 Inserm/Université de Paris ), équipe Paris Transplant Group 

© Photo Yura Fresh/ Unsplash

Alors qu’un nombre croissant de femmes à travers le monde se détournent de la contraception hormonale, plusieurs centaines de millions d’entre-elles ont recours chaque jour à des applications permettant de suivre leurs cycles menstruels et de contrôler leur fertilité. Développées pour la plupart aux États-Unis et dans certains pays d’Europe, ces applications recueillent des informations intimes collectées auprès des usagères – notamment concernant la date des dernières règles, les symptômes liés au cycle, l’état de santé général, les humeurs, la libido, l’usage de préservatifs lors des rapports sexuels…

La plupart des applications de suivi menstruel sont gratuites. D’autres donnent également la possibilité, via des options payantes, d’affiner les prédictions et d’obtenir des conseils personnalisés.

Quelles sont les données scientifiques disponibles pour évaluer l’efficacité de ces applications ? Leur fiabilité pour garantir une contraception naturelle aux femmes est-elle avérée ? Et enfin, la protection des données personnelles est-elle assurée pour préserver le droit à la vie privée des usagères ? Canal Détox fait le point.

Un contexte propice à l’essor des applications

Le rejet des modes de contraception médicaux conventionnels (pilule, DIU, patch…) et notamment des contraceptifs hormonaux est une tendance qui s’accentue déjà depuis une quinzaine d’années, suite notamment à la commercialisation des pilules de 3^e et 4^e générations qui s’était accompagnée d’une augmentation des cas de thromboses veineuses. De manière plus générale, afin de se réapproprier leurs corps et d’éviter les effets secondaires liés à la prise d’hormones, de nombreuses femmes ne veulent plus avoir recours à la pilule. Elles souhaitent adopter des modes de contraception plus « naturels », et les applications de suivi du cycle menstruel répondent à ce besoin.

La popularité grandissante de ces applications soulève plusieurs questions éthiques en ce qui concerne la protection des données personnelles des usagères et aussi les défauts de fiabilité de prédiction des applications pour le contrôle de la fertilité.

Aux États-Unis, les craintes relatives à la protection de la vie privée et des données personnelles sont exacerbées dans le contexte du renversement historique de l’arrêt Roe vs. Wade qui ouvre la voie à la criminalisation de l’avortement dans de nombreux États. En effet, certains observateurs ont alerté sur le risque que les données numériques renseignées dans ces applications de suivi menstruel soient utilisées par la justice pour identifier des femmes ayant ou souhaitant avorter.

Efficacité des applications : encore des limites 

Des publications scientifiques récentes ont permis d’y voir plus clair quant à l’efficacité des applications pour aider les femmes à contrôler leur fertilité et à éviter une grossesse non désirée.

Plus de la moitié de ces applications s’appuient sur des paramètres peu fiables pour prédire la période de fertilité et la date d’ovulation. En effet, comme l’ont montré des études rigoureuses et des revues de littérature, elles se fondent sur la méthode du calendrier des règles, en fait une « méthode Ogino »[1] version numérique. Or, celle-ci connait des limites significatives puisque des variations de durée de cycles de 7 jours et plus concernent la moitié de la population féminine. Même les femmes avec des cycles très réguliers ont des jours d’ovulation variables. Des données publiées suggèrent ainsi qu’en s’appuyant uniquement sur la méthode du calendrier, la plupart de ces applications font des erreurs de prédiction.

En revanche, il existe des paramètres plus fiables comme la température corporelle (+ 0,2/0,4 °C après l’ovulation), l’aspect de la glaire cervicale[2] ou la concentration urinaire de l’hormone lutéinisante (qui augmente juste avant l’ovulation). Or ils sont rarement pris en compte dans les algorithmes des applications.

Dans les faits, si certaines applications peuvent proposer un suivi fondé sur de nombreux paramètres et donc une efficacité théorique élevée, elles se heurtent aussi à l’utilisation qu’en font les femmes dans leur vie de tous les jours. En effet, beaucoup d’utilisatrices éprouvent des difficultés à suivre les consignes requises par les applications. Noter régulièrement les dates des règles, prendre sa température ou interpréter l’aspect de la glaire cervicale sont des procédures contraignantes, qui, si elles ne sont pas suivies à la lettre, vont rendre les algorithmes de prédiction inopérants.

Des craintes avérées sur la protection des données

L’autre question éthique majeure associée à l’utilisation de ces applications – la protection des données personnelles – a fait l’objet de nombreux travaux, portés notamment par des ONG qui défendent la vie privée. Il ressort de ces investigations que la plupart des applications ne prennent pas suffisamment de mesures pour protéger les données personnelles des utilisatrices, les partageant notamment avec des sociétés tierces (dont Google et Amazon). Or, les femmes sont rarement informées sur le risque de voir leurs données sur leur vie sexuelle intime exploitées par des tiers à des fins commerciales ou autres.

Face à ces différents constats, vu le nombre croissant de femmes qui utilisent ces applications à travers le monde, le comité d’éthique de l’Inserm a publié un rapport en septembre 2022 (voir encadré) appelant à une vigilance éthique pour éclairer le choix des femmes dans les méthodes de contrôle des cycles et de la fertilité.

[1] La méthode Ogino consiste à s’abstenir de tout rapport sexuel pendant la période de fécondité de la femme.

[2] Les cellules qui tapissent le col de l’utérus sécrètent du mucus qu’on appelle la glaire cervicale, dont l’aspect change au cours du cycle. En période de fertilité, la consistance et la structure de la glaire permettent au sperme de passer pour aller féconder l’ovule.

Le premier patient au monde à avoir reçu une greffe de cœur d’un porc génétiquement modifié a survécu deux mois. David Bennett, 57 ans, atteint d’une insuffisance cardiaque au stade terminal et d’une arythmie, avait été opéré le 7 janvier 2022 à titre compassionnel alors qu’il n’existait plus d’autre solution thérapeutique alternative à lui proposer.

Dans le jargon scientifique, l’opération subie par ce patient américain s’appelle une xénogreffe (ou xénotransplantation). Il s’agit d’un acte chirurgical qui vise à transplanter à un patient un greffon sain (ici un organe entier, le cœur), provenant d’une espèce biologique différente de celle du receveur. Elle diffère ainsi de l’allogreffe (ou allotransplantation) dans laquelle le greffon provient de la même espèce que le receveur.

Face à une pénurie d’organes toujours plus importante, exacerbée notamment par la pandémie de Covid-19, les recherches portant sur la xénogreffe se sont multipliées. Le domaine peut en effet être considéré comme une alternative face au déséquilibre actuel existant entre un faible nombre d’organes disponibles et un grand nombre de patients en attente d’une transplantation.

Alors que cette première xénogreffe a fait l’objet de toutes les attentions médiatiques, suscitant parfois de faux espoirs, peut-on réellement considérer la xénotransplantation comme une avancée médicale majeure ? Quel avenir pour la xénogreffe ?

Canal Détox fait le point sur les limites et les réels progrès obtenus suite à cette xénogreffe.

L’aboutissement d’années de recherche

Le concept de xénogreffe n’est pas nouveau, de nombreuses tentatives cliniques de transfert de l’animal à l’Homme ont eu lieu depuis trois siècles.

C’est d’ailleurs ainsi qu’aurait débuté l’histoire de la transfusion sanguine : le premier patient transfusé, en 1667, l’aurait été avec du sang… d’agneau. Ou encore, la première xénotransplantation de cornée (du porc à l’Homme) aurait été réalisée chez un patient en 1838, bien avant la première allotransplantation de cornée en 1905.

Les premiers essais concrets de xénogreffes répertoriés et concernant des organes entiers ont débuté dans les années 1960. En 1964, six patients atteints d’insuffisance rénale terminale ont été greffés de reins de chimpanzés. L’un d’entre eux, une institutrice de 23 ans, a survécu neuf mois après la xénogreffe. La même année, un patient américain a été transplanté d’un cœur de chimpanzé. Il est décédé dans les deux heures ayant suivi l’acte chirurgical. Puis en 1984, toujours aux États-Unis, Stephanie Fae Beauclair, surnommée Baby Fae, a été greffée d’un cœur d’une jeune femelle babouin à l’âge de 15 jours. Elle est décédée 21 jours après l’opération[1].

La modification génétique au cœur des recherches sur la xénogreffe

Comme dans le cas d’une allogreffe, l’obstacle le plus important à la xénotransplantation est le rejet de l’organe greffé par une cascade de mécanismes immunitaires. On parle de rejet hyper aigu, de rejet aigu ou de rejet chronique (voir encadré ci-dessous).

La prise de médicaments immunosuppresseurs[2] permet de réduire ce risque mais ne l’élimine pas. Le succès de la greffe dépend de la capacité à trouver un équilibre entre une immunosuppression suffisante (pour garantir l’absence de rejet lié à l’introduction dans le corps d’un organe considéré comme étranger) et la préservation des défenses de l’organisme pour lui permettre de prévenir et de combattre des infections. Le rejet chronique (ou sur le long terme) du greffon reste une problématique majeure.

Depuis quelques années, les travaux de recherche autour de la xénogreffe se fondent de plus en plus sur une approche génétique pour surmonter les questions relatives au rejet immédiat du greffon (ou hyper aigu). C’est d’ailleurs grâce à cette approche génétique que les médecins américains ont pu faciliter l’adaptation du cœur de porc à l’organisme du patient. En effet, ils ont réussi à supprimer l’expression de certains antigènes à la surface des cellules porcines, qui étaient jusqu’alors reconnues comme étrangères par le corps humain, empêchant ainsi la destruction immédiate de l’organe animal par le système immunitaire du patient greffé.

Ces résultats, combinés aux récentes avancées dans le domaine de la thérapie immunosuppressive ainsi qu’à d’autres approches de modification immunologique, ont permis d’augmenter le champ des possibles pour parvenir à surmonter le rejet hyper aigu de la xénogreffe.

Quel avenir pour la xénogreffe ?

Dans un avenir proche, et dans le but de faire avancer la recherche sur la xénogreffe, il est important pour les scientifiques d’identifier les mécanismes impliqués dans le décès de David Bennet. De premières hypothèses formulées par l’équipe médicale, indiquent que le décès pourrait être lié à la présence d’un virus porcin dans le cœur de l’animal. Ce virus, appelé cytomégalovirus porcin, n’aurait pas été détecté avant la transplantation, et il aurait contribué à endommager le greffon animal provoquant ainsi un syndrome inflammatoire généralisé. Si cette hypothèse venait à être confirmée il est possible qu’une xénotransplantation de cœur exempt de virus puisse techniquement durer plus longtemps. Il serait toutefois nécessaire de faire appliquer un contrôle plus rigoureux des greffons avent leur transplantation.

À plus long terme, considérer la xénogreffe comme une alternative à la transplantation conventionnelle soulève des interrogations sur les plans éthique et juridique liées à l’utilisation d’animaux comme donneurs. Selon une étude menée auprès d’une centaine de patients greffés ou en attente de greffes, 30 % des interrogés refuseraient catégoriquement l’idée d’une xénotransplantation, 25 % poseraient des conditions avant d’accepter l’éventuelle xénogreffe et 45 % accepteraient sans condition.

Une autre limite à prendre en compte : le risque de zoonoses, ou dans ce cas précis de « xénozoonoses », des maladies infectieuses transmises des animaux aux humains dans des circonstances naturelles.

[1] Dans chacun des cas énoncés, les instances de santé américaines ont pu concéder aux chercheurs et médecins l’autorisation de procéder à l’acte chirurgical à titre compassionnel, avec l’accord des patients, puisqu’il n’existait aucune autre piste thérapeutique envisageable.

[2] Traitements qui limitent l’action du système immunitaire utilisés pour les maladies auto-immunes ou en cas de greffe.

© Klemens Köpfle on Unsplash

Particulièrement répandue au Royaume-Uni et aux États-Unis, la théorie selon laquelle le virus SARS-CoV-2 serait transmis par les ondes de rayonnement de la 5G commence à émerger en France. Cette fausse information, qui a déjà poussé un petit nombre d’individus à détruire des antennes de téléphonie 5G outre-Manche, ne s’appuie sur aucun fondement scientifique.

Rappelons tout d’abord que les mécanismes de transmission du virus sont bien documentés : le virus se transmet d’une personne à une autre par voie aérienne via des gouttelettes respiratoires, par contacts directs avec des sécrétions ou liquides biologiques, ou encore par l’intermédiaire d’un objet contaminé. En aucun cas, les ondes de rayonnement de la 5G ne sont impliquées dans sa diffusion.

Autre argument relayé par ceux qui établissent un lien entre 5G et épidémie de Covid-19 : les ondes radiofréquences de la 5G pourraient affaiblir le système immunitaire, favorisant l’infection. La littérature scientifique ayant trait aux effets du rayonnement électromagnétique sur la santé est dense mais les résultats obtenus sont souvent contradictoires. À l’heure actuelle, le manque de reproductibilité de ces études, souvent limitées d’un point de vue méthodologique, ne permet pas de faire ressortir un effet quelconque de ces ondes sur l’organisme.

Il est clair néanmoins que les ondes auxquelles nous serions exposés une fois la 5G déployée ne sont pas suffisamment puissantes pour avoir un impact sur notre système immunitaire. L’énergie associée à ces ondes est trop faible pour créer des dommages cellulaires au niveau de l’organisme, et plus particulièrement, pour avoir un impact sur les cellules immunitaires.

Le seul risque avéré associé à ces ondes, appuyé par des données issues de la recherche, est un risque de réchauffement du corps. Certains avancent que c’est cet effet thermique qui pourrait conduire à un affaiblissement du système immunitaire. Cependant, si des études ont évoqué un tel effet, c’est uniquement dans le cadre d’une utilisation thérapeutique de ces ondes. Dans ce cas, les expositions sont beaucoup plus fortes en termes de puissance (10 à 15 fois supérieures aux normes limites) que les expositions auxquelles nous sommes soumis dans la vie quotidienne.

Il convient donc de prendre du recul par rapport à ces publications : dans le cadre des réglementations actuelles, nous sommes très loin d’être exposés à des niveaux de rayonnement électromagnétique pouvant provoquer d’éventuels effets thermiques sur l’organisme. Notre exposition à ces ondes n’a pas d’impact sur le système immunitaire et ne peut être mise en cause dans la diffusion de l’actuelle pandémie.

Elles sont invisibles, personne ne les a jamais vues et pourtant tout le monde les redoute. Les ondes électromagnétiques, celles qui portent nos conversations téléphoniques et nos SMS, font peur. Que sait on aujourd’hui des ondes de téléphone portable ? Canal Détox coupe court aux fausses informations.

Depuis plus de 50 ans, les robots font fantasmer l’humanité, en particulier dans le domaine de la santé, on les imagine au chevet des patients, assistant les médecins dans leurs tâches quotidiennes, ou encore faisant des diagnostics d’une rare précision, d’autant que l’intelligence artificielle est depuis quelques années omniprésente dans les médias. Mais les robots sont-ils vraiment intelligents ? Ne peuvent-ils pas se tromper comme tout le monde? Et doit-on se préparer à les voir envahir les hôpitaux ou même remplacer les médecins ?

Avec Canal Detox, l’Inserm coupe court aux fausses infos.

Avec la participation de Marie Christine Jaulent, directrice de recherche Inserm au laboratoire d’informatique médicale et ingénierie des connaissances pour la E-Santé.

Depuis les années 2000, les chercheurs ont entre les mains la totalité du génome humain, et disposent d’une série d’outils efficaces pour supprimer ou remplacer les gènes de leur choix. Ces modifications du génome font beaucoup parler d’elles dans les médias, surtout depuis l’arrivée en 2012 d’une nouvelle famille de « ciseaux génétiques », efficaces et bon marché : les « Crispr ». Mais que peut-on réellement faire avec ces ciseaux ? Peuvent-ils nous aider à faire grossir nos muscles ou notre cerveau sur commande ? Et grâce à eux, peut-on espérer réparer n’importe quel gène malade ?