Vous pourriez être pardonné de penser que l'IA remplacera bientôt les médecins humains en se basant sur des titres tels que «Le médecin de l'IA vous verra maintenant», «Votre futur médecin ne sera peut-être pas humain» et «Cette IA vient de battre les docteurs de l'homme lors d'un examen clinique . ”Mais les experts affirment que la réalité est davantage une collaboration qu'un éviction: les patients pourraient bientôt retrouver leur vie entre les mains de services d'IA travaillant aux côtés de cliniciens humains.
L'optimisme à l'égard de l'IA ne manque pas dans la communauté médicale. Mais beaucoup mettent également en garde contre le battage médiatique autour de l'IA qui doit encore être réalisé dans des contextes cliniques réels. Il existe également différentes visions sur la manière dont les services d'intelligence artificielle pourraient avoir le plus grand impact. Et on ne sait toujours pas si l'IA améliorera la vie des patients ou si ce sera tout simplement le bénéfice net des entreprises, des organisations de soins de santé et des assureurs de la Silicon Valley.
"Je pense que tous nos patients devraient réellement souhaiter que les technologies de l'IA soient utilisées pour remédier aux faiblesses du système de soins de santé, mais nous devons le faire d'une manière non médiatisée dans la Silicon Valley", déclare Isaac Kohane, chercheur en informatique biomédicale à Harvard Medical School.
Si AI fonctionne comme promis, il pourrait démocratiser les soins de santé en améliorant l'accès des communautés mal desservies et en réduisant les coûts - un avantage aux États-Unis, qui se classe mal pour de nombreuses mesures de santé malgré un coût annuel moyen des soins de santé de 10 739 $ par personne. Les systèmes d'IA pourraient libérer les médecins surchargés de travail et réduire le risque d'erreurs médicales susceptibles de tuer des dizaines de milliers, voire des centaines de milliers de patients américains chaque année. Et dans de nombreux pays connaissant une pénurie de médecins, comme la Chine, où les services ambulatoires des hôpitaux urbains surpeuplés peuvent accueillir jusqu'à 10 000 personnes par jour, de telles technologies n'ont pas besoin d'une précision parfaite pour être utiles.
Les critiques soulignent que toute cette promesse pourrait disparaître si la hâte de mettre en œuvre l'IA piétine le droit à la vie privée des patients, néglige les préjugés et les limitations, ou échoue à déployer des services de manière à améliorer les résultats pour la santé de la plupart des gens.
«De la même manière que les technologies peuvent réduire les disparités, elles peuvent exacerber les disparités», déclare Jayanth Komarneni, fondateur et président du Human Diagnosis Project (Human Dx), une entreprise à but non lucratif axée sur l’expertise médicale. "Et rien n'a cette capacité d'exacerber les disparités comme l'IA"
***
Aujourd'hui, les techniques d'IA les plus populaires sont l'apprentissage par la machine et son cousin cadet, l'apprentissage en profondeur. Contrairement aux programmes informatiques qui respectent rigoureusement les règles écrites par les humains, les algorithmes d'apprentissage automatique et d'apprentissage approfondi peuvent examiner un jeu de données, en tirer des enseignements et effectuer de nouvelles prédictions. L'apprentissage en profondeur en particulier peut faire des prédictions impressionnantes en découvrant des schémas de données que les gens pourraient manquer.
Mais pour tirer le meilleur parti de ces prédictions en matière de soins de santé, l'IA ne peut y arriver seule. Au contraire, les humains doivent encore aider à prendre des décisions qui peuvent avoir des conséquences majeures sur la santé et sur les finances. Parce que les systèmes d'IA manquent de l'intelligence générale des humains, ils peuvent faire des prédictions déroutantes qui pourraient s'avérer néfastes si les médecins et les hôpitaux les suivaient sans poser de questions.
L'exemple classique vient de Rich Caruana, chercheur principal chez Microsoft Research, comme il l'avait expliqué dans le magazine Engineering and Technology l'année dernière. Dans les années 1990, Caruana a travaillé sur un projet qui tentait d’utiliser une forme plus ancienne d’apprentissage automatique pour prédire si un patient souffrant de pneumonie était un cas à risque faible ou élevé. Des difficultés sont apparues lorsque le modèle d’apprentissage automatique a tenté de prédire le cas des asthmatiques, qui présentent un risque élevé, car leurs difficultés respiratoires préexistantes les rendent vulnérables à la pneumonie. Le modèle a identifié ces patients comme présentant un risque faible, nécessitant une intervention mineure plutôt qu'une hospitalisation - ce qu'un expert humain n'aurait jamais fait.
Si vous suivez le modèle à l'aveuglette, explique Kenneth Jung, chercheur au Centre de recherche en informatique biomédicale de Stanford, «vous êtes alors blessé. Parce que le modèle dit: "Oh, ce gamin asthmatique est arrivé et il a eu une pneumonie, mais nous n'avons pas besoin de nous inquiéter pour eux et nous les renvoyons chez eux avec des antibiotiques."
Les prévisions d'apprentissage en profondeur peuvent également échouer si elles rencontrent des points de données inhabituels, tels que des cas médicaux uniques, pour la première fois, ou si elles apprennent des modèles particuliers dans des ensembles de données spécifiques qui ne se généralisent pas bien aux nouveaux cas médicaux.
Les prévisions de l'IA sont plus efficaces lorsqu'elles sont appliquées à des ensembles de données volumineux, comme en Chine, ce qui présente un avantage pour la formation des systèmes d'IA grâce à l'accès à de grandes populations et aux données des patients. En février, la revue Nature Medicine a publié une étude réalisée par des chercheurs basés à San Diego et à Guangzhou, en Chine, qui permettait de diagnostiquer de nombreuses maladies infantiles courantes sur la base des dossiers de santé électroniques de plus de 567 000 enfants.
Cependant, même de grands ensembles de données peuvent poser problème, notamment lorsque les chercheurs tentent d'appliquer leur algorithme à une nouvelle population. Dans l'étude Nature Medicine, le demi-million de patients provenait d'un seul centre médical à Guangzhou, ce qui signifie que rien ne garantit que les enseignements tirés de la formation sur le diagnostic en matière de diagnostic s'appliqueraient aux cas pédiatriques ailleurs. Chaque centre médical peut attirer son propre groupe de patients - un hôpital réputé pour son centre cardiovasculaire, par exemple, peut attirer des problèmes cardiaques plus critiques. Et les conclusions d'un hôpital de Guangzhou qui attire principalement des patients d'ethnie chinoise pourraient ne pas se traduire par un autre à Shanghai avec un nombre plus élevé de patients nés à l'étranger et non chinois.
Dans cette conférence TEDx 2017, Shinjini Kundu, de l'hôpital Johns Hopkins, explique comment les outils d'IA peuvent tirer davantage d'images médicales que les médecins, notamment en prévoyant les maladies avant que les patients ne présentent des symptômes.
Cette extrapolation sera également difficile dans d’autres situations. Par exemple, Marzyeh Ghassemi, informaticienne et ingénieure biomédicale à l'Université de Toronto, affirme que le centre médical Beth Israel Deaconess compte 40 000 patients en réanimation, ce qui ne représente qu'un hôpital dans une ville. «Et j'ai donc tous ces papiers qui ont fait des prédictions avec ces données. Est-ce que ça marche avec un autre hôpital de Boston? Peut être. Est-ce que ça marche pour un hôpital dans un autre état? Cela fonctionnerait-il dans un autre pays? Nous ne savons pas. "
***
Même si les modèles d'intelligence artificielle peuvent ne pas fonctionner dans tous les cas, Ghassemi pense que la technologie mérite toujours d'être explorée. «Je suis très favorable à l'idée de faire passer ces modèles du banc au chevet, mais avec des mesures de précaution vraiment agressives.»
Ces étapes doivent exister tout au long du développement et du déploiement de l'IA, explique I. Glenn Cohen, professeur de droit à l'Université de Harvard et chef du projet sur la médecine de précision, l'intelligence artificielle et le droit. Cela peut impliquer de vérifier l'exactitude et la transparence des prévisions de l'IA. Et lors de la collecte de données, les chercheurs devront également protéger la vie privée du patient et demander leur consentement pour utiliser les données du patient à des fins de formation sur l'IA.
La question du consentement se pose à nouveau lorsque le modèle d'IA est prêt pour des essais cliniques expérimentaux sur des patients réels. "Les patients doivent-ils savoir que vous utilisez l'algorithme, et est-ce que l'IA oriente complètement les soins ou en partie?", Demande Cohen. "Il y a vraiment très peu de réflexion sur ces questions."
Ghassemi plaide également en faveur de l'audit fréquent des algorithmes d'intelligence artificielle afin de garantir l'équité et la précision entre différents groupes de personnes en fonction de l'ethnie, du sexe, de l'âge et de l'assurance maladie. Cela est important compte tenu du fait que les applications d'intelligence artificielle dans d'autres domaines ont déjà montré qu'elles peuvent facilement détecter des biais.
Après toutes ces étapes, les personnes et les entreprises fournissant des services d’IA devront se dégager de toute responsabilité juridique en cas d’erreurs inévitables. Et contrairement à la plupart des dispositifs médicaux, qui nécessitent généralement une seule approbation réglementaire, les services d'intelligence artificielle peuvent nécessiter une vérification supplémentaire chaque fois qu'ils tirent parti de nouvelles données.
Certains organismes de réglementation repensent la manière d'évaluer les soins de santé. IA En avril, la Food and Drug Administration (FDA) des États-Unis a publié un document de travail afin de recueillir les commentaires du public sur la manière de mettre à jour l'examen réglementaire pertinent. «Ce que nous essayons continuellement, c’est de revenir à notre objectif de donner aux gens un accès aux technologies, mais nous nous rendons compte également que nos méthodes actuelles ne fonctionnent pas très bien», déclare Bakul Patel, directeur de la santé numérique chez FDA. "C'est pourquoi nous devons envisager une approche holistique de l'ensemble du cycle de vie du produit."
Outre les problèmes d'accès, de confidentialité et de réglementation, il est également difficile de savoir qui bénéficiera le plus des services de soins de la santé. Il existe déjà des disparités dans les soins de santé: selon la Banque mondiale et l'Organisation mondiale de la santé, la moitié de la population mondiale n'a pas accès aux services de soins de santé essentiels et près de 100 millions de personnes sont poussées dans l'extrême pauvreté par les dépenses de santé. Selon son mode de déploiement, l'intelligence artificielle pourrait soit améliorer ces inégalités, soit les aggraver.
«Les discussions sur l'intelligence artificielle ont porté en grande partie sur la démocratisation des soins de santé, et je souhaite que cela se produise», déclare Effy Vayena, bioéthicien à l'institut fédéral de technologie de Suisse.
«Si vous vous retrouvez avec une offre de services plus sophistiquée à ceux qui pourraient se permettre de bons soins de santé de toute façon», ajoute-t-elle, «je ne suis pas sûre si c'est la transformation que nous recherchons».
La manière dont cela se passe dépend des différentes visions de mise en œuvre de l'IA Le développement précoce s'est concentré sur des applications diagnostiques très étroites, telles que l'examen minutieux d'images pour un soupçon de cancer de la peau ou de mycose des ongles, ou la lecture de radiographies pulmonaires. Mais des efforts plus récents ont tenté de diagnostiquer plusieurs problèmes de santé à la fois.
En août 2018, Moorfields Eye Hospital au Royaume-Uni et DeepMind. Le laboratoire d'IA basé à Londres et appartenant à la société mère de Google, Alphabet, a montré qu'ils avaient réussi à former un système d'IA afin d'identifier plus de 50 maladies des yeux lors de la numérisation, ce qui correspondait aux performances d'experts de premier plan. De même, de vastes ambitions ont conduit l’étude de San Diego et de Guangzhou qui a formé l’IA au diagnostic des affections courantes chez les enfants. Ce dernier n’était pas aussi efficace pour diagnostiquer les maladies pédiatriques que les médecins expérimentés, mais il fonctionnait mieux que certains médecins débutants.
De tels systèmes d'IA n'ont peut-être pas besoin de dépasser les meilleurs experts humains pour aider à démocratiser les soins de santé, mais simplement d'élargir l'accès aux normes médicales actuelles. Pourtant, jusqu'à présent, de nombreuses applications d'IA proposées sont axées sur l'amélioration des normes de soins actuelles plutôt que sur la diffusion de soins de santé abordables, a déclaré Cohen: «Démocratiser ce que nous avons déjà serait beaucoup plus rentable que d'améliorer ce que nous avons actuellement. de nombreux domaines. "
Accenture, une société de conseil, prédit que les principales applications de l'IA pourraient faire économiser 150 milliards de dollars par an à l'économie américaine d'ici 2026. Mais on ne sait pas si les patients et les systèmes de soins de santé complétés par l'argent des contribuables en bénéficieraient, ou si plus d'argent irait simplement aux entreprises de technologie, fournisseurs de soins de santé et assureurs.
«La question de savoir qui va conduire cela et qui va payer pour cela est une question importante», dit Kohane. «Tous ces plans d’entreprise ont quelque chose d’hallucinant, c’est qu’ils pensent savoir comment cela va se passer.»
Même si les services d'IA recommandent de réduire les coûts, les médecins et les organisations de soins de santé peuvent hésiter à prendre des conseils d'IA s'ils gagnent moins d'argent en conséquence, prévient Kohane. Cela met en évidence le problème systémique plus général de l'assurance maladie américaine, qui utilise un modèle de rémunération à l'acte qui récompense souvent les médecins et les hôpitaux pour l'ajout de tests et de procédures médicales, même lorsqu'ils ne sont pas nécessaires.
***
Une autre possibilité d'IA pourrait améliorer la qualité des soins tout en laissant la plupart des diagnostics médicaux entre les mains des médecins. Dans son livre Deep Medicine de 2019, Eric Topol, directeur et fondateur du Scripps Research Translational Institute, parle de créer essentiellement un Siri médical suralimenté - un assistant en intelligence artificielle chargé de prendre des notes sur les interactions entre les médecins et leurs patients. dossiers, et rappelez aux médecins de poser des questions sur les parties pertinentes des antécédents du patient.
«Mon aspiration est de décompresser le travail des médecins et de nous débarrasser de leur rôle de commis aux données, d'aider les patients à assumer davantage de responsabilités et de mettre les données en mémoire de sorte que l'examen ne prenne pas si longtemps», explique Topol.
«Cet assistant médical ou ce scribe qui n’oublie jamais rien», déclare Kohane, aurait besoin d’une IA capable de suivre et de transcrire automatiquement plusieurs voix entre médecins et patients. Il soutient l'idée de Topol, mais ajoute que la plupart des applications d'intelligence artificielle en développement ne semblent pas ciblées sur de tels assistants. Néanmoins, certaines sociétés telles que Saykara et DeepScribe ont développé des services dans ce sens, et même Google s'est associé à l'Université de Stanford pour tester une technologie similaire de «scribe numérique».
Un assistant de l'IA peut sembler moins passionnant qu'un médecin de l'IA, mais cela pourrait permettre aux médecins de passer plus de temps avec leurs patients et d'améliorer la qualité générale des soins. Les médecins de famille, en particulier, passent souvent plus de la moitié de leurs journées de travail à saisir des données dans les dossiers de santé électroniques - un facteur essentiel de l'épuisement physique et émotionnel, qui a des conséquences désastreuses, notamment le décès de patients.
Ironiquement, les dossiers de santé électroniques étaient supposés améliorer les soins médicaux et réduire les coûts en rendant les informations sur les patients plus accessibles. Aujourd'hui, Topol et de nombreux autres experts ont indiqué que les dossiers de santé électroniques constituaient un récit édifiant pour le battage médiatique autour de l'IA en médecine et dans les soins de santé.
La mise en place de dossiers médicaux électroniques a déjà créé un système hétéroclite répandu parmi des centaines de fournisseurs privés, qui réussit principalement à isoler les données des patients et les rend inaccessibles aux médecins et aux patients. Si l’on se base sur l’histoire, de nombreuses sociétés de technologies et organisations de soins de santé se sentiront tentées de suivre des chemins similaires en accumulant des données médicales pour leurs propres systèmes d’IA.
L’une des solutions consiste à utiliser un système d’intelligence collective qui regroupe et classe les compétences médicales de différentes sources, explique Komarneni, qui tente cette approche avec Human Dx. Soutenu par de grandes organisations médicales telles que l’American Medical Association, Human Dx a mis en place une plate-forme en ligne permettant à des milliers de médecins de bénéficier de conseils sur le crowdsourcing sur des cas médicaux spécifiques. Komarneni espère qu'une telle plate-forme pourrait, en théorie, inclure également un jour des conseils de diagnostic émanant de nombreux services d'IA.
«De la même manière que plusieurs professionnels humains pourraient examiner votre cas à l'avenir, il n'y a aucune raison pour laquelle plusieurs IA ne pourraient pas le faire», explique Komarneni.
Alors que les médecins attendent leurs assistants d'IA, des projets de «crowdsourcing» comme Human Dx «pourraient indéniablement améliorer les diagnostics ou même les recommandations de traitement», explique Topol, qui a co-rédigé une étude de 2018 sur une plateforme similaire appelée Medscape Consult. Le document concluait que l'intelligence humaine collective pourrait être une "stratégie concurrentielle ou complémentaire" à l'IA en médecine.
Mais si les services d'IA passaient tous les tests et vérifications du monde réel, ils pourraient devenir des partenaires importants pour les humains dans la refonte des soins de santé modernes.
«Il y a des choses que les machines ne feront jamais bien, puis d'autres où elles dépasseront ce que tout homme peut faire», dit Topol. "Alors, quand vous mettez les deux ensemble, c'est un paquet très puissant."
***
Jeremy Hsu est un journaliste indépendant basé à New York. Il écrit fréquemment sur la science et la technologie pour, entre autres, Backchannel, IEEE Spectrum, Popular Science et Scientific American.
Cet article a été publié à l'origine sur Undark. Lire l'article original.
