Ne nous voilons pas la face devant un monde plus que jamais dirigé par l’argent et le désir de puissance. Le compte-rendu fort intéressant sur l’éventuelle tyrannie des algorithmes ((« Le Quotidien du Médecin » 9734 p. 5, « Faut-il craindre la tyrannie des algorithmes ? » ) provoque une multitude de réflexions.
La première : on brandit l’IA comme le diable. C’est vouloir oublier que les GAFAM veulent dès maintenant s’emparer du « raisonnement médical » et cela de façon globale et dans le monde entier Or ils s’attaquent actuellement à deux éléments fondamentaux, les logiciels de démarches diagnostiques et les immenses mémoires/cas auxquelles ils seront affrontés. Ils ne vont pas attendre l’IA pour fournir beaucoup plus vite qu’on ne se l’imagine une pertinence de probabilité diagnostique dont on voit déjà les performances remarquables dans les premiers hors-d’oeuvres que sont les lectures radio ou dermato. Ce sera leur première étape, mais quand ils vont y injecter l’IA ultérieurement (si l’on ose dire) il sera trop tard.
Deuxième constat : chez nous, tout le monde bricole, chacun dans son coin, des logiciels certes remarquables mais sont-ils inter-connectés et connectables avec l’ensemble de ceux de leurs collègues ? Sont-ils brevetés monde ? etc. À la page 6 du même QDM on trouve le logiciel Perdict-Prostate made in UK, affronté à 10 100 cancers non métastatiques, ce qui est déjà un énorme travail. Que fera-t-on quand les GAFAM proposeront vraisemblablement infiniment plus et de surcroît dans un ensemble de « Tout Multipathologie » totalement interconnecté où justement pourront s’épanouir les nouvelles capacités de l’IA ? Oui, pas tout de suite dit-on, c’est certain mais ceux qui disposeront des plus grosses et affinées DATA et d’un ensemble de logiciels tous interconnectés feront la loi.
Sur quoi peut donc raisonner cette diabolique IA, sinon sur l’acquisition préalable d’une masse pour comparaison, associée à des logiciels eux-mêmes interconnectés capables de converser avec elle ? Alors, IA, IA,…..mais non, pas IA ! C’est la préparation à l’IA qu’il faut entreprendre de façon plus qu’urgente. Notre aveuglement procrastinant est énorme. Il faut être conscient que la marée monte sous nos pieds comme dans la baie du Mont Saint- Michel et que dans fort peu d’années nous ferons les ébahis par cette vague mondiale, certes petite au début, mais qui nous submergera inexorablement.
Confiance ?
Troisième réflexion : tout l’édifice actuel repose et reposera sur le mot « confiance ». Or, quand on voit d’un côté avec quelle innocence, ignorance, intrépidité certains se livrent quotidiennement aux GAFAM et que de l’autre sont découvertes les immenses failles chiffrées en millions de données personnelles non sécurisées, on frémit ! Même si les jeunes générations en cours de totale connection et ubérisation sont habituées à cocher des écrans avec identifiants et mots de passe, il n’est pas du tout, du tout, certain qu’ils vont leur confier leurs secrets de santé.
On rejoint donc le problème DMP, absolument fondamental et basal dans un logiciel diagnostique et surveillé, comme une proie par un cobra, par la CNIL. On n’ose pas imaginer le scandale et l’écroulement de tout l’édifice si d’aventure un patient réalise qu’une fuite l’empêche de s’assurer, d’emprunter, d’être embauché… etc et que d’autres sont dans le même panier. Ce qui vaut pour le DMP vaut pour les GAFAM. Ces derniers vont être contraints d’acquérir une confiance en créant de nouvelles structures bardées de sécurités, objets de recherches énormes actuellement dans la Silicon Valley.
De toute façon, ils pensent Monde et contourneront ceux qui regardent leur nombril… Sans parler de la Chine habituée au secret, les USA investissent 20 Mrds$ par an et nous 1,5 Mrd€ sur… 5 ans.
La nécessité d'un plan européen
De tout cela, on peut tirer plusieurs conclusions. L’une est immédiate : sans plan Européen, nos bricolages dispersés ne feront pas le poids et notre dépendance deviendra effroyable parce que, par effet domino, elle s’étendra à toutes les industries et services dépendant de la Santé.
La seconde est que la « saisie des données » va se faire encore assez longtemps par les médecins, télémédecine ou pas. Mais les rationalités des logiciels seront fort probablement prises en charge par les assurances auxquelles la Sécurité sociale refile progressivement la patate chaude. Leur strict intérêt est de ne rembourser que le nécessaire. Finies les divagations que l’on voit encore ( cf. Cour des Comptes), d’autant qu’elles n’ont pas la possibilité de se mettre en faillite ! In Fine, ces logiciels vont contraindre les médecins en leur posant des tas de questions qu’ils auraient oubliées faute de temps ou… de connaissance.
L'examen clinique grignoté
Par ailleurs, l’examen clinique va se résumer peu à peu à l’intime puisque se développent maintenant des « papouilleuses/ausculteuses » automatisées auxquelles le Pr Axel Khan a fait allusion dans un article récent (« Le Quotidien » n° 9730 du 7 mars). Après les hôpitaux, ces outils gagneront les structures médicales plus modestes mais sans doute pas vite le fond du Tarn et Meuse ou de Haute-Marne et Lozère… L’examen clinique a encore de beaux jours devant lui mais il sera lentement grignoté. Tout va se jouer entre l’Humanisme présidant au contact et au suivi thérapeutique face à l’Emprise croissante des Géants Informatiques ou leur association aux assurances est dans la logique capitalistique. Ces derniers n’attendront sûrement pas l’absence d’objectifs nationaux centralisés de e-santé ou les tergiversations d’un Hub embryonnaire qui risque, comme d’habitude, d’être englouti dans notre usine nationale à Mastic Administratif…
L'urgence d'une réforme de la formation
Enfin, dernière conséquence, mais on en trouverait bien d’autres, revoir la formation médicale. La priorité doit être redonnée à la clinique et tout précisément dans les techniques d’interrogatoires selon les patients, la psychologie tant des malades que des médecins d’ailleurs ! Tout ce qui permet que le malade se sente compris, sécurisé et tout ce qui favorise la bisouthérapie, laquelle représente souvent la moitié du réconfort sinon de la guérison. Tout cela ne s’acquiert pas dans les QCM ni en six mois.
Autre priorité urgente, une formation informatique extrêmement poussée (y compris en DMP…) pour pouvoir ultérieurement faire face aux produits de la moulinette informatique et ses incohérences et bugs fort probables… On est perdu si on veut réformer en regardant ce qui se passe dans le rétroviseur alors que le monde entier évolue vers des pratiques informatisées, quasi en voie de fonctionnarisation salariée, même si existeront toujours des âmes vouées au sacerdoce.
Alors Algorithmus Diabolicus ? C’est absolument certain et déjà en cours, mais surtout DATA Diabolica (ou -cae pour les puristes) car là est l’autre cœur de la problématique où interviendra, mais plus tard, cette fameuse IA qu’on agite comme un épouvantail.
La médecine est chose trop importante pour que les puissances d’argent ne s’en occupent pas… mais aussi pour qu’Éthique et Humanisme ne cèdent jamais et ne jamais oublier que gouverner c’est prévoir…
Vous souhaitez vous aussi commenter l'actualité de votre profession dans le « Quotidien du Médecin » ? Adressez vos contributions à jean.paillard@lequotidiendumedecin.fr.
Transition de genre : la Cpam du Bas-Rhin devant la justice
Plus de 3 700 décès en France liés à la chaleur en 2024, un bilan moins lourd que les deux étés précédents
Affaire Le Scouarnec : l'Ordre des médecins accusé une fois de plus de corporatisme
Procès Le Scouarnec : la Ciivise appelle à mettre fin aux « silences » qui permettent les crimes