IA en santé : la mise en garde de Dominique Pon, entre promesse médicale et peur de la dérive

« L’IA en santé me fascine autant qu’elle me fait flipper » : la phrase, attribuée à Dominique Pon, résume le paradoxe d’une technologie qui promet d’accélérer les diagnostics, d’alléger la charge administrative et d’améliorer le suivi des patients, tout en soulevant des peurs très concrètes — erreurs médicales, biais, opacité des algorithmes, dépendance aux géants du numérique ou encore fuites de données sensibles.

Cette ambivalence n’est pas un effet de style. Elle traverse aujourd’hui l’ensemble du système de soins : hôpitaux confrontés à des tensions de personnel, industriels pressés d’industrialiser des modèles, start-up en quête d’accès aux données, et patients qui attendent des résultats sans accepter d’être « des cobayes numériques ». Dans ce contexte, l’avertissement de Dominique Pon agit comme un rappel : en santé, l’innovation n’a de valeur que si elle reste maîtrisée, traçable et au service du soin.

Pourquoi l’IA attire autant le monde médical

La médecine est un terrain naturellement favorable à l’IA : elle produit des masses de données (imagerie, biologie, comptes rendus, prescriptions) et repose sur des décisions où la probabilité, le tri d’informations et la détection de signaux faibles comptent. Les modèles récents savent déjà repérer des anomalies sur des examens d’imagerie, aider à prioriser des dossiers, ou proposer des synthèses de dossiers patients.

Dans les services, la promesse la plus immédiatement perceptible n’est pas seulement « l’IA qui diagnostique », mais « l’IA qui fait gagner du temps ». Automatiser le codage d’actes, rédiger un premier jet de compte rendu, extraire des éléments d’un dossier, réduire la charge de saisie : autant d’usages qui, s’ils sont fiables, peuvent redonner des minutes précieuses aux soignants. Dans un système où les délais s’allongent et où la fatigue professionnelle est devenue un sujet de santé publique, l’argument n’est pas théorique.

Mais cette attraction a un revers : plus l’IA s’insère dans les gestes quotidiens, plus une erreur ou un biais peut se diffuser vite et à grande échelle. D’où la nécessité d’un cadre exigeant, au-delà de l’effet de nouveauté.

Ce qui « fait flipper » : biais, opacité et erreurs à grande vitesse

La première crainte tient au risque de biais. Une IA entraînée sur des populations non représentatives peut moins bien fonctionner pour certains profils (âge, sexe, origine, comorbidités). En santé, cela ne signifie pas seulement une performance moyenne plus faible : cela peut se traduire par des retards de diagnostic ou des décisions moins pertinentes pour des groupes entiers de patients.

Autre point sensible : l’opacité. De nombreux modèles sont difficiles à expliquer, alors même que la médecine repose sur la justification des décisions et la traçabilité. Si un outil propose un score de risque, un triage ou une recommandation, qui peut dire « pourquoi » ? La question n’est pas philosophique : elle touche à la responsabilité médicale, au consentement du patient, et à la capacité de détecter des dérives.

Enfin, il y a l’effet d’échelle. Une erreur humaine reste souvent localisée. Une erreur algorithmique, elle, peut être reproduite des milliers de fois si elle s’intègre dans un flux numérique standardisé. C’est l’un des grands dangers des systèmes automatisés : la vitesse de diffusion dépasse la vitesse de correction.

Données de santé : la confiance se joue sur la sécurité et la gouvernance

L’IA en santé est indissociable des données. Or la donnée de santé est l’une des informations les plus sensibles qui soient : elle peut révéler une pathologie, une vulnérabilité, une situation familiale ou sociale, parfois même une trajectoire de vie. Le sujet ne se limite pas au respect de la vie privée ; il touche aussi à la non-discrimination (assurance, emploi) et au risque d’atteinte à la réputation.

Les établissements de santé sont par ailleurs des cibles privilégiées des cyberattaques. La multiplication des outils, des connexions et des prestataires élargit la surface d’attaque. Ajouter des briques d’IA, souvent connectées au cloud, peut renforcer la performance… ou introduire de nouveaux points faibles si la sécurité n’est pas traitée comme une exigence de base.

Dans ce paysage, la gouvernance des données devient un sujet politique au sens plein : qui accède à quoi ? à quelles conditions ? avec quelles garanties d’anonymisation, de chiffrement, de journalisation des accès ? et avec quel contrôle indépendant ? L’avertissement porté par Dominique Pon s’inscrit dans cette tension : accélérer, oui — mais sans perdre la maîtrise des infrastructures et des règles du jeu.

Patients et soignants : le consentement éclairé à l’ère des algorithmes

Dans une consultation, le consentement est un acte concret : on explique, on vérifie la compréhension, on répond aux questions, on respecte un refus. L’IA rend ce processus plus complexe lorsque l’outil intervient en arrière-plan : aide au diagnostic, scoring, suggestion thérapeutique, ou rédaction assistée du dossier. Le patient doit-il être informé systématiquement ? À quel niveau de détail ? Et comment s’assurer que l’information est réellement compréhensible ?

Du côté des soignants, un autre risque apparaît : la « délégation silencieuse ». Si l’outil devient fiable la plupart du temps, la tentation est forte de lui accorder une confiance excessive. Or, en médecine, l’exception compte autant que la règle : le cas atypique, l’interaction médicamenteuse rare, le symptôme qui ne colle pas au tableau. L’enjeu est donc d’outiller les équipes pour garder la main : formation, culture du doute, procédures de vérification, et droit de contredire l’algorithme sans pression.

Dans l’esprit de la mise en garde, l’IA doit rester un instrument d’aide, pas une autorité. Elle doit renforcer la décision clinique, pas la remplacer ni la rendre moins responsable.

Des règles se durcissent : l’IA en santé face aux exigences européennes

Le cadre réglementaire évolue rapidement en Europe, avec une volonté de classer certains usages de l’IA comme « à haut risque », ce qui implique des obligations renforcées : gestion des risques, qualité des données, documentation, traçabilité, surveillance post-déploiement. Pour la santé, où l’enjeu vital est direct, ces principes résonnent fortement.

En pratique, cela signifie qu’un outil d’IA crédible ne peut plus être un simple prototype séduisant. Il doit démontrer des performances cliniques, une robustesse, et une capacité à être audité. Il doit aussi être surveillé dans le temps : un modèle peut se dégrader si les pratiques changent, si la population évolue, ou si les données d’entrée ne ressemblent plus à celles de l’entraînement.

Le débat mis en lumière par Dominique Pon est aussi celui-ci : l’innovation doit accepter la discipline. En santé, la preuve et la sécurité ne sont pas des freins, mais des conditions d’acceptabilité.

Ce que les établissements devraient exiger avant de déployer une IA

Au-delà des annonces, un déploiement sérieux repose sur une check-list de bon sens — et souvent sur des points qui ne font pas rêver, mais évitent des drames.

• Une évaluation clinique : performances mesurées sur des données proches du terrain réel, avec des indicateurs clairs (sensibilité, spécificité, taux de faux positifs/faux négatifs), et une analyse par sous-groupes.
• Une transparence minimale : documentation, limites connues, conditions d’usage, procédure en cas de doute, et explicabilité suffisante pour la pratique.
• Une gouvernance des données : accès restreints, traçabilité, conservation maîtrisée, conformité RGPD, et contrats clairs avec les fournisseurs.
• Une cybersécurité intégrée : audits, segmentation des réseaux, gestion des identités, plan de continuité, et exercice de crise.
• Un pilotage humain : référent médical, référent numérique, comité de suivi, retours d’expérience et possibilité d’arrêt rapide si un signal faible apparaît.

Cette discipline est coûteuse, mais elle coûte moins cher qu’une crise de confiance. Une fois la défiance installée, elle se propage vite, y compris vers des innovations utiles.

La promesse la plus crédible : une IA qui réhumanise le soin

Le cœur du débat n’est pas de savoir si l’IA « remplacera » les médecins. La question est plutôt : l’IA peut-elle rendre du temps clinique, améliorer la coordination, prévenir des complications, et réduire les pertes d’information entre ville et hôpital ? C’est sur ces terrains que l’acceptabilité est la plus forte, car le bénéfice est tangible et immédiat pour le patient.

La mise en garde de Dominique Pon rappelle que la fascination technologique ne suffit pas. En santé, l’innovation se juge à ses effets réels : moins d’errance, des diagnostics plus précoces, des parcours plus fluides, une sécurité renforcée, et un respect strict de l’intimité médicale. Si l’IA réussit ce contrat, elle cessera d’« inquiéter » par principe. Mais si elle avance sans garde-fous, elle risque de fragiliser la confiance — la ressource la plus rare et la plus indispensable du système de soins.