Pourquoi un médecin ferait-il confiance à un système d’IA ?

Les applications de l’IA se multiplient en médecine. Quelles conditions faut-il réunir pour qu’un médecin puisse faire confiance à un système d’IA ?

Erik Derycke - 26 octobre 2026

« Je développe des algorithmes d’IA médicale depuis plus de dix ans. Mais je ne sais toujours pas quelle est la meilleure manière de permettre aux médecins de faire confiance à un système d’IA », explique Jennifer Dhont, responsable de la recherche en science des données et en intelligence artificielle à l’Hôpital universitaire de Bruxelles (H.U.B.) et chercheuse à l’ULB.

Jennifer Dhont intervenait lors du symposium commun consacré à l’IA en médecine, organisé conjointement par la l’Académie royale de médecine de Belgique et la Koninklijke Academie voor Geneeskunde.

Si la confiance constitue un enjeu, c’est en raison du fonctionnement de l’IA moderne. Les algorithmes ne sont pas explicitement programmés par un humain : ils apprennent à reconnaître des régularités dans d’immenses quantités de données.

Il est souvent difficile de déterminer précisément sur quelles régularités ils s’appuient pour passer des données d’entrée à une prédiction. « Quelque chose entre, quelque chose de magique se produit et quelque chose ressort. Mais nous ne savons pas exactement comment interpréter ce qui s’est passé entre les deux », explique Mme Dhont.

Ouvrir la boîte noire ?

Dhont distingue deux approches possibles. La première consiste à opter pour une « IA explicable » : des modèles plus petits et plus simples, dont le fonctionnement est plus facile à comprendre. Mais cela limite la complexité des tâches qu’ils peuvent accomplir. La seconde est celle de l’« IA explicable » (explainable AI) : des techniques et des méthodes qui tentent d’éclairer, a posteriori, le fonctionnement de modèles complexes.

Plusieurs arguments plaident en faveur d’une clarification du fonctionnement des modèles d’IA, autrement dit pour ouvrir la « boîte noire ». Dhont affirme toutefois qu’aucun de ces arguments ne la convainc.

Il y a tout d’abord les exigences légales : le règlement européen sur l’intelligence artificielle prévoit un droit à une explication claire et pertinente du rôle de l’IA dans certaines décisions à haut risque. « La médecine est un environnement à risque. On pourrait donc considérer qu’un clinicien doit lui-même comprendre comment un modèle aboutit à une prédiction donnée », précise Dhont.

Comprendre le fonctionnement des modèles pourrait également apporter de nouvelles connaissances médicales. Ce serait le cas, par exemple, si un modèle entraîné pour la radiologie ou l’histopathologie découvrait des caractéristiques prédictives que les humains n’avaient pas encore repérées.

Enfin, certains avancent qu’une meilleure compréhension du fonctionnement des modèles d’IA réduit le risque de biais et d’inégalités.

Comment expliquer l’inexplicable ?

« Si une méthode explique le fonctionnement d’un modèle d’IA, cette explication doit évidemment être correcte. Et, selon moi, nous sommes déjà confrontés à un énorme problème », souligne Dhont. « Nous élaborons en effet une explication pour un modèle que nous ne comprenons pas entièrement. Comment vérifier, dès lors, que cette explication reflète le véritable raisonnement du modèle ? »

Elle cite l’exemple du développement de modèles d’IA destinés à détecter la Covid-19 sur des radiographies thoraciques. Plusieurs équipes de recherche avaient présenté des modèles censés reconnaître l’infection.

« Elles utilisaient des techniques d’explication séduisantes, avec de jolies cartes et des couleurs : regardez, notre algorithme examine bien les poumons, il doit donc fonctionner. Mais, finalement, ce n’était pas du tout le cas », raconte Dhont. Les développeurs avaient combiné des images de patients atteints de la Covid provenant d’un hôpital avec celles de personnes en bonne santé issues d’un autre établissement. Le modèle pouvait ainsi poser un diagnostic apparemment correct en reconnaissant simplement l’hôpital d’origine de la radiographie.

Cet exemple illustre ce qu’elle appelle le « paradoxe de la confiance » : une explication peut renforcer la confiance dans un système, même lorsqu’elle ne démontre pas que la prédiction repose sur les bons éléments.

L’IA comme aide à la prescription

Dhont cite également une étude sur l’aide apportée par l’IA dans le choix des antidépresseurs. Un conseil correct, sans explication, améliorait légèrement la justesse des choix finaux du médecin. À l’inverse, un conseil erroné la réduisait nettement, car le médecin avait tendance à suivre l’avis de l’IA.

Ajouter une explication sur la manière dont le modèle avait formulé son conseil n’apportait aucune amélioration lorsque la recommandation était correcte. Lorsqu’elle était erronée, l’ajout d’une explication dégradait encore davantage la décision finale du médecin.

Selon Dhont, cette étude suggère qu’il serait peut-être préférable de laisser l’IA dans sa « boîte noire », car nous resterions alors plus vigilants et plus critiques. Une explication peut, au contraire, susciter une confiance excessive : l’utilisateur pense comprendre le fonctionnement du modèle et remet moins son résultat en question.

La validation clinique comme pierre de touche

Dhont conclut par une question ouverte : un modèle d’IA dont la valeur ajoutée clinique est suffisamment démontrée doit-il nécessairement être interprétable ?

« Si nous pouvons démontrer, sur différentes populations et différents ensembles de données, que les modèles fonctionnent et améliorent les performances – avec, bien sûr, une validation rigoureuse et des critères d’évaluation cliniques pertinents –, est-il vraiment nécessaire de comprendre ce qui se passe dans la boîte noire ? »