Intelligence artificielle en santé : l’équation délicate de la responsabilité

Derrière les promesses de l’intelligence artificielle médicale se pose désormais une question centrale : celle de la chaine des responsabilités. Maîtrise du dispositif, information du patient, traçabilité… L’évolution du droit français, du cadre européen de l’IA et les premiers contentieux internationaux, redéfinissent progressivement les exigences pesant sur les professionnels de santé et les différents acteurs concernés. Le point avec Me Aurélie Vucher-Bondet, avocate associée chez Cornet Vinçent Ségurel.

L’intelligence artificielle s’invite désormais dans le quotidien des soignants : pré-lectures algorithmiques en imagerie, aides à l’interprétation des clichés rétroalvéolaires ou Cone beam pour le chirurgien-dentiste, moteurs de détection d’interactions médicamenteuses en officine, analyse automatisée du rythme cardiaque fœtal pour la sage-femme... Cette diffusion interroge directement le régime de responsabilité des professionnels de santé.

Une obligation de moyens augmentée : la garantie humaine au cœur du dispositif

Le régime français de la responsabilité médicale repose sur la responsabilité pour faute. Les professionnels ne sont responsables des conséquences dommageables d’actes de prévention, de diagnostic ou de soins qu’en cas de faut (Article L.1142-1 du Code de la santé publique), hors le cas d’un défaut d’un produit de santé. L’introduction d’un dispositif d’IA dans l’acte de soin ne change pas la nature de cette responsabilité ; elle en redéfinit le standard d’appréciation.

Aux obligations déontologiques classiques, indépendance professionnelle (Article R.4127-5 du Code de la santé publique) , soins consciencieux conformes aux données acquises de la science (Article R.4127-32 du Code de la santé publique), information loyale et appropriée (Article L.1111-2 du Code de la santé publique), s’ajoute l’article L. 4001-3 du Code de la santé publique. Lorsque l’acte mobilise un dispositif médical embarquant un algorithme entraîné sur de grandes bases de données, le patient doit être informé de cet usage et, le cas échéant, de l’interprétation qui en résulte ; les autres professionnels concernés doivent l’être également et avoir accès aux données du patient comme aux résultats produits ; les concepteurs sont tenus d’assurer l’explicabilité du fonctionnement à l’égard des utilisateurs. Les modalités d’application relèvent d’un arrêté du ministre chargé de la santé, après avis de la Haute Autorité de santé et de la CNIL (Article L.4001-3, IV du Code de la santé publique).

Sans nommer expressément le mécanisme, ce texte fournit l’assise légale de ce que la doctrine désigne sous le nom de « garantie humaine » Il s’agit d’une construction doctrinale et non d’un principe explicitement nommé par le législateur ; sa méconnaissance pourrait toutefois fonder tant une action en responsabilité qu’une procédure disciplinaire.

Diagnostic algorithmique : faute technique, biais et perte de chance

Le contentieux médical conserve sa physionomie : la victime doit prouver un manquement, un dommage et un lien de causalité. L’erreur de diagnostic n’est pas en elle-même fautive ; seul le manquement aux données acquises de la science engage la responsabilité du praticien.

Trois difficultés inédites apparaissent lorsque ce critère doit s’appliquer à un raisonnement clinique alimenté par l’IA.

Premier écueil, la qualité des données d’entraînement

Un modèle calibré sur une cohorte peu diverse peut produire des faux négatifs sur certains profils. La part de responsabilité revient prioritairement au concepteur ; le clinicien reste néanmoins tenu de connaître les limites publiquement documentées de l’outil. Cela vaut pour le pharmacien qui s’appuie sur un module de détection d’interactions médicamenteuses aux bases incomplètes, comme pour le chirurgien-dentiste utilisant une aide à la lecture de clichés Cone beam validée sur une population différente de sa patientèle.

Deuxième écueil, l’opacité

Les modèles d’apprentissage profond produisent des recommandations dont le raisonnement n’est pas pleinement reconstructible. Comment recueillir un consentement éclairé ou défendre une décision devant un juge si le cheminement de la machine reste obscur ? L’exigence d’une explicabilité minimale figure dans l’AI Act et fait l’objet de standards techniques en cours d’élaboration ; elle deviendra progressivement un critère du standard de soins.

Troisième écueil, l’« automation bias »

C’est-à-dire la propension à valider la suggestion algorithmique sans la confronter aux données cliniques. La Cour de cassation sanctionne déjà le praticien qui s’abstient des examens complémentaires utiles ou qui maintient un diagnostic devant des signes discordants (Cour de cassation, 1re chambre civile, 14 octobre 2010, n° 09-68.471). La même logique pourra demain être mobilisée contre celui qui adopte mécaniquement la sortie d’un algorithme. Le préjudice indemnisable prendra le plus souvent la forme d’une perte de chance, chef de préjudice constant en matière médicale.

Le cadre français : la traçabilité, nouveau pivot probatoire

La traçabilité des décisions algorithmiques devient un point cardinal. L’AI Act impose, pour les systèmes à haut risque, la tenue automatique de journaux et leur conservation. Sur le plan interne, un arrêt récent illustre les enjeux probatoires liés à la traçabilité d’une intervention assistée (Cour de cassation, 1re chambre civile, 6 décembre 2023, n° 22-12.176).

Un patient était décédé des suites d’une ablation cardiaque par radiofréquence. La cour d’appel d’Aix-en-Provence avait condamné partiellement l’établissement : l’absence d’enregistrement des données électroniques de l’intervention constituait, selon elle, une faute d’organisation, à l’origine d’une perte de chance pour la famille d’établir un manquement aux règles de l’art. La Cour de cassation casse cet arrêt, non sur le fond mais pour défaut de motivation : les juges d’appel n’avaient pas répondu à l’argument selon lequel le matériel utilisé en 2013 ne permettait pas techniquement d’enregistrer les paramètres litigieux. L’enseignement est double : l’absence de traçabilité peut caractériser une faute d’organisation, mais ce reproche n’est légitime qu’au regard des capacités techniques disponibles à la date des faits.

Cet arrêt s’inscrit dans une lignée qui transpose aux établissements de santé le régime de la perte du dossier médical : l’impossibilité, pour le patient, d’établir la faute du fait de l’établissement peut justifier un renversement de la charge de la preuve (Cour de cassation, 1re chambre civile, 26 septembre 2018, n° 17-20.143). L’analogie avec les journaux d’IA paraît logique mais reste prospective. À mesure que la journalisation devient un standard technique, il sera de plus en plus difficile d’en justifier l’absence par une contrainte matérielle.

Praticiens et établissements ont donc tout intérêt à ancrer dès à présent dans leur pratique :

• la conservation des journaux des dispositifs d’IA, avec horodatage des entrées, paramètres actifs, version du modèle et sorties produites ;
• la mention dans le dossier patient du recours à un système d’IA et de sa fonction (aide au diagnostic, détection d’interactions, calcul de risque, triage) ;
• la consignation, à chaque écart entre la recommandation algorithmique et la décision retenue, d’un motif clinique explicite ;
• la négociation avec le fournisseur de la mise à disposition des journaux pertinents en cas de contentieux ; 
• l’information de l’assureur de responsabilité civile professionnelle sur les outils déployés.

Le cadre européen : AI Act et nouvelle directive produits défectueux

Le règlement (UE) 2024/1689 du 13 juin 2024 établissant des règles harmonisées concernant l’intelligence artificielle, dit AI Act, d’application échelonnée jusqu’en 2027, classe la quasi-totalité des dispositifs médicaux intégrant de l’IA dans les systèmes à haut risque. Il en résulte un faisceau d’obligations pesant sur les fournisseurs : gouvernance des données, documentation technique, transparence, cybersécurité ou encore contrôle humain effectif. Ce dernier fait directement écho à la garantie humaine française.

La directive (UE) 2024/2853 du 23 octobre 2024  du Parlement européen et du Conseil du 23 octobre 2024, à transposer avant le 9 décembre 2026, modernise le régime de responsabilité du fait des produits défectueux. Elle intègre expressément les logiciels et les systèmes d’IA dans la définition du produit et prend en compte, dans l’appréciation du défaut, la capacité d’apprentissage continu après mise sur le marché. Elle élargit le cercle des opérateurs susceptibles d’être recherchés : à côté du fabricant déjà visé en 1985, peuvent l’être le représentant autorisé d’un fabricant hors Union, l’importateur, le prestataire de services d’exécution de commandes ( i.e. une personne intervenue dans la chaîne de distribution du produit pour fournir des services connexes), le distributeur (à défaut d’autre opérateur identifiable) et, dans certaines hypothèses, le fournisseur de plateforme en ligne.

Cohabitent donc deux régimes : la responsabilité pour faute du praticien et la responsabilité objective du producteur (Articles 1245 et suivants du Code civil), susceptibles de s’articuler ou de se cumuler. La jurisprudence française qualifie déjà certains logiciels d’aide au diagnostic de produits de santé soumis à ce régime (Cour de cassation, 1re chambre civile, 26 février 2020, n° 18-26.256 ; Cour de cassation, 1re chambre civile, 24 avril 2024, n° 23-12.565).

L’état réel du contentieux : un risque anticipé plutôt que constitué

Aucune décision française n’a, à ce jour, sanctionné un professionnel de santé à raison de l’usage, du mésusage ou du non-usage d’un système d’IA. L’arrêt précité du 6 décembre 2023 concerne un robot de radiofréquence et non un dispositif d’IA au sens technique. Sur le plan européen, aucune décision consacrée à la responsabilité civile d’un dispositif médical intégrant de l’IA n’a été identifiée à ce stade.

Aux États-Unis, le contentieux le plus avancé vise un assureur, non un soignant. Il retient l’attention parce qu’il illustre la pression à laquelle peut être soumis le jugement clinique. Dans l’affaire Estate of Gene B. Lokken v. UnitedHealth Group, (U.S. District Court for the District of Minnesota, n° 0:23-cv-03514, ordonnance du 13 février 2025), il est reproché à l’assureur d’avoir utilisé l’algorithme nH Predict pour fixer la durée des soins de suite de bénéficiaires de Medicare Advantage, avec un taux d’erreur très élevé selon les plaignants. Le 13 février 2025, le juge fédéral n’a pas condamné l’assureur : il a simplement rejeté en partie la demande d’irrecevabilité, autorisant l’action à se poursuivre sur les chefs de rupture de contrat et de manquement à l’obligation de bonne foi. La décision sur le fond reste à venir.

Pour le soignant européen, l’affaire éclaire deux points : la qualité d’utilisateur final ne protège pas lorsque l’on continue d’utiliser un outil dont les défaillances étaient connues ; la pression organisationnelle à suivre l’algorithme, lorsqu’elle est documentée, peut peser contre l’employeur comme contre l’utilisateur. Trois grilles d’imputation se dessinent : responsabilité du concepteur sur le terrain du produit défectueux, responsabilité de l’établissement pour défaut d’organisation, responsabilité du praticien pour défaut de supervision

Ne pas utiliser l’IA : demain, un manquement aux données acquises de la science ?

Une question gagne les colloques de droit médical : le praticien qui s’abstiendrait de recourir à un dispositif d’IA validé et largement accessible commettrait-il une faute ? Le raisonnement est plausible. Depuis l’arrêt Mercier (Cour de cassation, chambre civile, arrêt Mercier, 20 mai 1936), le praticien est tenu d’une obligation de moyens appréciée au regard des données acquises de la science. Une technique validée par les autorités compétentes entre par construction dans le champ de ces données, dont l’ignorance peut engager la responsabilité du praticien.

Cette évolution relève toutefois de la prospective : aucun arrêt français n’a consacré une obligation positive de recourir à un système d’IA déterminé. Le miroir est tout aussi exigeant. Suivre mécaniquement une recommandation algorithmique, sans esprit critique, expose le praticien à une sanction de même nature que celle qui frapperait son refus injustifié d’un outil pertinent. Entre ces deux extrêmes, le praticien doit construire une littératie algorithmique, soutenue par une supervision collégiale et une documentation rigoureuse. 

Conclusion

La déontologie médicale n’est ni dépassée ni neutralisée par l’IA : elle est déplacée vers de nouveaux objets, explicabilité, journalisation, gouvernance des données. Le cadre français, complété par l’AI Act et la nouvelle directive « produits défectueux », dessine un environnement structurant pour les praticiens, leurs structures d’exercice et leurs assureurs. Le contentieux est, à ce jour, en gestation. La meilleure protection demeure la plus ancienne : la prudence du praticien, sa formation continue et la qualité de sa documentation.