Les Intégrales - Droit de l'intelligence artificielle - 2e - 405

Cha p i t r e 12 - I n t e l l i genc e ar t i f i ci e l l e et d r oi t de l a s a n t é
d'intelligence artificielle101
. Les actes de prévention, de diagnostic ou de soins effectués
àl'aide d'un dispositif d'intelligence artificielle peuvent aisément nourrir trois types de
faute liés au diagnostic, à l'information et à l'utilisation de la machine ou du logiciel.
S'agissant du premier, l'autonomie décisionnelle peut sans doute préserver le médecin
de la faute consistant à ne pas avoir obéi au logiciel ou au robot, mais elle n'évince pas
pour autant toute idée de faute. Le juge pourrait ainsi en matière de diagnostic être
amené à déclarer fautif le manque d'esprit critique face aux préconisations de la
machine ou le non-recours à l'intelligence artificielle pour développer un esprit critique
face à une pathologie complexe102
.L'obligation d'information sera également source de
nombreuses fautes qu'il sera possible d'imputer au médecin ainsi qu'il a été indiqué
précédemment. On songe principalement à l'hypothèse où le médecin manque à son obligation
d'information sur l'opportunité, les risques du recours à l'intelligence artificielle et
sur son efficacité. Enfin, plus en aval de l'intervention médicale, il sera fortement permis
de déceler des fautes médicales lors de l'utilisation du système d'intelligence artificielle.
Il pourrait en être ainsi de l'utilisation d'un dispositif médical intelligent non certifié, de
la non prise en compte soit de la santé du patient lors du recours à l'intelligence artificielle
(longueur de l'intervention chirurgicale sous robot au regard de la santé fragile du
malade), soit du fonctionnement du robot au regard des nécessités médicales (asepsie de
la machine par exemple), de l'utilisation incorrecte d'une machine à la suite d'une
mauvaise formation du médecin (par exemple sous-utilisation du simulateur pour le
robot médical), etc. Dans l'hypothèse d'une reconnaissance de sa responsabilité pour
faute, le médecin pourrait intenter un recours subrogatoire contre le concepteur ou le
programmeur du système d'intelligence artificielle notamment sur le fondement des
produits défectueux.
650 Intelligence artificielle et produit de santé défectueux. - La responsabilité du fait des
produits défectueux introduite dans notre droit depuis plus de vingt ans peut, en outre,
recevoir application en cas de recours à l'intelligence artificielle en matière de santé
moyennant quelques consolidations. En premier lieu, nul doute que les systèmes d'intelligence
artificielle, y compris les logiciels, constituent des dispositifs médicaux entrant
dans le champ d'application de la loi sur les produits défectueux103
robots chirurgicaux ou de soins à la personne, voire de prothèses bioniques ou prochainement
connectées104
santé. La complexité des systèmes utilisés par l'intelligence artificielle peut être telle
qu'il ne sera pas aisé d'apporter la preuve de la défectuosité. À cela s'ajoute la possibilité
à terme de recourir en matière de santé à l'intelligence artificielle forte. Or, ainsi qu'il a
été fort bien observé, « en présence d'un système autonome qui continue son autoapprentissage
après sa mise en service, il sera particulièrement complexe d'établir que
le dommage résultant de son intervention est dû à un défaut de conception ou de
programmation antérieur à sa mise en service »105
. Ces limites sont réelles, et l'on ne
saurait les occulter. Mais elles peuvent être dépassées à la faveur d'un aménagement
des règles générales de la responsabilité des produits défectueux en cas de recours à
l'intelligence artificielle. On peut songer ainsi à la technique de la présomption de défectuosité
du produit en fonction de certains paramètres de l'intelligence artificielle utilisée
tels que sa dangerosité106
,qu'il s'agisse de
. Plus délicate est la condition relative à la défectuosité du produit de
. Il en est de même de l'exonération pour risque de
(101) Le rapport d'information J.-L. TOURAINE sur la révision de la loi relative à la bioéthique proposait à cet égard de maintenir
le principe d'une responsabilité du médecin qui, en l'absence de défaut établi de l'algorithme, ne peut être
engagée qu'en cas de faute de sa part et de préciser dans la loi qu'une faute ne peut être établie du seul fait que
le praticien n'aurait pas suivi les recommandations d'un algorithme, quand bien même celles-ci se révèleraient
exactes, propositions nº 41 et 42.
(102) En ce sens, C. LEQUILLERIER,« L'impact de l'intelligence artificielle sur la relation de soin », JDSAM2020, nº 25,
p. 87.
(103) V. not. CSP, art. L. 5211-1 et R. 5211-1.
(104) G. LOISEAU, « Intelligence artificielle et santé. Responsabilité », préc., p. 22 ; V. LASSERRE, « Quels risques et quelles
responsabilités juridiques liés à l'artificialisation du corps ? », préc., p. 143.
(105) G. LOISEAU, « Intelligence artificielle et santé. Responsabilité », préc., p. 22.
(106) F. ARHAB-GIRARDIN,M. DUGUÉ, « Intelligence artificielle et santé », Rapport français, GRERCA, oct. 2021.
405
Les Intégrales - Droit de l'intelligence artificielle - 2e

Table des matières de la publication Les Intégrales - Droit de l'intelligence artificielle - 2e
