Expertises des Systèmes d'information - Novembre 2021 - N°473 - Le mensuel du droit de l'informatique et du multimédia - 399

En effet, il y a lieu de s'inquiéter
d'une éventuelle prépondérance de la
machine dans le processus diagnostic
et thérapeutique. Les capacités d'analyse
de ces algorithmes étant sans
comparaison possible avec l'expérience
humaine, il est légitime que les
professionnels de santé se reposent
davantage sur ces technologies. Il est,
en conséquence, parfaitement normal
que les patients puissent interroger
leur médecin sur ces mécanismes de
construction des stratégies diagnostiques
et thérapeutiques.
Aussi, cet article a été intégré au
dispositif de la loi bioéthique de 2021
pour assurer ce qui a été évoqué dans
les travaux parlementaires comme
une « garantie humaine », chaque
patient devant pouvoir savoir que son
traitement a été conçu à l'aide d'un tel
logiciel.
L'IMPACT LIMITÉ
DE CETTE NOUVELLE MESURE
Si les textes actuellement en vigueur
étaient appliqués convenablement, il
ne serait pas nécessaire, du strict point
de vue du droit des malades, d'adopter
des dispositions spécifiques à l'information
des patients en présence de
logiciels comprenant des algorithmes
d'apprentissage. En effet, les textes
fondamentaux du droit des malades
tirés de la loi Kouchner et notamment
l'article L. 1111-2 du code de la santé
publique consacrent le droit à toute
personne d'être informée de son
état de santé. Cette information doit
naturellement être dispensée par le
professionnel et doit non seulement
porter sur les traitements en œuvre et
envisagés, sur les alternatives possibles
mais également sur les investigations
visant à l'obtention du diagnostic.
Aussi, d'un point de vue juridique pur,
l'article L. 4001-3 du code de la santé
publique apparaît redondant au regard
du droit positif.
Par ailleurs, la question de cette garantie
humaine est également présente
dans la réglementation protégeant les
données à caractère personnel : Le
Règlement général pour la protection
des données (RGPD) et
Informatique et libertés (LIL).
la loi
En effet, aux termes de son introduction,
le paragraphe 71 du RGPD prévoit
que : « la personne concernée (NDLA :
en l'espèce le patient) devrait avoir
le droit de ne pas faire l'objet d'une
décision, qui peut comprendre une
mesure, impliquant l'évaluation de
certains aspects personnels la concernant,
qui est prise sur le seul fondement
d'un traitement automatisé et qui (...)
l'affecte de manière significative, (...) ».
Or en l'espèce, le développement
de ces technologies conduit bien
à une forme de prise de décision
automatisée concernant la santé du
patient,cette décision étant naturellement
susceptible de l'affecter de
manière significative.
Ce même paragraphe du RGPD
précise que ce type de pratique ne
devrait être permis que dans certaines
situations et notamment
lorsque la
personne a donné son consentement.
Ce texte précise qu'en tout état de
cause, la personne concernée doit
avoir été dument informée des conditions
dans lesquelles ce traitement de
données intervient. Elle doit, en outre,
pouvoir obtenir une intervention
humaine. C'est donc notamment au
regard de ce principe de la protection
de la personne concernée contre
les décisions automatisées prises à
son encontre (ou dans son intérêt),
qu'on comprend pourquoi il convient
de mettre en œuvre un processus
spécifique d'information visant
à garantir que toutes les parties
prenantes (fabricant, professionnel de
santé et patients) participent à un bon
échange des informations.
DE LA NÉCESSAIRE GARANTIE
HUMAINE EN MÉDECINE
La plupart des systèmes d'intelligence
artificielle sont élaborés soit pour aider
l'utilisateur à faire des choix, soit pour
prendre des décisions à sa place.
L'article L. 4001-3 du code de la santé
publique n'envisage que les dispositifs
d'intelligence artificielle élaborés pour
aider l'utilisateur à faire des choix.
La mesure est fondée sur l'idée qu'une
décision médicale ne peut
résulter
que de la seule mise en œuvre d'un
traitement automatisé : les dispositifs
d'intelligence artificielle restent
EXPERTISES NOVEMBRE 2021
Simon Associés
aujourd'hui un appui à une décision
humaine sans s'y substituer
totalement.
Cette solution est en accord avec la
pratique actuelle puisqu'aujourd'hui
aucun dispositif d'intelligence artificielle
n'est conçu pour se substituer
entièrement au médecin.
Ainsi, ce dernier garde son libre arbitre.
Il doit, si la solution de la machine lui
paraît inappropriée, imposer son jugement
médical humain au jugement
médical informatique. Il ne pourra
donc se retrancher derrière l'utilisation
de l'intelligence artificielle pour se
décharger de toute responsabilité.
Etant précisé que la présence d'une
intelligence artificielle n'impacte pas
l'application des règles de responsabilité
en cas de défaut du matériel
médical notamment au regard de
la responsabilité du producteur de
l'intelligence artificielle qui pourra
toujours être recherchée, que le défaut
soit à l'origine d'une faute de médecin
ou pas. Ce texte est donc une affirmation
juridique de la primauté de la
médecine et du caractère accessoire
de l'assistance procurée par un dispositif
médical, si intelligent soit-il.
Enfin, la nature des dispositifs médicaux
comportant un traitement de
données algorithmique dont l'apprentissage
a été réalisé à partir de données
massives et leurs modalités d›utilisation
doivent être précisées par un
arrêté du ministre chargé de la Santé
qui sera établi après un avis de la Haute
autorité de santé et de la Commission
nationale de l'informatique et des
libertés. Affaire à suivre donc !
Michèle ANAHORY
Avocat associée
Maël BERTHO
Avocat
Manon VANSUYPEENE
Juriste, Département Santé et
Sciences de la Vie du cabinet
399
Expertises des Systèmes d'information - Novembre 2021 - N°473 - Le mensuel du droit de l'informatique et du multimédia

Table des matières de la publication Expertises des Systèmes d'information - Novembre 2021 - N°473 - Le mensuel du droit de l'informatique et du multimédia
