Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Juillet/Août 2019 - n°448 - 258

PROSPECTIVE

L'IA et la santé :
un enjeu de confiance
Un régime juridique clair en termes de dispositifs médicaux
et de responsabilité médicale et des lignes directrices en
matière d'éthique pour la construction d'un lien de confiance

otre société fait face à de
multiples défis relatifs à
la santé : la population
vieillit, la main d'œuvre
en bonne santé diminue, les maladies
chroniques ainsi que les comportements aux conséquences néfastes
sur la santé augmentent à un rythme
alarmant, tandis que les maladies
contagieuses résistent1 de plus en
plus aux antibiotiques. C'est pourquoi
l'intelligence artificielle (IA) semble être
parfaitement adaptée pour relever les
défis auxquels le domaine de la santé
est aujourd'hui confronté.

Les applications de l'IA au domaine de
la santé apparaissent prometteuses et
sont encouragées tant par les autorités
publiques que les acteurs privés. En effet,
cette technologie permet également
d'élaborer des stratégies visant à limiter
l'augmentation permanente des coûts
ainsi que les dépenses publiques dans
la santé et les soins sur le long terme2.
Ainsi, le Président de la République a
affirmé sa volonté de faire de la santé
un des secteurs prioritaires pour le
développement de l'IA en France après
la remise du rapport Donner un sens
à l'intelligence artificielle de Cédric
Villani.
Sans doute plus que dans n'importe
quel autre secteur, l'utilisation de l'IA
dans le domaine de la santé nécessite
un grand degré de confiance de la
part des patients. Or, selon une étude3
publiée le 14 juin 2019, trois patients
sur quatre refusent l'automatisation
complète de certains soins en France.
Ce lien de confiance peut être bâti sur
un régime juridique clair en termes de
dispositifs médicaux et de responsabilité médicale et des lignes directrices en
matière d'éthique.

258

Dispositifs médicaux
et responsabilité
médicale
Un régime juridique approprié à l'utilisation de l'IA dans le domaine de la
santé reposerait sur une clarification
du régime des dispositifs médicaux et
de celui de la responsabilité médicale
dans ce domaine.
Au regard des dispositifs médicaux,
la question se pose de savoir si les
logiciels d'IA utilisés dans un environnement médical doivent être considérés comme un dispositif médical. En
effet, ces derniers sont régulés au sein
de l'Union européenne et sont soumis
à une obligation de marquage et de
déclaration4. Les dispositifs médicaux
sont soumis à un contrôle plus strict
des autorités sanitaires.
En vertu de la réglementation
européenne
sur
les
dispositifs
médicaux, si l'unique but du logiciel
est de fournir des informations ou
s'il s'agit d'une base de données, il ne
constitue pas un dispositif médical.
Cependant, comme cela peut être le
cas pour certains algorithmes, si le
logiciel a pour but le diagnostic et/
ou le traitement d'une maladie, il est
probable qu'il soit soumis au régime
des dispositifs médicaux5.
Cette ambiguïté a été notée dans
un rapport publié par le Parlement
européen en janvier 2019. Le rapport
relève que le système administratif de
déclaration et, le cas échéant, d'autorisation de dispositifs médicaux, n'est
pas adapté aux technologies de l'intelligence artificielle.
La responsabilité médicale en raison
de dommages causés par les solutions
d'IA est un autre sujet de réflexion.
Qui serait responsable pour de tels
EXPERTISES Juillet-Août 2019

dommages : les utilisateurs professionnels (le médecin, le personnel médical),
le concepteur, le programmeur des
technologies ou les établissements de
santé ?
Pour répondre à ces questions, il
convient de s'interroger sur la place
que nous souhaitons donner à l'IA
dans le domaine médical.
S'agit-il de s'acheminer vers un docteur
IA, un robot qui se substituerait au
médecin ? Si tel devait être le cas, à
l'instar des discussions sur la responsabilité liée à l'utilisation de voitures
autonomes, nous pourrions envisager une personnalité juridique du
robot docteur. Le robot docteur serait
alors responsable de ses actes et tout
dommage occasionné de son fait
pourrait être indemnisé par un système
d'assurance. Mais cette orientation ne
nous semble pas souhaitable.

Une intelligence
artificielle
humano-centrée
Dans son livre blanc intitulé « Médecins
et patients dans le monde des data,
algorithmes
et
de
l'intelligence
artificielle », le Conseil national de
l'Ordre des médecins (CNOM) met en
exergue la complémentarité de l'IA
et du médecin. Le CNOM souligne la
nécessaire empathie médicale qui aide
à soigner.
Pour le docteur Brunet du centre
hospitalier universitaire de Montréal,
l'intelligence humaine demeurera
centrale puisque « la relation humaine
avec le patient est beaucoup plus
complexe que simplement une analyse
de données ». Selon le praticien,
l'intelligence artificielle « ne donne
que des probabilités qui ne sont pas

Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Juillet/Août 2019 - n°448

Table des matières de la publication Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Juillet/Août 2019 - n°448