Droit et Société - Volume 60 - Humain Non-Humain - 14

HUMAIN NON-HUMAIN

névrose obsessionnelle cristallisant un fonctionnement machinique spécifiquement humain.
C'est ensuite notre relation affective aux machines qui est questionnée par
Laurence Devillers, spécialiste de robotique « émotionnelle ». L'auteur entreprend une démystification des émotions en leur attribuant d'abord des fonctions
corporelles de communication. Un robot social pourrait-il finir par simuler des
émotions ? Un agent conversationnel pourrait-il développer une vie « intérieure » qui lui permettrait de mieux dialoguer ? Acquerrait-il une individualité
qui lui serait propre ? Pour cela, elle évoque les mythes véhiculés par une filmographie récente et les visées d'une nouvelle robotique du care qui relie l'empathie avec l'humain. On s'étonne alors que l'étrangeté des êtres machiniques
puisse susciter de nouvelles réactions - comme la peur - chez les sujets humains
au lieu de l'empathie attendue. L'éthique, plus que le droit, devra tenir compte
de cette nécessaire coévolution humain-machine car ces entités « vivront » parmi
nous, dans notre vie quotidienne, et c'est notre intimité qui pourra changer de
nature. Les premières préconisations des comités d'éthique comme la CERNA 14
insistent sur les différences culturelles dont les IA devront tenir compte.
La loi, face à ces entités opaques, a rapidement brandi un contre-feu : il n'y
aura de machines que transparentes. Mais les derniers textes européens ne savent
pas encore caractériser cette transparence comme si le législateur rêvait d'une
machine qui enfin interpréterait le sens clair du texte comme aucun juriste n'aurait pu l'imaginer auparavant. Alexeï Grinbaum s'oppose d'emblée à cette transparence, non parce qu'elle est impossible à réaliser mais parce qu'elle n'est pas
souhaitable quand il s'agit de laisser la machine résoudre un conflit entre des
normes morales. Pour lui le problème est ailleurs : la machine n'est pas un agent
moral, l'homme ne peut lui confier cette responsabilité. Il faut donc l'autoriser à
ne choisir que « par hasard ». Pour expliquer ce choix, le philosophe va chercher,
comme Laurence Devillers - dans les mythes, et celui-là est puisé dans le Talmud
et l'histoire d'Achan. Au-delà du bien et du mal, il n'y a que la procédure qui
peut contourner la recherche d'une vérité impossible : celle du tirage au sort est
finalement la plus neutre face à un dilemme. Cette position peut paraître particulièrement injuste si elle est implémentée dans une machine à juger ou une voiture
autonome : pourtant le hasard est déjà dans les méandres du droit procédural. Ne
serait-ce que par le tirage au sort de ceux qui vont être amenés à juger, dans un
jury de cour d'assises.
L'être humain peut anticiper les conséquences de ses actes. Sans doute l'animal aussi. C'est en tout cas ce qui a conduit un tribunal à condamner à la pendaison une éléphante qui avait tué par maladresse son soigneur. Mais qu'en est-il
lorsque le lien entre la cause et l'effet n'est pas clair et qu'il existe une véritable
« complexité causale » ? Dans ce cas, l'homme se dit responsable mais pas coupable. Et s'il devenait possible de modéliser cette complexité et que l'on apprenait à la machine à anticiper, pourrait-elle accéder à une véritable responsabilité
14. Éthique de la recherche en apprentissage machine - HAL-Inria.
.

DROIT ET SOCIÉTÉ, VOL. 60, 2020

https://hal.inria.fr/hal-01643281/document

Droit et Société - Volume 60 - Humain Non-Humain

Table des matières de la publication Droit et Société - Volume 60 - Humain Non-Humain