Hors collection - Lex Robotica - Le droit à l'épreuve de la robotique - 95

GUILHeM JULIA

87

29. Au-delà de l'amélioration des capacités cognitives de l'être humain,
il convient de se demander si l'intelligence artificielle ne pourrait pas être
pensée comme un prétexte permettant à l'homme de réfléchir à sa propre
humanité.
C'est l'enjeu de la coopération au futur entre les deux systèmes
d'intelligence.

2. La coopération au futur
30. Le développement de l'intelligence artificielle s'annonce décisif dans
l'avènement prochain des robots domestiques d'accompagnement destinés
notamment à assister les personnes âgées60.
Lorsque le créateur du robot de compagnie programme celui-ci, il lui
faut définir les comportements que la machine va adopter en fonction de
telles ou telles situation et interaction avec l'humain au service duquel se
trouve le robot61.
Cela nécessite donc de s'interroger sur les valeurs sociales à inculquer
au robot accompagnant.
31. Nécessaire, ce questionnement n'en demeure pas moins sensible
dans la mesure où l'homme se comporte souvent face à son environnement comme s'il était en présence d'un être humain. L'homme fait preuve
presque instinctivement d'empathie, y compris vis-à-vis d'un objet inanimé
- une peluche - ou d'une machine - un ordinateur ou un robot démineur62.
en fonction des circonstances, l'homme est en effet capable de s'adresser
à ces objets comme il le ferait avec un être humain, c'est-à-dire en exprimant
des sentiments variés tels la colère ou l'empathie63. Il importe donc de tenir
60. Sur le développement du marché des robots accompagnants, v. notamment le Rapport
de la Commission de réflexion sur l'Éthique de la Recherche en sciences et technologies du Numérique d'Allistene (CeRNA), novembre 2014, p. 17, visible en ligne : http://
cerna-ethics-allistene.org/digitalAssets/38/38704_Avis_robotique_livret.pdf (site consulté
le 7 novembre 2017) et Jean-Gabriel Ganascia, op. cit., p. 129 et s.
61. en effet : « afin que les interactions avec l'homme se déroulent au mieux, le robot
humanoïde doit être capable d'adopter un minimum de règles de comportement social »,
Nathalie Nevejeans, Traité de droit et d'éthique de la robotique civile préc. n° 1265, p. 1014.
62. Au sein de l'armée américaine, des funérailles ont été célébrées en faveur d'un robot.
Par ailleurs, un colonel de l'armée a déjà décidé d'interrompre une opération de déminage
menée par un robot lorsqu'elle conduisait à la destruction des « pattes » du robot. La vision
du démembrement du robot se révélait en effet trop cruelle aux yeux de l'humain dont le
robot démineur assurait pourtant la sécurité.
63. Sur les dangers de « l'empathie artificielle », v. Serge tisseron, Le jour où mon robot
m'aimera - Vers l'empathie artificielle, éd. Albin Michel, 2015.

http://www.cerna-ethics-allistene.org/digitalAssets/38/38704_Avis_robotique_livret.pdf http://www.cerna-ethics-allistene.org/digitalAssets/38/38704_Avis_robotique_livret.pdf

Hors collection - Lex Robotica - Le droit à l'épreuve de la robotique

Table des matières de la publication Hors collection - Lex Robotica - Le droit à l'épreuve de la robotique