Expertises des Systèmes d'information - Juin 2021 - N°469 - Le mensuel du droit de l'informatique et du multimédia - 229

une responsabilité au sens de responsabilité de l'action,
la voiture étant totalement autonome. C'est une responsabilité
de type mandant, comme pour la responsabilité
des parents sur leurs enfants. C'est une règle qui gère de
manière intérimaire l'indemnisation des victimes, mais
ce n'est qu'une étape, d'autant qu'au plan technologique,
cela ne correspond pas à la réalité.
C'est-à-dire ?
Deux voitures autonomes du même constructeur auront
des comportements autonomes différents selon que leur
apprentissage se fait à Londres, à Paris ou à Mexico. En
conséquence, on définit la responsabilité arbitrairement,
et non conformément à l'état de la technologie. Un droit
arbitraire ne peut pas perdurer longtemps. Mais pendant
la phase de gestion de risques, c'est sûrement une position
intérimaire qui a du sens, mais
pas à long terme.
Mais en attendant un droit
stabilisé, que pensez-vous de
la solution assurantielle ?
C'est ce que je préconise : la
responsabilité du robot et une personnalité juridique
dédiée, avec une obligation de responsabilité du robot
similaire à celle de la personne morale, - et que ce soit une
assurance effectivement du robot qui analyse la situation
de la victime qui doit être indemnisée.
« Le monde de demain sera
un monde de mixité entre les
humains et les robots. »
Est-ce que vous sentez poindre une réponse internationale
à une question qui ne peut être traitée
qu'internationalement ?
L'ensemble des droits des technologies avancées sont
quasiment identiques partout dans le monde, car ils
répondent à des questions technologiques similaires
dans tous les pays. Les technologies et leurs produits
étant les mêmes, la plupart des droits sont en rupture par
rapport au droit classique, de sorte que les règles de droit
sont très convergentes. C'est par exemple le cas du droit
du commerce électronique, ou encore du droit des logiciels.
Le droit des robots sera très similaire partout dans
le monde. C'est déjà le cas pour les voitures autonomes :
la loi du Nevada a donné le « la » que tout le monde suit
aujourd'hui, car il s'agissait d'une loi qui était frappée
au coin du bon sens, à savoir rendre responsable celui
qui met la voiture en circulation.
C'est aussi le fruit d'un
pragmatisme à l'américaine
extrêmement efficace.
Comment voyez-vous l'avenir
de l'IA et des robots ?
Parce que c'est une responsabilité sans faute.
Oui, une responsabilité sans faute, ce qui me paraît le cas
le plus normal dans cette situation.
Comme en matière automobile.
Exactement, c'est une très bonne comparaison, en
matière automobile, notamment pour le piéton.
Doit-on avoir peur de la machine ? Vous ne le pensez
pas j'imagine ?
D'abord le terme machine me paraît inadapté, je préfère
utiliser les termes d'espèce artificielle. Et comme
toujours, l'innovation comporte un risque. Il faut donc
organiser le rapport coût/avantage pour la société basé
sur le principe « as low as reasonnably achievable »
(ALARA), c'est-à-dire « aussi bas que raisonnablement
possible ». En essayant de minimiser les risques, en
considérant que l'avantage pour la société est supérieur
au désavantage mais que -et c'est là que réside le
problème- la prise de risques doit être faite de manière
extrêmement maîtrisée. Ce n'est absolument pas un
principe de précaution mais bien un principe de minimisation
du risque, c'est-à-dire analyse d'impact et
ensuite par rapport à celle-ci contrôle du comportement
ALARA. Ce n'est pas une précaution de principe, cela
consiste plutôt à dire: « J'agis, mais j'essaie de garder
toujours la maîtrise de telle manière à ne pas être dépassé
par la technologie ». Il s'agit d'une approche dans laquelle
on met en balance systématiquement étude d'impact,
avantages, mesures et retour d'expérience.
Ma grande idée, c'est que l'on peut créer un monde entre
les robots et les humains, un monde de mixité hommerobot
humaniste et universelle. Le monde de demain sera
un monde de mixité entre les humains et les robots. Et
ce ne sera pas les humains contre les robots, ni les robots
contre les humains, ce sera les humains ET les robots. Et
les gagnants, ce seront ceux qui pourront conjuguer la
pertinence d'une action commune.
C'est-à-dire ?
Les robots seront au service des humains. C'est la raison
pour laquelle l'ensemble des droits humains doivent
être inculqués aux robots. Aujourd'hui, personne ne dit
cela, on dirait de la science-fiction alors que pourtant,
personne ne discute le fait que la voiture autonome doive
connaître le code de la route. La première grande idée,
c'est que le droit de l'humanité doit être un des éléments
de contraintes obligatoires dans la conception et l'apprentissage.
La seconde, c'est que la robotique doit très
vite devenir un bien commun, et doit donc être pensée
de manière universelle pour créer à terme une Terre
numérique.
Vous ne pensez pas que c'est de l'utopie ?
Pour beaucoup de gens, le risque climatique, ou encore
l'idée même d'une épidémie comme celle du Covid 19,
étaient utopiques... Je pense qu'on peut modifier le monde,
et que l'utopie est certainement la meilleure façon d'y
parvenir parce qu'elle permet d'anticiper ce que sera le
futur. Les nouvelles technologies doivent être au service
de l'humanité. Rien que de poser ce principe permet de le
faire passer de l'utopie à l'action.
Propos recueillis par
Sylvie ROZENFELD
EXPERTISES JUIN 2021
229
Expertises des Systèmes d'information - Juin 2021 - N°469 - Le mensuel du droit de l'informatique et du multimédia

Table des matières de la publication Expertises des Systèmes d'information - Juin 2021 - N°469 - Le mensuel du droit de l'informatique et du multimédia
