Hors collection - Lex Robotica - Le droit à l'épreuve de la robotique - 94

L'ILLUSIoN De L'INteLLIGeNCe ARtIFICIeLLe

28. C'est ici que réside la menace de l'intelligence artificielle : amoindrir
l'intelligence humaine au prétexte de la dispenser de ses fonctions habituelles. La coopération entre les deux intelligences tourne alors en faveur de
l'intelligence artificielle qui permet aux machines de prendre passivement le
pouvoir sur l'homme53. La collaboration devient dangereuse dès lors qu'elle
est « indifférenciée54 », c'est-à-dire lorsqu'elle conduit l'être humain à abandonner sa capacité d'action et de décision à un programme dit intelligent.
Autrement dit, la coopération doit toujours être pensée en faveur
d'une stricte amélioration des capacités de l'intelligence humaine. C'est
par exemple le cas lorsque le robot chirurgien est sollicité pour effectuer
une intervention qui ne souffrira ainsi d'aucun aléa humain55.
Les transferts de compétences de l'humain vers les robots sont heureux
lorsqu'ils ne dépossèdent pas l'humain de sa capacité décisionnelle ou créative. Ainsi dans des entreprises aussi différentes que Louis Vuitton ou la
SNCF, des robots assistent l'être humain dans sa tâche56. La place du robot
conduit alors à le considérer comme un esclave outil et non humain, au
service de l'humain57. Cette place se révèle en outre conforme à la seconde
des célèbres Lois de la robotique d'Isaac Asimov58 : « Un robot doit obéir
aux ordres que lui donne un être humain, sauf si de tels ordres entrent en
conflit avec la Première Loi »59.

53. Jean-Gabriel Ganascia, op. cit., p. 57 : « à force de se faire remplacer par des machines,
n'assistons-nous pas à une prise de pouvoir passive des machines, par simple démission des
hommes ? ».
54. Selon l'expression de de Catherine Simon in « Les robots peuvent-ils vraiment être
considérés comme nos esclaves ? », in Philosophie magazine, n° 112 ; septembre 2017, p. 39
qui défend une « collaboration différenciée où l'on confie aux robots la part répétitive,
pénible du travail et où l'on permet à l'homme de s'appuyer sur le robot pour développer
son savoir-faire ».
55. « en chirurgie, la qualité d'une opération dépendait de l'état d'esprit du chirurgien :
a-t-il fait la fête ou s'est-il disputé avec sa femme la veille ? Avec les robots chirurgiens, on
évacue ces aléas », Bruno Maisonnier, fondateur de la société Aldebaran, in « Les robots
peuvent-ils vraiment être considérés comme nos esclaves ? », art. préc. p. 38.
56. V. les exemples cités par Catherine Simon in « Les robots peuvent-ils vraiment être
considérés comme nos esclaves ? », art. préc., p. 39.
57. V. en ce sens le parallèle établi entre l'esclave et le robot par Nathalie Nevejans in
« Les robots peuvent-ils vraiment être considérés comme nos esclaves ? », art. préc., p. 39.
58. Isaac Asimov a publié pour la premières fois ses trois lois dans sa nouvelle Runaround
parue en 1941 dans la revue américaine Analog science fiction and fact. La nouvelle est parue
ensuite en français sous le nom « Cercle vicieux » dans le recueil de nouvelles Les robots,
paru en 1967 aux éditions oPtA, coll. « Club du libre d'anticipation ». Pour une analyse
contemporaine de ces lois, v. notamment Jean-Claude Heudin, Les 3 lois de la robotique
- Faut-il avoir peur des robots ?, éd Science ebook, 2e édition, 2015.
59. Au terme de laquelle : « Un robot ne peut porter atteinte à un être humain, ni, restant
passif, permettre qu'un être humain soit exposé au danger ».

Hors collection - Lex Robotica - Le droit à l'épreuve de la robotique

Table des matières de la publication Hors collection - Lex Robotica - Le droit à l'épreuve de la robotique