Hors collection - Lex Robotica - Le droit à l'épreuve de la robotique - 113

VÉRoNIqUe DeLeBARRe et StÉPHANe NAtKIN

105

commande des centrales nucléaires ou le pilotage automatique des trains
et métros, ancêtres du véhicule autonome (Laprie 95). Puis, au début des
années 2000, avec l'extension d'Internet et de ses usages, la numérisation
a touché le commerce, la finance, le Droit sous toutes ses formes. Nous
avons commencé à craindre sérieusement les pirates et autres saboteurs
sans vergogne, et réciproquement, s'est également développée la peur d'un
État aspirant au meilleur des mondes (erickson 2008, Gollmann 2011).
Les robots, tels que les imagine Asimov, sont en train de naître. Il faut
toutefois s'entendre sur le terme robot. C'est d'abord une machine qui
dispose de capteurs pour percevoir son environnement et d'actionneurs
pour agir sur celui-ci. Mais il doit disposer également d'une capacité évoluée
d'analyse et de décision, ce que nous nommons une intelligence artificielle.
C'est-à-dire la capacité de prendre des décisions rationnelles dans des situations ni apprises, ni encore rencontrées. Ceci veut dire qu'un robot n'a,
en général, aucune raison d'être humanoïde. Un trader électronique ou un
joueur de Go n'ont aucun besoin de tête, de bras ou de jambes. Ce peut être
des programmes implantés sur de vulgaires ordinateurs. Pour le premier, il
lui suffit d'être connecté aux bourses du monde et d'être autorisé à émettre
des ordres d'achat et de vente. Pour le second, il suffit d'un dispositif lui
permettant de suivre le jeu de son adversaire et de faire connaître le sien. Si
les deux programmes sont suffisamment « intelligents », ce sont des robots.
et, d'ici quelque temps, la plus grande partie de notre environnement quotidien sera peuplé par des robots d'assistance en tout genre, par exemple ce
que nous appelons la voiture autonome ou la maison intelligente.
La peur des ordinateurs des années 1970 a en partie disparu (nous
reviendrons en conclusion sur ce point) ; elle fait place à une inquiétude
diffuse bercée au rythme de l'actualité des attaques informatiques et des
quelques accidents.
Donc, souffrons-nous du complexe de Frankenstein ou faut-il craindre
avec raison les effets pervers d'une informatisation trop rapide de la société ?
Pour traiter ce problème, il faut d'abord comprendre que les risques
résultant, soit d'une erreur humaine, soit d'une altération volontaire du
comportement d'un ordinateur sont très liés. Ces risques résultent essentiellement, dans les deux cas, d'une mauvaise spécification : nous ne savons
pas définir exactement ce que nos machines doivent faire ou ne pas faire.
Nous ne savons pas encore implanter les trois lois de la robotique qui limiteraient drastiquement leurs comportements dangereux et nous confions
chaque jour des opérations de plus en plus complexes à nos systèmes
numériques.

Hors collection - Lex Robotica - Le droit à l'épreuve de la robotique

Table des matières de la publication Hors collection - Lex Robotica - Le droit à l'épreuve de la robotique