Hors collection - Lex Robotica - Le droit à l'épreuve de la robotique - 120

112

Le PoINt De VUe D'UN SCIeNtIFIqUe

des portes... D'autre part, il était souvent possible de déterminer un état
assez simple dans lequel ces systèmes étaient potentiellement inoffensifs :
train à l'arrêt, porte fermée... Un raisonnement combinatoire ou un calcul
de probabilité permettait de se conforter dans l'analyse des niveaux de
risque. enfin les informaticiens chargés de concevoir et de programmer
ces systèmes, influencés par la paranoïa ambiante, prenaient des luxes
incroyables de précautions dans leurs travaux. Héritant des technologies
de sécurité matérielle, pour lesquelles les défaillances de chaque composant
étaient analysées, ils évitaient toute complexification excessive.
Les systèmes autonomes (véhicules autonomes, maisons intelligentes
et plus généralement les objets intelligents et connectés) n'exercent plus
seulement des fonctions dont on peut spécifier les conditions d'activation
et les comportements de manière combinatoire. Ils sont dotés de capacités
d'apprentissage et de décision très difficiles à spécifier. Un système de
pilotage doit-il prendre le risque de blesser/tuer ses occupants en modifiant
sa trajectoire ou bien écraser un piéton qui a traversé devant le véhicule ?
Comment spécifiera-t-on le comportement attendu d'un robot humanoïde
universel autrement que par les trois lois d'Asimov ?
Avec des composants de plus en plus intégrés, les interactions et la
propagation d'erreurs entre composants ne peuvent plus être analysées
simplement. La spécification et l'observation des syndromes peuvent être
très compliquées. Les aspects interactions homme/machine et plus généralement le fait que les robots sont amenés à apprendre l'environnement et
assister aux fonctions de décision augmente les risques d'erreur de spécification au sens classique.
enfin, et peut être surtout, le complexe de Frankenstein est en partie
guéri. Les hommes n'ont plus aussi peur des ordinateurs qui peuplent
leurs vies quotidiennes. Ils les laissent prendre de plus en plus de décisions,
de la gestion des salles de marché à celle de leur maison. Ce ne sont pas
les programmeurs paranoïaques des premiers pilotes automatiques qui
programment les fameux « algorithmes » qui vont gérer notre société, mais
des développeurs décontractés qui produisent du « code » jetable.
Compensant cette apparente décontraction, la diffusion sur Internet via
des forums spécialisés du code source et des bases de connaissances utilisées
en cyber sécurité est souvent vue comme un gage de sûreté, et de sécurité qui tente de compenser le désengagement individuel par l'intelligence
collective. Cette diffusion permet la relecture ou l'exploration critique du

Hors collection - Lex Robotica - Le droit à l'épreuve de la robotique

Table des matières de la publication Hors collection - Lex Robotica - Le droit à l'épreuve de la robotique