Hors collection - Lex Robotica - Le droit à l'épreuve de la robotique - 114

106

Le PoINt De VUe D'UN SCIeNtIFIqUe

Remarquons ensuite que cette peur a des fondements raisonnables. Les
ordinateurs peuvent devenir fous et cette folie peut prendre de multiples
formes. La dépression électronique la plus courante s'exprime par un refus
clair et définitif de faire quoi que ce soit, mais il existe des pathologies plus
complexes et plus rares. Par exemple l'ordinateur peut faire trop tôt ou trop
tard ce qu'il devait faire ou, cas de folie grave, accomplir des actions qui
sont fort différentes de celles attendues. Par ailleurs votre ordinateur a un
caractère influençable. Il peut se laisser pervertir par un pirate et détruire
votre courrier, transformer votre écran en une œuvre d'art minimaliste ou
inonder la planète de messages pornographiques. Il peut se soumettre à un
marchand pour guetter à votre insu vos comportements de consommateurs.
Il peut devenir un agent d'un État policier et surveiller vos communications. Le caractère imparfait de ces faibles machines est bien connu puisque
« c'est la faute à l'ordinateur » constitue une excuse de plus en plus utilisée
aux défaillances humaines. Les conséquences des dysfonctionnements
sont, dans la majorité des cas, assez bénignes : tout utilisateur d'un ordinateur personnel a eu la joie de se « retaper » deux ou trois fois la même
chose, suite à la « perte d'un fichier ». toutefois, comme les ordinateurs se
mêlent chaque jour un peu plus à toutes les activités humaines, il existe des
domaines d'utilisation de l'informatique où les états d'âme de nos collaborateurs électroniques peuvent avoir des conséquences considérables. Dans
le domaine des cataclysmes actuellement observables ou observés, citons la
paralysie des serveurs Web, la disparition de sommes considérables, la faillite d'une entreprise qui ne peut plus facturer, la création d'embouteillages
monstrueux, l'échec du tir d'Ariane ou une panne de courant paralysant
une métropole. Le contrôle informatisé de processus techniques de plus
en plus complexes augmente le risque de catastrophe. Le développement
d'applications qui reposent sur l'authentification numérique (comme la
signature électronique) crée une dépendance dont les effets individuels ou
collectifs peuvent être désastreux. Le jour où les systèmes électroniques
ne sauront plus reconnaître votre carte d'identité à puce, existerez-vous
encore ? Constatons à nouveau que ces événements peuvent aussi bien
résulter d'une défaillance que d'un sabotage.
La robot-psychologue, Suzanne Calvin, vieille fille frustrée, a beaucoup
plus d'affinités avec les robots qu'avec les hommes et utilise sa grande intelligence à laver les soupçons qu'à chaque incident l'humanité fait peser sur
ses protégés. Les nouvelles écrites par Asimov permettent à Susan Calvin
de montrer que les robots ne sont en général que les victimes de l'ignorance, la bêtise ou la malignité humaine. Les statistiques montrent que ce
constat peut être appliqué à nos ordinateurs. La part des sinistres qui peut
être imputée à un phénomène accidentel est inférieure à 25 %, toutes les

Hors collection - Lex Robotica - Le droit à l'épreuve de la robotique

Table des matières de la publication Hors collection - Lex Robotica - Le droit à l'épreuve de la robotique