Hors collection - Lex Robotica - Le droit à l'épreuve de la robotique - 116

108

Le PoINt De VUe D'UN SCIeNtIFIqUe

être exprimée selon un système formel. en d'autres termes, il s'agit de
formaliser une portion de l'univers, celle qui se trouve dans un voisinage
proche de la machine. Considérons par exemple le pilotage automatique
d'une ligne de métro, dans lequel les ordinateurs remplacent les conducteurs. outre les métros, les voies ferrées, avec de nombreux aiguillages, des
signaux complexes, un tel système comporte des opérateurs humains qui, en
général, suivent les procédures d'exploitation, mais qui peuvent se tromper,
des passagers qui parfois empêchent les portes de se fermer pour décoincer
leur sac à dos ou qui se jettent sous le métro par désespoir sentimental,
des rochers qui peuvent éventuellement tomber sur la voie, des règlements
nationaux inadaptés qui définissent diverses limites d'utilisation, des terroristes en mal de sabotage et des lutins mystérieux qui peuvent provoquer
des pannes variées de tout ce qui vient d'être mentionné. Le problème est
simple : pour définir ce que doivent faire les ordinateurs « normaux », il
faut, au préalable avoir mis tout ce petit monde sous forme d'équations. Il
existe peut-être une forme d'intelligence supérieure qui sait faire cela, mais
c'est hors de la connaissance scientifique. Il est probable que le jour où les
hommes sauront résoudre ce problème (à supposer qu'ils sachent le faire
un jour), la plus grande partie des autres problèmes ouverts en matière de
sciences physiques et humaines seront clos.
en supposant résolue la capacité à spécifier les objectifs attendus, la
conception de systèmes informatiques sûrs nécessite de résoudre une
seconde classe de problèmes qui est liée à leurs complexités intrinsèques.
Un ordinateur, tel que celui qui est utilisé pour taper ce texte est le résultat
d'un processus de conception réalisé en plusieurs phases. Il comporte la
conception du matériel et en amont de ses composants (microprocesseurs, mémoires...), d'un système d'exploitation, puis d'un ou plusieurs
programmes comme le traitement de texte. Chacun de ces composants
repose essentiellement sur le raisonnement de son concepteur exprimé
dans un langage formel. L'ensemble devrait être parfaitement adapté à la
saisie de ce texte. Malheureusement, pour les raisons exposées plus haut,
nul ne peut prédire toutes les façons d'utiliser le traitement de texte. Le
concepteur du système d'exploitation ne peut connaître tous les usages du
système par les logiciels d'applications. Les architectes matériels ont conçu
processeurs, mémoires et cartes en pensant à certaines fonctionnalités des
futurs systèmes d'exploitation et en en ignorant d'autres. Cet ordinateur
est donc basé sur la collaboration entre trois (groupes d') humains qui ne
peuvent pas se comprendre complètement. Pour comprendre a posteriori
comment marche cette machine, il est nécessaire de faire appel à des techniques expérimentales et d'analyses probabilistes, comme pour comprendre
l'électeur moyen ou le virus de la grippe.

Hors collection - Lex Robotica - Le droit à l'épreuve de la robotique

Table des matières de la publication Hors collection - Lex Robotica - Le droit à l'épreuve de la robotique