Hors collection - Lex Robotica - Le droit à l'épreuve de la robotique - 72

64

L'HUMAIN AUGMeNtÉ PAR LeS RoBotS

précédent de l'utilisation du moteur de Google en témoigne. L'entreprise se
défend de toute responsabilité dans l'antisémitisme ambiant ou l'exposition
des mineurs à la pornographie violente et se présente au public comme un
outil universel d'accès au savoir en donnant la préférence dans ses réponses
aux résultats de l'encyclopédie Wikipédia. Mais elle n'exerce qu'un très
faible contrôle sur les requêtes suggérées ou sur les résultats affichés. Il
nous semble qu'elle ferait mieux d'expliciter le plus possible son fonctionnement pour informer les utilisateurs les moins avertis du fonctionnement
de ses algorithmes et corollairement de la bêtise ou du danger de certaines
de ses « réponses ».
Il s'agit là d'un des aspects d'un problème plus général, car la tyrannie
des questionnaires ambigus et de l'expression masquée ou alambiquée des
contrats a sévi bien avant l'ère du numérique, comme celles des publicités
vantant les caractéristiques extraordinaires de tel ou tel produit de consommation sur le bien-être ou la santé. La promotion de la supposée intelligence
ou autonomie des programmes d'IA auprès du public peut être considérée
comme un des nombreux avatars de ces « tromperies » commerciales.
L'objectif n'est pas d'empêcher l'industrie de se développer, mais son
développement doit être accompagné d'un renforcement du droit des
consommateurs. Il est dans l'intérêt de l'industrie de présenter le développement de certaines technologies comme inéluctable. Si un chatbot remplace
un conseiller humain, le sentiment d'inéluctabilité incitera le consommateur
à accepter plus facilement l'inadaptation fréquente des réponses et l'incohérence du dialogue. Il est indispensable que des cadres soient clairement
établis par le Droit afin de garantir l'application de la responsabilité sociétale des entreprises et d'assurer la protection des données personnelles, de
la vie privée, etc.
Car il y a des gagnants et des perdants de la numérisation généralisée.
Ceux qui bénéficient d'une bonne littératie numérique, qui comprennent le
fonctionnement des moteurs de recherche, qui possèdent une carte bancaire
pour payer en ligne, sont des gagnants de la numérisation. Ils sont satisfaits
des automates qui, dans un certain nombre de cas, leur font gagner du
temps. Mais les perdants représentent une part importante de la population, victimes de la fracture numérique, en raison de défaut d'accessibilité
géographique ou financière, mais aussi de défaut d'accessibilité cognitive et
culturelle qui fait de ces citoyens des cibles de tentatives d'abus de faiblesse
de la part des industriels ou des administrations qui doivent prendre en
compte le niveau réel en littératie numérique de ces personnes.
Hors collection - Lex Robotica - Le droit à l'épreuve de la robotique

Table des matières de la publication Hors collection - Lex Robotica - Le droit à l'épreuve de la robotique
