Les Intégrales - Droit de l'intelligence artificielle - 2e - 50

DROIT DE L'INTELLIGENCE ARTIFICIELLE
amont, dès la conception du système, en procédant à une réduction technique des biais
par une application de l'ethics by design. La proposition de règlement européen prévoit à
ce sujet des exigences spécifiques qui visent à réduire au maximum le risque de discrimination
algorithmique, en particulier s'agissant de la conception et de la qualité des jeux
de données utilisés pour le développement de systèmes d'intelligence artificielle, assorties
d'obligations en ce qui concerne les essais.
B - Les droits
87 Le droit au respect de la vie privée. - Ce droit est certainement, avec le droit à la
protection des données personnelles qui lui est corrélé, le droit le plus exposé aux
risques d'atteintes par les technologies intégrant des systèmes d'intelligence
artificielle40
. Les plus ordinaires de ces technologies permettent de collecter des informations
relatives à la vie privée de leurs utilisateurs, à commencer par les objets connectés -
appareils électroménagers, montres et bracelets intelligents, etc. Aux appareils du quotidien
dont certains permettent de géolocaliser la personne s'ajoutent les dispositifs de
contrôle qui envahissent l'espace public et font partie des lieux professionnels : la surveillance,
initialement électronique, se perfectionne au moyen des technologies de l'intelligence
artificielle. Et si certaines techniques, comme la reconnaissance faciale, ne
peuvent être déployées à l'échelle collective, elles peuvent servir à un usage individuel.
D'autres risques, de surcroît, se profilent. Il n'est plus seulement question de capter des
manifestations numériques de la personne, à travers son image, sa voix, etc., mais de
détecter des émotions en vue de les analyser et de les interpréter. La détection des
émotions s'appuie sur différents capteurs : vidéo, micro, biométriques. Avec les technologies
de l'intelligence artificielle, l'analyse des expressions du visage est en particulier
opérée dans le cadre des process de recrutement. Des vidéos sont envoyées en ligne par
les candidats au recrutement et, à partir de l'examen du visage, l'intelligence artificielle
identifie des traits de personnalité. Après les visages et les gestes, c'est la voix qui est à
présent exploitée pour détecter des émotions au-delà des fonctions habituelles de reconnaissance
de la parole. La détection des émotions se fait à partir du timbre et des intonations
de la voix. Et les pratiques seront possiblement, dans le futur, de plus en plus
invasives41
. Le champ de l'affective computing pourrait notamment s'élargir à la captation
des émotions au moyen de casques de mesure de l'activité cérébrale. Des capteurs
sans fil surveilleront en permanence le rythme du cerveau et enverront les données vers
des serveurs sur lesquels tournent des algorithmes d'intelligence artificielle en mesure
de détecter des pics émotionnels, comme l'anxiété, la colère, voire la dépression. Sans
anticiper ce qui sera rendu possible et ce qui devrait être interdit, ces utilisations des
systèmes d'intelligence artificielle sont en tout cas déjà prises en considération puisque
la proposition de règlement établissant des règles harmonisées concernant l'intelligence
artificielle prévoit, en son article 1er
,d'imposer une obligation de transparence lors de la
mise en œuvre de systèmes de reconnaissance des émotions et de prescrire aux utilisateurs
de tels systèmes d'informer les personnes physiques qui y sont exposées du fonctionnement
du système.
Il reste que, sans qu'il soit besoin de se projeter, il y a bien d'autres manifestations,
actuelles, d'atteintes à la vie privée des personnes. L'omniprésence d'internet, en particulier,
favorise la diffusion et corrélativement la récupération et le traitement de multiples
informations relatives à la vie privée. Désormais, n'importe qui est exposé à des
(40) V. Recommandation de l'UNESCO du 24 novembre 2021 « sur l'éthique de l'intelligence artificielle », § 32 : « La vie
privée, qui constitue un droit essentiel pour la protection de la dignité, de l'autonomie et de la capacité d'action des
êtres humains, doit être respectée, protégée et promue tout au long du cycle de vie des systèmes d'IA ».
(41) V. J. ROCHFELD et C. ZOLYNSKI, « La valeur des émotions : quel régime pour le " capitalisme mental " ? », in Entre art et
technique : les dynamiques du droit, Mélanges en l'honneur de Pierre Sirinelli, Dalloz, 2022, p. 751.
50

Les Intégrales - Droit de l'intelligence artificielle - 2e

Table des matières de la publication Les Intégrales - Droit de l'intelligence artificielle - 2e