Hors collection - Écosystème numérique : défis juridiques et sociétaux - 16

16
ÉCOSYSTÈME NUMÉRIQUE : DÉFIS JURIDIQUES ET SOCIÉTAUX
L'AI Liability Directive permettra aux victimes de demander réparation pour les atteintes à leur vie
privée, à leurs biens et à leur santé dues à la faute ou à l'omission d'un fabricant ou d'un développeur
d'une technologie d'intelligence artificielle. Le texte vise également à réglementer la discrimination
dans le processus de recrutement utilisant l'intelligence artificielle. Une pratique qui prend de
l'ampleur et qui fait débat à travers le monde entier. Le texte allège la charge de la preuve pour les
victimes avec une « présomption de causalité ».
Si cette loi est votée, les victimes devront simplement démontrer que le non-respect de certaines
exigences par un fabricant ou un développeur a causé le préjudice, puis établir un lien avec la technologie
d'intelligence artificielle dans leur action en justice. En vertu d'un « droit d'accès aux preuves »,
les victimes pourront demander au tribunal d'ordonner aux entreprises concernées de fournir toutes
les informations utiles et nécessaires sur les systèmes d'IA afin de pouvoir identifier la faute qui a
causé le dommage. La Commission européenne a également annoncé une mise à jour de la directive
sur la responsabilité. Ainsi, les fabricants seront responsables de tous les produits dangereux, matériels
et immatériels, y compris les logiciels et les services numériques, et également après la vente des
produits. L'AI Liability Directive devra être approuvée par les États membres et les législateurs de
l'Union européenne avant d'entrer en application. »
D. Les risques liés à l'IA
I - La reconnaissance faciale
La reconnaissance faciale est un développement de la vidéosurveillance. C'est une technologie biométrique
qui permet d'analyser, grâce à des algorithmes, les traits de visages de personnes filmées ou
photographiées et de les comparer à des images stockées dans une base de données.
Selon la CNIL20
fait souvent débat car elle implique
, la reconnaissance faciale permet d'authentifier une personne en vérifiant qu'elle est
bien celle qu'elle prétend être et d'identifier une personne, c'est-à-dire de retrouver une personne au
sein d'un groupe d'individus, dans un lieu, une image ou une base de données.
Parmi les technologies associées à l'IA, la reconnaissance faciale21
le traitement de données biométriques. Consciente des risques associés au développement des outils
intégrant de la reconnaissance faciale, la CNIL avait appelé dès 2018 à un débat démocratique sur
les enjeux techniques, juridiques et éthiques.
À cet égard, il faut signaler que le projet de loi relatif aux jeux olympiques et paralympiques de 202422
a exclu le recours à la reconnaissance faciale mais crée un cadre juridique expérimental jusqu'au
30 juin 2025 permettant le recours à la vidéosurveillance « intelligente » en vue d'assurer la sécurité
des manifestations sportives, récréatives ou culturelles. Ces traitements par l'intelligence artificielle
(IA), appelées « caméras augmentées », seront en mesure de détecter des évènements prédéterminés
comme des mouvements de foules, des colis ou des comportements suspects dans des lieux accueillant
des évènements et dans les transports en commun. Ils seront autorisés par décret pris après avis de la
Commission nationale de l'informatique et des libertés (CNIL).
20. V. https://www.cnil.fr/fr/definition/reconnaissance-faciale
21. La reconnaissance faciale est une technique d'analyse des traits du visage fondée sur l'élaboration, à partir d'images
fixes ou animées dont sont extraites des données, de « gabarits » ou modèles uniques à partir desquels sont comparés
les visages des individus présentés au système.
22. V. https://www.vie-publique.fr/loi/287639-jo-de-2024-projet-de-loi-olympique-2024

https://www.cnil.fr/fr/definition/reconnaissance-faciale https://www.vie-publique.fr/loi/287639-jo-de-2024-projet-de-loi-olympique-2024

Hors collection - Écosystème numérique : défis juridiques et sociétaux

Table des matières de la publication Hors collection - Écosystème numérique : défis juridiques et sociétaux