CRFPA - Précis de culture juridique - CRFPA - Examen national Session 2021 - 5e - 392

PRÉCIS DE CULTURE JURIDIQUE
. Il s'agit notamment de répondre aux défis de l'intelligence artificielle
résultant notamment des effets induits par l'usage des algorithmes d'apprentissage
profond (deep learning). Elle permettrait par exemple de prévenir les risques de discriminations
illicites que comportent de telles techniques en garantissant que leur déploiement
sera réalisé dans le respect des intérêts des utilisateurs18
des textes la consacrant17
. L'autonomie informationnelle
suppose encore d'encourager les individus à reprendre le pouvoir sur leurs données en leur
conférant de nouvelles prérogatives pour les « mettre en capacité d'agir ». Tel est l'objectif
du droit à la portabilité des données personnelles consacré par le RGPD19
. Cette innovation
juridique et technique, emblématique des récentes réformes, offre à l'individu la possibilité
de récupérer ses données dans un format ouvert et lisible par la machine. Il est désormais
en mesure de s'extraire d'un écosystème captif en migrant d'un opérateur à l'autre sans
perdre son historique, ou encore de décider de gérer lui- même l'usage de ses données grâce
à de nouveaux services tels que les solutions de cloud computing personnels.
Si l'ensemble de ces prérogatives permettent à l'individu de préserver son autonomie informationnelle,
la protection de sa souveraineté numérique suppose également un meilleur
contrôle de sa présence numérique.
17. V. en ce sens l'article L. 311-3-1 du Code des relations entre le public et l'administration s'agissant des décisions
individuelles lequel prévoit l'obligation générale pour l'administration de communiquer à l'individu les « règles définissant
tout traitement » algorithmique et les « principales caractéristiques de sa mise en œuvre » (v. RocHfeld J.,
« L'encadrement des décisions prises par algorithme », Dalloz IP/IT 2018, p. 474). Sur son application à ParcourSup,
le Conseil d'État a décidé que seul le candidat est en mesure de demander que lui soient communiqués les critères
et modalités d'examen de sa candidature (Conseil d'État, 12 juin 2019, n° 42916 et 42919, Université Antilles- Guyane :
D. 2019, Pan. 1673, n° 11 obs. Maxwell W. et zolynski C. ; Dalloz IP/IT 2019, p. 700 note douville T.). Reconnaissant l'existence
d'un droit d'accès aux documents administratifs garanti par l'article 15 DDHC, le Conseil constitutionnel vient
d'admettre que l'établissement d'enseignement supérieur doit de surcroît rendre compte - notamment sous la
forme d'un rapport - des critères en fonction desquels ont été examinées les candidatures une fois la procédure
de sélection terminée, ce qui inclut les informations relatives aux critères utilisés par les éventuels traitements
algorithmiques mis en œuvre (Cons. const., 3 avr. 2020, n° 2020-834 QPC). L'explicabilité est entendue plus largement
par l'article 9, 1, c. de la convention 108 + du Conseil de l'Europe qui reconnaît à l'individu le droit « d'obtenir,
à sa demande, connaissance du raisonnement qui sous- tend le traitement de données, lorsque les résultats
de ce traitement lui sont appliqués ». Le principe d'explicabilité se trouve également promu par les différents
rapports et chartes éthiques relatifs au déploiement de l'Intelligence artificielle : v. la déclaration de Montréal pour
un développement responsable de l'intelligence artificielle, 2018, les lignes directrices en matière d'éthique pour
une IA digne de confiance du groupe d'experts de haut niveau de la Commission européenne, 2019 ou encore les
recommandations de l'OCDE sur l'intelligence artificielle du 22 mai 2019 (v. sur ce point castets- renard C., « Comment
construire une Intelligence artificielle responsable et inclusive ? », D. 2020, p. 225).
18. En ce sens, rapport de la CNIL, Comment permettre à l'homme de garder la main ? Les enjeux éthiques des
algorithmes et de l'intelligence artificielle, déc. 2017, p. 48-49, ou encore le rapport de la CNIL et du DDD, Algorithmes :
prévenir l'automatisation des discriminations, mai 2020. V. par ex. s'agissant de biais de genre, cHarPenet J. et
lequesne C., « Les lacunes juridiques de l'audit algorithmique », D. 2019, p. 1852 - Plus généralement, Conseil de
l'Europe, recommandation CM/Rec(2020)1 sur les impacts des systèmes algorithmiques sur les droits de l'homme,
8 avril 2020.
19. RGPD, art. 20 - LIL, art. 39 (modifié par la loi n° 2018-493 du 20 juin 2018). V. également L. n° 2016-1321, 7 oct.
2016 pour une République numérique, art. 48 relatif à la portabilité et récupération des données modifiant les
art. L. 224-42-3 et s. du Code de la consommation, abrogés depuis par la loi du 20 juin 2018 - V. Zolynski C. et Leroy M.,
« La portabilité des données personnelles et non personnelles, ou comment penser une stratégie européenne de
la donnée », Légicom 2018, p. 105, spéc. p. 108 - Adde, BertHet C. et Zolynski C., « L'empouvoirement des citoyens de
la République numérique : regards sur une réforme en construction », RLDI 2018, p. 60, spéc. n° 9 et s.
392
CRFPA - Précis de culture juridique - CRFPA - Examen national Session 2021 - 5e

Table des matières de la publication CRFPA - Précis de culture juridique - CRFPA - Examen national Session 2021 - 5e
