Hors collection - Lectures critiques du Code des relations entre le public et l'administration - 215

DANIÈLE BOURCIER ET PRIMAVERA DE FILIPPI

207

Ajoutons, du point de vue du droit administratif, la difficulté (l'illégalité ?)
pour l'usager que soulève l'absence de publication préalable obligatoire de
la décision générale de recourir à tel algorithme. L'usager ne peut effectuer
un recours pour faire annuler l'acte comme le permet le recours pour excès
de pouvoir devant le juge administratif. Tout juste cet usager pourrait-il
soulever une exception d'illégalité à la décision individuelle dont il ferait
par la suite l'objet.
Il est important de distinguer les différents procédés par lesquels les
règles juridiques et les règles techniques ou algorithmiques sont élaborées.
La loi et les normes juridiques sont élaborées au moyen d'une procédure
législative bien définie. Bien que cette procédure soit souvent très lente, elle
est nécessaire pour s'assurer que les lois représentent bien l'intérêt général
et qu'elles respectent les critères de constitutionnalité.
Par opposition, lorsque des développeurs ou ingénieurs entreprennent la
tâche de transposer des lois ou des règlements au sein d'un système informatique ou algorithmique, le procédé de codification est beaucoup plus rapide
et efficace ; mais ces acteurs ne sont soumis à aucun contrôle démocratique.
Pourtant, puisque la loi ne décrit pas précisément toutes les modalités
d'interprétation ou d'application des normes, la modélisation des règles
juridiques au sein d'un système informatique nécessitera que les développeurs de ces systèmes déterminent par eux-mêmes la manière dont
ces règles seront appliquées dans chaque circonstance donnée - intégrant
ainsi leur interprétation subjective de la loi au sein du code informatique43.
Il existe ainsi le risque que, lors de la transposition des règles juridiques
en un langage informatique, les développeurs des systèmes informatiques
modifient - volontairement ou maladroitement - la portée ou la fonction
de ces règles.
C'est pour cela que, vu la popularité croissante des mécanismes de régulation technique ou algorithmique dans l'administration publique, il est
aujourd'hui fondamental de mettre en place des garanties supplémentaires
pour s'assurer que ces nouveaux systèmes de normativité - technique ou
algorithmique - reflètent bel et bien l'intention primaire des règles juridiques
qu'ils sont censés transposer44. Alors que le CRPA obligent les administrations à informer les citoyens de décision les concernant fondée, en partie, sur
un procédé algorithmique, cette contrainte ne comporte pas la nécessité de
mettre le code source de ces algorithmes à disposition de tous, par exemple
sur une plateforme telle que data.gouv.fr.
43. H. Surden, « Values Embedded in Legal Artificial Intelligence », mars 2017 (ssrn.
com/abstract=2932333).
44. B. Goodman, S. Flaxman, « European Union regulations on algorithmic decisionmaking and a "right to explanation" », 2016, https://arxiv.org/abs/1606.08813.

http://data.gouv.fr https://www.arxiv.org/abs/1606.08813

Hors collection - Lectures critiques du Code des relations entre le public et l'administration

Table des matières de la publication Hors collection - Lectures critiques du Code des relations entre le public et l'administration