Les Intégrales - Droit de l'intelligence artificielle - 2e - 27

Ch a p i tre 1 - I n t e llig e nc e a r t i f i c i e lle e t é t h i que
diffusant au sens d'une éthique sectorielle (bioéthique, intelligence artificielle, numérique)
les grands principes juridiques de non-discrimination, de protection des parties
faibles, de responsabilité, etc. Un tel principe constitue ainsi une remontée du droit et
de ses piliers au cœur d'une éthique spécifique.
47 Contenu. - Affirmé par de nombreux instruments85
, le principe de justice sous-tend les
lignes directrices de la Commission, notamment leur cinquième point (intitulé « diversité,
non-discrimination et équité), où il est écrit que : « les ensembles de données utilisés par
les systèmes d'IA (tant pour leur entraînement que pour leur exploitation) peuvent être
biaisés par des partis pris historiques accidentels, des omissions et des modèles de
gouvernance défectueux. La persistance de ces biais pourrait être source de discrimination
et de préjudice (in)directs involontaires à l'encontre de certains groupes de
personnes, aggravant potentiellement le préjudice et la marginalisation86
. Des préjudices
peuvent également résulter de l'exploitation intentionnelle de préjugés (des consommateurs)
ou d'une concurrence déloyale, comme l'homogénéisation des prix par le biais
d'une collusion ou l'opacité d'un marché. Dans la mesure du possible, les biais détectables
et discriminatoires devraient être supprimés lors de la phase de collecte. La manière
dont les systèmes d'IA sont mis au point (par exemple la programmation des algorithmes)
peut également être entachée de biais. On peut contrer cette tendance en mettant en
place des procédures de contrôle pour analyser de manière claire et transparente la finalité,
les contraintes, les exigences et les décisions du système. En outre, le recrutement
de personnes issues de contextes, de cultures et de disciplines différents peut garantir
la diversité des opinions et devrait être encouragé »87
différents sous-principes, dont la non-discrimination est un pilier fondamental, ainsi que
l'égard pour les parties faibles, tout comme la responsabilité pour des actes ayant
engendré un dommage.
2 - Applications
48 Études des effets discriminatoires de certains systèmes d'IA. - Comme on vient de le
voir, c'est sous ce principe que se retrouve l'interdiction des discriminations. Celles-ci
peuvent notamment découler du modèle même du deep learning. La masse de données
qu'assimile le système d'intelligence artificielle est elle-même porteuse des discriminations,
lesquelles sont intégrées par le système, d'où découle le danger de la « reproduction
des inégalités sociales dans l'algorithme de décision »88
. On peut prendre pour
exemple le fruit d'une enquête menée par le site d'investigation Propublica, lequel a
réalisé une étude fondée sur plus de 10 000 dossiers dont avait eu à connaître le logiciel
COMPAS utilisé par certaines juridictions américaines89
. Il a été démontré que le système
utilisé engendre des discriminations raciales. Les Afro-Américains se voient attribuer un
risque de non-comparution ou de récidive plus important que les personnes blanches
alors même que les profils et les infractions en cause sont similaires. Cela ne fait que
confirmer qu'il existe un risque que la machine reproduise certains biais qui affectent
les magistrats ayant rendu les décisions antérieures90
. Par ailleurs, si l'on quitte les
personnes pour s'intéresser au marché, les biais de l'intelligence artificielle peuvent
(85) L'importance de la « justice » est citée par la déclaration de Montréal qui indique que « le développement de l'intelligence
artificielle doit promouvoir la justice et chercher à éliminer tous les types de discrimination ». Sous le
vocable « justice, équité, solidarité », les principes EGE affirment que l'intelligence artificielle doit « contribuer à la
justice globale et à l'égal accès aux bénéfices de cette technologie ». L'accent est mis sur la protection sociale. Les
principes du Partnership on AI affirment que le développement de l'intelligence artificielle doit « respecter les intérêts
de toutes les parties qui peuvent en être affectées ».
(86) Cadre pour les aspects éthiques de l'intelligence artificielle, de la robotique et des technologies connexes du 20 oct.
2020, préc., nº 27 et s.
(87) V. Lignes directrices pour une intelligence artificielle digne de confiance, préc., p. 23.
(88) V. not. rapport Villani, préc., p. 142.
(89) J. ANGWIN,J. LARSON,S. MATTU et L. KIRCHNER, « Machine Bias », There's software used across the country to predict
future criminals. And it's biased againstblacks, Probublica.org, 23 mars 2016.
(90) A. CHRISTIN, « Une grande majorité des juridictions américaines utilise des algorithmes d'estimation de la récidive »,
Actualité du droit, 4 sept. 2017 : « La difficulté, c'est que ces algorithmes reposent sur des bases de données
27
. Ce principe est donc composé de

http://www.Probublica.org

Les Intégrales - Droit de l'intelligence artificielle - 2e

Table des matières de la publication Les Intégrales - Droit de l'intelligence artificielle - 2e