Expertises des Systèmes d'information - Septembre 2021 - N°471 - Le mensuel du droit de l'informatique et du multimédia - 311

Cette
nouvelle
régulation
de
l'IA se veut ambitieuse, à la fois
par les principes qu'elle met en
œuvre mais également par son
champ d'application extensif et
extraterritorial, qui sera susceptible,
si elle est adoptée, d'avoir
un effet similaire dans le monde
sur la réglementation de l'IA que
le RGPD a pu et peut avoir sur la
règlementation de la protection
des données, en devenant de facto
le standard mondial de régulation.
Un champ d'application territorial
très large, à l'instar du RGPD
Si la Proposition s'applique classiquement
aux utilisateurs et aux
fournisseurs de systèmes d'IA
situés au sein de l'UE, elle est
d'autant plus ambitieuse que son
champ d'application est
extrêmement
large puisqu'elle vise
également, (i) les fournisseurs
établis hors de l'UE à l'origine
de la mise sur le marché ou de la
mise en service d'un système d'IA
au sein de l'UE21
(ii)
mais également
les fournisseurs et utilisateurs
de systèmes d'IA établis hors de
l'UE « lorsque les résultats générés
par le système sont utilisés dans
l'Union »22
.
Ces équivalents du critère
de « ciblage » que l'on retrouve au
sein du RGPD, auront pour conséquence
de soumettre une quantité
considérable d'opérateurs aux
dispositions du futur règlement.
Sont par ailleurs exclus du champ
d'application de la Proposition,
les systèmes d'IA développés ou
utilisés exclusivement à des fins
militaires23
publiques d'un pays tiers et
organisations
Une définition neutre et
englobante des systèmes d'IA
Par ailleurs, cette nouvelle
régulation adopte une approche
généralisée et « neutre » d'un
point de vue technologique en
proposant sa propre définition des
systèmes d'IA, entendus comme
des logiciels développés à l'aide
d'une ou plusieurs techniques
listées à l'Annexe I et qui « pour un
ensemble donné d'objectifs définis
par l'homme, génèrent des résultats
tels que du contenu, des prédictions,
des recommandations ou
des décisions influençant des environnements
réels ou virtuels »26
.
Cette définition a l'avantage d'être
en ligne avec celles précédemment
adoptées par l'OCDE, puis
par le CAHAI27
, participant ainsi à
l'harmonisation des notions en la
matière au niveau mondial.
Ladite Annexe I, qui énumère
les
techniques
entrant dans
le
champ d'application matériel de
la Proposition, est quant à elle
extrêmement large puisqu'elle
vise expressément les approches
fondées sur :
■ l'apprentissage automatique,
supervisé, non supervisé ou par
renforcement, et utilisant une
grande variété de méthodes, y
compris l'apprentissage profond ;
et
■ la logique et les connaissances,
y compris la représentation des
connaissances,
la programmation
inductive (logique), les bases
de connaissances, les moteurs
d'inférence et de déduction, le
raisonnement (symbolique) et les
systèmes experts.
ainsi que les autorités
les
internationales
utilisant des systèmes d'IA dans le
cadre d'accords internationaux de
coopération des services répressifs
et judiciaires avec l'UE ou avec
un ou plusieurs Etats membres24
,
dernier point très critiqué par le
Contrôleur européen de la protection
des données (EDPS) et le
Comité européen de la protection
des données (EDPB) dans leur
récent avis conjoint25
.
Outre ces deux approches, qui
comprennent notamment le
machine learning, est également
visée une troisième catégorie - les
approches statistiques - dont la
qualification d'IA faisait pourtant
l'objet de discussions. Cette interprétation
accueillante de la notion
d'IA, qui pourra être régulièrement
mise à jour par la Commission
en fonction de l'évolution du
marché et des technologies sur la
base de caractéristiques similaires
EXPERTISES SEPTEMBRE 2021
aux techniques et approches qui
y sont énumérées28
, a l'avantage
de la souplesse et de l'adaptabilité,
essentielles à l'évolution rapide de la
technologie.
Une classification
des systèmes d'IA
par niveaux de risques
Quatre options stratégiques, présentant
différents
degrés
d'intervention
réglementaire, ont été
évaluées par la Commission dans
le cadre de la préparation de la
Proposition aux fins d'identifier
celle présentant les conditions les
plus propices au développement
et à l'utilisation d'une IA digne de
confiance au sein de l'UE :
■ mise en place d'un système de
labélisation volontaire ;
■ approche sectorielle ;
■ règles impératives applicables
à tous les systèmes d'IA sans
distinction, indépendamment
du niveau de risques qu'ils
présentent ;
■ règles impératives applicables de
façon proportionnée en fonction
des risques que présentent
les systèmes d'IA concernés,
la
Commission
envisageant
une sous-option consistant à
laisser certains systèmes d'IA ne
présentant pas de haut-risques
libres de s'auto-réguler par des
chartes de conduite.
C'est cette dernière approche qui
a été retenue par la Commission,
qui avait par ailleurs déjà évoqué sa
préférence dans son livre blanc, en
estimant que cette approche fondée
sur les risques permet « d'atteindre
ses objectifs avec efficacité sans
être excessivement normatif » pour
éviter de « « créer une charge
disproportionnée, en particulier
pour les PME »29
.
À l'occasion de la consultation
publique engagée suite à la publication
de ce livre blanc, la majorité
des contributeurs s'était d'ailleurs
explicitement prononcée en faveur
d'une telle approche, préférable à
une réglementation uniformisée
de tous les systèmes d'IA30
l'EDPB, dans leur
. L'EDPS
et
récent avis
311
Expertises des Systèmes d'information - Septembre 2021 - N°471 - Le mensuel du droit de l'informatique et du multimédia

Table des matières de la publication Expertises des Systèmes d'information - Septembre 2021 - N°471 - Le mensuel du droit de l'informatique et du multimédia
