Expertises des Systèmes d'information - Octobre 2020 - N°461 - Le mensuel du droit de l'informatique et du multimédia - 344

I N T E R V I E W
et le deep learning, il faut garder en tête qu'il
s'agit là du cœur de leur fonctionnement. De
manière plus précise, on devrait d'ailleurs parler
d'apprentissage statistique et l'on comprend dès
lors tout de suite les possibilités et les faiblesses
de cette approche. La mécanique pourrait être
simplifiée assez aisément : on infère de liens
entre des données des corrélations et un modèle
qui, ensuite reproduit avec d'autres données,
doit reproduire le même comportement. Il y a
toutefois une différence notable d'approche entre
la statistique et cet apprentissage automatique. Un
statisticien va sélectionner les jeux de données les
plus équilibrés et les moins biaisés possible - où à
tout le moins en les ayant identifiés. L'IA - entendre
le machine learning - procède d'une toute autre
approche, puisque l'on recherche à l'alimenter
d'une toujours plus grande quantité de données
en espérant qu'en augmentant les observations,
on augmente la précision... or, selon les contextes,
cela peut-être tout à fait faux puisqu'en réalité on
augmente les possibilités de découvrir des liens
résultant du simple hasard.

système algorithmique permet aussi d'embarquer
dans l'analyse l'aspect « prise de décision » et son
impact. L'idée, selon moi, serait de pouvoir graduer
la contrainte de la réglementation à l'impact de
cette décision.

Constatez-vous l'existence de réflexions et des
intentions sérieuses pour une réglementation
internationale de l'IA ?
A peu près toutes les organisations internationales,
et plus particulièrement les organisations
intergouvernementales, s'intéressent à l'IA. Il
y a d'abord une préoccupation économique,
plus
particulièrement
au
sein
de
la
Commission  européenne ou de l'OCDE. Pour
soutenir le développement du numérique et de
l'IA, il faut répondre aux inquiétudes de l'opinion
publique. Pour cela, on essaie de faire émerger
des cadres de confiance dans une perspective
de croissance économique. Elles citent dans
leurs fondements les cadres éthiques et les droits
fondamentaux. De son côté, le Conseil de l'Europe
s'est saisi assez tôt de cette problématique, avec
son mandat de protéger les droits de l'homme,
l'Etat de droit et la démocratie, de la question des
Quand on discute d'IA dans les organisations
données personnelles en 1981 avec la convention
internationales, on retrouve ce problème de
108, la cybercriminalité avec la convention
définition. En parlant d'IA, les uns pensent de
dite de Budapest. Le Conseil de l'Europe a un
manière générale à des systèmes algorithmiques,
rôle assez original de conscience  européenne.
d'autres précisément à des systèmes experts et les
Ce que craignent les Etats membres de cette
autres au machine learning... or ces précisions
Organisation serait une duplication du traitement
ont toutes leur importance car l'explicabilité du
des sujets par les organisations internationales, et
fonctionnement de ces systèmes, par exemple,
des mécanismes juridiques trop contraignants,
n'est pas la même. Il y a donc une grande confusion
ralentissant l'innovation, ou qui ne seraient
qui fait que les personnes en charge de la
pas
bien
coordonnés
réglementation sont un peu
entre
eux.
Mais
ce qui est
perdues. Elles ont tendance
méconnu,
c'est
qu'il y a
à employer des termes
« A droit constant, on peut
un
dialogue
institutionnel
parapluie pour décrire une
appréhender la quasi-totalité des
qui est organisé entre
réalité très réduite. Si l'on
phénomènes produits par l'IA. »
les
organisations
utilise le terme IA sans
internationales.
Par ailleurs,
décrire le type de système
en
dehors
des
circuits
algorithmique désigné, on
officiels,
les
gens
se
connaissent
et
discutent
de
risque de passer à côté du vrai problème. Dans la
manière
à
ce
que
ces
mécanismes
apportent
une
tentative de définition que je propose dans mon
réponse globale. Les Nations Unies ont publié
livre, je préfère parler de système algorithmique.
en juin 2019 un document pour un cadre de
Car avant tout, il s'agit de considérer l'ensemble
coopération globale d'un cadre numérique, ce
de ce qui compose un système, à savoir un
qui représente pour nous la clé de voûte de ce
enchevêtrement d'algorithmes et de données
dialogue.
d'entrées qui produisent en sortie des résultats,
une sorte de décision produite par la machine.
Vous êtes détaché au Conseil de l'Europe qui
Je trouve que l'on s'en sort un peu mieux avec
a confié un mandat à un comité ad hoc IA,
ce terme qu'avec celui d'IA car on embarque
le Cahai, sur l'opportunité d'un instrument
tous les éléments que nous avons à considérer.
juridique. Où en est-on de la réflexion ?
Et en tant que juriste, on a besoin, dans de
Ce comité a été créé en septembre 2019 avec
tels domaines, d'objets suffisamment neutres
la
volonté unanime des 47 Etats membres du
technologiquement pour pouvoir appréhender
Conseil
de l'Europe de réfléchir ensemble à un
des évolutions futures ; c'est ce que la loi
instrument
juridique. Depuis 2015, plusieurs
Informatique et libertés a très bien réussi. Un
services s'intéressent à ce sujet. J'étais à l'époque

344

EXPERTISES Octobre 2020
Expertises des Systèmes d'information - Octobre 2020 - N°461 - Le mensuel du droit de l'informatique et du multimédia

Table des matières de la publication Expertises des Systèmes d'information - Octobre 2020 - N°461 - Le mensuel du droit de l'informatique et du multimédia
