REFLETS MAGAZINE - N°138 - Mai/Juin 2021 - Revue d'information et de réflexion économique - Preview - 50

DOSSIER
allait tellement de soi que les
systèmes électroniques embarqués
étaient infiniment plus
« intelligents » que les humains,
que l'on n'a pas envisagé l'éventualité
que ces derniers puissent,
voire doivent surseoir à une
éventuelle défaillance.
Ce ne sont pas des machines qui
sont à l'origine de cette présupposition
d'incompétence. Ce
sont leurs concepteurs, bien
humains - trop humains... Ce
sont des femmes et des hommes
dont la formation aux enjeux
éthiques et politiques des systèmes
qu'ils fabriquent est de
toute évidence inexistante. C'est
un problème de pouvoir, qui
s'exprime par le fait que certaines
et certains se croient plus
« sachants » que les autres, voire
« sachants » tout court, et qu'ils
se rapportent aux autres, aux
usagers, comme à des enfants
incompétents. C'est le problème
de toute tyrannie, de toute dictature,
de toute oppression. Et
ici comme partout, la plus
grande difficulté est que les victimes
elles-mêmes de cette
dynamique sont le plus souvent
complices de l'oppression qui
leur est imposée ou du pouvoir
exercé sur elles.
Nous, les humains, sommes responsables
des machines que
nous créons. Les problèmes
éthiques de ce qu'on appelle
l'intelligence artificielle sont en
fait les problèmes éthiques liés
aux débordements de l'imagination
humaine.
50
LE DROIT CONSTITUE UN
VECTEUR DE RESPONSABILISATION
POUR L'IA
I
ADRIEN
BASDEVANT
>E12
Avocat spécialiste
en innovation, data
et société
dentification biométrique en temps réel, systèmes
de notation sociale, deepfake, désinformation,
micro-targeting... Il faut anticiper
les impacts potentiellement négatifs de certains
usages de l'IA. » C'est au niveau européen que
tout se joue. « La Commission vient de publier un
projet de règlement sur l'IA qui distingue trois
niveaux de risques : risque inacceptable, risque élevé,
risque faible ou moyen. Les systèmes inacceptables
seront bannis, les autres seront permis à condition
de respecter certaines exigences de compliance.
Nous assistons d'une certaine manière aux prémices
d'un " RGPD " de l'IA. » À terme, un cadre légal mondial
est-il envisageable ? « Pour l'heure, les débats
internationaux concernent surtout des cas d'usage
particulièrement sensibles, comme le fait de déléguer
à des algorithmes la décision d'octroyer un crédit ou
le pouvoir de prononcer une condamnation pénale. »
En cinq ans, plus de 100 chartes ont été proposées
par des entreprises, gouvernements et organisations
comme l'OCDE, le Conseil de l'Europe ou
encore l'OTAN. « Reste à savoir quelle entité parviendra
à proposer un texte qui fera consensus, et
si les principes énoncés relèveront de bonnes pratiques
ou deviendront des instruments juridiquement
contraignants. »
ESSECALUMNI.COM#REFLETS#138
© FREEPIK - DR

REFLETS MAGAZINE - N°138 - Mai/Juin 2021 - Revue d'information et de réflexion économique - Preview

Table des matières de la publication REFLETS MAGAZINE - N°138 - Mai/Juin 2021 - Revue d'information et de réflexion économique - Preview