Dauphinews - Le magazine de la #D-Family - N°1 - Octobre 2019 - 28

FOCUS

Mariem
Harmassi (14)
Docteure en
informatique,
spécialisée en
machine
learning

Bertrand
Braunschweig
(98)
directeur du
programme IA
à l'INRIA


Premier constat : les robots sont
aujourd'hui capables de beaucoup.
Mariem Harmassi (14) est docteure
en informatique, spécialisée sur les
questions de machine learning. Sa
thèse se fonde justement sur la
capacité des objets connectés d'un
même voisinage à collaborer et à
développer une intelligence
collective leur permettant de
comprendre leurs propres environnements physiques. Et de prendre
des décisions autonomes en
fonction. "L'objectif de l'IA est de
reproduire le plus fidèlement
possible l'intelligence humaine,
avec un niveau extraordinaire !
Les robots sont capables de
prendre des décisions, de façon
autonome, sans intervention
humaine. Il faut se préparer à bien
maîtriser ces machines, afin d'éviter
une éventuelle guerre, ou qu'elles
nous dépassent", estime-t-elle.
Ce qui semble de la science-fiction
ne serait pas si éloigné. "Après tout,
la reconnaissance faciale semblait
lointaine il y a quelques années, elle
est devenue réalité", souligne
Mariem. Elle n'est pas la seule à être
inquiète. Chez les Français, 43 %
pensent qu'un jour les robots
prendront le pouvoir sur les
humains, selon un sondage CSA

28

Numéro 01 // octobre 2019

(janvier 2018). Et, sans aller aussi
loin, 1 000 entrepreneurs et experts
de la robotique et de l'IA, dont Elon
Musk (SpaceX, Tesla), Steve
Wozniak (Apple), ou encore Jaan
Tallinn (Skype), ont signé dès 2015
une lettre ouverte contre les armes
autonomes et autres robots tueurs.
Leur inquiétude : la capacité de
drones ou de tanks d'ouvrir le feu
sans l'intervention d'un humain,
pour tuer.

/

LES ALGORITHMES LES PLUS
PERFORMANTS AUJOURD'HUI, COMME LE
DEEP LEARNING, SONT DES BOÎTES NOIRES
IMPOSSIBLES À AUDITER, DU MOINS
À L'HEURE ACTUELLE.

PAS D'IA GLOBALE
Alors, faut-il s'inquiéter face à cette
IA si menaçante ? La majorité des
spécialistes se veulent rassurants :
nous en sommes encore loin. "Nous
savons aujourd'hui construire des
systèmes très spécialisés, sur un
domaine bien précis, par exemple
pour interpréter et annoter une
radiographie. Grâce à un apprentissage profond, le fameux 'deep
learning', on arrive à de belles
performances, certes. Mais ces
systèmes ne savent faire qu'une
seule chose ! Comme AlphaGo : ce
programme a été capable de battre
le champion du monde du jeu de go.
Mais si l'on passe d'un plateau de
19 x 19 à un plateau de 18 x 18, il n'y
arrive plus ! Il n'y a donc pas
d'intelligence artificielle globale,

seulement des systèmes
spécialisés", analyse Bertrand
Braunschweig (98), directeur de
coordination du programme
national de recherche en intelligence artificielle. Les robots de
Skynet n'ont donc pas encore
d'emprise sur le monde, comme
dans Terminator, nous pouvons
souffler, en tout cas pour le moment.
De là à lui faire aveuglément
confiance, il y a un monde. "La
question se pose dès que l'on
délègue des décisions à des
algorithmes, il est nécessaire de
garder le contrôle sur eux. Je pense
par exemple à un octroi de crédit, à
une aide à la décision médicale, aux
domaines et aux applications les
plus sensibles", détaille Jamal Atif,
professeur à Dauphine et chargé de
mission "Science des données et
intelligence artificielle" à l'Institut
des sciences de l'information et de
leurs interactions du (INS2I) CNRS.
À ses yeux, il est essentiel que les
décisions prises par l'intelligence
artificielle deviennent les plus
transparentes possible. "Or, les
algorithmes les plus performants
aujourd'hui, comme l'apprentissage
profond, ou deep learning, sont des
boîtes noires, impossibles à auditer,
du moins à l'heure actuelle."
UNE CONFIANCE À MESURER
Difficile de faire confiance en l'IA.
Cela, Étienne Pernot (94) le vit au
quotidien : il travaille sur la stratégie
intelligence artificielle et automatisation pour Nokia. Son objectif est
d'appliquer une intelligence
artificielle sur la maintenance, afin
de l'automatiser et d'aller de plus en
plus vite face aux possibles pannes.
"En tant qu'industriels, l'enjeu est
tellement important que nous ne
Dauphinews - Le magazine de la #D-Family - N°1 - Octobre 2019

Table des matières de la publication Dauphinews - Le magazine de la #D-Family - N°1 - Octobre 2019
