Droit et Société - Volume 60 - Humain Non-Humain - 77

PSYCHE ET ROBOTS

une production qui ressemble à celle d'un individu vivant muni d'un tel cerveau 37 : apprendre de ses erreurs, prendre des risques, être satisfait de ses réussites, en bref avoir des débuts d'émotion.
Pour un neurobiologiste comme Antonio Damasio, la conscience de soi est
un certain sentiment. Pour un informaticien, il ne peut s'agir que d'un processus
entièrement déterminé, passant ainsi du cadre neuronal du cerveau au domaine
du calculable :
« Le système aura un fonctionnement résultant d'une activité complexe au
sens de son organisation, qui ne se construira pas par l'assemblage de morceaux
fonctionnels indépendants mais qui se générera, petit à petit, comme un organisme vivant pluricellulaire, qui ne déterminera pas ses états par l'optimisation
d'une certaine fonction générale, mais qui altérera sans cesse l'ordre de ses composants, qui réécrira continuellement un certain ensemble de fonctions communicantes 38. »
Ce processus déterminé sera seulement concerné par lui-même, opèrera pour
son compte et contre ce qui est autre, mais il est clair qu'il sera d'un autre genre
que tous les systèmes physiques qui n'ont pas cette propriété. Une IA serait alors
capable de trouver par introspection la solution d'un problème. Lorsque AlphaGo
a battu Lee Sedol au jeu de Go la première fois, on a supposé qu'il s'est bien
passé quelque chose « d'inhumain ». Un fonctionnaliste peut expliquer le processus suivi par la machine car il ne fait pas la différence entre un phénomène
mental et sa simulation informatique. L'apprentissage profond a permis à AlphaGo d'engranger efficacement un grand nombre d'analyses de parties, et d'apprendre en jouant contre lui-même.
Il reste un long chemin à parcourir pour donner une « conscience » aux systèmes artificiels « soit la capacité à traiter des informations sur soi-même que
l'on peut appeler également méta-cognition », rappelle Stanislas Dehaene. Ainsi
le cerveau sera capable d'introspection, de contrôler son propre processus et
d'obtenir des informations sur lui-même qui mène à l'autonomie. Certains aspects de cette conscience-là, en étant programmés pour surveiller leur propre
progression d'apprentissage, seront utilisés pour optimiser le traitement de l'information.
« Bien que des siècles de dualisme philosophique nous aient conduits à considérer la conscience comme non-réductible aux interactions physiques, l'évidence empirique est compatible avec la possibilité que la conscience naisse de
rien d'autre que des calculs spécifiques 39 ».

37. Alain CARDON, Modéliser et concevoir une machine pensante. Approche de la conscience
artificielle, Vuibert, Paris, 2004.
38. Alain CARDON, op.cit.
39. Stanislas DEHAENE, Hakwan LAU & Sid KOUIDER, " What is consciousness, and could
machines have it? " dans Science, 27 oct 2017: vol. 358, Issue 6362, p. 486-492 DOI:
10.1126/science.aan.

DROIT ET SOCIÉTÉ, VOL. 60, 2020

Droit et Société - Volume 60 - Humain Non-Humain

Table des matières de la publication Droit et Société - Volume 60 - Humain Non-Humain