Droit et Société - Volume 60 - Humain Non-Humain - 48

HUMAIN NON-HUMAIN

Le 4 novembre 1991, devant répondre de décisions ayant entraîné la contamination de personnes transfusées par des produits contenant des VIH, une ancienne ministre déclara : « Je me sens profondément responsable ; pour autant,
je ne me sens pas coupable ». La situation n'est pas la même que dans l'exemple
précédent. La ministre, comme tout un chacun, est présumée capable de calculer
les conséquences de ses actes. Mais son argumentation revient au même : elle
était dans l'incapacité de prévoir les conséquences désastreuses qui se sont produites. Autrement dit, bien qu'elle disposât de la capacité générale de calculer
certains effets causés par ses actes, elle ne pouvait pas les prévoir tous. Certains
liens causaux sont trop complexes pour être calculés par un humain, et la ministre
suggère qu'il en était ainsi de la contamination des transfusés par le VIH. La Loi
reconnaît qu'il existe des limites à ce qu'un humain est censé pouvoir calculer,
ce qui pousse certains prévenus à plaider la faiblesse de leur pouvoir intellectuel
pour échapper à une condamnation.
Cette affaire est intéressante, car dans son réquisitoire de non-lieu du 11 mars
1997, le procureur explique que le dossier d'instruction ne met pas en évidence
une « relation de cause à effet » entre le manque d'action des ministres et la mort
des victimes (voir le Monde daté du 12 mars 1997). Autrement dit, quelle que
soit la négligence dont les ministres ont fait preuve, on ne peut leur reprocher
une action si l'on est incapable d'établir un lien causal entre cette action et le
dommage à l'origine de la plainte. Cette fois, c'est le juge qui est censé effectuer
le calcul causal.
Dans ces différents exemples, la capacité à effectuer des calculs de causalité
est essentielle pour asseoir ou au contraire pour limiter la responsabilité pénale.
Or s'il est une chose que l'on prête volontiers à l'intelligence artificielle, c'est la
capacité de calculer. De plus en plus de décisions sont confiées à des programmes
intelligents, que ce soit pour l'octroi de prêts bancaires, pour prédire la récidive
ou pour conduire des véhicules. Ces décisions peuvent avoir dans certains cas
des conséquences dommageables sur des biens, sur des individus, sur la société
ou sur la nature. Si les intelligences artificielles ne sont pas limitées par la capacité à anticiper les conséquences de leurs actes, devrons-nous les considérer
comme pénalement responsables ?

II. Calculer la responsabilité
Il peut être choquant d'imaginer que des notions comme la responsabilité,
l'intention, le jugement ou la négligence puissent faire l'objet de calculs. Même
si le droit repose sur un corpus de règles et d'exemples, sa mise en œuvre n'est
pas automatique. Elle requiert l'intervention d'un juge qui apprécie les situations
et elle semble hors de portée d'une procédure algorithmique. Pour autant, la décision juridique n'est pas ineffable, puisqu'elle est censée être motivée après
coup par référence à des principes. Peut-on traduire ces principes sous une forme
utilisable par des machines ?

DROIT ET SOCIÉTÉ, VOL. 60, 2020

Droit et Société - Volume 60 - Humain Non-Humain

Table des matières de la publication Droit et Société - Volume 60 - Humain Non-Humain