Droit et Société - Volume 60 - Humain Non-Humain - 39

Chapitre 3
Contre la transparence :
la valeur du hasard
pour une machine apprenante 1

Alexei Grinbaum

CEA-Saclay/LARSIM

I. Le conflit
Quelquefois, l'homme reçoit d'un système informatique des informations qui
l'impliquent dans un conflit, ou qui l'exposent à la violence, ou qui font simplement surgir une tension ou un mécontentement. Quelquefois, l'utilisateur déjà
impliqué dans un conflit se sert des connaissances qu'il a obtenues grâce à la
machine. Ce sont ces situations qui sont au centre de notre étude. Quand l'interaction de l'homme avec un système informatique participe à un conflit humain,
on se pose inévitablement la question du rôle de ce système dans ce conflit et du
jugement qui va tomber sur lui.
Les conflits en question peuvent être très divers. Les assistants robotiques,
qui ignorent la signification humaine du mal, peuvent nous casser un bras. Les
voitures autonomes sont susceptibles de nous impliquer dans un accident. Il arrive aux agents conversationnels de nous injurier ou de nous donner de fâcheux
conseils.
Un modèle par excellence des situations conflictuelles est donné par les dilemmes éthiques. Le dilemme du tramway, par exemple, décrit un choix entre
deux issues toutes deux moralement inacceptables, telles que, dès lors qu'elles
sont quantifiées, les pertes associées à ces issues sont formellement inégales :
dans la version historique, il est question d'un tramway qui écrase un ou cinq
piétons positionnés sur deux voies alternatives. En éthique de l'intelligence artificielle, ce choix de trajectoire est effectué par un système informatique autonome et les humains concernés peuvent être des piétons autant que des passagers.

1.

Présentation synthétique de l'argument principal du livre Les Robots et le mal (Desclée DE
BROWER, 2019), parue également dans le numéro 5 de la Revue française d'éthique appliquée.

39

DROIT ET SOCIÉTÉ, VOL. 60, 2020



Droit et Société - Volume 60 - Humain Non-Humain

Table des matières de la publication Droit et Société - Volume 60 - Humain Non-Humain

Droit et Société - Volume 60 - Humain Non-Humain - 1
Droit et Société - Volume 60 - Humain Non-Humain - 2
Droit et Société - Volume 60 - Humain Non-Humain - 3
Droit et Société - Volume 60 - Humain Non-Humain - 4
Droit et Société - Volume 60 - Humain Non-Humain - 5
Droit et Société - Volume 60 - Humain Non-Humain - 6
Droit et Société - Volume 60 - Humain Non-Humain - 7
Droit et Société - Volume 60 - Humain Non-Humain - 8
Droit et Société - Volume 60 - Humain Non-Humain - 9
Droit et Société - Volume 60 - Humain Non-Humain - 10
Droit et Société - Volume 60 - Humain Non-Humain - 11
Droit et Société - Volume 60 - Humain Non-Humain - 12
Droit et Société - Volume 60 - Humain Non-Humain - 13
Droit et Société - Volume 60 - Humain Non-Humain - 14
Droit et Société - Volume 60 - Humain Non-Humain - 15
Droit et Société - Volume 60 - Humain Non-Humain - 16
Droit et Société - Volume 60 - Humain Non-Humain - 17
Droit et Société - Volume 60 - Humain Non-Humain - 18
Droit et Société - Volume 60 - Humain Non-Humain - 19
Droit et Société - Volume 60 - Humain Non-Humain - 20
Droit et Société - Volume 60 - Humain Non-Humain - 21
Droit et Société - Volume 60 - Humain Non-Humain - 22
Droit et Société - Volume 60 - Humain Non-Humain - 23
Droit et Société - Volume 60 - Humain Non-Humain - 24
Droit et Société - Volume 60 - Humain Non-Humain - 25
Droit et Société - Volume 60 - Humain Non-Humain - 26
Droit et Société - Volume 60 - Humain Non-Humain - 27
Droit et Société - Volume 60 - Humain Non-Humain - 28
Droit et Société - Volume 60 - Humain Non-Humain - 29
Droit et Société - Volume 60 - Humain Non-Humain - 30
Droit et Société - Volume 60 - Humain Non-Humain - 31
Droit et Société - Volume 60 - Humain Non-Humain - 32
Droit et Société - Volume 60 - Humain Non-Humain - 33
Droit et Société - Volume 60 - Humain Non-Humain - 34
Droit et Société - Volume 60 - Humain Non-Humain - 35
Droit et Société - Volume 60 - Humain Non-Humain - 36
Droit et Société - Volume 60 - Humain Non-Humain - 37
Droit et Société - Volume 60 - Humain Non-Humain - 38
Droit et Société - Volume 60 - Humain Non-Humain - 39
Droit et Société - Volume 60 - Humain Non-Humain - 40
Droit et Société - Volume 60 - Humain Non-Humain - 41
Droit et Société - Volume 60 - Humain Non-Humain - 42
Droit et Société - Volume 60 - Humain Non-Humain - 43
Droit et Société - Volume 60 - Humain Non-Humain - 44
Droit et Société - Volume 60 - Humain Non-Humain - 45
Droit et Société - Volume 60 - Humain Non-Humain - 46
Droit et Société - Volume 60 - Humain Non-Humain - 47
Droit et Société - Volume 60 - Humain Non-Humain - 48
Droit et Société - Volume 60 - Humain Non-Humain - 49
Droit et Société - Volume 60 - Humain Non-Humain - 50
Droit et Société - Volume 60 - Humain Non-Humain - 51
Droit et Société - Volume 60 - Humain Non-Humain - 52
Droit et Société - Volume 60 - Humain Non-Humain - 53
Droit et Société - Volume 60 - Humain Non-Humain - 54
Droit et Société - Volume 60 - Humain Non-Humain - 55
Droit et Société - Volume 60 - Humain Non-Humain - 56
Droit et Société - Volume 60 - Humain Non-Humain - 57
Droit et Société - Volume 60 - Humain Non-Humain - 58
Droit et Société - Volume 60 - Humain Non-Humain - 59
Droit et Société - Volume 60 - Humain Non-Humain - 60
Droit et Société - Volume 60 - Humain Non-Humain - 61
Droit et Société - Volume 60 - Humain Non-Humain - 62
Droit et Société - Volume 60 - Humain Non-Humain - 63
Droit et Société - Volume 60 - Humain Non-Humain - 64
Droit et Société - Volume 60 - Humain Non-Humain - 65
Droit et Société - Volume 60 - Humain Non-Humain - 66
Droit et Société - Volume 60 - Humain Non-Humain - 67
Droit et Société - Volume 60 - Humain Non-Humain - 68
Droit et Société - Volume 60 - Humain Non-Humain - 69
Droit et Société - Volume 60 - Humain Non-Humain - 70
Droit et Société - Volume 60 - Humain Non-Humain - 71
Droit et Société - Volume 60 - Humain Non-Humain - 72
Droit et Société - Volume 60 - Humain Non-Humain - 73
Droit et Société - Volume 60 - Humain Non-Humain - 74
Droit et Société - Volume 60 - Humain Non-Humain - 75
Droit et Société - Volume 60 - Humain Non-Humain - 76
Droit et Société - Volume 60 - Humain Non-Humain - 77
Droit et Société - Volume 60 - Humain Non-Humain - 78
Droit et Société - Volume 60 - Humain Non-Humain - 79
Droit et Société - Volume 60 - Humain Non-Humain - 80
Droit et Société - Volume 60 - Humain Non-Humain - 81
Droit et Société - Volume 60 - Humain Non-Humain - 82
Droit et Société - Volume 60 - Humain Non-Humain - 83
Droit et Société - Volume 60 - Humain Non-Humain - 84
Droit et Société - Volume 60 - Humain Non-Humain - 85
Droit et Société - Volume 60 - Humain Non-Humain - 86
Droit et Société - Volume 60 - Humain Non-Humain - 87
Droit et Société - Volume 60 - Humain Non-Humain - 88
Droit et Société - Volume 60 - Humain Non-Humain - 89
Droit et Société - Volume 60 - Humain Non-Humain - 90
Droit et Société - Volume 60 - Humain Non-Humain - 91
Droit et Société - Volume 60 - Humain Non-Humain - 92
Droit et Société - Volume 60 - Humain Non-Humain - 93
Droit et Société - Volume 60 - Humain Non-Humain - 94
Droit et Société - Volume 60 - Humain Non-Humain - 95
Droit et Société - Volume 60 - Humain Non-Humain - 96
Droit et Société - Volume 60 - Humain Non-Humain - 97
Droit et Société - Volume 60 - Humain Non-Humain - 98
Droit et Société - Volume 60 - Humain Non-Humain - 99
Droit et Société - Volume 60 - Humain Non-Humain - 100
Droit et Société - Volume 60 - Humain Non-Humain - 101
Droit et Société - Volume 60 - Humain Non-Humain - 102
Droit et Société - Volume 60 - Humain Non-Humain - 103
Droit et Société - Volume 60 - Humain Non-Humain - 104
Droit et Société - Volume 60 - Humain Non-Humain - 105
Droit et Société - Volume 60 - Humain Non-Humain - 106
Droit et Société - Volume 60 - Humain Non-Humain - 107
Droit et Société - Volume 60 - Humain Non-Humain - 108
Droit et Société - Volume 60 - Humain Non-Humain - 109
Droit et Société - Volume 60 - Humain Non-Humain - 110
Droit et Société - Volume 60 - Humain Non-Humain - 111
Droit et Société - Volume 60 - Humain Non-Humain - 112
Droit et Société - Volume 60 - Humain Non-Humain - 113
Droit et Société - Volume 60 - Humain Non-Humain - 114
Droit et Société - Volume 60 - Humain Non-Humain - 115
Droit et Société - Volume 60 - Humain Non-Humain - 116
Droit et Société - Volume 60 - Humain Non-Humain - 117
Droit et Société - Volume 60 - Humain Non-Humain - 118
Droit et Société - Volume 60 - Humain Non-Humain - 119
Droit et Société - Volume 60 - Humain Non-Humain - 120
Droit et Société - Volume 60 - Humain Non-Humain - 121
Droit et Société - Volume 60 - Humain Non-Humain - 122
Droit et Société - Volume 60 - Humain Non-Humain - 123
Droit et Société - Volume 60 - Humain Non-Humain - 124
Droit et Société - Volume 60 - Humain Non-Humain - 125
Droit et Société - Volume 60 - Humain Non-Humain - 126
Droit et Société - Volume 60 - Humain Non-Humain - 127
Droit et Société - Volume 60 - Humain Non-Humain - 128
Droit et Société - Volume 60 - Humain Non-Humain - 129
Droit et Société - Volume 60 - Humain Non-Humain - 130
Droit et Société - Volume 60 - Humain Non-Humain - 131
Droit et Société - Volume 60 - Humain Non-Humain - 132
Droit et Société - Volume 60 - Humain Non-Humain - 133
Droit et Société - Volume 60 - Humain Non-Humain - 134
Droit et Société - Volume 60 - Humain Non-Humain - 135
Droit et Société - Volume 60 - Humain Non-Humain - 136
Droit et Société - Volume 60 - Humain Non-Humain - 137
Droit et Société - Volume 60 - Humain Non-Humain - 138
Droit et Société - Volume 60 - Humain Non-Humain - 139
Droit et Société - Volume 60 - Humain Non-Humain - 140
Droit et Société - Volume 60 - Humain Non-Humain - 141
Droit et Société - Volume 60 - Humain Non-Humain - 142
Droit et Société - Volume 60 - Humain Non-Humain - 143
Droit et Société - Volume 60 - Humain Non-Humain - 144
Droit et Société - Volume 60 - Humain Non-Humain - 145
Droit et Société - Volume 60 - Humain Non-Humain - 146
Droit et Société - Volume 60 - Humain Non-Humain - 147
Droit et Société - Volume 60 - Humain Non-Humain - 148
Droit et Société - Volume 60 - Humain Non-Humain - 149
Droit et Société - Volume 60 - Humain Non-Humain - 150
Droit et Société - Volume 60 - Humain Non-Humain - 151
Droit et Société - Volume 60 - Humain Non-Humain - 152
Droit et Société - Volume 60 - Humain Non-Humain - 153
Droit et Société - Volume 60 - Humain Non-Humain - 154
Droit et Société - Volume 60 - Humain Non-Humain - 155
Droit et Société - Volume 60 - Humain Non-Humain - 156
Droit et Société - Volume 60 - Humain Non-Humain - 157
Droit et Société - Volume 60 - Humain Non-Humain - 158
Droit et Société - Volume 60 - Humain Non-Humain - 159
Droit et Société - Volume 60 - Humain Non-Humain - 160
Droit et Société - Volume 60 - Humain Non-Humain - 161
Droit et Société - Volume 60 - Humain Non-Humain - 162
Droit et Société - Volume 60 - Humain Non-Humain - 163
Droit et Société - Volume 60 - Humain Non-Humain - 164
Droit et Société - Volume 60 - Humain Non-Humain - 165
Droit et Société - Volume 60 - Humain Non-Humain - 166
Droit et Société - Volume 60 - Humain Non-Humain - 167
Droit et Société - Volume 60 - Humain Non-Humain - 168
Droit et Société - Volume 60 - Humain Non-Humain - 169
Droit et Société - Volume 60 - Humain Non-Humain - 170
Droit et Société - Volume 60 - Humain Non-Humain - 171
Droit et Société - Volume 60 - Humain Non-Humain - 172
Droit et Société - Volume 60 - Humain Non-Humain - 173
Droit et Société - Volume 60 - Humain Non-Humain - 174
Droit et Société - Volume 60 - Humain Non-Humain - 175
Droit et Société - Volume 60 - Humain Non-Humain - 176
Droit et Société - Volume 60 - Humain Non-Humain - 177
Droit et Société - Volume 60 - Humain Non-Humain - 178
Droit et Société - Volume 60 - Humain Non-Humain - 179
Droit et Société - Volume 60 - Humain Non-Humain - 180
Droit et Société - Volume 60 - Humain Non-Humain - 181
Droit et Société - Volume 60 - Humain Non-Humain - 182
Droit et Société - Volume 60 - Humain Non-Humain - 183
Droit et Société - Volume 60 - Humain Non-Humain - 184
Droit et Société - Volume 60 - Humain Non-Humain - 185
Droit et Société - Volume 60 - Humain Non-Humain - 186
Droit et Société - Volume 60 - Humain Non-Humain - 187
Droit et Société - Volume 60 - Humain Non-Humain - 188
Droit et Société - Volume 60 - Humain Non-Humain - 189
Droit et Société - Volume 60 - Humain Non-Humain - 190
Droit et Société - Volume 60 - Humain Non-Humain - 191
Droit et Société - Volume 60 - Humain Non-Humain - 192
Droit et Société - Volume 60 - Humain Non-Humain - 193
Droit et Société - Volume 60 - Humain Non-Humain - 194
Droit et Société - Volume 60 - Humain Non-Humain - 195
Droit et Société - Volume 60 - Humain Non-Humain - 196
Droit et Société - Volume 60 - Humain Non-Humain - 197
Droit et Société - Volume 60 - Humain Non-Humain - 198
Droit et Société - Volume 60 - Humain Non-Humain - 199
Droit et Société - Volume 60 - Humain Non-Humain - 200
Droit et Société - Volume 60 - Humain Non-Humain - 201
Droit et Société - Volume 60 - Humain Non-Humain - 202
Droit et Société - Volume 60 - Humain Non-Humain - 203
Droit et Société - Volume 60 - Humain Non-Humain - 204
Droit et Société - Volume 60 - Humain Non-Humain - 205
Droit et Société - Volume 60 - Humain Non-Humain - 206
Droit et Société - Volume 60 - Humain Non-Humain - 207
Droit et Société - Volume 60 - Humain Non-Humain - 208
Droit et Société - Volume 60 - Humain Non-Humain - 209
Droit et Société - Volume 60 - Humain Non-Humain - 210
Droit et Société - Volume 60 - Humain Non-Humain - 211
Droit et Société - Volume 60 - Humain Non-Humain - 212
Droit et Société - Volume 60 - Humain Non-Humain - 213
Droit et Société - Volume 60 - Humain Non-Humain - 214
Droit et Société - Volume 60 - Humain Non-Humain - 215
Droit et Société - Volume 60 - Humain Non-Humain - 216
Droit et Société - Volume 60 - Humain Non-Humain - 217
Droit et Société - Volume 60 - Humain Non-Humain - 218
Droit et Société - Volume 60 - Humain Non-Humain - 219
Droit et Société - Volume 60 - Humain Non-Humain - 220
Droit et Société - Volume 60 - Humain Non-Humain - 221
Droit et Société - Volume 60 - Humain Non-Humain - 222
Droit et Société - Volume 60 - Humain Non-Humain - 223
Droit et Société - Volume 60 - Humain Non-Humain - 224
Droit et Société - Volume 60 - Humain Non-Humain - 225
Droit et Société - Volume 60 - Humain Non-Humain - 226
Droit et Société - Volume 60 - Humain Non-Humain - 227
Droit et Société - Volume 60 - Humain Non-Humain - 228
Droit et Société - Volume 60 - Humain Non-Humain - 229
Droit et Société - Volume 60 - Humain Non-Humain - 230
https://www.nxtbook.com/lextenso-editions/LGDJ/978-2-275-15424-4
https://www.nxtbook.com/lextenso-editions/LGDJ/978-2-275-14313-2
https://www.nxtbook.com/lextenso-editions/LGDJ/978-2-275-02992-4
https://www.nxtbook.com/lextenso-editions/LGDJ/978-2-275-02988-7
https://www.nxtbook.com/lextenso-editions/LGDJ/978-2-275-11493-4
https://www.nxtbook.com/lextenso-editions/LGDJ/978-2-275-02966-5
https://www.nxtbook.com/lextenso-editions/LGDJ/978-2-275-02959-7
https://www.nxtbook.com/lextenso-editions/LGDJ/978-2-275-09074-0
https://www.nxtbook.com/lextenso-editions/LGDJ/978-2-275-06491-8
https://www.nxtbook.com/lextenso-editions/LGDJ/978-2-275-05764-4
https://www.nxtbook.com/lextenso-editions/LGDJ/978-2-275-05625-8
https://www.nxtbook.com/lextenso-editions/LGDJ/978-2-275-03663-2
https://www.nxtbook.com/lextenso-editions/LGDJ/978-2-275-04628-0
https://www.nxtbook.com/lextenso-editions/LGDJ/978-2-275-03777-6
https://www.nxtbook.com/lextenso-editions/LGDJ/978-2-275-02857-6
https://www.nxtbook.com/lextenso-editions/LGDJ/978-2-275-03666-3
https://www.nxtbook.com/lextenso-editions/LGDJ/978-2-275-03363-1
https://www.nxtbook.com/lextenso-editions/LGDJ/978-2-275-03620-5
https://www.nxtbook.com/lextenso-editions/LGDJ/978-2-275-03567-3
https://www.nxtbookmedia.com