Expertises des Systèmes d'information - Février 2022 - N°476 - Le mensuel du droit de l'informatique et du multimédia - 76

DOCTR INE
en santé, et suffisant pour éviter
les surprises et les difficultés en
cas de procédure judiciaire.
Avec le règlement général sur la
protection des données (RGPD),
qui bénéficie à la sécurité et à
la souveraineté des données, la
charte des droits fondamentaux
(CDF) constitue un ensemble
immuable pour constituer les
fondements d'un cadre légal de
la régulation de l'IA en santé pour
l'Europe et la France. Il apparaît
suffisamment contraignant pour
fixer les principes et règles juridiques
liées au développement et
à l'utilisation de l'IA en santé dans
l'UE, à quelques exceptions près.
Ceci justifie de façon complémentaire
la proposition de règlement
de la CE établissant des règles
harmonisées pour l'IA en Europe,
laquelle
s'emploie
à distinguer
divers types d'IA, selon l'impact
pour l'Homme, pour en faciliter la
mise en œuvre.
Il reste
que des dispositions
particulières devront être prévues
à propos de la visibilité des algorithmes
propriétaires au nom du
droit de propriété intellectuelle et
des responsabilités au vu des interfaces
entre agents d'IA et acteurs
humains et de la complexité des
processus.
Daniel GUINIER
Docteur ès Sciences
Certifications CISSP, ISSMP,
ISSAP et MBCI
Expert de justice honoraire,
ancien expert devant la Cour
pénale internationale de La Haye
Consultant en politiques et
stratégies de cybercriminalité et
de cybersécurité
Bibliographie
Anahory M, Bertho M., Vansuypeene M. (2021) : Un
cadre juridique pour les dispositifs médicaux recourant à
l'IA. Expertises, n°473, novembre, pp. 398-399.
Böke S. S. (2020) : Artificial intelligence in health care :
medical, legal and ethical challenges ahead. Rapport de
l'assemblée parlementaire du Conseil de l'Europe, 22
septembre, 17 pages.
CE (2018) : Communication sur l'intelligence artificielle
pour l'Europe, COM (2018) 237 final du 25 avril, 23 pages.
CE (2020) : Livre blanc sur l'intelligence artificielle - Une
approche européenne axée sur l'excellence et la confiance.
COM (2020) 65 final du 12 février, 31 pages.
CE (2021) : Proposition de règlement du Parlement
européen et du Conseil établissant des règles harmonisées
concernant l'IA (Artificial Intelligence Act)) et modifiant
certains actes législatifs de l'Union. COM(2021) 206
final du 21 avril, 119 pages, annexes 18 pages.
CNIL (2017) : Comment permettre à l'Homme de garder
la main ? Les enjeux éthiques des algorithmes et de l'intelligence
artificielle, synthèse de débat public, décembre,
80 pages.
CNOM (2018) : Médecins et patients dans le monde des
data, des algorithmes et de l'intelligence artificielle, livre
blanc, 72 pages.
Etzioni A., Etzioni O. (2016) : Designing AI systems that
obey our laws and values. Comm. ACM, vol.59, n°9, pp.
29-31.
Guinier D. (1994) : Oriented-scenario dynamics in information
systems safety, Introduction to propagation
paths, channels of risk and " revulsion momentum " , ACM
Sigsac Review, vol.12, n°3, pp. 6-11.
Guinier D. (2018) : Place des algorithmes et exigences
face à la complexité et à la convergence technologique.
Revue Experts, n°139, août, pp. 40-44.
Guinier D. (2022) : L'odyssée de l'intelligence artificielle
- Anticiper le futur en évitant les écueils appris du passé.
Expertises, n°475, janvier, pp. 32-37.
Jirotka M., et al., (2017) : Responsible research and innovation
in the digital age. Comm. ACM, vol.60, n°5, pp.
62-68.
Mueller H., et al. (2021) : The ten commandments of ethical
medical AI. IEEE Computer, vol.54, n° 7, pp. 119-123.
Price, W. N. (2013) : Medical malpractice and black box
medicine. In G. Cohen, et al. Ed., Big Data, health law and
bioethics, pp. 295-306.
Stöger K., et al. (2021) : Medical Artificial Intelligence :
The European legal perspective. Comm. ACM, vol.64,
n°11, pp. 34-36.
Villani C. (2018) : Donner un sens à l'intelligence artificielle.
Pour une stratégie nationale et européenne.
Rapport de mission parlementaire confiée par le Premier
Ministre, mars, 234 pages.
UE (2000) : Charte des droits fondamentaux de l'UE. J.O.
des Communautés européennes (2000/C 364/01) du 12
décembre, 22 pages, et 2012/C 326/02 du 26 octobre,
17 pages.
UE (2016) : Règlement du Parlement européen et du
Conseil, relatif à la protection des personnes physiques
à l'égard du traitement des données à caractère personnel
et à la libre circulation de ces données, et abrogeant
la directive 95/46/CE (Règlement général sur la protection
des données (RGPD), (UE) 2016/679 du 27 avril, 88
pages.
Ziegler L., Schlich R. (2021) : Emergence d'un cadre légal
harmonisé : de l'éthique à la conformité. Expertises,
n°471, septembre, pp. 309-317.
(5)
(3)
Notes
(1)
L'auteur en détaillait l'avancée par vagues sous
diverses formes et les aspects connexes à intégrer,
en introduisant le besoin d'une approche globale
de l'éthique et la nécessité de disposer d'un cadre
juridique et réglementaire pour l'UE (voir D.
Guinier (2022)).
(2)
Le processus est complexe et incertain, depuis
la recherche fondamentale jusqu'aux startups,
avant de pouvoir procéder à des essais.
Les applications en apprentissage profond qui
relèvent du traitement d'images : détection
de mélanomes, dépistage des rétinopathies
diabétiques, etc., nécessitent de disposer
d'échantillons de dizaines de milliers d'images,
voire plus, dans la phase d'apprentissage, pour
entraîner l'algorithme d'IA.
(4)
Ex. Robots animateurs en EHPAD, robots d'accueil
entraînés au dialogue, agents conversationnels
en santé mentale, etc. D'une façon générale, la
robotique est un autre domaine de l'IA qui vise
l'autonomie de machines en les dotant de capacités
de perception, de décision et d'action.
Le CNOM rappelle à propos des enjeux
que «le médecin doit se souvenir qu'il soigne
une personne qui est malade et qu'il ne combat
pas seulement la maladie dont un individu serait
atteint», p. 31, «L'empathie médicale aide à
guérir», p. 32.
(6) Voir UE (2000), CE (2018, 2020 et 2021).
(7) Voir CNOM (2018).
(8) Au vu de l'évaluation des menaces à l'encontre de
l'IA qui pourrait être faite par l'Agence de l'Union
européenne pour la cybersécurité (ENISA), sinon
l'Agence nationale de la sécurité des systèmes
d'information (ANSSI) pour la France.
(9)
Loi du 2 août 2021 relative à la bioéthique, sur
l'obligation d'information à la charge des professionnels
utilisant une IA en santé (art. L. 4001-3
du CSP).
(10) Voir UE (2016).
(11) Voir UE (2000).
(12) Il convient de rappeler que les droits fondamentaux
protègent les individus contre l'intervention
de l'État et l'obligent à protéger certaines libertés
contre l'ingérence de tiers. A plusieurs reprises
la Cour européenne des droits de l'Homme a
rappelé à l'État son obligation de réglementer
les prestations de services de santé pour que
des précautions soient prises afin d'éviter des
atteintes graves à la santé, obligeant ainsi la mise
en œuvre de mesures d'assurance qualité.
(13) Voir A. et O. Etzioni (2016).
(14) Voir W. N. Price (2013).
(15) Il faut distinguer le principe de «Privacy by
Design» qui implique la prise en compte de la
protection de la vie privée et de la protection des
données à caractère personnel dès la conception
d'un système impliquant leur traitement,
de «Privacy by Default» qui garantit un niveau
de protection d'un produit ou service qui a été
rendu public. Les standards en matière de protection
s'appliquent alors par défaut lors de son
utilisation.
(16) Voir S. S. Böke (2020).
(17) Voir D. Guinier (1994, 2018).

76
Vous avez envie de vous exprimer sur un sujet qui vous tient à cœur, de partager votre analyse
avec la communauté des lecteurs d'Expertises, d'exposer un point de vue différent sur un article
déjà publié, de lancer un débat sur un thème émergent, ou simplement de commenter l'actualité
du droit du numérique ?
Contactez la rédactrice en chef d'Expertises Sylvie Rozenfeld sr@expertises.info
EXPERTISES FÉVRIER 2022
Expertises des Systèmes d'information - Février 2022 - N°476 - Le mensuel du droit de l'informatique et du multimédia

Table des matières de la publication Expertises des Systèmes d'information - Février 2022 - N°476 - Le mensuel du droit de l'informatique et du multimédia
