Commission européenne : proposition de législation relative à l'intelligence artificielle

IRIS 2021-6:1/25

Ronan Ó Fathaigh

Institut du droit de l’information (IViR)

Le 21 avril 2021, la Commission européenne a publié son emblématique et très attendue proposition de règlement établissant des règles harmonisées concernant l'intelligence artificielle (loi relative à l'intelligence artificielle). Cette initiative fait suite à la publication en 2018 de la Stratégie européenne en matière d’intelligence artificielle et à la publication des lignes directrices pour une intelligence artificielle digne de confiance en 2019, par le groupe d'experts de haut niveau sur l'intelligence artificielle institué par la Commission européenne (voir IRIS 2019-7/3). La proposition de loi relative à l’intelligence artificielle, qui compte 108 pages et s’articule autour de 85 articles, repose, comme l'affirme la Commission, sur une approche fondée sur les risques, puisque le texte prévoit d’interdire certains systèmes d’intelligence artificielle qui présentent des risques inacceptables, tout en soumettant les systèmes d'intelligence artificielle à risque élevé à un certain nombre d’exigences particulièrement strictes.   

D’emblée, l'article 3 de la loi relative à l'intelligence artificielle définit un système d'intelligence artificielle comme un logiciel mis au point avec une ou plusieurs de certaines techniques et approches (énumérées à l'annexe I), comme « l'apprentissage automatique », et qui peut, pour un ensemble spécifique d’objectifs définis par l'homme, « générer des résultats tels que des contenus, des prédictions,  des recommandations ou des décisions ayant une influence sur les environnements avec lesquels ils interagissent ». Il convient de souligner que le titre II de la loi énumère ensuite un certain nombre de pratiques d'intelligence artificielle qui sont interdites. Par exemple, les systèmes d’intelligence artificielle qui « altèrent matériellement le comportement d’une personne » d’une manière qui cause ou est susceptible de causer à cette personne ou à une autre personne un préjudice physique ou psychologique sont interdits en vertu des articles 5 (a) et 5 (b). En outre, les systèmes d'IA qui permettent une « notation sociale » par les gouvernements, c'est-à-dire la classification de la fiabilité des individus sur une certaine période de temps en fonction de leur comportement social, sont également interdits en vertu de l'article 5 (c). L'article 5(d) interdit notamment le recours à des systèmes d'identification biométrique à distance en temps réel dans des espaces accessibles au public à des fins de maintien de l’ordre, sauf dans certaines circonstances exceptionnelles, comme la nécessité de détecter, de localiser, d’identifier ou de poursuivre l’auteur ou le suspect d’une grave infraction pénale, de prévenir une menace spécifique, concrète et imminente pour la vie ou la sécurité physique de la population, ou une attaque terroriste.   

Le texte aborde ensuite dans la partie III la question des systèmes d'intelligence artificielle qui présentent un « risque élevé ». Ces systèmes sont énumérés à l’annexe 3 de la loi et englobent les systèmes d’intelligence artificielle dans les domaines (a) de l’éducation et de la formation ; (b) de l'emploi, de la gestion de la main d’œuvre et de l'accès au travail indépendant ; (c) de l’accessibilité à des services privés et publics essentiels et de la possibilité d’en bénéficier ; (d) du maintien de l’ordre ; (e) de l’assistance aux autorités judiciaires dans la recherche et l’interprétation des faits et de la législation, ainsi que dans l’application de la loi à un ensemble concret de faits ; (f) de la gestion des migration, de l'asile et des contrôles aux frontières. Il convient de souligner que la loi relative à l'intelligence artificielle définit un certain nombre de règles qui s'appliquent à ces systèmes d’IA qui présentent un risque élevé, notamment des mesures en matière de données et de gouvernance des données, de documentation et de conservation des enregistrements, de transparence et d’informations claires et adéquates à l’intention des utilisateurs, ainsi qu’un contrôle humain approprié.  

Il convient de préciser que l'article 52 énonce des dispositions spécifiquement applicables aux technologies d’hypertrucage (deep fake) et impose que les systèmes d'intelligence artificielle, qui génèrent ou manipulent des contenus visuels, audio ou vidéo ressemblant manifestement à des personnes, des objets, des lieux ou à d’autres entités ou événements existants et pouvant donner l’impression que ces contenus sont véritablement authentiques (deep fake), indiquent clairement que le contenu en question « a été généré ou manipulé artificiellement ». Ces dispositions ne peuvent toutefois pas s’appliquer lorsque l’utilisation du système d’intelligence artificielle est nécessaire à l'exercice du droit à la liberté d'expression et du droit à la liberté des arts et des sciences, garantis par la Charte des droits fondamentaux de l'Union européenne, et « sous réserve de garanties des droits et libertés des tierces parties ».

Enfin, la partie VI propose un système de gouvernance à l’échelle de l’Union européenne et des États membres. Premièrement, l'article 56 institue un comité européen de l'intelligence artificielle, qui donnera des conseils et une expertise à la Commission européenne sur l'application de l'intelligence artificielle. En vertu de l'article 59, les États membres seront par ailleurs tenus de désigner des autorités nationales compétentes chargées de veiller à l'application et à la mise en œuvre de la loi relative à l'intelligence artificielle.

Le Parlement européen et les États membres examineront à présent la proposition de la Commission dans le cadre de la procédure législative ordinaire. S'il est adopté, le règlement sera directement applicable dans l’ensemble de l’Union européenne.