Contexte

<aside> ✅ Le 19 février 2020, la Commission européenne avait publié un livre blanc sur l'IA ainsi qu'un rapport sur les conséquences de l’intelligence artificielle, de l’internet des objets et de la robotique sur la sécurité et la responsabilité

En parallèle de l'UE, des organisations internationales comme le Conseil de l'Europe ont travaillé sur ce sujet. Le COE a publié un espacé recensant les travaux existants sur l'IA, et le comité dédié aux études sur l'IA (CAHAI) a publié le 17 décembre 2020 un document de recherche sur la faisabilité un cadre juridique pour encadrer les systèmes d'IA.

On peut trouver ici, une liste des digital policy frameworks, qui inclut une liste des documents du COE et de la Commission Européenne.

</aside>

🌍 Champ d'application

Le projet mentionne des exclusions spécifiques de l'applicabilité du règlement pour les IA à usage militaire et l'opération d'armes, ainsi que sa non-applicabilité aux autorités publiques (ou entités agissant en leur nom) dans le but de sauvegarder la sécurité publique.

📑 Définitions

• «système d’intelligence artificielle» (système d’IA), un logiciel qui est développé au moyen d’une ou plusieurs des techniques et approches énumérées à l’annexe I et qui peut, pour un ensemble donné d’objectifs définis par l’homme, générer des résultats tels que des contenus, des prédictions, des recommandations ou des décisions influençant les environnements avec lesquels il interagit;

Cette Annexe I, indique les approches suivantes:

• (a)Approches d’apprentissage automatique, y compris d’apprentissage supervisé, non supervisé et par renforcement, utilisant une grande variété de méthodes, y compris l’apprentissage profond.
• (b)Approches fondées sur la logique et les connaissances, y compris la représentation des connaissances, la programmation inductive (logique), les bases de connaissances, les moteurs d’inférence et de déduction, le raisonnement (symbolique) et les systèmes experts.
• (c)Approches statistiques, estimation bayésienne, méthodes de recherche et d’optimisation.

<aside> ✅ Remarque de Numéricité:

Définir l'IA n'est pas une tâche facile. Des organisations internationales et la Commission ont déjà travaillé sur une définition de l'IA notamment en 2018 dans le cadre de travaux d'experts

Dans le cas du Règlement, le danger est d'inclure des systèmes qui seraient plus des algorithmes que de l'IA, ou bien encore d'oublier des systèmes avec une définition qui ne serait pas suffisamment large : l'équilibre étant difficile à trouver dans un système changeant.

Le 18 juin 2021, la CNIL, ses homologues et le Contrôleur européen de la protection des données ont adopté un avis sur la proposition de règlement de la Commission européenne sur l'IA.

</aside>

⚠Interdictions

Selon le projet de règlement, les types d'IA suivants seront interdits :

• L'IA utilisée pour la "surveillance indiscriminée", y compris les systèmes qui suivent directement les individus dans des environnements physiques ou qui agrègent des données provenant d'autres sources.
• Les systèmes d'IA qui jugent de la fiabilité d'une personne sur la base de son comportement social ou de traits de personnalité prédits.

⚙ Mécanismes

Le projet de règlement introduit également, entre autres, les éléments suivants :

• Une différenciation entre systèmes de IA, avec ceux de « haut risque » ;