Photo by Christian Wiediger on Unsplash

L’intelligence artificielle dans la mire du Législateur européen

Publié par

On rapporte le dépôt d’un projet de règlement européen, ce matin, visant à régir l’utilisation de l’intelligence artificielle (l’«IA») par les entreprises. Encore une fois, comme avec son règlement en matière de données personnelles, l’Europe mène le bal en matière d’encadrement juridique de ce que font et devraient pouvoir faire les entreprises.

Cette fois, l’effort législatif européen vise à contraindre l’utilisation l’IA, en particulier en divisant les systèmes l’utilisant en 4 catégories de risques pour les droits et la sécurité des individus. Bien que l’IA ait un potentiel énorme, sa venue comporte néanmoins d’énormes risques à l’intérêt public et la société en général, sans parler des droits des individus. Ce règlement viserait donc à mettre en place des règles plus ou moins strictes, tout dépendant du risque perçu en matière de santé, de sécurité ou de droits fondamentaux des individus. Plus une utilisation s’avère dangereuse, plus les lois européennes en contraindrait l’utilisation -c’est l’idée.

La Commission européenne propose ainsi « de nouvelles règles et actions en faveur de l’excellence et de la confiance dans l’intelligence artificielle », par une proposition visant à éventuellement harmoniser le traitement de l’IA par les pays européens. Le but : éviter une dystopie rendue possible par l’adoption débridée de l’IA par les organisations de tous acabits, sans jamais leur avoir imposé de cadre juridique.

Par exemple, le règlement interdirait certains systèmes posant un risque démesuré de surveillance ou d’abus des droits humains, tels ceux qui permettraient de mettre en oeuvre un système de pointage citoyen, à l’instar de ce que la Chine et à mettre, chez elle, en place.

À l’échelon le plus élevé suivant, les « systèmes d’IA à haut risque devront être conformes à obligations strictes pour pouvoir être mis sur le marché »; la règlementation obligerait les organisations utilisant des système d’IA risqués à déployer des dispositifs de sûreté et de gestion, documenter et tester leurs systèmes, l’inscrire auprès des autorités européennes, afficher le degré de risque associé à leur système, etc. Ces systèmes comprendraient :

les technologies d’IA qui sont utilisées dans les infrastructures critiques (par exemple les transports) et sont susceptibles de mettre en danger la vie et la santé des citoyens;

les technologies d’IA utilisées dans l’éducation ou la formation professionnelle, qui peuvent déterminer l’accès à l’éducation et le parcours professionnel d’une personne (par exemple, la notation d’épreuves d’examens);

les technologies d’IA utilisées dans les composants de sécurité des produits (par exemple, l’application de l’IA dans la chirurgie assistée par robot);

les technologies d’IA utilisées dans le domaine de l’emploi, de la gestion de la main d’œuvre et de l’accès à l’emploi indépendant (par exemple, les logiciels de tri des CV pour les procédures de recrutement);

les technologies d’IA utilisées dans les services privés et publics essentiels (par exemple, l’évaluation du risque de crédit, qui prive certains citoyens de la possibilité d’obtenir un prêt);

les technologies d’IA utilisées dans le domaine du maintien de l’ordre, qui sont susceptibles d’interférer avec les droits fondamentaux des personnes (par exemple, la vérification de la fiabilité des éléments de preuve);

les technologies d’IA utilisées dans le domaine de la gestion de la migration, de l’asile et des contrôles aux frontières (par exemple, la vérification de l’authenticité des documents de voyage);

les technologies d’IA utilisées dans les domaines de l’administration de la justice et des processus démocratiques (par exemple, l’application de la loi à un ensemble concret de faits).

Les deux autres catégories de système d’IA seraient susceptibles de passablement moins de contraintes, incluant, à titre d’exemple, l’obligation de simplement le divulguer quand un système de clavardage implique que l’usager soit face à une IA, plutôt qu’un réel être humain, etc.

On avance déjà que cette initiative européenne fera des petits, alors que nombre d’autres juridictions sont susceptible d’emboiter le pas. Bien que le Canada ne soit encore là, il ne serait pas surprenant qu’une initiative semblable voit ici le jour -en fait, le contraire serait étonnant. En déposant ce projet de règlement, le Parlement européen déclare d’ailleurs que son intention est « d’élaborer de nouvelles normes mondiales qui garantiront que l’IA soit digne de confiance ».

Si vous êtes curieux, le projet de règlement couvre 85 articles, sur 50 pages. Vous savez -une petite lecture légère de vacances pour cet été.