Photo by Ian Battaglia on Unsplash

Le Canada s’interroge sur les effets néfastes éventuels de l’IA sur la protection des renseignements personnels

Le Commissariat à la protection de la vie privée lançait cette semaine une consultation sur l’intelligence artificielle (l’«IA») et la mesure dans laquelle on devrait déjà tenter de s’en prémunir, en tant que société, relativement aux renseignements des individus.

Notre commissaire cherche ainsi à obtenir les vues de la collectivité, à savoir dans quelle mesure, compte tenu de l’engouement des entreprises pour l’IA, il pourrait s’avérer approprié de renforcer notre législation en matière de renseignements personnels.

Comme chacun le sait, la venue de nouvelles technologies (et leur adoption généralisée), telles l’IA et la reconnaissance faciale, ont le potentiel de castrer considérablement nos lois en matière de protection des renseignements personnels, en pratique.

Le Commissariat fait ainsi 10 propositions au sujet desquelles il demande des commentaires, à savoir (je cite):

  1. Incorporer dans la loi une définition de l’IA qui servirait à distinguer les règles juridiques qui ne s’appliqueraient qu’à elle, tandis que les autres règles s’appliqueraient à tout type de traitement, y compris l’IA;
  2. Adopter une approche fondée sur les droits dans la loi, selon laquelle les principes de protection des données sont mis en œuvre comme moyen de protéger un droit plus général à la vie privée – reconnu comme un droit fondamental de la personne et comme fondement de l’exercice d’autres droits de la personne;
  3. La loi devrait prévoir le droit de s’opposer à la prise de décision automatisée et de ne pas être soumis à des décisions fondées uniquement sur un traitement automatisé, sous réserve de certaines exceptions;
  4. Donner aux personnes le droit à une explication et à une plus grande transparence lorsqu’elles interagissent avec un traitement automatisé ou font l’objet d’un tel traitement;
  5. Exiger l’application des principes de la protection de la vie privée dès la conception et des droits de la personne dès la conception à toutes les étapes du traitement, y compris la collecte de données;
  6. Faire en sorte que le respect des principes de la finalité et de la minimisation des données dans le contexte de l’IA soit à la fois réaliste et efficace;
  7. Inclure dans la loi d’autres motifs de traitement et des solutions pour protéger la vie privée lorsqu’il n’est pas possible d’obtenir un consentement valable;
  8. Établir des règles qui permettent une certaine souplesse dans l’utilisation des renseignements qui ont été rendus non identifiables, tout en s’assurant qu’il existe des mesures plus rigoureuses pour assurer une protection contre la réidentification;
  9. Exiger des organisations qu’elles assurent la traçabilité des données et des algorithmes, notamment en ce qui concerne les ensembles de données, les processus et les décisions prises pendant le cycle de vie du système d’IA; et
  10. Obliger à faire preuve de responsabilité démontrable pour l’élaboration et la mise en œuvre du traitement par IA.

Le Canada tente en quelque sorte de voir venir le train, en évitant de prendre trop de retard quant à ce que permet notre loi, dans un contexte technologique toujours changeant. On invite ainsi les intéressés à prendre connaissance des Propositions du Commissariat visant à assurer une réglementation adéquate de l’intelligence artificielle et à lui faire part de nos commentaires d’ici au 13 mars 2020.