Le 28 janvier, le Bureau du commissaire à l’information et à la protection de la vie privée de l’Ontario (CIPVP de l’Ontario) a publié des orientations sur le développement, l’acquisition et l’utilisation responsables de transcripteurs par IA. Les orientations reflètent l’adoption croissante d’outils de transcription par IA dans le secteur des soins de santé et mettent l’accent sur le respect des obligations en matière de protection de la vie privée, de sécurité et de droits de la personne conformément à la Loi de 2004 sur la protection des renseignements personnels sur la santé (LPRPS).
Cette publication coïncide avec la publication récente d’orientations semblables par le Commissariat à l’information et à la protection de la vie privée de la Colombie-Britannique (CIPVP de la C.-B.), ce qui témoigne de l’attention réglementaire croissante portée à la responsabilisation à l’égard de l’IA dans le domaine des soins de santé. Toutefois, en grande partie en raison de différences entre les lois sur la protection de la vie privée en Ontario et en Colombie-Britannique, le CIPVP de l’Ontario et le CIPVP de la C.-B. adoptent des approches sensiblement différentes.
La LPRPS de l’Ontario s’applique largement à tous les « dépositaires de renseignements sur la santé », tandis qu’en Colombie-Britannique, une législation différente s’applique aux organismes de soins de santé du secteur privé et à ceux du secteur public. Par conséquent, les orientations du CIPVP de l’Ontario s’appliquent à tous les dépositaires, tandis que les orientations de la Colombie-Britannique ne s’appliquent qu’aux organismes de soins de santé privés. Les orientations du CIPVP de l’Ontario ont également trait à l’ensemble du cycle de vie des transcripteurs par IA; elles précisent les obligations des développeurs, des acquéreurs et des utilisateurs, tandis que les orientations du CIPVP de la C.-B. visent à aider les fournisseurs de soins de santé privés qui utilisent des transcripteurs par IA à se conformer à la Personal Information Protection Act.
Contexte concernant les transcripteurs par IA
Les transcripteurs par IA sont des outils qui utilisent l’intelligence artificielle générative, la reconnaissance de la parole et le traitement automatique des langues pour transcrire les propos échangés au cours des visites chez les fournisseurs de soins de santé et générer des notes cliniques, des résumés et autres documents connexes. L’utilisation d’outils de transcription par IA se répand rapidement en Ontario et vise à réduire la charge administrative des professionnels de la santé. Bien que les premiers déploiements révèlent des gains d’efficience prometteurs, les transcripteurs par IA comportent également de nouveaux risques en matière de protection des données, de sécurité et de précision clinique que les dépositaires doivent gérer.
Champ d’application et principes des nouvelles orientations
Les orientations se concentrent sur les considérations relatives à la protection de la vie privée qui découlent de l’utilisation des transcripteurs par IA pour transcrire des paroles et générer des notes.
Les orientations cadrent avec les six principes fondamentaux pour une utilisation responsable de l’IA énoncés précédemment conjointement par le CIPVP de l’Ontario et la Commission ontarienne des droits de la personne : les systèmes doivent être valides et fiables, sûrs, respectueux de la vie privée, transparents et responsables, et protéger les droits de la personne.
Gouvernance et responsabilisation à l’égard des transcripteurs par IA
Les dépositaires de renseignements sur la santé sont, en fin de compte, responsables des renseignements personnels sur la santé qui sont sous leur garde et leur contrôle, et leurs obligations en vertu de la LPRPS continuent de s’appliquer lorsqu’ils recueillent, utilisent et divulguent des renseignements personnels sur la santé à l’aide d’un système d’IA, comme un transcripteur par IA. Par conséquent, le CIPVP de l’Ontario recommande aux dépositaires d’établir un cadre solide de gouvernance et de responsabilisation afin de garantir le respect continu de la LPRPS lorsque des transcripteurs par IA sont utilisés.
Un cadre de gouvernance et de responsabilisation devrait comprendre ce qui suit :
- Comité de gouvernance de l’IA. Établir un comité de gouvernance de l’IA et un cadre de gestion des risques liés à l’IA ancrés dans la responsabilisation prévue par la LPRPS et intégrés aux structures et aux processus de gouvernance existants.
- Minimisation des données. Appliquer les principes de minimisation des données prévus par la LPRPS tout au long du cycle de vie du transcripteur par IA. Ces principes peuvent comprendre l’examen de la nécessité de conserver des enregistrements audio ou des transcriptions complets et de limiter la divulgation des renseignements personnels sur la santé aux fournisseurs.
- Évaluations de l’impact sur la vie privée. Effectuer des évaluations de l’impact sur la vie privée avant l’implantation de transcripteurs par IA et les mettre à jour lorsque les objectifs, les systèmes ou les risques évoluent. Mettre en œuvre des évaluations de la menace et des risques et des évaluations propres à l’IA, et actualiser ces évaluations, au besoin.
- Politiques, pratiques et procédures. Consigner par écrit des politiques, pratiques et procédures exhaustives et les examiner régulièrement pour tenir compte des modifications législatives, des orientations du CIPVP de l’Ontario et des mises à jour technologiques. Ces documents comprennent les ententes avec les utilisateurs finaux et la formation sur la surveillance humaine des résultats de l’IA.
- Transparence et demandes de renseignements. Préparer des documents de transparence destinés aux patients et établir un processus pour répondre aux demandes de renseignements concernant le système d’IA.
- Exactitude et surveillance humaine. Établir des procédures pour détecter les inexactitudes ou les biais et s’assurer que des personnes adéquatement formées participent au processus afin de surveiller la qualité et la performance du système d’IA. Cette mesure est importante, puisque les risques liés aux inexactitudes courantes générées par l’IA, comme les hallucinations ou les erreurs de transcription, sont exacerbés dans le contexte des soins de santé. Des erreurs dans les notes cliniques ou d’autres documents sur lesquels les praticiens s’appuient peuvent réduire la qualité des soins et avoir une incidence négative sur la sécurité et le bien-être des patients, ce qui renforce la nécessité de systèmes d’IA exacts.
- Consentement à l’utilisation d’un transcripteur par IA. S’assurer que les patients qui refusent d’accorder leur consentement à l’utilisation d’un transcripteur par IA ou retirent leur consentement reçoivent le même niveau de soins que les patients qui y consentent. Si les renseignements recueillis pendant l’utilisation d’un transcripteur par IA contribuent au développement de modèles d’IA, il faut tenir compte du risque de biais découlant de l’exclusion des données des patients qui n’ont pas donné leur consentement.
Développement et acquisition de transcripteurs par IA : enjeux pour les dépositaires
Les dépositaires peuvent soit développer, soit acquérir des systèmes d’IA, y compris des transcripteurs par IA. Selon que l’outil est développé ou acquis, les dépositaires doivent tenir compte de risques différents.
Les dépositaires qui développent des transcripteurs par IA à l’interne doivent s’assurer que leur système est sécuritaire et entraîné à partir de données obtenues légalement, qu’il produit des résultats exacts et explicables et qu’il comprend des mesures d’atténuation des biais et des mesures de cybersécurité. Une surveillance continue et des évaluations propres à l’IA seront essentielles.
Les dépositaires qui se procurent des transcripteurs par IA auprès de fournisseurs tiers doivent faire preuve d’une diligence rigoureuse et évaluer si un fournisseur répond à leurs attentes et accepte les obligations relatives à l’utilisation prévue, à l’obtention légale des données d’entraînement, à la validation du modèle, à la surveillance, à l’explicabilité et à la notification d’incidents.
Pour satisfaire à ses propres obligations prévues par la LPRPS, un dépositaire devrait négocier des garanties contractuelles contraignantes et vérifier les engagements d’un fournisseur en matière de performance et de surveillance continues. Cela peut comprendre des limites contractuelles à l’accès et à l’utilisation des renseignements personnels sur la santé par le fournisseur, des obligations de conservation et de destruction des renseignements, des contrôles des sous-traitants, des engagements de sécurité et de notification de manquements à la LPRPS, ainsi qu’un suivi continu de la performance, entre autres mesures de protection.
Les perspectives
À mesure que les technologies de transcription par IA continuent d’évoluer, les dépositaires devraient s’attendre à un examen réglementaire plus rigoureux et à des attentes accrues en matière de gouvernance, de transparence et de surveillance humaine. Les dépositaires devront constamment surveiller les évolutions juridiques et réglementaires et mettre à jour leurs cadres internes en conséquence. Ils devront trouver un équilibre entre la nécessité d’innover et d’améliorer l’efficacité sans compromettre le respect de la LPRPS et des autres mesures qui protègent les droits de la personne.
Les auteur·rices tiennent à remercier Sulayman Syed, stagiaire, pour son aide dans la préparation de la présente actualité juridique.