En bref
En santé, l'IA touche la catégorie de renseignements personnels la plus sensible qui soit, et intervient souvent près d'une décision clinique. Trois propriétés du référentiel iDIA y portent l'essentiel du poids : Souveraine, parce que la résidence des données se justifie ; Supervisée, parce qu'une sortie d'IA près du soin se relit ; Imputable, parce qu'une décision informée par l'IA reste attribuable à une personne nommée.
Où l'IA s'utilise-t-elle réellement en santé ?
Publié le · mis à jour le · Wissam Daibess
Les usages se répartissent en trois familles, et elles ne portent pas le même risque. L'administratif : prise de rendez-vous, transcription, facturation, rédaction de correspondance. Le soutien clinique : synthèse de dossier, aide à la documentation, préparation de notes. L'aide à la décision proprement dite : triage, imagerie, détection.
Le troisième groupe attire l'attention réglementaire, mais les deux premiers concentrent le volume réel. Une transcription automatique de consultation traite déjà des renseignements de santé, sans qu'aucun comité l'ait examinée.
L'inventaire précède tout le reste. L'usage réel de l'IA dans les équipes cliniques et administratives dépasse presque toujours l'usage autorisé.
Quels risques l'IA introduit-elle en santé ?
Le premier est celui de la donnée elle-même. Un renseignement de santé qui transite par un fournisseur d'IA quitte le périmètre de l'établissement. La question souveraine devient concrète : où réside la donnée, sous quelle juridiction, et pour combien de temps le fournisseur la conserve.
Le deuxième tient à la place de l'humain. Plus la sortie d'un système ressemble à un avis, plus la tentation est grande de la traiter comme tel. La supervision se conçoit alors explicitement, calibrée au risque de l'usage, plutôt que laissée au jugement du moment.
Le troisième est l'imputabilité. Quand une décision a été informée par un système, il faut pouvoir nommer qui l'a prise, sur quelles données, et avec quelle version du système. Sans cette trace, la reddition de comptes s'arrête au premier « le système a suggéré ».
Que dit la réglementation pour l'IA en santé ?
La Loi 25 s'applique dès qu'un renseignement personnel entre dans un outil d'IA, et les renseignements de santé comptent parmi les plus sensibles. Les obligations sur la transparence des décisions automatisées, l'évaluation des facteurs relatifs à la vie privée et la communication hors Québec sont celles qui touchent le plus directement ces usages.
Du côté européen, l'AI Act classe les dispositifs médicaux au niveau haut risque, avec les exigences qui l'accompagnent : gestion du risque, qualité des données, supervision humaine, documentation. Une organisation qui exporte un service appuyé sur l'IA vers l'Union relève de ce régime.
identifiable certifie la conformité en gouvernance de l'IA et à la Loi 25, et aligne les pratiques sur l'AI Act. L'interprétation juridique fine et les obligations déontologiques propres aux ordres professionnels relèvent du conseiller juridique et de l'ordre concerné.
Comment évaluer l'IA d'une organisation en santé ?
L'Indice IA évalue les systèmes et les agents un par un, sur les six propriétés du référentiel iDIA, notées sur preuve documentée. Une pratique annoncée mais non écrite plafonne.
En santé, trois propriétés se lisent en premier. Souveraine : la résidence des données et le plan de sortie face à chaque fournisseur. Supervisée : où se trouvent les points de relecture humaine, et sur quel critère de risque ils ont été placés. Imputable : la trace de qui produit, valide ou corrige chaque résultat.
La désignation Pratique IA Responsable s'accorde au seuil, et seulement là : l'Indice doit atteindre le seuil de désignation et aucune propriété ne doit passer sous le plancher. Une organisation peut tenir la moyenne et rester non désignée parce que sa propriété Souveraine décroche.
Pour aller plus loin
Carrefour
Gouvernance de l'IA au Québec
Les quatre cadres, et lesquels obligent réellement.
Secteur
L'IA en finance
Crédit, fraude et conformité, sous gouvernance.
Secteur
L'IA en ressources humaines
Recrutement et évaluation, au niveau haut risque.
Diagnostic
L'Indice IA
Situez votre posture en douze questions.
Questions fréquentes
La Loi 25 s'applique-t-elle aux outils d'IA en santé ?
Dès qu'un renseignement personnel entre dans un outil d'IA, la Loi 25 s'applique. Le déclencheur est la donnée traitée, jamais la technologie employée, et les renseignements de santé comptent parmi les plus sensibles.
Une transcription automatique de consultation est-elle un usage à encadrer ?
Oui. Elle traite des renseignements de santé et les transmet souvent à un fournisseur externe. Elle entre à l'inventaire au même titre qu'un système d'aide à la décision, même si son risque clinique est moindre.
Quelles propriétés du référentiel iDIA pèsent le plus en santé ?
Souveraine, Supervisée et Imputable. Elles répondent aux trois questions que pose la donnée de santé : où elle réside, qui relit la sortie du système, et qui répond de la décision.
L'AI Act européen concerne-t-il un établissement québécois ?
Il l'atteint dès qu'un système d'IA est mis sur le marché européen ou que sa sortie est utilisée dans l'Union. Le critère est le marché servi, pas le siège social.