Journal des débats (Hansard) of the Committee on Citizen Relations

(Onze heures quarante-cinq minutes)

La Présidente (Mme Lecours, Les Plaines) : À l'ordre, s'il vous plaît. Ayant constaté le quorum, je déclare la séance de la Commission des relations avec les citoyens ouverte. La commission est réunie afin de poursuivre les consultations particulières et auditions publiques sur le projet de loi n° 24, Loi protégeant le consommateur contre l'utilisation trompeuse ou frauduleuse de l'identité ou de l'image d'une personne. Mme la secrétaire, y a-t-il des remplacements?

La Secrétaire : Oui, Mme la Présidente. Mme Picard (Soulanges) est remplacée par M. Sainte-Croix (Gaspé); Mme Prass (D'Arcy-McGee) est remplacée par Mme Caron (La Pinière) et M. Fontecilla (Laurier-Dorion) est remplacé par M. Bouazzi (Maurice-Richard).

La Présidente (Mme Lecours, Les Plaines) : Alors, chers collègues, bienvenue à la commission. Ce matin, nous entendrons l'Union des artistes ainsi que M. Sébastien Gambs. Je souhaite donc, pour les prochaines minutes, la bienvenue à l'Union des artistes, qui est représentée par la présidente, Mme Kontoyanni, ainsi que par le directeur général, M. Alexandre Curzi. Alors, madame, monsieur, bienvenue à la commission. Je vous rappelle que vous disposez de 10 minutes pour votre exposé et, par la suite, nous allons procéder à la discussion avec les parlementaires. Alors, les 10 prochaines minutes sont les vôtres.

Mme Kontoyanni (Tania) : Merci, Mme la Présidente, M. le ministre, mesdames et messieurs les députés membres de cette commission. Comme Mme la Présidente nous l'a dit, je suis Tania Kontoyanni, présidente de l'Union des artistes, accompagnés par notre directeur général, Alexandre Curzi, et nous vous remercions de nous donner l'occasion de prendre la parole dans le cadre de l'étude du projet de loi n° 24. L'Union des artistes accueille favorablement ce projet de loi qui reconnaît enfin une réalité à laquelle sont confrontés de plus en plus de nos concitoyens et concitoyennes, mais aussi de nombreux artistes. L'utilisation trompeuse ou frauduleuse de l'image, de la voix ou de l'identité d'une personne, qui est rendue possible et amplifiée par l'intelligence artificielle. Cette réalité est bien concrète pour les artistes que nous représentons. Des animatrices, des comédiens, des chanteuses découvrent que leurs visages, leurs voix ou leur notoriété sont utilisés sans leur consentement pour promouvoir des produits financiers bidons, des services frauduleux, des traitements miracles, etc. Mais on a également vu des auteurs-compositeurs-interprètes se faire copier, de faux albums de musique qui reprennent totalement l'image, le style et la voix des artistes, et nous souhaitons, en fait, que les artistes soient également protégés par cette loi lorsqu'ils constateront l'arrivée de faux albums de musique générés en leur nom par l'intelligence artificielle. Parce que dans tous ces cas, leur identité est détournée au profit de pratiques trompeuses, et lorsqu'ils s'en rendent compte, le préjudice à leur réputation, à leur crédibilité professionnelle, à leur carrière est souvent déjà bien engagé. Il est important de le dire avec franchise : Jusqu'à maintenant, l'Union des artistes s'est retrouvée impuissante face à cette situation. Non pas par manque de vigilance ou de volonté d'agir, mais parce que les outils juridiques à notre disposition sont mal adaptés à la réalité des fraudes numériques actuelles. Les recours existants reposent principalement sur des démarches longues, complexes et coûteuses, et pendant ce temps, les contenus continuent de circuler. Cette impuissance ne reflète pas un manque d'action, mais bien un vide réglementaire dans un contexte où les technologies évoluent beaucoup plus rapidement que les mécanismes de protection. Et c'est précisément dans ce contexte que le projet de loi n° 24 prend tout son sens. Le projet de loi envoie un message clair : Le Québec prend au sérieux les dérives liées à l'intelligence artificielle lorsqu'elles portent atteinte à l'intégrité des personnes. L'UDA salue tout particulièrement l'octroi d'un pouvoir d'ordonnance à l'Office de la protection du consommateur et à l'Autorité des marchés financiers, parce que la possibilité d'agir rapidement pour faire cesser une utilisation frauduleuse est essentielle. Dans le cas des hypertrucages, chaque heure de diffusion supplémentaire accentue les dommages. Le véritable levier du Québec consiste à empêcher que ces pratiques frauduleuses soient relayées sur son territoire, entre autres, sur des plateformes...

Mme Kontoyanni (Tania) : ...autrement dit, même si d'origine une fraude est extérieure au Québec, elle ne devrait pas pouvoir continuer à atteindre des consommateurs et des artistes d'ici. Le projet de loi permet d'agir non seulement à l'égard des auteurs directs, mais aussi à ceux qui permettent la diffusion, donc les entreprises intermédiaires et plateformes numériques qui rendent ces contenus accessibles au public québécois. Et c'est ce levier sur les canaux de diffusion qui est déterminant. Maintenant, pour qu'il soit pleinement efficace, encore faut-il que les ordonnances rendues permettent d'éviter que les dommages se poursuivent dans le temps. Le projet de loi prévoit qu'une ordonnance peut viser à faire cesser l'utilisation de l'identité ou de l'image d'une personne. Cette formulation est forte et nécessaire, mais elle soulève une question cruciale dans un environnement numérique : Que signifie réellement «faire cesser l'utilisation» lorsqu'un contenu peut être copié, stocké, rediffusé, réutilisé à l'infini? Retirer une publicité ou mettre fin à une campagne frauduleuse ne garantit pas que le contenu litigieux cesse d'exister. Une vidéo truquée peut réapparaître ailleurs. Une voix clonée peut être réutilisée sous une autre forme et, pendant ce temps là, la confusion persiste.

• (11 h 50) •

C'est pourquoi nous estimons que le projet de loi gagnerait à être accompagné de balises claires permettant de prévenir la prolongation des dommages dans le temps, notamment en clarifiant que les ordonnances puissent viser non seulement la cessation d'une diffusion en cours, mais aussi le retrait des contenus frauduleux partout où ils sont accessibles, afin d'éviter leur... que leur... circulation, pardon, continue. Qu'elle puisse inclure une interdiction explicite de réutilisation ultérieure de l'image, de la voix ou de l'identité d'une personne, dans un contexte frauduleux semblable, lorsqu'une ordonnance a déjà établi l'absence de consentement. Et qu'elle puisse permettre d'imposer aux entreprises concernées, y compris aux plateformes de diffusion, des obligations claires de collaboration, afin que les ordonnances puissent être exécutées rapidement et efficacement. Ces pistes ne visent pas à alourdir indûment le régime juridique, mais à s'assurer que l'intervention de l'État soit réellement efficace dans un environnement numérique où les atteintes peuvent être durables.

Nous souhaitons également attirer l'attention de la commission sur la notion de consentement, qui est au cœur du projet de loi. Celui-ci interdit, à juste titre, l'utilisation de l'identité ou de l'image d'une personne sans son consentement. Toutefois, dans un contexte où l'intelligence artificielle permet des usages entièrement nouveaux de l'image et de la voix, il devient essentiel de s'assurer que ce consentement soit clair, spécifique et actuel. Pour les artistes, cette question est particulièrement sensible. Ils ont parfois consenti, dans le passé, à des usages... et limités de leur image ou de leur voix, sans jamais envisager les utilisations générées par l'intelligence artificielle. L'UDA estime donc important d'éviter que des consentements anciens, généraux ou ambigus soient invoqués pour justifier des usages que les personnes concernées n'ont jamais acceptés. Une telle clarification contribuerait à renforcer l'efficacité de la loi et à assurer une protection réelle et adaptée aux réalités actuelles.

Enfin, une protection réelle passe aussi par la clarté du parcours offert aux personnes touchées. Il est essentiel que les artistes et les citoyens sachent à qui s'adresser, comment activer les mécanismes prévus et à quoi s'attendre lorsqu'ils sont victimes de ces pratiques. Le projet de loi n° 24 constitue une avancée significative que l'UDA appuie. Nous invitons toutefois la commission à s'assurer que son application tienne pleinement compte de la persistance des contenus numériques et des dommages à long terme qu'ils peuvent... qu'ils peuvent engendrer. Protéger les consommateurs est essentiel. Protéger les artistes dont l'image, la voix et l'identité sont utilisées pour les tromper l'est tout autant. Nous vous remercions de votre écoute et demeurons disponibles pour contribuer aux travaux de la commission.

La Présidente (Mme Lecours, Les Plaines) : Merci beaucoup pour cette présentation. Alors, justement, nous allons commencer la discussion avec les parlementaires. Je vais me tourner du côté de la banquette ministérielle avec M. le ministre, et vous disposez, au total, de 9 min 45 s. Le temps est à vous.

M. Jolin-Barrette : Merci, Mme la Présidente. Bonjour à vous deux. Merci beaucoup d'être présents en commission parlementaire, pour représenter l'Union des artistes. C'est fort apprécié. Puis je pense que beaucoup de... bien, en fait, certains de vos membres qui sont particulièrement touchés par le projet de loi, parce que, lorsqu'on est membre de l'Union des artistes, bien, souvent, on est une figure publique. Et, à travers les... les différents rôles à la télévision, au théâtre, tout ça, les gens viennent à avoir une figure de référence avec les personnalités publiques membres de l'UDA, et surtout de leur faire confiance, aussi, parce qu'ils ont un visage public, leur crédibilité...

M. Jolin-Barrette : ...et au fil des années. Alors, je pense que c'était important de déposer le projet justement parce que ces artistes-là sont des victimes, tout comme les personnes qui se font avoir par les publicités trompeuses et frauduleuses aussi, qui sont... qui sont des victimes.

Alors, je vous remercie pour votre contribution aux travaux de la commission. Puis surtout, je tenais à vous dire que je pense que c'est un débat qui... le fait que ce soit sur la place publique puis qu'il y ait certains de vos membres aussi, qui en aient parlé, ça permet à amener une certaine publicité, si je peux dire, une certaine éducation populaire sur le fait qu'il ne faut pas hésiter à dénoncer. Puis je vous remercie du soutien que vous apportez à vos membres également là-dedans pour leur dire : Bien, écoutez, il faut en parler, parce que plus on va en parler, plus ça va faire en sorte de sensibiliser les gens à faire attention à ce genre de publicité là.

Sur vos commentaires, là, notamment sur vos recommandations, notamment, vous nous recommandez le retrait des contenus frauduleux là où ils demeurent accessibles. Précisément les ordonnances qu'on a prévues, les mécanismes prévoient ça. Donc, le président de l'Office de la protection du consommateur ou le président de l'Autorité des marchés financiers va pouvoir l'indiquer dans son ordonnance qui va être déposée. Et on peut viser à la fois les plateformes, les diffuseurs, donc, exemple, les diffuseurs d'Internet et les... également ceux qui produisent la publicité. Donc, c'est assez large là-dedans, au niveau de l'émission de l'ordonnance. Donc, on a réfléchi à ça.

L'autre volet, c'est sur l'intelligence artificielle. Vous faites bien de le souligner, la question de l'intelligence artificielle est de plus en plus fréquente, mais, avec le libellé que nous avons, on vise la publicité comme telle. Donc, même si l'image est générée avec l'intelligence artificielle, elle est visée par l'ordonnance. Ça fait que je voulais vous communiquer ça pour vous, pour vous rassurer. Les juristes de l'office ont réfléchi en ce sens là, parce que, dans le fond, ce qu'on veut avoir, c'est le mécanisme le plus large possible pour couvrir le plus large.

Est-ce que vous avez beaucoup de vos... de vos membres qui vous interpellent là-dessus? Sur leur utilisation de leur image.

Mme Kontoyanni (Tania) : Alors en ce moment, je pense qu'il y a plusieurs cas qui sont connus publiquement. Donc, effectivement, comme vous le dites, ça contribue à sensibiliser la population puis à dire : Il faut qu'on se développe le réflexe de vérifier. Nos personnalités publiques sont assez accessibles, l'Union des artistes est là. On encourage beaucoup les gens à vérifier auprès de nous, même, pour ne pas contacter les artistes directement, de nous lâcher un petit coup de fil, de dire : Est-ce qu'effectivement Mme Tania Kontoyanni fait la publicité ou endosse tel ou tel produit?

Alors je vous dirais, comme plusieurs l'ont déjà témoigné, nos membres sont très craintifs. En fait, ceux qui subissent ces préjudices-là n'ont n'a pas le réflexe d'appeler directement l'Union des artistes, c'est par la suite qu'ils nous contactent. Mais, par contre, on a beaucoup d'appels de nos membres qui sont inquiets en voyant l'usurpation de l'identité de leur collègue, de dire : Comment je fais pour me protéger de ça? Comment je fais pour avoir des recours si jamais ça m'arrive? C'est quoi le chemin à suivre? Alors pour l'instant, ce sont juste les inquiétudes qui sont exacerbées quand on voit ce qui arrive à nos collègues.

M. Jolin-Barrette : Est-ce que... Bien, en fait, un des objectifs que nous avons avec le projet de loi, c'est que ça soit simple pour tout le monde. Ça fait que, tu sais, lorsque le projet de loi sera en vigueur, vous aurez les outils à l'Union des artistes, si jamais vous recevez des appels de vos membres, pour les outiller, pour leur dire : Bien, écoutez, voici la démarche suivante. Puis on va le faire avec le site Internet, notamment de l'Office de la protection du consommateur avec l'Autorité des marchés financiers.

Et, si ça concerne un produit financier, on va envoyer ça à l'AMF, mais vice-versa, si jamais c'est un produit puis ils font une plainte à l'AMF, bien les deux institutions vont se parler entre eux pour éviter que la personne aille faire une plainte à deux endroits. Donc, ça va vraiment être une clé en main puis on va expliquer la mécanique... la mécanique pour vraiment traiter et aller rechercher l'ordonnance, puis aussi que l'image cesse, puis que, si jamais ils ne respectent pas, bien, ils puissent être poursuivis.

Alors, on veut vraiment accompagner autant les artistes, autant les personnalités publiques, qu'autant la population qui se retrouvent dans une situation prise au piège, puis on le sait, c'est des... parfois des centaines de milliers de dollars de fraude. Alors, est-ce que vous allez être à l'aise avec ça? Si on a un mécanisme clair, diffusé, mais on va avoir besoin de vous, là, pour également diffuser cette information-là.

Mme Kontoyanni (Tania) : Absolument. Puis je trouve l'idée de... ça a été nommé dans un des témoignages, guichets uniques, guichets uniques et je dois vous dire que...

Mme Kontoyanni (Tania) : ...on l'a vu, nous, en mettant en place un guichet unique pour toutes les plaintes de harcèlement ou de violence dans le milieu culturel, à quel point c'est efficace d'avoir un endroit puis que le chemin à suivre soit très clair. Donc, oui, on est tout à fait en faveur de ça et prêt à collaborer pour la protection de nos membres, effectivement.

M. Jolin-Barrette : Excellent.

M. Curzi (Alexandre) : Je me permettrais... excusez-moi. Si vous me le permettez, je reprendrais les propos de nos confrères de l'OPC. Il y a une question de moyens là-dedans. Puis ça, je pense qu'il faut être très conscient qu'ils vont avoir besoin de moi. Et j'ai entendu votre réponse sur le fait qu'ils devaient aller faire les demandes au ministre au niveau du Trésor, mais je pense qu'il y a quand même... Pour que ça fonctionne, pour que ce projet-là fonctionne, je crois qu'il faut vraiment des moyens substantiels pour y arriver. Il ne faut pas se cacher, ça va être... ça va être exhaustif, quand même, comme travail.

M. Jolin-Barrette : Bien, écoutez, je suis d'accord avec vous. Je vous remercie de votre appui, puis je vais partir avec ça, avec mon petit baluchon pour aller voir le ministre des Finances. Je vais céder la parole à mes collègues qui souhaitent vous poser des questions. Merci beaucoup pour votre présence.

• (12 heures) •

La Présidente (Mme Lecours, Les Plaines) : Alors, je pense, le collègue de Gaspé, c'est ça. Alors, il vous reste encore 2 min 54 s.

M. Sainte-Croix : Merci, Mme la Présidente. Madame, monsieur, bonjour. Merci d'être avec nous. C'est très apprécié. Est-ce que vous croyez, à l'intérieur, là, des mesures que propose le projet de loi, qu'on va avoir un impact significatif sur les problématiques connues, de votre côté précisément?

Mme Kontoyanni (Tania) : Je pense que oui, et surtout parce que je crois qu'il faut profiter de cette loi et de sa mise en place pour faire une éducation populaire très large. Je pense que nos artistes sont des bons ambassadeurs pour sensibiliser la population, parce qu'il a été dit souvent... et c'est vrai que c'est en train de causer un problème de santé publique parce qu'il y a beaucoup de honte, de culpabilité et de... à être pris comme victime. Alors, je pense que, oui, effectivement. Pour répondre à votre question brièvement, oui, je pense que ça va avoir un réel impact et qu'on va avancer dans la bonne direction. Si on en profite pour faire une large campagne de sensibilisation à nos concitoyens et concitoyennes.

M. Curzi (Alexandre) : Oui, je pense que je pourrais ajouter à notre présidente. Quand tu es un...quand vous avez financé la création de la... la CAQ, ça n'a pas résolu tous les problèmes, on ne se leurrera pas, mais la différence que ça fait est importante. Et je pense que, là, on est en train de... vous êtes en train de mettre les premières balises d'un mouvement pour essayer de gérer un peu cette espèce de flot d'images là et d'usurpation d'identité qui va être problématique dans le futur. Donc, les premiers jalons qu'on fait, les premières balises sont très, très, très importantes au Québec.

M. Sainte-Croix : Il me reste du temps, Mme la Présidente?

La Présidente (Mme Lecours, Les Plaines) : Oui, il vous reste 1 min 12 s.

M. Sainte-Croix : Devrions-nous aller plus loin?

Mme Kontoyanni (Tania) : Oui, je pense que c'est le tout début. On est... Il me semble, en tous cas, quand j'y réfléchis, à l'avenir, je me dis : Ah! ça, ça va être quelque chose qui va être très cyclique, c'est-à-dire qu'on va établir quelque chose. On sait que les grandes plateformes ne sont pas les meilleurs collaborateurs quand on essaie de mettre nos lois. Alors, je pense qu'ils vont trouver des échappatoires, qu'il va falloir se réajuster. Ils vont retrouver une autre façon. Je pense que ça va être quelque chose de cyclique. Il va falloir revoir puis rester extrêmement vigilants parce qu'on sait qu'ils ont plus d'un tour dans leur sac. Oui, on devrait aller plus loin.

Je nommais tout à l'heure les albums, les faux albums générés à mon image, ma voix, mon style. Ce n'est peut-être pas des ruines financières parce qu'il s'agit de consommer un album, mais il reste quand même que c'est frauduleux, que c'est trompeur. Pour le citoyen ou la citoyenne qui veut encourager un artiste ou une artiste qu'il aime en achetant un album, par exemple, bien, ça commence à devenir problématique. Donc, il y a toutes sortes de déclinaisons de ce problème.

La Présidente (Mme Lecours, Les Plaines) : Merci beaucoup. Merci beaucoup. C'est ce qui met fin à la première partie de discussion. Je me tourne maintenant du côté de l'opposition officielle et de sa porte-parole. La députée de La Pinière, vous bénéficiez de 5 min 51 s.

Mme Caron : Merci, Mme la Présidente. Alors, bonjour à vous. Merci pour votre mémoire et votre présence en commission aujourd'hui.

Alors, vous amenez un très bon point à propos, justement, de l'intelligence artificielle et de la fabrication, je dirais, d'albums en utilisant le style, la voix et évidemment l'image de la personne. Donc, dans le projet de loi, on parle d'image et on parle d'identité, mais on ne parle pas de voix. Est-ce que vous pensez qu'on devrait ajouter cet aspect-là pour couvrir les... la situation que vous...

Mme Caron : ...que vous avez décrite avec l'intelligence artificielle et la fabrication d'un album à partir du style de l'image et de la voix d'un artiste, un... un interprète?

Mme Kontoyanni (Tania) : Absolument. La voix, pour nous, c'est... c'est la première... c'est la première frontière, là. C'est la première ligne de ce combat-là, parce que nos voix sont partout. Ce sont... qu'on prenne le doublage, qu'on prenne les publicités, c'est ce qui existe le plus en plus, ce qui est le plus utilisable par les fraudeurs. Alors, on a entendu parler, par exemple de... des voix, des aînés qui se font arnaquer parce que quelqu'un imite la voix de leur petit-fils ou de leur petite-fille. Pour nous, c'est majeur. C'est la première ligne, là, de la défense de nos concitoyens et concitoyennes, la voix. Ça devrait absolument être là, d'autant plus que c'est reconnu comme un attribut de notre personnalité, de notre identité.

Mme Caron : Alors, outre la voix, l'identité, l'image, est-ce que, parmi vos membres, par exemple, vous voyez un autre... un autre attribut qu'on... qui ne serait pas présent dans le projet de loi et qui devrait l'être, ou si ça fait le tour avec... en ajoutant la voix?

Mme Kontoyanni (Tania) : À mon avis, ça, ça fait le tour. Évidemment, la raison pour laquelle ce sont nos membres qui sont le plus exposés à... à ce danger d'être utilisés pour arnaquer les gens, c'est que leurs images et leurs vidéos existent partout, leurs voix existent partout, leurs images... Alors, avec l'intelligence artificielle, je veux dire, Mme Barrette en a été la meilleure témoin, on voit qu'est-ce que ça peut faire et à quel point ça peut être transformé.

Mme Caron : Oui...

M. Curzi (Alexandre) : Je voudrais ajouter que... si vous me permettez, j'oserais ajouter que, tu sais, évidemment, je pense qu'il y a moyen de bonifier ce projet de loi là. Puis je ne connais pas tous les mécanismes de l'Assemblée nationale par rapport à la prise de décision dans une loi, mais il faudrait éviter d'alourdir ça pour que... En fait, le temps est compté en ce moment. Il y a des gens qui sont... qui se font arnaquer, il y a... Le stratagème continue. Donc, plus on retarde l'adoption de ce projet de loi là, je crois, plus il y a des dommages qui se font. Donc, il faudrait... non plus, il ne faudrait pas... il ne faudrait pas que ce soit... que ce ne soit pas adopté parce qu'on rajoute trop de stock. Allons-y par... par... excusez, j'ai juste un terme anglophone, mais par «layer», par couches successives. Commençons par quelque chose pour protéger les gens, puis ensuite on viendra bonifier ces balises-là, je crois. En tout respect pour l'Assemblée nationale.

Mme Caron : Je ne pense pas que ce serait très long d'ajouter un mot pour couvrir la voix. Alors, ne vous inquiétez pas à ce... à ce propos-là, je pense que tout le monde voit... voit l'importance, là, de protéger les personnalités autant que toute autre personne... les artistes autant que d'autres personnes, là, pour... contre... contre ce fléau.

Maintenant, vous apportez aussi un point intéressant. On vous a déjà répondu, le ministre vous a répondu sur... sur ce que pourra faire l'ordonnance, le pouvoir d'ordonnance. Mais, quand vous amenez le fait qu'il faut s'assurer qu'un consentement antérieur pour l'utilisation de l'image ne devrait pas... il faut s'assurer que ce ne sera pas utilisable pour contrer le... les ordonnances qui seraient... qui seraient faites, là, pour... dans le sens du projet de loi. Alors, c'est un... c'est un point intéressant aussi, parce que j'imagine que vous avez des membres dont... qui ont donné leur consentement pour l'utilisation de leur... de leur image, dans un certain contexte, peut-être même en début de carrière et, aujourd'hui, ne veulent plus faire ça. Alors, on ne veut pas que... on veut éviter que ce... ces consentements-là soient... soient réutilisés pour... pour des choses qui ne sont pas consenties.

Mme Kontoyanni (Tania) : Effectivement, et surtout à l'ère de l'intelligence artificielle, le concept de consentement, la notion de consentement clair, actuel, précis et absolument important pour nous, on rencontre cet enjeu-là dans plusieurs de nos secteurs et dans plusieurs de nos activités.

Mme Caron : D'accord. Merci. Alors, quand vous avez parlé aussi, tout à l'heure, de... d'un point central pour que les gens puissent... aient un endroit vers lequel se tourner quand ils sont pris dans cette situation-là aussi, alors, outre le fait de pouvoir dénoncer, puis, bon, d'être dirigé soit vers l'office, soit vers l'autorité pour... pour dénoncer la situation, pour qu'il y ait une ordonnance, ça va cesser... tout devrait cesser, mais vous... vous faites valoir qu'il y a...

Mme Caron : ...d'autres choses, ça peut recommencer plus tard. Une chose peut cesser puis d'autres par d'autres stratagèmes, ou ça peut être ailleurs et on ne le voit pas parce qu'on est conscient seulement de ce qui se passe ici. Donc, vous voudriez que ça ait une plus grande portée ou comment vous le voyez pour que... réussir à appliquer cela? Parce qu'il est aussi question d'extraterritorialité, là, de choses qui se passent en dehors du Québec, là.

Mme Kontoyanni (Tania) : Je n'aurai sûrement pas la réponse absolue à ça, mais ce qui nous est permis de constater, c'est que, quand on signale par exemple sur Facebook, alors Facebook va nous répondre que ça va être retiré de notre page, mais qu'il ne juge pas que c'est illégitime comme contenu. Alors, ça se poursuit. Donc, on espère qu'avec cette loi, ça va rapidement les mettre au pas, mais on doute beaucoup.

Même chose pour la notion de consentement. L'idée derrière ça, c'est de mettre les balises très claires. Parce qu'on parle de mettre le processus de collaboration des grandes plateformes, par exemple, de façon très claire... parce qu'on sait qu'ils vont trouver des échappatoires et des prétextes pour faire durer plus longtemps, ils gagnent beaucoup d'argent avec ces publicités financées, alors on a des grands doutes qu'ils vont être à l'écoute de ça. C'est pour ça qu'on essaie vraiment de dire : N'échappons rien dans cette première étape.

Mme Caron : D'accord. Alors...

• (12 h 10) •

M. Curzi (Alexandre) : C'est certain qu'il y a des moyens, il y a des moyens... Tu sais, parle de retirer des contenus frauduleux partout où est-ce qu'ils sont accessibles, désactiver les mécanismes de circulation en contenu, empêcher la remise en ligne du même contenu. Je veux dire, ça, c'est des moyens dont on fait la promotion, mais on est conscients...

La Présidente (Mme Lecours, Les Plaines) : Merci.

M. Curzi (Alexandre) : ...que ça demande des ressources. Voilà.

La Présidente (Mme Lecours, Les Plaines) : Merci beaucoup, M. Curzi. C'est ce qui termine cette autre ronde de discussions. Et on va terminer le tout avec le député de Maurice-Richard, pour une période de 2 min 26 s.

M. Bouazzi : Merci, Mme la Présidente. Merci beaucoup pour votre témoignage et puis la clarté de vos recommandations. Elles ont... elles ont beaucoup de mérite parmi elles d'être claires et directement vers le but. Ça fait que... ça fait que soyez sûrs qu'on va en prendre... en prendre compte dans les travaux qui va... qui vont suivre.

Moi, je vous avouerais que j'ai une certaine inquiétude, vraiment. Non pas évidemment sur le problème à résoudre, parce que ça me paraît assez évident que c'est un vrai problème à résoudre... Je comprends aussi l'idée de dire : Bien, intelligence artificielle, c'est un mammouth, là, allons-y une bouchée à la fois, sinon on va s'étouffer et ne jamais accoucher de rien. Bon, je suis d'accord, même si une commission sur l'intelligence artificielle tout court qui nous permettrait de prioriser qu'est-ce qui est le plus grave en ce moment serait quand même la bienvenue, mais j'ai du mal à voir comment on pourrait, en fin de compte, contrer ce tsunami de fraude qui... ou avec l'intelligence artificielle où le coût de la fraude est pratiquement nulle, hein, de créer tout... sans qu'on obtienne des plateformes, des formes de prévention et non pas juste des formes de réaction. Je ne sais pas ce que vous en pensez.

Mme Kontoyanni (Tania) : Assurément, mais là j'ai l'impression que c'est un combat à long terme pour les amener à la prévention. Déjà, juste avec les obligations, je me dis : Mais qu'est-ce qu'ils vont répondre cette fois-ci? Parce que, jusqu'à présent, ils refusent toute loi des pays, ce qui met la souveraineté culturelle, numérique, même politique extrêmement à risque. Alors, la prévention, bien sûr.

Déjà, le simple fait qu'un de leurs usagers signale quelque chose de frauduleux, ça devrait être un automatisme pour eux de l'éliminer. Déjà ça, ça serait une immense prévention parce que ça se ferait automatiquement. Sinon, je ne sais pas comment leur mettre le bras dans le tordeur, comme on dit, pour la prévention.

M. Bouazzi : Bien, c'est-à-dire, ce que j'entends, c'est que vous ne vous croyez pas que, si on met en place des lois qui s'appliquent à ces immenses compagnies, qu'on pourrait avoir leur... je veux dire, ils vont se comporter comme des malfrats, en fait, ils vont faire absolument ce qu'ils veulent quoi.

La Présidente (Mme Lecours, Les Plaines) : Merci. Merci beaucoup, M. le député. Alors, Mme Kontoyanni, M. Curzi, c'est ce qui met fin à l'échange avec les parlementaires. Il me reste à... aux noms de ces élus à vous remercier de notre... de votre apport à nos travaux. Alors, je suspends la commission le temps de recevoir le prochain groupe. Merci.

(Suspension de la séance à 12 h 14)

(Reprise à 12 h 15)

La Présidente (Mme Lecours, Les Plaines) : À l'ordre, s'il vous plaît! Alors, pour cette seconde audition de la journée, de l'avant-midi, nous recevons M. Sébastien Gambs, professeur au département d'informatique de l'Université du Québec à Montréal et titulaire de la Chaire de recherche du Canada en analyse respectueuse de la vie privée et éthique des données massives. Monsieur, bienvenue à la Commission des relations avec les citoyens. Alors, vous allez bénéficier d'une période de 10 minutes pour présenter l'essentiel de votre mémoire, vos recommandations et, par la suite, nous allons en discuter avec les parlementaires. Alors, les prochaines 10 minutes sont les vôtres.

M. Gambs (Sébastien) : Merci beaucoup, et merci pour l'invitation. D'abord, je tiens à mentionner que le projet de loi s'intéresse vraiment à un problème urgent, qui est celui de l'utilisation des images des personnes sans leur consentement. Et, en particulier, moi qui ai un background en protection de la vie privée et informatique, je vois que les enjeux qui émergent, que ce projet de loi adresse, il y a d'abord la facilité d'accès aux outils d'hypertrucage.

Donc, je suis désolé si je n'ai pas vu les autres auditions, mais ça avait peut-être déjà été abordé qu'on est en 2026, dans une situation où l'accès aux outils qui permet d'utiliser l'image de quelqu'un ou de créer une vidéo la représentant est devenu très facile. Donc, là où, il y a cinq ans, il fallait des grandes quantités de données sur cette personne, une certaine expertise sur les modèles d'apprentissage, on est dans une situation où, maintenant, avec... gratuitement, avec des outils gratuits ou quelques dollars, on est capable de créer des vidéos qui sont extrêmement réalistes. Donc, la barrière technique d'accès à ce type de logiciel de création d'hypertrucages est devenue très facile. Et je dirais qu'un des enjeux qui risque d'arriver c'est aussi si on met en place dans... grâce à cette loi, un mécanisme pour que les victimes puissent, essentiellement, rapporter des situations semblables. Il faut prévoir qu'il risque d'y avoir des gros volumes de demandes.

J'ai mentionné l'hypertrucage vidéo, mais il y a aussi de l'hypertrucage audio qui est très répandu. Donc, on a aussi, dans le cadre des enjeux de cybersécurité, les fraudes à la grand-mère ou au grand-père. Par exemple, on reçoit un appel de quelqu'un qui imite la voix de notre petit-fils, petite-fille, qui... qui a été synthétisée par un modèle d'IA, avec juste quelques exemples de phrases dites par cette personne. Donc, on a aussi la... au-delà de l'image, on a aussi le contexte du clonage vocal qui est un enjeu de cybersécurité.

Peut-être un autre enjeu que je voulais aussi mentionner, c'est que, parfois, on peut avoir une certaine complexité à distinguer le fait que quelqu'un ait pris une photo de moi et l'ai utilisée sans mon consentement, mais le fait aussi qu'on est peut-être entraînés à un modèle d'IA sur des grandes quantités de volumes de données, qui a peut-être vu ma photo un grand nombre de fois. Donc, en particulier, si on est une personnalité publique ou un artiste, on peut arriver à des situations où un modèle d'IA va produire une vidéo ou une image qui me ressemble, mais sans forcément qu'il y ait une personne qui ait directement utilisé comme base de départ, la photo de cette... d'une... ma photo, par exemple, ou qu'il l'ait modifiée directement. Donc, on peut avoir une question aussi à devoir adresser ou clarifier, qu'on va... si cette loi est votée, et qu'on va vouloir l'appliquer, sur comment on distingue l'image directement d'une personne qui est utilisée versus sa représentation ou le fait qu'elle ait été internalisée dans un modèle d'IA. Donc, la...

M. Gambs (Sébastien) : ...juridique de... de comment on peut régler cette question, à mon avis, va se poser, la... Techniquement, ça reste aussi difficile, des fois, de vraiment être capable de dire : OK, on... Ça, c'est une image d'une personne, mais est-ce qu'elle est sortie par hasard du modèle ou est-ce qu'il y a eu vraiment une demande au modèle pour produire une image de cette personne?

Il y a aussi une interaction, potentiellement, avec tout ce qui touche le... le style artistique et la protection des œuvres, donc, peut-être que ça a été abordé dans d'autres auditions, mais au-delà de l'image d'une personne, bien, comment est-ce qu'on... Par exemple, on s'assure que le style vocal d'un musicien n'a pas été cloné ou que le style graphique d'une personne a été... n'a pas été reproduit par les outils génératifs, donc je suis conscient que ce projet de loi ne va peut-être pas adresser cet enjeu-là, mais ça reste aussi un enjeu important. Donc, comment est-ce qu'on peut protéger le style des artistes et pas simplement des œuvres spécifiques? Donc, je note, dans le projet de loi, que ce qui est très bien, c'est que le projet de loi essaie d'être très large et technologiquement neutre. Donc, quand j'ai regardé la... la définition de ce que c'était, l'utilisation d'une image, j'ai vu qu'il n'y avait pas de référence à une technologie particulière, donc, essentiellement, moi qui suis en informatique, je vois ça de manière très positive parce que l'IA avance très vite. Les outils qui peuvent être utilisés pour causer des hyper trucages ou causer des enjeux de cybersécurité vont très vite, donc, le fait de ne pas mentionner l'outil, mais plutôt de mentionner à l'utilisation de l'image avec une définition d'utilisation qui est très large, je vois ça comme étant quelque chose de très positif. Le fait, aussi, d'avoir... de donner des pouvoirs d'ordonnance à l'Office de la protection du consommateur, qui peut réagir rapidement, ça me semble aussi éviter les situations où on a une image qui est déployée et qui reste en ligne pendant des semaines ou des mois. Donc, je vois, là aussi, un côté positif sur l'efficacité du dispositif.

• (12 h 20) •

Après, je voulais juste finir mon intervention par les... peut-être les choses qui me semblent à clarifier ou... la première question si... Moi qui travaille en protection des données, je me suis posé la question de : Pourquoi est-ce que c'est l'Office de la protection du consommateur et non pas l'Autorité de protection des données, donc la Commission d'accès, qui peut générer ce droit à l'image? Donc, dans la loi 25, la mise à jour de la Loi sur la vie privée qui a été faite il y a quelques années, on considère déjà que l'image d'une personne, c'est une donnée personnelle ou un renseignement personnel, et donc, la Commission d'accès à l'information, à mon sens, donc, encore une fois, je veux juste dire que je suis un informaticien, mais pas juriste, mais j'ai l'habitude de travailler avec des projets de juristes sur des enjeux de vie privée. J'imagine que la Commission d'accès à l'information aurait pu aussi avoir le mandat de gérer le droit... l'utilisation de l'image de quelqu'un sans son consentement, puisqu'essentiellement, ça revient à utiliser une donnée personnelle sans le consentement de la personne. Donc, peut-être, je dirais, une des choses qui est à clarifier ou... ça serait vraiment comment vont se faire les interactions entre l'Office de la protection du consommateur et le Commissaire d'accès à l'information sur cet enjeu-là, de l'utilisation de l'image. Est-ce qu'il peut y avoir des mécanismes coordonnés ou est-ce que ça va être vraiment des interactions différentes?

Le deuxième enjeu, qui rejoint aussi un peu ce que je viens d'évoquer, c'est comment ce projet de loi va s'insérer dans l'écosystème législatif qui existe. Donc, on a la loi 25 qui a été mise à jour très récemment, donc, qui, comme je disais, traite déjà l'image comme un renseignement personnel, donc, comment est-ce qu'on va intégrer cette modification et... dans le texte qui existe actuellement, on a aussi la la Charte des droits et libertés qui existe.

Donc, peut-être, si je devais finir mon intervention par, éventuellement, des pistes de recommandations ou des suggestions, bien... de clarifier la répartition des compétences entre l'Office à la protection du consommation et la ..., ça me semble être important. Mais d'un autre côté, ce que je trouverais intéressant, c'est d'avoir un guichet unique, donc, en tant que victime, est-ce que j'ai besoin de faire des démarches spécifiques auprès de l'Office de la protection du consommateur et, en parallèle, d'aller faire des démarches auprès de la Commission d'accès à l'information, où est-ce que le gouvernement du Québec pourrait prévoir une espèce de guichet unique qui permettrait de transmettre ma demande à ces deux organismes et avec des mécanismes où ces deux organismes se coordonnent et pourraient essayer de... je dirais, de discuter avant d'appliquer chacun leurs... leurs prérogatives.   Un autre enjeu, c'est aussi dans tout ce qui est les conditions d'utilisation de service où je verse mon image, où j'utilise mon image. Parfois, ce qu'on voit beaucoup, là, c'est similaire en protection de la vie privée, c'est que les clauses de consentement sont très génériques, très détaillées, trop juridiques et que ça devient difficile d'exercer le consentement. Donc, quand on consent ou pas à l'usage de son image, parfois, c'est vraiment difficile de... je dirais, pour un usager lambda, de vraiment comprendre les tenants et aboutissants où... où même les conditions d'utilisation sont décrites de manière très large. Comme je disais, il y a aussi la question... je pense qu'il faudrait clarifier, c'est comment on adresse le fait que l'image d'une personne a été internalisée dans un modèle d'IA? Donc, est-ce que si mon image est produite sans même que la personne n'ait demandé à produire l'image de Sébastien Gambs, mais juste parce que cette image a été vue et donc qu'on lui a demandé de se...

M. Gambs (Sébastien) : ...nuire à une image dans... de quelqu'un dans un contexte. Est-ce que... Comment on adresse cette situation-là où, essentiellement, ce n'est pas... on n'a pas un geste volontaire, mais on a une image qui a été... qui a été ressortie par un modèle d'IA? Et j'imagine...

Dernière recommandation qui me semble importante, c'est aussi : Est-ce qu'on va avoir... fournir des obligations aux plateformes de diffusion? Donc, est-ce que les plateformes de diffusion qui... s'il y en a certaines qui diffusent beaucoup de ces images trompeuses, est-ce qu'on va mettre en place des mécanismes où on leur demande de réagir rapidement à une demande de l'Office de la protection du... des consommateurs ou... ou de l'agence des marchés financiers? En particulier, on voit beaucoup de ces hyper trucages, en ce moment, sur YouTube. Donc, si vous allez voir une... une vidéo sur YouTube ou une chanson sur YouTube... En tout cas, moi, si je prends mon expérience personnelle, je vois Mark Carney qui essaie de me dire d'investir dans des produits de cryptomonnaie très régulièrement. Donc, est-ce qu'on... est-ce qu'on force aussi dans le texte de loi ou par d'autres mécanismes à... les plateformes de diffusion à réagir très... très rapidement s'ils ont des demandes ou des signalements de... de ce type-là? Voilà, je pense que j'ai à peu près respecté mon temps. Je prendrais, avec plaisir, vos questions.

La Présidente (Mme Lecours, Les Plaines) : Bien sûr, il vous reste encore une minute, sinon on... on entame...

M. Gambs (Sébastien) : J'avais... j'avais fini, donc peut-être que je pourrais offrir ça dans les... dans la période de questions, si c'est possible.

La Présidente (Mme Lecours, Les Plaines) : Oui, parfait. Bien entendu, merci beaucoup pour cette présentation et les points que vous avez soulevés. Alors, on va commencer la période d'échange avec les parlementaires, et je me tourne du côté du ministre et la banquette pour 11 min 30 s.

M. Jolin-Barrette : Merci, Mme la Présidente. M. Gambs, bonjour. Merci de participer aux travaux de la commission sur le projet de loi n° 24, qui vise à protéger le consommateur contre l'utilisation trompeuse ou frauduleuse de l'identité ou de l'image d'une personne. D'entrée de jeu, je comprends que vous soulignez le fait que la façon que l'Office de la protection consommateur a rédigé le projet de loi, bien, c'est technologiquement neutre, ça veut dire le projet de loi va pouvoir évoluer dans le temps. Puis il y a une importance aussi lorsqu'on fait nos lois pour que, malgré la technologie qui avance, bien, on puisse, en tout temps, s'assurer que la loi va continuer de s'appliquer. Donc, ça, vous êtes à l'aise là-dessus?

M. Gambs (Sébastien) : Oui. Oui, oui, je trouve ça très positif, pour éviter que la loi devienne obsolète très rapidement.

M. Jolin-Barrette : Oui. L'autre élément, en réponse à votre question : Pourquoi ce n'est pas la Commission d'accès à l'information versus l'Office de la protection du consommateur et l'Autorité des marchés financiers qui s'en occupe? On est vraiment dans une logique opérationnelle, donc effectivement, ce sont des... des renseignements personnels, notamment à l'image. Cela étant, on voulait avoir un mécanisme qui faisait en sorte que l'Office de la protection du consommateur allait pouvoir agir rapidement par le biais de son président pour faire en sorte que, bon... Il y a toujours l'aspect criminel qui est là, d'avoir un recours à la police, et ça constitue une infraction criminelle. Mais là on est en matière administrative, en matière civile également. Alors, on voulait donner des moyens d'action rapidement pour que cesse... et que la publicité soit retirée dans les meilleurs délais. Donc, le mécanisme auquel on a réfléchi, c'est avec l'Autorité des marchés financiers, l'AMF. Pourquoi l'Autorité des marchés financiers lorsque ça concerne les produits financiers? Bien, c'est leur champ de juridiction, mais les deux organisations vont travailler de pair, ensemble pour agir, pour faire retirer ces publicités-là puis aussi pour sanctionner ceux qui ne respectaient pas. Et il y aura toujours eu la possibilité de prendre les dispositions, le dispositif, je vous dirais, régulier, d'avoir recours à une injonction, mais on voulait justement raccourcir les délais puis avoir une agilité pour... pour le faire. Donc, c'est pour ça qu'on a confié aux deux présidents de ces organismes-là la responsabilité d'agir d'une façon qui est plus souple. C'est ce qu'on recherche, parce que, la rapidité en matière de technologie, elle est importante en termes de diffusion.

Donc, c'est pour ça qu'on est allés notamment avec l'Office de la protection du consommateur, puis aussi, bien, vous savez, l'office a démontré, au cours des années, son agilité à agir pour la protection des consommateurs. Puis il y a deux types de victimes, hein? Oui, il y a les personnalités publiques qui se font usurper leur identité, mais il y a également les consommateurs. Puis, souvent, bien, ils dépensent de l'argent pour acheter des biens qui m'apparaissent de... de qualité, questionnable. Puis, dans le fond, c'est des arnaques, bien souvent. Alors, c'est pour ça qu'on a choisi l'office. L'objectif est de protéger le consommateur, puis d'avoir un écosystème simple qui va faire en sorte d'avoir un mécanisme de plainte qui est simple. Vous, vous voyez beaucoup l'intelligence artificielle, là, dans vos travaux?

M. Gambs (Sébastien) : Oui.

M. Jolin-Barrette : Et selon vous, comment est-ce qu'on va pouvoir, plus largement, là, pas nécessairement dans ce cadre de ce projet de loi là, mais encadrer...

M. Jolin-Barrette : ...tout.

M. Gambs (Sébastien) : Moi, je pense qu'il faudrait... au vu des enjeux, il faudrait une loi qui essaie d'encadrer l'IA de manière générique. Donc, clairement, dans ce projet de loi, je ne pense pas qu'on pourra encadrer tous... tous les enjeux liés à l'hypertrucage, ou... ou même l'utilisation de l'IA pour essayer de planifier une attaque violente ou les problèmes de santé mentale liés à l'IA ou l'addiction. Donc, clairement, de mon point de vue, je pense qu'une régulation de l'IA serait une bonne chose sur... dans le futur.

M. Jolin-Barrette : Donc, c'est tout...(panne de son). Donc là, c'est sûr qu'on inclut l'intelligence artificielle dans le cadre du projet de loi. Donc, même si l'utilisation de l'intelligence artificielle, ça va être visé par le projet de loi, un peu comment on a fait lorsqu'il s'agissait de la Loi sur le partage d'images intimes sans consentement, où on le voit, bien souvent, on utilise... et ça... et ça touche beaucoup les jeunes femmes particulièrement, on utilise l'intelligence artificielle ou les hypertrucages au détriment de ces personnes. Donc on est venu légiférer là-dessus aussi avec une ordonnance de la Cour du Québec, puis ça fonctionne bien, on a une ordonnance par semaine depuis qu'on a mis en vigueur cette... cette disposition législative là. Donc, écoutez, je vais céder la parole à mes collègues, mais je vous remercie pour votre présence en commission parlementaire, pour les travaux sur le projet de loi n° 24. Merci à vous.

M. Gambs (Sébastien) : Merci.

• (12 h 30) •

La Présidente (Mme Lecours, Les Plaines) : Merci, M. le ministre. Alors, le député de Gaspé, il reste 6 min 29 s

M. Sainte-Croix : Merci beaucoup, Mme la Présidente. M. Gambs. merci d'être ici avec nous aujourd'hui. Très apprécié. Je comprends que vous êtes un spécialiste de l'IA. Vos recherches vous mènent à être directement en contact avec l'évolution des techniques, des technologies, des stratagèmes. Parlez-nous un peu de l'évolution récente et dans quelle mesure... parce que j'imagine que ça s'accélère, les processus, en quelle mesure d'aller faire notre travail, pour la suite des choses, sera un enjeu, là, en termes technologiques? Est-ce qu'on va pouvoir suivre la cadence qui s'impose, considérant l'évolution très rapide des technologies? Comment vous voyez ça, comme spécialiste?

M. Gambs (Sébastien) : Alors, suivre la cadence et est-ce qu'on va être capables d'adresser tous les enjeux de sécurité ou de cybersécurité de de l'IA? De toute façon, on est dans la cybersécurité, on est souvent dans le jeu du chat et de la souris, donc on... on a des nouveaux vecteurs d'attaque puis des choses qui... des mécanismes de défense, puis après, l'IA s'adapte. Là, ce que je disais tout à l'heure, c'est que le fait que, peu importe la manière dont... quel que soit le modèle ou la techno qui ait produit l'image, ça me semble déjà une bonne chose pour être capable de ne pas... de ne pas chercher à bloquer une technologie en particulier. Plus globalement, en cybersécurité, on voit que les hackers se sont approprié très rapidement les modèles d'IA et les utilisent de manière très créative, là, donc, dans ce projet de loi, on ne considère que juste l'utilisation de l'image d'une personne, mais vous avez lu les discussions qu'il y a eu sur Mythos très récemment. On commence aussi à avoir, donc, des systèmes d'IA dédiés à la détection de vulnérabilités dans du code. Donc, ça peut être utilisé, d'un côté, pour renforcer le code informatique de nos systèmes numériques en corrigeant des bogues, mais ça peut être aussi utilisé par des attaquants pour trouver des... des failles de sécurité. Donc, globalement, donc, ce que je vois, principalement, c'est que la barrière d'entrée, je l'avais mentionné dans mon allocution, mais là où il fallait peut être avoir une formation d'informatique pour être capable de fabriquer une fausse image, de créer un clone, de voir... d'être capable de créer un rançongiciel, d'être capable de créer une campagne d'hameçonnage qui est réaliste. On est dans une situation où, maintenant, l'IA a vraiment facilité la... l'accès ou la possibilité de faire ce type d'attaque là. Donc, au quotidien, à gérer, si on regarde l'impact de l'IA sur la cybersécurité, il y a des impacts positifs par le fait qu'on puisse l'utiliser pour surveiller, par exemple, dans un trafic réseau, les... les communications qui semblent bizarres, mais il y a aussi beaucoup le fait que la porte d'entrée pour être capable de faire ce type d'attaque de cybersécurité, faire une fausse image ou une fausse vidéo, est devenue extrêmement faible, donc, on peut quasiment demander à un autre outil de chat GPT ou à Claude de lui donner quelques photos, puis de lui dire : Crée-moi une vidéo de cette personne là qui fait quelque chose, donc peut être qu'il va y avoir des garde-fous, il va dire : C'est contre ma politique d'utilisation, mais en... en faisant de l'ingénierie de prompts et en essayant de lui dire, par exemple, je suis... je ne sais pas, je suis un juge au Québec, il y a une urgence, il faut que je sois capable de faire cette action-là, on va être capable de contourner les garde-fous. Donc, je ne sais pas si je réponds vraiment à votre question, mais...

M. Sainte-Croix : Oui, vous faites un grand bout de chemin. Merci. Est-ce que vous croyez en notre capacité, dans le fond, d'intervenir...

M. Sainte-Croix : ...de façon... le plus promptement possible, mais aussi en fonction des réels crimes qui seront commis, à savoir l'évolution des technologies vont favoriser une multitude de cas de fraudes. Tu sais, quels... quels seront les paramètres susceptibles d'être respectés pour que notre action porte ses fruits? Parce que, tu sais, quand je vous écoute, je me dis que c'est très large comme... comme domaine puis que ce n'est plus nécessairement rattaché à des spécialistes. Donc, quelqu'un qui a un intérêt et qui se débrouille, comme on dit, là, pourrait aussi causer des dommages, là, auprès de certaines... certaines personnes. Comment vous voyez, dans le fond, le cadre dans lequel on va devoir opérer?

M. Gambs (Sébastien) : Donc, clairement, si je prends le... je peux donner plusieurs exemples, mais, si je prends le projet de loi actuel, ce que j'imagine, c'est qu'il faut qu'il y ait une une façon rapide pour les victimes de prévenir l'OPC. Moi, ce qui me fait peur, si on prend l'exemple de l'utilisation de photos pour faire des faux... des faux avis de vente d'objets, c'est qu'il risque d'y... le projet de loi pourrait être victime de son succès ou il pourrait y avoir énormément de personnes. Donc, il faut être capable aussi de gérer toutes... toutes ces demandes-là, là. Dans le projet de loi, tout à l'heure, on parlait du président de l'Office de la protection des consommateurs, mais je ne pense pas qu'il va vouloir gérer des dizaines ou des centaines... ou qu'il va pouvoir le faire. Donc, il faut... j'imagine que ce projet de loi va s'accompagner des ressources associées.

Globalement, sur les enjeux de l'IA en général, en sécurité, clairement la littératie numérique, ça reste un des premiers enjeux. Donc, par exemple, je reçois un appel qui semble être l'appel de mon petit-fils mais qui est d'un numéro que je ne connais pas, ne pas... rappeler directement soi-même son petit-fils ou on reçoit une campagne d'hameçonnage qui semble venir de ma banque, ne pas cliquer sur le lien mais aller directement sur le site de la banque. Tout ce qui est l'usage numérique, ça reste valable. Mais évidemment, évidemment, il y a des nouveaux... des nouveaux sortes d'arnaques qui sont favorisées par l'IA, mais je dirais que les bonnes règles d'hygiène numérique permettent quand même de se protéger un peu de la même manière que c'était déjà le cas il y a cinq ans, là, où... quand on n'avait pas l'IA.

C'est juste que la... En fait, l'enjeu principal pour moi, ça va être la perte de confiance des gens. C'est tellement difficile parfois de distinguer ce qui est une vraie image, une vraie vidéo d'une fausse vidéo. Il risque d'y avoir une espèce de... Les gens finiront par dire : OK, je ne suis plus capable de faire la différence. Est-ce que j'ai... Est-ce que ma banque va couvrir, par exemple ça ou est-ce que mon assurance va le couvrir? On le voit de plus en plus, les assureurs commencent à proposer des polices d'assurance qui gèrent, par exemple, la réputation numérique, l'usurpation d'identité, mais ça pourrait être aussi, dans le futur, le fait d'avoir été victime d'un faux affichage de... par une image ou l'utilisation de mon image contre moi, là.

Donc, clairement, je n'ai pas de réponse magique, mais je pense que la littératie numérique et le fait de dire aux gens : Attention, et voilà les bons réflexes, ça reste une des manières principales.

La Présidente (Mme Lecours, Les Plaines) : Merci. Merci beaucoup, M. le député. Alors, on poursuit les... la discussion avec la députée de La Pinière pour un petit peu plus de sept, huit minutes, là. Je vous indiquerai le temps. Merci.

Mme Caron : Merci, Mme la Présidente. Alors, bonjour. Merci pour votre présentation. Alors, la question que j'aurais pour vous, c'est... vous... bien, vous venez de dire... en d'autres mots, mais que ça... si le projet de loi est victime de son succès, étant donné la facilité technique, maintenant, de créer des images ou de faire... de faire dire des choses ou de faire bouger une personne juste à partir de photos, donc, si ça se bouscule au portique, les dénonciations, les demandes d'ordonnances, le président de l'Office des... j'allais dire l'Office des professions, l'Office de protection des consommateurs va... n'en dormira pas la nuit. Donc, pour ne pas en venir là, est-ce que... Parce que le projet de loi veut agir rapidement, c'est large pour ne pas en oublier et pour tenter de suivre... de ne pas devenir périmé trop vite par rapport à la technologie, mais, pour ne pas en venir à un amoncellement de demandes d'ordonnance, est-ce qu'il y a quelque chose que vous pourriez proposer pour qu'on puisse agir en amont? Parce que, là, on réagit. C'est... Le projet de loi vient répondre à un besoin en réagissant aux fraudes, aux arnaques. Est-ce qu'il y a des propositions que vous auriez pour tenter de réduire le nombre d'arnaques?

M. Gambs (Sébastien) : Je l'avais mentionné un petit peu dans les recommandations, mais le fait de s'assurer que les plateformes numériques aient l'obligation de réagir très rapidement aux demandes de l'Office de la protection du consommateur. Et peut-être aussi ce qu'on...

M. Gambs (Sébastien) : ...le mettre en place, c'est comme si une photo de... Donc, si j'ai une photo de moi qui est utilisée sans mon consentement et que je le signale, mais qu'il y a d'autres photos qui sont sur d'autres... d'autres sites ou d'autres parties que la plateforme contrôle, est-ce qu'elle peut aussi... Donc, ce qu'il faudrait absolument éviter, c'est que je fasse pour chaque photo... ou chaque jour, si quelqu'un d'autre réutilise ma photo, que j'ai besoin de faire une demande. Donc, est-ce qu'il pourrait y avoir une façon d'essayer de regarder toutes les photos où la même personne apparaît puis essayer de valider celles qui sont vraiment avec son consentement ou non? Donc, avoir une... Une fois qu'une personne a fait une plainte sur l'usage de son image contre... sans son consentement... Par exemple, sur une plateforme, est-ce que la plateforme pourrait faire un effort de... une... diligente d'essayer de voir : Est-ce que c'est la seule photo que j'apparais sur cette plateforme, ou est-ce qu'il y en a plein de copies qui sont utilisées? Et donc éviter que j'aie besoin à chaque fois, pour chaque usage de mon image, de refaire une demande.

• (12 h 40) •

Mme Caron : Donc, mieux encadrer ou encadrer plus... plus strictement les... les plateformes. Donc, c'est... c'est une des... une des propositions.

M. Gambs (Sébastien) : Oui. Mettre en place un mécanisme qui les force à... à collaborer ou s'assurer que dès que... dès qu'un signalement est fait à l'Office de la protection du consommateur, les plateformes aussi doivent... doivent réagir, ou une interface, je dirais, de mise en place qui facilite la collaboration.

Mme Caron : Vous avez aussi parlé des... des images qui sont internalisées dans une intelligence artificielle, donc qui vont... qui vont sortir peut-être par hasard du... du modèle. Donc, ce n'est pas... Il n'y a pas nécessairement eu une intention par... par une personne ou une entreprise, d'utiliser l'IA pour se servir de l'image de... de quelqu'un et de faire... d'usurper son identité, son image, sa voix, etc.. Mais j'imagine que c'est un peu comme... quand on parle des grands modèles de langage, c'est que tout se retrouve dans... dans l'IA et que l'IA elle elle-même peut produire... bien, l'IA générative va... peut produire un... un contenu, appelons-le comme ça, à partir d'images qui existaient déjà. Et donc c'est... c'est ce n'est pas demandé, il n'y a pas une personne, il n'y a pas une... une organisation qui tente d'arnaquer, d'usurper l'identité ou l'image d'une personne en particulier, mais l'intelligence artificielle la fait... la fait elle-même, si j'ai bien compris, c'est de...

M. Gambs (Sébastien) : Oui. Je pourrais essayer de créer un exemple à la volée, mais ça pourrait être, imaginons une... On veut créer une campagne de pub pour un... un produit particulier, puis on dit : J'aimerais générer un homme d'entre 25 et 30 ans qui... qui semble, je ne sais pas sportif, et qui va acheter un produit de dentifrice, peux-tu... Et donc on peut... J'imagine que déjà les cabinets de communication utilisent des modèles d'IA pour générer ça. Et donc on pourrait avoir la situation, c'est ce que j'essaie de dire, la situation où le modèle a été entraîné sur des images qui ont été récupérées sur Internet. Donc, il y a la question déjà de : Est-ce que toutes ces images ont été obtenues avec le consentement? Là, si on prend des exemples de procès en cours contre Clearview, où clairement toutes les images des personnes ont été utilisées sans leur consentement. Mais donc le modèle, pour avoir internalisé une image et pourrait faire ressortir l'image d'une personne ou quelque chose qui est très proche, sans même que le cabinet de... de communication ait dit au modèle : Je voudrais utiliser la photo de Sébastien Gambs, par exemple. Donc, la question que je soulevais, c'est : Qu'est-ce qu'on fait dans ce cas-là, en fait? Est-ce que le projet de loi demande à ce qu'il y ait une intentionnalité ou non? Si c'est vraiment l'effet qui est juste... Donc, si c'est peu importe comment l'image a été créée, bien, OK, peut-être que l'acteur qui a mis cette image-là ne s'est même pas rendu compte que le modèle d'IA qui l'avait utilisé a recréé une... une photo qui était une vraie personne, peut-être qu'il espérait que ce soit une image qui semble réaliste, mais qui ne... n'en est pas conscient. Donc, la question que je soulevais, c'est : Comment on va gérer ce cas-là, s'il n'y a pas d'intentionnalité, mais que c'est une photo que le modèle d'IA produit? Voilà.

Mme Caron : Alors là, ça peut devenir très compliqué de... de prouver qu'une image a été... a été créé de toutes pièces par l'IA et non pas d'une manière volontaire d'usurpation d'identité. Puis, l'image qui est créée de toute pièce peut avoir autant de répercussions sur la personne qui ressemble à cette... à cette image-là qu'une autre image qui a été utilisée à dessein, là, pour... pour... bien, usurper et arnaquer les gens. Ça devient... Moi, je le vois un peu comme un casse-tête, là, comment... comment différencier, distinguer entre ces deux situations-là, de prouver surtout ces situations-là et puis d'agir différemment selon l'une ou l'autre.

M. Gambs (Sébastien) : Je pourrais vous donner un autre exemple qui n'est pas dans le domaine de l'image, mais moi, je m'intéresse à... aux données synthétiques dans le contexte, par exemple, de la santé, où on voudrait partager des données qui ressemblent à des vraies...

M. Gambs (Sébastien) : ...patients, mais qui ne sont pas des vrais patients. Et ce qui peut arriver parfois, c'est qu'on va prendre un modèle génératif sur des vraies données de patients puis on va aller venir créer des faux profils. Il y a parfois des situations où les faux profils correspondent à des personnes réelles qui n'étaient même pas dans les données d'entraînement, et donc le cas d'usage de ces données synthétiques, c'est que d'autres chercheurs vont les utiliser. Parfois, on a eu des cas où des gens se sont dit : Mais je n'ai jamais donné mon consentement, mais mon profil est dans les données qui ont été partagées. Et en fait, c'était... c'est un autre exemple où ce n'était même pas un vrai profil qui avait été utilisé pour entraîner le modèle, mais, statistiquement, parce que le modèle a compris comment la... à quoi ressemblaient les profils des patients, il a créé ce qu'il pensait être un faux profil, mais qui, en fait, se retrouve une vraie personne qui n'était même pas dans les données d'entraînement.

Donc, dans l'IA générative d'images, on peut même imaginer que le modèle génératif n'ait pas vu ma photo, mais que, par hasard, il le produise parce qu'il y a d'autres personnes qui me ressemblent ou parce que j'ai...

Mme Caron : OK. Et puis, une fois que... une fois qu'on a... qu'on a fait appel à l'office, par exemple, pour dénoncer ce qui se passe pour qu'il y ait une ordonnance, que ça cesse, il y a d'autres démarches qui sont... Ça ne s'arrête pas là, là, pour la personne, ce n'est pas comme si c'est fini du jour au lendemain parce qu'il y a plein d'autres démarches, par exemple, pour prouver que ce n'était pas elle qui faisait cette publicité-là, par exemple, ou il peut y avoir toutes sortes de répercussions sur... peut-être qu'elle s'est fait voler, vider un compte bancaire ou bien avoir des... une cote de crédit qui est affectée par ça et tout ça. Donc, il y a... il y a toute une démarche à faire en plus de dénoncer pour qu'une chose ponctuelle arrête. Alors, est-ce que...

La Présidente (Mme Lecours, Les Plaines) : Merci beaucoup, Mme la députée. Le temps imparti à votre formation est terminé. Mais, pour terminer ce cette ronde d'échange, je me tourne du côté du député de Maurice-Richard pour 2 min 53 s.

M. Bouazzi : Merci, Mme la Présidente. Merci beaucoup, cher professeur. Toujours un plaisir de vous écouter en commission. Ce n'est pas la première fois que vous venez témoigner chez nous.

On vous écoute, et puis on a l'impression... enfin, ça donne le vertige, là, parce que vous faites appel à un certain nombre de problèmes, nombreux, et donc pas juste ceux auxquels s'adresse ce projet de loi. Est-ce que... et puis, je ne sais pas si vous avez la réponse, mais est-ce qu'il y a des cas de législatures ailleurs dans le monde qui ont fait des avancées importantes par rapport aux problèmes qu'on essaie de régler, que ce soit l'hypertrucage ou les arnaques sur les plateformes, etc., qu'on devrait aller regarder de notre côté pour nous inspirer?

M. Gambs (Sébastien) : Alors, à ma connaissance, justement, c'est ce que j'avais soulevé. Je pense que l'hypertrucage c'est... bien, ça tombe souvent sous le coup des législations sur la vie privée. Donc, il me semble qu'en Europe ou, par exemple, en France, on pourrait avoir l'autorité de protection des données qui a ce type de compétence là. Étant informaticien et pas juriste, j'avoue que je n'ai pas fait une étude comparée des juridictions en place sur ça, mais, en tout cas, il me semblerait qu'il y a sûrement des pays où ce type de chose là pourrait être géré par l'Autorité de protection des données, donc essentiellement pourrait se tourner vers l'autorité en disant : Un de mes... un de mes renseignements personnels a été utilisé sans mon consentement, est-ce que... est-ce que vous pouvez m'aider à gérer ça?

M. Bouazzi : C'est clair. Et par rapport au problème spécifique qu'on essaie de régler, est-ce qu'on peut sérieusement penser le régler sans qu'il y ait un minimum de collaboration et même de travail proactif des plateformes en tant que tel qui hébergent ces problèmes, donc quand on pense à Facebook, YouTube ou X ou d'autres?

M. Gambs (Sébastien) : Non, c'est ce que je disais tout à l'heure. Je pense qu'il faut vraiment... il faut vraiment en amont s'assurer que, quand une plainte est faite à l'Office de la protection du consommateur, il y ait un mécanisme d'interface...

M. Bouazzi : Non, mais pas juste... pas juste d'interface, mais de détection. Parce que vous parliez tout à l'heure, par exemple, que, si vous avez une image qui a été falsifiée, générée qui représente un artiste, par exemple, l'idée que la responsabilité de la plateforme, c'est s'assurer que, s'il y a d'autres images ailleurs dans la plateforme et pas juste celle-là, là, on est ailleurs.

M. Gambs (Sébastien) : Oui, donc ça, effectivement, ça me semble un point important. Donc, ça rejoint l'idée de régulation de l'IA ou des plateformes. Si on ne force pas les plateformes à être proactives ou à essayer de chercher les autres copies, on risque de se trouver dans une situation où il y a plein d'images utilisées sans le consentement des personnes. Et essentiellement, tant que les plateformes ne sont pas contactées, elles vont dire : Bien, nous, on n'a pas de devoir de traiter ces choses-là, ce qui va... ce qui risque de faire qu'on a plein d'images qui soient...

M. Gambs (Sébastien) : ...soit utilisé sans le consentement des personnes. Donc, de mettre une part de responsabilité sur les plateformes, ça me semblerait effectivement être une recommandation aussi importante pour s'assurer de l'efficacité de l'approche.

M. Bouazzi : Merci beaucoup.

La Présidente (Mme Lecours, Les Plaines) : M. Gambs, merci beaucoup pour votre présence en commission et l'apport à nos travaux. C'est ce qui termine la portion des auditions publiques.

Alors, la commission ayant accompli ce mandat, ajourne ses travaux au mardi 12 mai... 1926... 2026, pardon, à 11 h 15, où elle... entreprendra un nouveau mandat. Merci beaucoup, chers collègues!

(Fin de la séance à 12 h 49)