Une première tentative de fraude québécoise à utiliser le deepfake et l’IA

Une publicité frauduleuse qui promeut une application de casino comme si elle nous permettait d’assurément gagner de l’argent circule sur Facebook. La différence avec d’autres tentatives de fraude de la sorte, c’est qu’elle utilise l’image et la voix d’Anne-Marie Dusseault, journaliste et animatrice sur les ondes de Radio-Canada et d’ICI RDI. Si c’est la première fois que le deepfake et l’intelligence artificielle sont utilisés pour imiter une personnalité québécoise, ce n’est certainement pas la dernière. On vous explique comment reconnaître la supercherie.

C’est la première fois que je vois un cas de deepfake proprement québécois utilisé pour faire de la fraude. Dans les images, on se sert de l’intelligence artificielle pour reproduire la voix d’Anne-Marie Dussault, et le deepfake pour recréer son image.

Par chance, cette tentative de fraude est bien faite seulement au 2/3, et quiconque qui la regarde attentivement peut y détecter l’arnaque.

Malgré ça, c’est bien important de comprendre le modus operandi parce que malheureusement, c’est quelque chose que l’on va voir de plus en plus souvent.

Ce n’est pas demain la veille que les fraudeurs vont s’arrêter d’utiliser les avancées de l’intelligence artificielle pour escroquer les gens, bien au contraire.

Comment reconnaître le modus operandi de l’arnaque

Au début de la vidéo frauduleuse qui circule sur Facebook, on entend une voix d’Anne-Marie Dussault qui est surprenamment bien réussie.

Le truc des fraudeurs, c’est d’utiliser un ou plusieurs des outils d’intelligence artificielle qui se retrouvent en ligne et qui permettent d’analyser une voix et de la copier.

Puisqu’Anne-Marie Dussault est une personnalité publique et qu’elle passe beaucoup de temps à l’antenne, c’est très facile pour quiconque de récupérer un bon échantillon de sa voix et de le donner à l’intelligence artificielle. Cela étant, celle-ci peut facilement l’imiter et la copier.

Bien que quelques indices trahissent l’arnaque, comme les mots utilisés qu’on n’emploie pas au Québec, smartphone, euros, etc., il reste que l’on vise une clientèle qui est fragile.

Après avoir regardé le reportage et avoir vu tous ces gens qui gagnent, c’est certain que ça donne envie à beaucoup de vouloir y jouer et tenter le coup.

Quand on clique sur l’annonce, on arrive directement sur un écran où on doit tourner une roue de fortune. Évidemment, à tous coups, l’internaute gagne, ce qui donne encore plus envie à ceux sensibles aux problèmes de jeu de continuer.

Pour poursuivre, on doit installer une application, qui est disponible autant sur le Play Store que l’App Store, donc personne n’est à l’abri.

Une fois dans l’application, on repart le processus et on fait tourner d’autres roues. Sans surprise, c’est vraiment plaisant et on continue de gagner des participations gratuites.

Sans surprise, chacune des tentatives est fructueuse pour nous inciter à nous rendre plus loin dans l’arnaque.

Éventuellement, c’est plutôt de l’argent qu’on se met à gagner, mais pour le toucher, il faut aller plus loin, s’inscrire, valider notre compte.

C’est là qu’on découvre le pot aux roses: on n’a qu’à cliquer sur les modalités et conditions longues de plusieurs pages qui nous expliquent qu’il s’agit en fait d’un site de jeux.

Le hic, c’est que les casinos et les sites de gambling sont des endroits pour perdre de l’argent, pas en gagner.

On peut s’y amuser, y jouer, mais collectivement, c’est certain qu’on va y perdre beaucoup plus d’argent qu’on va en gagner.

Ce n’est pas une source de revenus de jouer à ce jeu, ce qui est loin de ce que nous promettait « le topo » de 24•60.

D’ailleurs, de retour au point de départ. Il faut bien reconnaître ce qu’on fait les arnaqueurs.

Pour piéger les gens, ils sont partis d’une source d’information crédible, Radio-Canada, d’un visage connu, celui d’Anne-Marie Dusseault, l’animatrice de 24•60 et ils ont carrément tourné leur publicité en reportage.

Tout est imité et copié, la formule, les bandeaux, les logos, les témoignages des gens, etc.

Bref, en conclusion, s’il y a bien une chose que l’on puisse faire, c’est d’ouvrir l’œil et d’aiguiser notre sens critique, maintenant plus que jamais.

Pour encore plus de truc sur comment reconnaître l’hameçonnage et les tentatives de fraude et s’en protéger, c’est par ici.