top of page

Quand l'IA devient une arme: le ravage de l'Hypertrucage (Deepfake)

Dernière mise à jour : 14 févr.

Nous avons déjà exprimé sur nos plateformes nos préoccupations concernant les avancées en intelligence artificielle de ce type. Les technologies d'hypertrucages actuelles permettent de créer des photos et vidéos non réelles à partir d'échantillons existants, telles que des interviews, des films ou des photos présentes sur la toile. Un bon exemple de ce type de technologie est l'intelligence artificielle de Microsoft nommée VALL-E, qui permet de recopier n'importe quelle voix avec un échantillon de seulement 3 secondes de celle-ci.


Pourquoi la technologie de Deepfake nous inquiète t-il?


Car de telles technologies permettent d'améliorer les techniques de fraudes des hackers et déjà de nombreuses victimes sont tombées dans leur filet, personne n'est épargnée. Des gouvernements, aux entreprises jusqu'aux petits foyers, les hackers ne font aucune distinction.


Personne usurpant l'identité par l'entremise d'Internet (deepfake / hypertrucage)

Voici quelques cas d'arnaque à l'aide de intelligence artificielle de type hypertrucage (deepfake) qui ont enflammé les journaux:


La fraude amoureuse.

Les fraudes amoureuses consistent à se faire passer pour un individu en volant ses photos et ses vidéos, afin d'attirer des personnes sur des sites de rencontre ou sur les réseaux sociaux. Une technique bien connue des cybercriminels qui ont ruiné bon nombre d'amoureux transits. Cependant, ils peuvent désormais créés un personnage de toute pièce et très réaliste à l'aide de l'IA, faisant d'autant plus de victime. https://www.midilibre.fr/2023/02/14/arnaque-a-lamour-gare-a-cette-escroquerie-qui-joue-avec-vos-sentiments-lors-des-rencontres-en-lignes-10997889.php

Après s'être fait passer pour quelqu'un ou avoir créer un personnage de toute pièce, les hackers jouent la carte de la détresse. Évoquant leur situation de précarité, la maladie d'un proche ou la volonté de rejoindre l'élu de leur coeur. Les amoureux transits n'hésitent pas à vider leur compte en banque pour leur venir en aide.


L'arnaque du membre de la famille en danger ou dans une situation d'urgence

Une septuagénaire pensait venir en aide à son petit-fils dans une situation des plus étranges. Ayant déjà été confrontée à une tentative de fraude téléphonique impliquant son petit-fils par le passé, elle n'avait pas mordu à l'hameçon, ne reconnaissant pas la voix de l'imposteur. Cependant, cette fois-ci, la voix au téléphone semblait bien être celle de son petit-fils, donc la vieille dame a cédé et retiré 7500 $ pour l'aider, même si les modalités de remise de l'argent auraient dû lui sembler suspectes. Malgré cela, la septuagénaire a continué de croire en la véracité de la voix à l'autre bout du fil. Heureusement, le pire a été évité, car elle a finalement été mise au courant de l'arnaque au deepfake qui avait fait de nombreuses victimes.


Les pirates informatiques exploitent les réseaux sociaux pour repérer les liens familiaux entre les individus. Ils usurpent alors les voix, les visages et les informations de ceux-ci pour paraître beaucoup plus convainquant et faire plus de victimes.


La fraude du président en vidéoconférence.

Dans le même d'ordre d'idée mais dans le monde professionnel, on trouve la fraude du président renforcée par l'IA et dont a récemment fait les frais un employé d'une grande entreprise basée à Hong Kong.


Pour rappel, la fraude du président est une technique d'ingénierie sociale qui consiste à se faire passer pour le dirigent d'une entreprise ou une personne à forte responsabilité d'une organisation. L'objectif principal étant de persuader un employé de procéder à un transfert d'argent, des données sensibles ou des accès, souvent sous prétexte d'une urgence fictive.


Le pauvre employé de cette compagnie était pourtant sceptique face à une demande de transfert aussi important. Mais il s'est senti tout de suite rassurée durant la visioconférence quand il a vu qu'en plus de son dirigeant, se trouvait nombre de ses collègues. Il a alors transféré 25 millions de dollars avant d'être pris de doutes et de se renseigner plus amplement auprès d'un de ses collègues, censés être présents à la rencontre. C'est alors qu'ils se sont rendu compte de la fraude. Cette arnaque a demandé des mois de préparation pour connaître et capturer les visages et voix de tous les membres présents à la rencontre. Une histoire qui fait bien peur.


La fraude pour la désinformation.


Une autre manière d'utiliser l'hypertrucage à de mauvaises fins est pour de la désinformation. En utilisant des deepfakes reproduisant des personnalités connues telles que des célébrités, dirigeants politiques ou des journalistes, les cybercriminels peuvent créer des crises mondiales.

Impossible que vous soyez passé à côté des photos du pape en gros manteau doudoune ou de Donald Trump en train d'être interpellé par la police. Si c'est le cas voici un article avec les photos en question.

Des images qui prêtent à rire, mais qui font peur car bons nombres d'internautes ont cru ces images réelles et ont transféré l'information trompeuse sur la toile.



Aucune de ces escroqueries n'est nouvelle en soi, elles sont seulement plus redoutables grâce aux diverses techniques intelligences artificielles.

Soyez d'autant plus méfiant désormais, procédez toujours à une vérification avec des numéros connus ou créez des codes que seulement vous et votre proche ont connaissances. Attention, avec les réseaux sociaux, de nombreuses informations que vous pensez être secrètes, sont en réalité très facile à obtenir par un cybercriminel.


Voici une vidéo datant de 2016 qui avait pour but de sensibiliser à la protection des informations personnelles sur Internet. Dans cette vidéo, un homme se faisait passer pour un voyant et aidé d'une équipe d'informaticiens qui lui soufflait les données trouvées à propos de la personne qui venait de s'assoir.

Cela faisait déjà froid dans le dos à l'époque, imaginez maintenant...



De plus, il va être plus important que jamais de se doter d'un esprit critique, la désinformation se fait nombreuse et se propage rapidement grâce aux réseaux sociaux!


Protégez vos réseaux, ne publiez pas trop, soyez sceptique face à des messages d'urgence, surtout s'ils impliquent de l'argent, que ce soit au travail ou dans la vie privée et restez au courant des nouvelles cybermenaces pour bien vous sécuriser.

Comments


bottom of page