Contre les arnaques téléphoniques, un opérateur britannique crée une "grand-mère" générée par IA pour faire perdre leur temps aux escrocs

L'opérateur O2 a dévoilé "Daisy", une intelligence artificielle qui imite une grand-mère bavarde pour garder les escrocs au téléphone le plus longtemps possible, et ainsi éviter qu'ils ne piègent d'autres personnes.

Luc Chagnon

France Télévisions

Publié le 16/11/2024 13:30 Mis à jour le 16/11/2024 14:47

Temps de lecture : 3min

Une capture d'écran de la vidéo de présentation de "Daisy", une IA générative conçue par un opérateur britannique pour faire perdre leur temps aux arnaqueurs. (VIRGIN MEDIA O2)

Quel est le "pire cauchemar" des arnaqueurs qui essaient de vous soutirer de l'argent par téléphone en se faisant passer pour votre banque, un support technique, un livreur ou autre ? Peut-être une grand-mère qui aime un peu trop faire la conversation !

C'est l'idée de l'opérateur de téléphonique britannique O2, qui a dévoilé jeudi 14 novembre un programme baptisé "Daisy" : une intelligence artificielle (IA) générative conçue pour imiter une grand-mère bavarde et garder les escrocs au bout du fil le plus longtemps possible.

Dans une vidéo (manifestement illustrée grâce à une autre IA générative), l'opérateur donne des exemples choisis d'utilisation de Daisy, dans lesquels le programme à la voix lente et assez monocorde fait tourner ses interlocuteurs en bourrique. Daisy prétend ne pas comprendre leurs indications, les fait répéter, explique vouloir "juste un peu de conversation"...

Les arroseurs arrosés

Comment les arnaqueurs sont-ils identifiés et redirigés vers Daisy ? Contacté par franceinfo, O2 précise avoir travaillé avec des professionnels qui piègent eux-mêmes les arnaqueurs. L'opérateur explique avoir utilisé "plusieurs tactiques dont le 'number seeding'" : laisser délibérément le numéro de Daisy être inscrit dans les listes de numéros utilisées par les arnaqueurs ("mugs lists"), pour que ceux-ci tentent de l'appeler... et se retrouvent pris à leur propre piège.

Comment fonctionne l'IA ? L'opérateur affirme que "Daisy" "combine plusieurs modèles d'IA qui travaillent ensemble pour écouter l'appelant et transcrire sa voix en texte. Les réponses appropriées sont ensuite générées à l'aide d'un grand modèle de langage", un programme comme ChatGPT, "doté d'une couche de 'personnalité'" – vraisemblablement grâce à une consigne écrite (un "prompt") qui lui demande d'adopter la perspective d'une grand-mère portée sur la conversation.

Les réponses écrites sont alors "renvoyées à un modèle de synthèse vocale d'IA personnalisé pour générer une réponse vocale", et ce "en temps réel", explique O2. L'IA n'est cependant pas la panacée : pour limiter au maximum les risques d'arnaques, l'opérateur encourage à transférer les appels et messages suspects à un numéro local, et à appeler directement vos proches si un numéro inconnu se fait passer pour eux.