Dans l’arène digitale en constante évolution, l’usurpation d’identité par le biais de callbots utilisant des technologies de synthèse vocale avancées, telles que celles proposées par ElevenLabs, marque un tournant inquiétant depuis 2023. Ces outils, capables d’imiter à la perfection les voix de figures publiques ou de proches, ouvrent la porte à une nouvelle forme de cybercriminalité : le vishing.

Le vishing, ou hameçonnage vocal, exploite des appels téléphoniques frauduleux pour extorquer des informations personnelles ou financières. Via des techniques avancées de Spoffing il est possible de changer le numéro de l’appelant. Les criminels, armés de messages vocaux convaincants couplés avec des IA Génératives, incitent les victimes à répondre aux appels malveillants ou à révéler des données sensibles pendant leur conversation. Cette méthode s’avère particulièrement efficace lorsque les informations utilisées pour leurrer les victimes sont glanées sur les réseaux sociaux, permettant de personnaliser les attaques et d’augmenter leur crédibilité. La personnification de l’appel permet de déstabiliser la futur victime de ces appels truqués.

Cas Concrets d’Arnaques au téléphone et Comment les Éviter

Des exemples récents illustrent l’audace des cybercriminels : des individus se faisant passer pour des représentants de banques, avec des voix indiscernables de celles des véritables employés, demandant des informations de compte sous de faux prétextes. Une autre tactique répandue inclut l’imitation de voix de proches en détresse, poussant les victimes à transférer des fonds urgents. La victime pensant avoir la personne au téléphone ne se doute pas que l’appel est générée par une voix de synthèse.

Pour contrer ces menaces, tant les entreprises (B2B) que les consommateurs (B2C) doivent adopter des mesures proactives. La sensibilisation est la première ligne de défense : reconnaître que toute demande d’information sensible par téléphone doit être traitée avec scepticisme. Il est crucial de vérifier l’identité de l’appelant par des moyens indépendants avant de divulguer toute information comme une carte bancaire par exemple.

Quelles stratégies de Protection face au danger des fake callbots faut il adopter ?

• Vérification Indépendante : Ne jamais se fier à l’identité présumée d’un appelant surtout si la conversation est parfois coupée. Prendre l’initiative de rappeler l’organisation concernée via un numéro officiel.
• Éducation et Formation : Les entreprises doivent former leurs employés à reconnaître les signes d’appels frauduleux et à réagir correctement.
• Utilisation de Technologies de Sécurité : Des solutions comme l’authentification à deux facteurs et la vérification d’identité biométrique peuvent renforcer la sécurité des informations personnelles et financières.
• Prudence avec les Médias Sociaux : Limiter les informations personnelles partagées en ligne peut réduire le risque d’être ciblé par ces attaques personnalisées. Certains appels permettent à des hacker de récupérer la voix désirée sans autorisation à des fins pernicieuses en fournissant des contenus trompeurs.
• .

Vers un Avenir Sécurisé ?

L’avènement des callbots dotés d’intelligence artificielle soulève des questions éthiques et de sécurité majeures. Alors que la technologie continue d’évoluer, la course entre les mesures de sécurité et les tactiques des cybercriminels s’intensifie chaque jour tandit que la riposte du coté des opérateurs télécoms ne cesse de grandir en employant des stratégies de plus en plus complexe. La vigilance, l’éducation continue des personnes et l’adoption de technologies de sécurité avancées sont essentielles pour préserver l’intégrité de nos informations personnelles et professionnelles face à ces menaces émergentes. La collaboration entre les fournisseurs de technologie, les organisations et les individus jouera un rôle clé dans la construction d’un environnement numérique plus sûr pour tous.

En tant que fournisseur d’une telle technologie, nous devons comprendre que nous détenons une arme de destruction si elle venait à être utilisée entre de mauvaises mains. Malgré la tentation et la facilité, à nous de resister aux sirènes et à l’appat d’un grain facile mais tellement néfaste pour la société que nous devons toujours rester humble et comprendre que sans éthique, notre avenir dans un monde technologique aurait des impacts dangereux dans un futur en pleine mutation.

Aux États-Unis, une nouvelle mesure réglementaire émanant de la Commission Fédérale des Communications (FCC) est entrée en vigueur en février 2024, visant à prohiber l’emploi de l’intelligence artificielle pour la réalisation d‘appels téléphoniques automatisés avec des Robocalls (callbots) dans le B2C. Cette décision vient en réponse à l’usage croissant de voix synthétiques, créées par des algorithmes, pour effectuer ces appels. en effet avec les solutions proposées par ElevenLabs il est possible de synthétiser une voix humaine et de lui faire générer du texte à la voix. « Text to speech » en temps quasi réel.

Depuis Février 2024, la FCC cible spécifiquement les appels automatisés utilisant des voix d’IA pour plusieurs raisons, notamment les fausses alertes d’urgence et les campagnes de spam, qu’elles soient à des fins publicitaires ou malveillantes. Cela est considéré comme du Spam téléphonique mais il est difficile de le détecter. L’objectif est de mettre fin aux désagréments causés par les « robocalls », terme désignant ces communications automatisées. Les arnaques au faux appel téléphonique sont nombreux et les victimes se plaignent de harcèllement.

Cette initiative s’appuie sur le Telephone Consumer Protection Act de 1991, une loi qui encadre strictement les appels automatisés à caractère politique ou commercial réalisés sans consentement explicite du destinataire. (Optin)

La FCC envisage cette interdiction comme un moyen de faciliter les actions légales contre les individus ou organisations exploitant l’IA pour mener des campagnes de spam. Cette mesure s’inscrit dans la continuité d’efforts judiciaires préexistants visant à lutter contre les appels automatisés non sollicités surtout depuis de récentes campagnes Politiques lancées par des callbots.

Jessica Rosenworcel, à la tête de la FCC, souligne les risques de confusion engendrés par l’utilisation de techniques de « clonage vocal » et de création d’images par IA, qui peuvent amener les consommateurs à prendre au sérieux des tentatives d’escroquerie ou de fraude. La capacité de ces technologies à imiter des voix familières ou celles de personnalités publiques rend particulièrement difficile la distinction entre appels légitimes et tentatives de tromperie. Les voix sont similaires et trompeuses. Cette question est un élément qui change la donne dans les secteurs de l’intelligence artificielle. Il est temps de légiférer.

La FCC propose donc de classer l’utilisation de voix artificielles clonées dans le cadre des appels automatisés comme une infraction au « Telephone Consumer Protection Act », renforçant ainsi les moyens à disposition des autorités judiciaires pour combattre ce fléau grandissant. Cette démarche fait écho à l’augmentation notable de l’usage de l’IA pour simuler des voix de personnalités publiques ou de membres de la famille dans le but de tromper les destinataires des appels. Les Fakes appels sont omniprésents aujourd’hui.

Les US s’appuient sur une législation déjà en place pour restreindre les pratiques de télémarketing abusif, y compris l’utilisation de systèmes automatisés pour passer des appels ou envoyer des messages préenregistrés sans l’accord des destinataires tout comme en France. Cette initiative marque une étape significative dans la régulation des nouvelles technologies et la protection des consommateurs contre les abus liés aux appels automatisés.