Votre centre de contact utilise une IA vocale qui détecte le stress dans la voix des appelants pour prioriser les escalades. Bonne pratique. Cette même technologie sert aussi à évaluer le niveau de tension de vos téléconseillers pendant leurs appels, pour du coaching qualité. Depuis le 2 février 2025, cette seconde utilisation est probablement illégale - et l'amende associée est la plus lourde de tout le droit numérique européen.

L'AI Act (règlement UE 2024/1689) ne traite pas la reconnaissance des émotions comme une fonctionnalité technique neutre. Il distingue radicalement deux contextes : l'émotion du client, qui reste un usage encadré mais licite, et l'émotion du salarié, dont l'inférence est une pratique interdite au sens propre du terme - au même titre que la manipulation subliminale ou la notation sociale.

L'article 5 de l'AI Act interdit l'inférence des émotions sur le lieu de travail depuis le 2 février 2025. Cette interdiction s'applique que l'outil soit vendu comme "bien-être au travail", "prévention du burn-out" ou "qualité de service" - l'intitulé marketing ne change rien à la qualification juridique.

Ce guide détaille précisément où passe la ligne entre ce qui est interdit et ce qui reste autorisé pour un agent vocal IA qui analyse les émotions, avec un focus spécifique sur le cas des centres de contact, où les deux usages coexistent souvent dans le même système.

Qu'est-ce qu'un système de reconnaissance des émotions au sens de l'AI Act ?

L'article 3, point 39 de l'AI Act définit un système de reconnaissance des émotions comme tout système d'IA destiné à identifier ou à déduire les émotions ou les intentions de personnes physiques sur la base de leurs données biométriques. La voix entre explicitement dans le périmètre de cette définition, au même titre que l'expression faciale, les gestes ou la posture.

Pour un agent vocal IA, cela couvre concrètement : l'analyse du ton, du débit, des micro-pauses, de l'intensité et des variations prosodiques pour en déduire un état émotionnel - frustration, colère, satisfaction, anxiété, ennui. Cette fonctionnalité, souvent appelée Emotion AI, est de plus en plus intégrée nativement dans les plateformes de callbots et voicebots pour améliorer l'expérience conversationnelle.

Le texte de l'AI Act ne classe pas cette fonctionnalité de façon uniforme. Son statut juridique - autorisé, encadré ou strictement interdit - dépend entièrement du contexte d'usage, pas de la technologie elle-même.

Ce que l'AI Act interdit formellement : le lieu de travail et l'éducation

L'article 5, paragraphe 1, point f) de l'AI Act liste la reconnaissance des émotions au travail parmi les pratiques d'IA interdites - la catégorie de risque la plus sévère du règlement, applicable depuis le 2 février 2025, bien avant la plupart des autres obligations du texte.

Le texte interdit la mise sur le marché, la mise en service ou l'utilisation de systèmes d'IA destinés à inférer les émotions d'une personne physique dans deux contextes précis :

Pour un centre de contact, la conséquence est directe : un système qui analyserait la voix d'un téléconseiller pendant ses appels pour en déduire son niveau de stress, de fatigue ou de démotivation - même dans une intention bienveillante de prévention du burn-out - relève de cette interdiction.

Le raisonnement du législateur européen : l'asymétrie de pouvoir entre employeur et salarié rend le consentement structurellement vicié. Un salarié ne peut pas "librement consentir" à une surveillance émotionnelle dont dépend potentiellement son évaluation ou son maintien en poste.

Les deux seules exceptions prévues par le texte

L'AI Act prévoit deux exceptions limitatives à cette interdiction, interprétées de façon restrictive :

Exception Définition Exemple concret
Finalité médicale Système mis sur le marché à des fins thérapeutiques ou de suivi médical validé Dispositif de télésurveillance d'un trouble anxieux prescrit par un médecin
Finalité de sécurité Système destiné à prévenir un risque physique immédiat Détection de somnolence pour un conducteur professionnel ou un pilote

Un usage de qualité de service, de productivité ou de bien-être au travail non prescrit médicalement ne rentre dans aucune de ces deux exceptions. C'est précisément le cas de la majorité des outils de "coaching qualité" ou de "détection du stress" commercialisés aux centres de contact.

Ce qui reste autorisé : l'émotion du client, pas celle du salarié

L'interdiction de l'article 5 ne s'applique pas à la relation client. Un agent vocal IA peut analyser l'état émotionnel d'un appelant externe - client, prospect, usager d'un service public - pour adapter sa réponse, prioriser une escalade ou personnaliser le ton de la conversation. Cet usage reste licite, à condition de respecter un triple cadre de conformité.

1. Transparence - article 50 de l'AI Act

Le règlement impose une obligation de transparence spécifique et distincte pour les systèmes d'inférence d'émotions, en plus de l'obligation générale d'informer que l'interlocuteur est une IA. L'appelant doit être informé, de façon claire, que ses émotions sont analysées - même s'il sait déjà qu'il parle à un robot. Notre guide complet sur l'AI Act et les agents vocaux détaille l'ensemble de ces obligations de transparence, applicables depuis août 2026.

2. Base légale RGPD - biométrie comportementale

La voix analysée à des fins émotionnelles constitue une donnée relevant de la biométrie comportementale au sens large. Elle nécessite une base légale RGPD documentée : consentement explicite ou intérêt légitime proportionné, avec une analyse d'impact si le volume de traitement le justifie. Voir notre article sur les données biométriques vocales et l'article 9 du RGPD pour le détail des obligations applicables.

3. Limitation de la finalité

Les données émotionnelles collectées sur un client ne peuvent pas servir à des décisions ayant un impact significatif sur la personne - refus de service, profilage commercial agressif, discrimination tarifaire. Leur usage doit rester circonscrit à l'amélioration de l'interaction en cours : escalade prioritaire, adaptation du ton, détection d'une situation de détresse nécessitant un transfert humain.

Contexte Statut AI Act Conditions
Émotion du client / usager (service client, hotline, prospection) Autorisé Transparence art. 50 + base légale RGPD + finalité limitée
Émotion du salarié (coaching, QA, prévention burn-out) Interdit Aucune, sauf finalité médicale ou de sécurité stricte
Émotion du candidat à l'embauche Interdit Le processus de recrutement est assimilé au lieu de travail
Émotion de l'élève / étudiant Interdit Aucune, sauf finalité médicale ou de sécurité stricte

La zone grise des centres de contact : quand le même système "écoute" les deux interlocuteurs

La difficulté pratique pour un centre de contact tient à l'architecture technique elle-même. Un même système d'IA vocale enregistre et traite un appel qui contient deux voix : celle du client et celle du téléconseiller. Si le module d'analyse émotionnelle traite l'ensemble du flux audio sans distinction de canal, il risque de produire - même sans intention explicite - une inférence émotionnelle sur le salarié.

C'est particulièrement sensible pour les outils de quality assurance IA, qui écoutent systématiquement l'intégralité des appels pour évaluer la qualité de service. Notre article sur la quality assurance automatisée en centre de contact détaille les critères d'évaluation recommandés - le ton et le contenu du discours du conseiller peuvent être évalués, mais son état émotionnel inféré ne le doit pas.

Nuance juridique clé : évaluer si un téléconseiller a respecté un script, un ton professionnel ou une procédure n'est pas de la reconnaissance des émotions. Inférer qu'il était "stressé", "démotivé" ou "en colère" en est.

La distinction porte sur la nature de l'inférence, pas sur l'écoute elle-même. Un système peut légitimement vérifier la conformité du discours d'un salarié (formules de politesse, respect du script, absence de propos inappropriés) sans franchir la ligne. Il la franchit dès qu'il produit un score ou une catégorisation de nature émotionnelle appliquée à la voix du salarié.

Comment séparer techniquement les deux flux

La mise en conformité repose sur une séparation architecturale, pas seulement contractuelle ou documentaire :

Checklist de conformité : reconnaissance des émotions et agent vocal IA

À vérifier sur le canal client - usage autorisé sous conditions

À vérifier sur le canal salarié - usage interdit sauf exception

Ce que TALKR garantit sur la séparation client / salarié

TALKR conçoit ses agents vocaux IA avec cette distinction inscrite dans l'architecture, pas ajoutée après coup :

TALKR propose un audit de conformité Emotion AI pour les entreprises qui utilisent déjà des outils de QA vocale ou d'analyse conversationnelle et souhaitent vérifier l'absence de risque au regard de l'article 5 de l'AI Act.

Votre outil de QA vocale respecte-t-il l'article 5 de l'AI Act ?

Nos experts auditent vos systèmes d'écoute d'appels et d'analyse conversationnelle pour identifier tout risque de reconnaissance des émotions sur vos salariés. Rapport détaillé et plan de remédiation fournis.

Demander un audit de conformité Calculer mon ROI

FAQ - Reconnaissance des émotions et AI Act

Qu'est-ce que l'article 5 de l'AI Act interdit exactement en matière de reconnaissance des émotions ?

L'article 5, paragraphe 1, point f) de l'AI Act interdit la mise sur le marché et l'utilisation de systèmes d'IA destinés à inférer les émotions d'une personne physique sur son lieu de travail ou dans un établissement d'enseignement. Cette interdiction vise les employeurs qui déploieraient une IA pour détecter le stress, la fatigue, l'ennui ou la colère de leurs salariés à partir de la voix, du visage ou du comportement, en dehors de toute finalité médicale ou de sécurité.

Depuis quand cette interdiction est-elle en vigueur ?

L'interdiction est applicable depuis le 2 février 2025, en même temps que l'ensemble des pratiques d'IA interdites du chapitre II de l'AI Act. C'est l'une des toutes premières obligations du règlement entrées en application, bien avant les obligations de transparence de l'article 50 (août 2026) ou le régime complet des systèmes à haut risque (août 2027).

Un centre d'appels peut-il utiliser l'Emotion AI sur ses clients ?

Oui, sous conditions. L'interdiction de l'article 5 vise spécifiquement le lieu de travail et l'éducation, pas la relation client. Un agent vocal IA peut analyser le ton ou la frustration d'un appelant pour adapter sa réponse ou déclencher une escalade, à condition de respecter les obligations de transparence de l'article 50 (information de l'appelant) et une base légale RGPD valide, la voix relevant de la biométrie comportementale.

Un centre d'appels peut-il utiliser l'Emotion AI pour évaluer ses téléconseillers ?

Non, sauf exception médicale ou de sécurité strictement encadrée. Si le système analyse la voix d'un téléconseiller pour en déduire un état émotionnel - stress, fatigue, démotivation - dans le cadre de son évaluation ou de son management, cette pratique tombe sous l'interdiction de l'article 5, même présentée comme du bien-être au travail ou de la prévention du burn-out.

Quelles sont les exceptions médicales ou de sécurité à l'interdiction ?

L'AI Act prévoit deux exceptions limitatives : les systèmes mis sur le marché à des fins strictement médicales (suivi thérapeutique validé) et les systèmes destinés à des fins de sécurité (détection de somnolence d'un conducteur professionnel). Ces exceptions sont interprétées de façon restrictive : un usage de confort, de productivité ou de qualité de service ne peut pas s'en prévaloir.

Comment distinguer techniquement le flux client du flux salarié dans un même système d'écoute d'appels ?

La séparation repose sur l'isolation des canaux audio dès l'enregistrement : le canal appelant et le canal téléconseiller doivent être traités par des pipelines distincts. Le module d'inférence émotionnelle ne doit être activé et documenté que sur le canal client, avec une architecture qui empêche techniquement - pas seulement contractuellement - toute analyse émotionnelle du canal salarié.

Quelles sanctions en cas de non-respect de l'article 5 de l'AI Act ?

Les pratiques interdites de l'article 5 sont sanctionnées au niveau le plus élevé du règlement : jusqu'à 35 millions d'euros ou 7 % du chiffre d'affaires mondial annuel, le montant le plus élevé étant retenu. C'est le niveau de sanction le plus sévère du droit numérique européen, supérieur aux sanctions RGPD. En France, la CNIL et les autorités de surveillance du marché désignées sont compétentes.

Comment TALKR sépare la détection d'émotions clients de la surveillance des salariés ?

La plateforme TALKR n'analyse que le canal de l'appelant externe. Aucune fonctionnalité d'inférence émotionnelle n'est proposée ni activable sur la voix des collaborateurs des entreprises clientes, pour du coaching, de la notation qualité ou du management. Cette séparation est appliquée au niveau de l'architecture technique et documentée dans la fiche de conformité AI Act fournie à chaque déploiement.

Pour aller plus loin