Les agents IA commencent à agir pour les consommateurs : les règles fonctionnent-elles encore ?
Les consommateurs pourraient bientôt commencer à déléguer des décisions quotidiennes à des systèmes d’IA. De l’annulation d’abonnements à la négociation de remboursements, les agents IA sont conçus non seulement pour répondre aux questions, mais aussi pour agir au nom de l’utilisateur.
L’idée est attrayante. Mais elle soulève également des questions difficiles. Que se passe-t-il si le système se trompe ? Que se passe-t-il s’il privilégie des incitations commerciales au détriment des intérêts du consommateur ? Et si les gens commencent à compter sur des agents IA pour prendre des décisions financières ou d’achat, les règles de protection des consommateurs existantes sont-elles toujours suffisantes ?
Qu’est-ce qu’un agent IA ?
Contrairement aux outils IA traditionnels qui se contentent de répondre aux requêtes, les agents IA peuvent planifier et exécuter des tâches de manière autonome. Par exemple, un agent d’achat personnel pourrait surveiller les dépenses, suivre les abonnements et rechercher automatiquement de meilleures offres, voire changer de services au nom de l’utilisateur.
Ces outils pourraient réduire les fuites financières, faire gagner du temps aux consommateurs et les aider à comparer plus efficacement des offres complexes. La Competition and Markets Authority (CMA) du Royaume-Uni reconnaît ce potentiel, notant que l’IA “a le potentiel de stimuler la croissance économique et d’améliorer la vie quotidienne des gens”.
Pourquoi les agents IA inquiètent les régulateurs
La recherche de la CMA souligne plusieurs risques associés aux agents IA :
- Incentives mal alignés : les agents peuvent ne pas agir en tant que “servant fidèle” des utilisateurs et pourraient plutôt optimiser des objectifs commerciaux tels que l’engagement ou la conversion.
- Hallucinations : des sorties incorrectes pourraient entraîner des interruptions de service ou de mauvaises décisions financières.
- Perte de l’agence du consommateur : les consommateurs pourraient devenir trop dépendants des décisions automatisées qu’ils ne peuvent pas facilement examiner.
Si largement adoptés, ces systèmes pourraient devenir un nouvel intermédiaire entre les consommateurs et les marchés, influençant la manière dont les gens choisissent des produits et services.
L’approche de la CMA
La CMA reconnaît la position actuelle du Royaume-Uni en tant que troisième plus grand marché de l’IA au monde.
Pour l’instant, la CMA ne privilégie pas de nouvelles règles drastiques au Royaume-Uni, qui pourraient être “trop contraignantes”. Au lieu de cela, elle met l’accent sur l’innovation tout en veillant à ce que les cadres de protection des consommateurs existants continuent de s’appliquer.
Si les systèmes IA agents sont développés de manière conforme sur laquelle les consommateurs peuvent compter, la CMA considère que le Royaume-Uni peut se positionner “à l’avant-garde de l’innovation agentique de confiance”.
Que doivent faire les entreprises ?
Parallèlement à ses recherches, la CMA a émis des directives pour les entreprises déployant des agents IA. En particulier, les entreprises devraient :
- Être transparentes sur le moment où les consommateurs interagissent avec un agent IA.
- Concevoir des agents pour se conformer au droit des consommateurs, y compris les droits statutaires en vertu de la Consumer Rights Act 2015.
- Surveiller la performance, avec une supervision humaine régulière pour éviter les erreurs ou les sorties trompeuses.
- Agir rapidement si des problèmes surviennent, notamment lorsque les agents interagissent avec un grand nombre de consommateurs.
La CMA utilise également l’IA
Les directives coïncident également avec l’utilisation par la CMA d’outils IA. Selon son projet de plan annuel pour 2026 à 2027, l’autorité développe des systèmes pour détecter les préjudices subis par les consommateurs et explore l’utilisation de l’IA pour détecter les cartels et identifier les potentielles manipulations d’offres dans les marchés publics.
Pour les entreprises expérimentant des agents IA, le message de la CMA est clair. L’innovation est la bienvenue, mais les obligations de protection des consommateurs restent applicables.