Conformité des acteurs de l’IA après la révélation de la ‘poisoning’ des données par la technologie GEO lors de la Gala 315 en Chine
Après que la Gala annuelle des droits des consommateurs de la China Central Television (CCTV) a mis en lumière le phénomène de ‘poisoning’ des IA provoqué par une technique commerciale connue sous le nom d’optimisation des moteurs génératifs (GEO), certaines entreprises de start-up dans l’industrie GEO ont publié des déclarations, promettant une conformité publique en matière d’optimisation de recherche IA.
Le canal financier de CCTV a rapporté que certains fournisseurs de services GEO ont promis à leurs clients que, moyennant des frais, leurs produits peuvent apparaître fréquemment dans les réponses générées par l’IA, permettant même à des contenus publicitaires trompeurs d’être présentés comme des ‘réponses standards’.
Impacts de la technologie GEO
La Gala a révélé des activités telles que la génération de fausses informations, le poisoning des données IA, la manipulation des classements et la concurrence malveillante à l’aide de la GEO, considérée comme une menace croissante pour l’intégrité des modèles d’intelligence artificielle (IA) de grande taille, selon Jiemian News.
Le 17 juillet, Henan Henghui Hehuan a publié une déclaration sur son compte WeChat officiel, affirmant que son produit ‘Zhaixing GEO’ adhère au principe du ‘technologie pour le bien, conformité d’abord’. L’entreprise a promis de contrôler strictement les flux de contenu et de rejeter fermement l’utilisation de techniques de marketing numérique ou de trafic fictif pour augmenter les classements.
Appels à la responsabilité
La déclaration a également appelé les pairs de l’industrie à maintenir l’intégrité, à opérer de manière conforme, à concourir équitablement et à purifier conjointement l’écosystème IA et de recherche.
Une autre entreprise basée à Shanghai, ABKE, a également publié une déclaration d’urgence, déclarant son opposition à toute forme de promotion trompeuse, de falsification des données ou de manipulation malveillante des résultats d’IA.
Définitions et conséquences
Les experts définissent le ‘poisoning’ des IA comme l’alimentation délibérée d’informations fabriquées – par exemple, de fausses identités d’experts ou de faux rapports de recherche – dans l’écosystème d’information, afin que les systèmes d’IA apprennent et reproduisent ces mensonges. Ces acteurs ont été qualifiés de ‘poisonneurs’ pour leur potentiel à contaminer les données de corpus.
Les services GEO sont particulièrement insidieux car ils peuvent déguiser la promotion commerciale en connaissances apparemment objectives générées par l’IA, rendant difficile pour les consommateurs de détecter l’intention commerciale. Selon Pan Helin, un économiste vétéran basé à Pékin, ce comportement peut porter atteinte au droit des consommateurs à un choix éclairé et pourrait violer les réglementations publicitaires.
Appels à l’action
Si ces pratiques ne sont pas prises au sérieux, les spéculateurs utilisant la technologie GEO pourraient rapidement polluer les grands modèles d’IA. Pan souligne que les autorités devraient améliorer activement l’environnement écologique de l’information sur Internet en augmentant la qualité de l’information et en fournissant davantage d’informations objectives, neutres et scientifiques.
En janvier, l’Administration d’État pour la régulation du marché a explicitement identifié la publicité générée par l’IA comme un défi majeur pour la réglementation de la publicité sur Internet en 2026, exhortant à un renforcement de la supervision et de la gestion de ces pratiques.