DeepSeek ajuste son IA pour l’Italie après une enquête sur les hallucinations
La société chinoise d’intelligence artificielle DeepSeek a convenu de lancer sa première version exclusivement nationale de son chatbot, spécifiquement adaptée aux besoins nationaux italiens, à condition de respecter les stipulations réglementaires.
Cette annonce intervient alors que l’AGCM (Autorità Garante della Concorrenza e del Mercato) italienne devient de plus en plus rigoureuse dans la régulation de l’intelligence artificielle (IA) afin d’éliminer les hallucinations.
Réglementation stricte en Italie
L’Italie est l’un des pays les plus stricts de l’Union européenne en matière de régulation de l’IA, comme en témoignent ses enquêtes régulières sur des entreprises telles que Meta, qui aboutissent souvent à des amendes, ainsi qu’une répression de Google pour piraterie de streaming sportif.
Des problèmes plus subtils émergent cependant, comme l’interprétation du terme « moteur de recherche ». Ce terme englobait autrefois une plateforme unique telle que Google ou Yahoo, mais aujourd’hui, les chatbots IA peuvent explorer le web sous de multiples angles, souvent en assemblant leurs propres narrations fabriquées.
Engagements de DeepSeek
L’AGCM a reconnu que : « [DeepSeek] a déclaré que le phénomène des hallucinations des modèles IA est un défi mondial qui ne peut pas être entièrement éliminé. » En conséquence, DeepSeek s’est engagé à réduire les hallucinations, ce qui a été salué comme « louable » par les régulateurs. Il reste cependant incertain comment cela sera mesuré, bien que la société ait organisé un programme d’ateliers pour familiariser son personnel avec la législation italienne.
DeepSeek devra soumettre un rapport à l’AGCM pour formaliser ses engagements. Le non-respect pourrait entraîner une amende de 10 millions € (11,7 millions $).
Observations des experts
En analysant les différents segments de leurs nouvelles obligations, un porte-parole de Concordia AI, Fang Liang, a observé : « Les changements apportés à l’interface utilisateur et aux conditions générales sont relativement faciles à mettre en œuvre, tandis que les améliorations techniques sont plus difficiles à garantir. »
Les hallucinations affectent toute l’IA générative, pas seulement DeepSeek, et des chercheurs chez des leaders du secteur comme OpenAI déplorent les pratiques actuelles de formation qui encouragent la conjecture, plutôt que de reconnaître l’incertitude.
Chemin vers un retour en Italie
L’AGCM a rapidement affirmé que DeepSeek doit « rendre ses divulgations sur le risque d’hallucinations plus transparentes, intelligibles et immédiates. » Ces engagements marquent également un potentiel chemin de retour en Italie après que le chatbot de DeepSeek a été retiré des magasins d’applications en janvier de l’année dernière, suite à des préoccupations soulevées concernant la gestion des données.
Un retour dépendra de la satisfaction des régulateurs concernant ses mesures de transparence et de la classification finale du service en tant que moteur de recherche en vertu de la Loi sur les services numériques de l’Union européenne.
Pour en savoir plus, consultez du contenu exclusif sur YouTube.