Éthique de l’Intelligence Artificielle : Une Édition Controversée
Un des plus grands éditeurs académiques au monde est sous le feu des critiques après la découverte de citations fictives dans un livre sur l’éthique de la recherche en intelligence artificielle (IA). Ce livre, intitulé Aspects sociaux, éthiques et juridiques de l’IA générative, est présenté comme une revue autoritaire des dilemmes éthiques posés par cette technologie, mais semble être truffé de références à des revues qui n’existent pas.
Critiques du secteur de l’édition académique
Le secteur de l’édition académique a récemment été critiqué pour avoir accepté des articles frauduleux générés par l’IA, qui ont réussi à passer à travers un processus d’évaluation par les pairs censé garantir des normes élevées. Selon des enquêtes menées par des chercheurs, le livre de Springer Nature contiendrait de nombreuses citations inventées, un signe fréquent de matériel généré par l’IA.
Dans un chapitre, 8 des 10 citations n’ont pas pu être vérifiées, suggérant que 80 % d’entre elles pourraient être fabriquées. Ce phénomène soulève des inquiétudes croissantes au sein de la communauté académique quant à la fiabilité des références et des articles de recherche générés par l’IA.
Analyse des citations fictives
Guillaume Cabanac, professeur associé en informatique à l’Université de Toulouse, a analysé deux chapitres du livre à l’aide de BibCheck, un outil conçu pour identifier les références fabriquées. Cette analyse a révélé qu’au moins 11 des 21 citations dans le premier chapitre ne pouvaient pas être associées à des articles académiques connus. De plus, 8 des 10 citations dans le chapitre 4 étaient introuvables.
Cabanac a qualifié cela de fausse recherche, soulignant que la fabrication et la falsification de références compromettent la construction de connaissances fiables sur des recherches fragiles ou erronées.
Des conclusions similaires
Une autre étude menée par le Dr Nathan Camp de l’Université d’État du Nouveau-Mexique a abouti à des conclusions similaires. Bien qu’il soit difficile de déterminer de manière définitive si les citations utilisées sont générées par l’IA, elles sont certainement erronées, voire fabriquées. Camp a noté que dans certains cas, des détails provenant de différents articles authentiques semblaient avoir été combinés.
Réactions de l’éditeur
James Finlay, vice-président des livres sur les sciences appliquées chez Springer Nature, a déclaré : « Nous prenons très au sérieux toute préoccupation concernant l’intégrité de notre contenu publié. » Il a ajouté que l’équipe d’intégrité de l’éditeur enquête en priorité sur cette affaire et utilise des outils de détection spécialisés pour maintenir les normes, bien qu’un petit nombre de problèmes puissent parfois passer inaperçus.
La situation met en lumière des problématiques cruciales sur l’intégrité de la recherche et la nécessité d’une vigilance accrue face aux outils d’IA qui peuvent générer du contenu trompeur dans le domaine académique.