Éthique de la recherche sur l’IA : Réflexions des experts de l’Université du Wisconsin
Lors d’un panel le 30 janvier, des chercheurs de l’Université du Wisconsin-Madison ont abordé les préoccupations éthiques liées à l’émergence de l’intelligence artificielle générative dans le milieu académique et la recherche.
Recommandations pour les chercheurs
Le panel, comprenant des experts de l’Institut de Science des Données de l’UW-Madison, des bibliothèques, et du Bureau des Comités de Révision Institutionnels (IRB), a fourni des recommandations essentielles pour les chercheurs. Ils ont proposé des définitions et des opportunités pour une utilisation éthique de l’IA dans la recherche.
Dr. Anna Haensch, professeure associée de recherche à l’Institut de Science des Données, a souligné que l’IA complique souvent les pratiques de recherche. Elle a noté que sa capacité à rédiger instantanément de longs articles de recherche peut mener à des “hallucinations” d’informations, ce qui compromet la qualité du travail des chercheurs.
Planification et gestion des données
Jennifer Patiño, coordinatrice de la recherche numérique pour les bibliothèques de l’UW-Madison, a recommandé aux chercheurs de “faire un plan” lorsqu’ils travaillent avec des outils d’IA. Elle a conseillé de comprendre comment ces outils fonctionnent, ainsi que leurs conditions d’utilisation et les licences impliquées.
Patiño a également mis en avant les services offerts par le centre de Services de Données de Recherche de l’UW-Madison, qui aide les chercheurs à rendre leurs données visibles, reproductibles et accessibles au public.
Questions de propriété intellectuelle
Elle a expliqué que de nombreux éditeurs s’opposent à l’utilisation des outils d’IA pour extraire des données de publications privées, ce qui soulève des questions juridiques complexes sur la propriété intellectuelle et la capacité à entraîner des modèles d’IA avec ces informations. Certains éditeurs interdisent complètement l’utilisation de l’IA, tandis que d’autres autorisent son utilisation pour des tâches minimales, comme l’amélioration de la langue.
Perspectives de l’IRB sur l’utilisation de l’IA
Casey Pellien et Lisa Wilson, directrice de l’IRB, ont discuté de l’utilisation de l’IA pour la recherche impliquant des sujets humains. Ils ont défini la recherche humaine comme une analyse d’informations provenant de sujets humains, qu’elles soient physiques, mentales ou sociales.
Wilson a mis en garde sur les risques liés à l’utilisation de l’IA, soulignant l’importance de lire et de comprendre les conditions d’utilisation des outils d’IA avant de les utiliser. Elle a également mentionné la nécessité d’envisager des questions éthiques dans le formulaire de consentement.
Politiques institutionnelles sur l’IA
Les panelistes ont attiré l’attention sur les préoccupations liées à l’IA au niveau universitaire. À l’UW-Madison, les informations publiques peuvent être saisies dans des outils d’IA générative, mais le partage de données sensibles ou protégées est interdit.
Impact sur l’emploi et la législation
Haensch a également évoqué l’impact de l’IA sur les carrières au-delà des laboratoires de recherche, en se référant à des législations fédérales comme l’AI-Related Job Impacts Clarity Act et le PREPARE Act, visant à réglementer l’interférence de l’IA dans le marché du travail.
Enfin, elle a mentionné l’ordre exécutif de l’administration Trump du mois de décembre, qui visait à augmenter l’utilisation de l’IA aux États-Unis en menaçant de retenir 21 milliards de dollars de financement pour l’équité et l’accès au haut débit.