Qui gouvernera l’IA du futur ? Une étude sur la régulation des technologies
Dans un contexte d’expansion rapide de l’intelligence artificielle et des débats sur la manière dont elle doit être régulée, une étude de l’Universitat Oberta de Catalunya (UOC) examine une question clé : qui fixe les règles et à travers quelle infrastructure.
L’article, publié en accès libre par la revue internationale AI & Society (groupe Nature), met en lumière l’analyse de certaines initiatives technologiques qui non seulement offrent des services mais promeuvent également des modèles de gouvernance basés sur l’identité numérique privée et les systèmes de données biométriques.
Étude de cas : World
En tant qu’étude de cas, la recherche se concentre sur World (anciennement Worldcoin), un projet co-fondé par le PDG d’OpenAI, Sam Altman, qui propose de vérifier qu’un utilisateur est humain par le biais d’un scan de l’iris, en échange d’un certificat d’identité numérique. Cette initiative connecte les récits sur les risques futurs, tels que les bots, la fraude et l’usurpation, avec des promesses de sécurité et d’inclusion.
Comme l’explique l’étude, ces projets vont au-delà de la simple offre d’un outil; ils proposent un modèle de gouvernance qui peut érosionner la légitimité des institutions démocratiques tout en présentant une alternative privée.
Fictions sociotechniques
L’article introduit le concept de “fictions sociotechniques” pour décrire ces récits d’avenir qui, lorsqu’ils sont présentés comme inévitables, peuvent influencer les décisions concernant la conception et le déploiement technologique, avec des conséquences politiques.
Lorsque les scénarios futurs sont encadrés comme inévitables, les décisions techniques ayant des implications politiques peuvent être légitimées. L’étude analyse comment ces récits contribuent à un projet qui a émergé dans les années 1980, rejetant la démocratie au profit d’un individualisme fondamental et affirmant que l’ingénierie et le marché libre peuvent remplacer la politique pour résoudre les problèmes sociaux.
Facteurs d’influence des récits
Selon la recherche, ces récits prennent de l’ampleur lorsqu’ils :
- présentent des scénarios futurs comme inévitables et urgents,
- rendent la technologie attrayante par le design,
- éveillent des émotions telles que la peur et l’espoir pour générer un soutien social, créant ainsi l’illusion que ces technologies sont inévitables,
- normalisent la notion que les fonctions d’identité et de gouvernance dépendent de systèmes privés.
Enfin, l’étude ne cherche pas à évaluer l’impact empirique du projet sur les utilisateurs, mais offre des outils pour comprendre comment certaines imaginations du futur peuvent finir par façonner l’infrastructure numérique et le débat public sur l’identité, la biométrie et la gouvernance de l’IA.