Non, la singularité humain-robot n’est pas là. Mais nous devons agir pour gouverner l’IA
Lors d’un récent voyage dans la région de la baie de San Francisco, j’ai été choqué par les panneaux publicitaires qui bordaient l’autoroute à l’extérieur de l’aéroport. “La singularité est ici”, proclamait l’un d’eux. “L’humanité a eu sa chance,” disait un autre. Il semblait que chaque panneau le long de la route était rempli de déclarations des entreprises technologiques faisant des affirmations extravagantes sur l’intelligence artificielle.
Ces annonces, bien sûr, étaient pleines d’hypothèses et d’exagérations. Mais les affirmations qu’elles contiennent ne se produisent pas dans un vide. Le PDG d’OpenAI, Sam Altman, a récemment déclaré : “Nous avons essentiellement construit une AGI, ou très proche de cela,” avant de qualifier sa déclaration de manière confuse en tant que “spirituelle”. Elon Musk a même affirmé : “Nous sommes entrés dans la singularité.”
Le phénomène Moltbook
Entrez Moltbook, le site de médias sociaux conçu pour les agents IA. Un endroit où les bots peuvent discuter entre eux, en d’autres termes. Une série d’articles et d’opinions alarmants ont suivi son lancement. Les auteurs s’inquiétaient du fait que les bots parlaient de religion, prétendaient avoir secrètement dépensé l’argent de leurs créateurs humains, et même complotaient pour renverser l’humanité.
De nombreux articles contenaient des suggestions étrangement similaires à celles des panneaux publicitaires de San Francisco : que les machines sont désormais non seulement aussi intelligentes que les humains (une théorie connue sous le nom d’intelligence générale artificielle) mais qu’elles nous dépassent (un concept de science-fiction connu sous le nom de singularité).
Une étude des limites de l’IA
Basé sur mes années de recherche sur les bots, l’IA et la propagande computationnelle, je peux vous dire deux choses avec une quasi-certitude. Premièrement, Moltbook n’est rien de nouveau. Les humains ont construit des bots capables de parler les uns avec les autres – et avec les humains – pendant des décennies. Ils ont été conçus pour faire des déclarations extravagantes, voire effrayantes, tout au long de ce temps. Deuxièmement, la singularité n’est pas là. Ni l’AGI. Selon la plupart des chercheurs, aucun des deux n’est même proche. L’avancement de l’IA est limité par un certain nombre de facteurs très tangibles : mathématiques, accès aux données et coûts commerciaux, parmi d’autres.
Les affirmations selon lesquelles l’AGI ou la singularité sont arrivées ne sont pas fondées sur des recherches empiriques ou scientifiques.
Le mariage de la technologie et du pouvoir
Mais alors que les entreprises technologiques promeuvent avec empressement leurs capacités en IA, une autre chose est également claire : les grandes entreprises technologiques ne sont plus la force contrariante qu’elles étaient pendant la première administration Trump. Les affirmations exagérées émanant de la Silicon Valley sur l’IA se sont entrelacées avec le nationalisme du gouvernement américain alors qu’ils travaillent ensemble dans le but de “gagner” la course à l’IA.
Pendant ce temps, ICE paie Palantir 30 millions de dollars pour fournir un logiciel habilité par l’IA qui pourrait être utilisé pour la surveillance gouvernementale. Musk et d’autres dirigeants technologiques continuent de défendre des causes d’extrême droite. Google et Apple ont également retiré des applications que les gens utilisaient pour suivre ICE de leurs vitrines numériques après des pressions politiques.
Gouverner l’IA pour le bien commun
Bien que nous n’ayons pas encore à nous inquiéter de la singularité, nous devons nous battre contre ce mariage de convenance causé par la quête de valorisation des grandes entreprises technologiques et le désir de contrôle de Washington. Lorsque la technologie et les politiciens sont en accord, les citoyens devront utiliser leur pouvoir pour décider de ce qui se passera avec l’IA.
Beaucoup de gens pensent, à juste titre, que la régulation technologique socialement bénéfique n’est pas possible dans le climat politique actuel. Heureusement, la politique gouvernementale et d’entreprise ne sont pas les seules façons de combattre les défis et incertitudes présentés par l’IA. Les récentes manifestations à Minneapolis nous rappellent le pouvoir que nous avons en tant que collectif, même s’il est à peine organisé.
La démonstration de force des Minnesotans a poussé l’administration Trump et les entreprises qui la soutiennent à reculer. Par le passé, la pression publique a conduit les grandes entreprises technologiques à apporter des modifications concernant la vie privée, la sécurité et le bien-être des utilisateurs.
Conclusion
Les manifestations récentes, et le recul subséquent d’organisations puissantes, montrent que les puissants dirigent les choses à la faveur des gens. Cela est vrai pour les politiciens et cela l’est aussi pour les dirigeants d’entreprises. L’IA n’est pas une force incontrôlable entre les mains de ceux qui sont au sommet, mais, comme l’ont déclaré deux scientifiques de Princeton, une “technologie normale”. Ses effets sur le monde seront décidés par les gens. Nous avons la capacité de permettre à son impact d’accélérer, mais nous avons également la capacité de contrôler et de réglementer son utilisation.
Comme l’a récemment soutenu le PDG d’Anthropic, Dario Amodei, l’IA peut et doit être gouvernée. Le risque que l’IA pose à la société, notamment en perpétuant l’inégalité croissante et le désordre informationnel, représente des défis réels mais gérables.