Comment gérer “L’Adolescence de la Technologie” comme des adultes
Alors que les États-Unis et ses 50 États débattent de la manière de procéder à la gouvernance de l’intelligence artificielle (IA), le PDG d’un important laboratoire d’IA a publié un essai approfondi sur les principaux risques qu’il perçoit avec les avancées continues de l’IA.
Dans son essai intitulé “L’Adolescence de la Technologie”, le PDG d’Anthropic, Dario Amodei, souligne quelques principes clés pour se protéger contre les pires conséquences de l’IA. L’application de ces principes au niveau des États et du fédéral pourrait conduire à une approche plus raisonnée et fondée sur des preuves de la gouvernance de l’IA. Cet article évalue l’approche d’Amodei et envisage comment elle pourrait être renforcée.
Qui est Amodei ?
Amodei est le PDG d’Anthropic. Pour ceux qui ne sont pas familiers avec les principaux acteurs qui façonnent la direction des progrès de l’IA aux États-Unis (et dans le monde), Amodei figure parmi les plus influents. Il a occupé des postes de direction dans des entreprises d’IA de premier plan pendant plus d’une décennie, et ses opinions sur la politique de l’IA ont un poids considérable.
Amodei a été particulièrement vocal concernant les risques posés par l’IA. Notamment, il a quitté OpenAI parce qu’il craignait que le laboratoire ne prenne pas les inconvénients de l’IA au sérieux. Ses déclarations ont souvent fait la une des journaux :
- “Le PDG d’Anthropic, Dario Amodei, prédit que la moitié de tous les emplois de bureau de niveau d’entrée disparaîtront”
- “Le PDG d’Anthropic reconnaît les risques d’un investissement massif dans l’IA”
- “Amodei sur l’IA : ‘Il y a 25 % de chances que les choses se passent très mal’”
Anthropic n’est pas une entreprise d’IA comme les autres. Ils semblent s’imposer des normes différentes et avoir des objectifs distincts des autres laboratoires. Ils déclarent :
“Anthropic occupe une position particulière dans le paysage de l’IA : nous croyons que l’IA pourrait être l’une des technologies les plus révolutionnaires et potentiellement dangereuses de l’histoire humaine, pourtant nous développons cette même technologie. Nous ne pensons pas que cela soit une contradiction ; plutôt, c’est un pari calculé de notre part.”
Principes de gouvernance de l’IA
Amodei articule plusieurs principes directeurs qui devraient orienter la politique de l’IA :
Approche fondée sur des évidences
Les risques de l’IA doivent être discutés et gouvernés de manière réaliste et pragmatique. Amodei souligne que les discussions sur la politique de l’IA ont souvent oscillé entre une focalisation excessive sur les risques et une célébration des bénéfices potentiels, sans se baser sur des faits concrets.
Humilité et reconnaissance de l’incertitude
Amodei exhorte à reconnaître l’incertitude. Aucune prédiction sur l’avenir ne peut être faite avec une certitude absolue, et il est crucial de planifier en tenant compte de cette réalité.
Soutien à l’innovation et éviter de nuire aux petits acteurs
Amodei met l’accent sur le fait que les réglementations devraient réduire les obstacles pour les entreprises d’IA plus petites, tout en protégeant l’innovation. Il soutient que des lois comme le SB 53 et le RAISE Act visent à protéger ces petites entreprises des fardeaux réglementaires excessifs.
Intervention chirurgicale et disciplinaire
Amodei conseille d’intervenir de manière chirurgicale. L’intervention gouvernementale devrait se limiter aux cas d’échec du marché, où des actions collectives sont nécessaires.
Éviter le “doomérisme”
Amodei demande à éviter le doomérisme, qui consiste à penser que la catastrophe est inévitable. Cela a conduit à des actions extrêmes sans preuves suffisantes pour les justifier.
Conclusion
Pour gérer l’adolescence de l’IA comme des adultes, il est essentiel d’éviter de regrouper tous les outils d’IA de manière indiscriminée. L’appel d’Amodei à une approche fondée sur des preuves est un nécessaire contrepoids à la législation basée sur des impressions.
La véritable gouvernance “adulte” exige le courage de prioriser l’innovation sans permission pour la majorité des applications d’IA, garantissant que l’intervention réglementaire ne soit réservée qu’aux risques avérés.