Que se passe-t-il lorsque l’IA devient présidente : Les promesses et les périls de la gouvernance par l’IA
C’est la nuit des élections. Mais il n’y a ni candidats, ni vote, ni discours de victoire. Juste une machine. Un seul système clignotant. Chaque décision est instantanée, chaque action automatique. Et tout le pays regarde, incertain de ce qui va se passer ensuite. Aujourd’hui, nous explorons ce qui se passe lorsque l’IA devient présidente.
Le président ATHENA
ATHENA – l’« Algorithm National Adaptatif de Menaces et de Santé » – n’a besoin ni de café, ni de beignets, ni d’heures de débat. En 2,3 secondes, elle a déjà traité trente ans de dépenses fédérales à travers 432 programmes gouvernementaux. Elle identifie immédiatement 47 milliards de dollars de dépenses redondantes.
La promesse de l’efficacité : Ce que l’IA pourrait accomplir
Un président IA n’aurait pas besoin de multitâche ; il pourrait tout gérer simultanément. Cela le rend particulièrement attrayant. En 2024, le gouvernement britannique a déployé un outil d’IA pour lutter contre la fraude dans les programmes gouvernementaux, récupérant près de 500 millions de dollars en un an.
L’avantage des données : Voir l’ensemble du tableau
Les systèmes d’IA permettent de voir l’ensemble des besoins, contrairement aux humains qui ne voient qu’un petit fragment. Un sénateur se bat pour le financement de son district, mais l’IA peut évaluer les besoins de tous les districts et allouer les ressources là où elles sont le plus nécessaires.
Les échecs du monde réel : Quand la gouvernance par l’IA échoue
Des échecs comme le système MiDAS du Michigan, qui a faussement accusé 40 000 personnes de fraude, montrent les risques. L’IA peut automatiser des biais, créer des boucles de rétroaction qui perpétuent la discrimination, et prendre des décisions catastrophiques sans responsabilité.
Les questions morales : Optimisation contre humanité
Qui programme la moralité dans la machine ? Si un président IA décide que la solution optimale à un problème de climat est de réduire les populations dans certaines régions, qui en est responsable ?
La glissade dangereuse : L’efficacité comme un ratchet unidirectionnel
Une fois qu’une décision est automatisée, il est difficile de revenir en arrière. Nous demandons de l’efficacité et nous pourrions obtenir un gouvernement qui ne peut pas être corrompu, mais qui peut aussi devenir oppressif.
Conclusion : Le chemin que nous empruntons déjà
La gouvernance par l’IA n’est pas une possibilité future ; elle se produit déjà, pièce par pièce. La question n’est pas de savoir si l’IA jouera un rôle dans la gouvernance, mais jusqu’où nous irons avant de reconnaître le point de non-retour.