Que se passe-t-il lorsque l’IA devient présidente : La promesse et le péril de la gouvernance par l’IA
C’est la nuit des élections. Mais il n’y a pas de candidats, pas de vote, et pas de discours de victoire. Juste une machine. Un seul système clignotant. Chaque décision est instantanée, chaque action automatique. Et tout le pays regarde, incertain de ce qui va se passer ensuite. Dans cet article, nous explorons les implications de l’IA à la présidence.
La promesse de l’efficacité : ce que l’IA pourrait réaliser
Un président IA n’aurait pas besoin de multitâche ; il pourrait omni-tâcher. C’est précisément ce qui le rend si attrayant. Les dirigeants humains doivent jongler avec des priorités tout en espérant ne pas laisser tomber quelque chose d’important. Mais un exécutif IA pourrait surveiller des milliers d’indicateurs en temps réel, jusqu’au niveau du quartier. En 2024, le gouvernement britannique a utilisé un outil IA pour détecter les fraudes dans les programmes gouvernementaux, récupérant près de 500 millions de dollars en un an.
L’avantage des données : voir l’ensemble du tableau
Les systèmes d’IA peuvent voir le tableau complet, alors que les humains ne peuvent en voir qu’un fragment. Par exemple, un sénateur défend des fonds pour son district, mais ne voit pas que cela se fait au détriment d’autres districts avec des besoins plus urgents. Une IA pourrait évaluer tous les districts, attribuer des priorités et allouer les ressources là où elles seraient les plus bénéfiques.
Les échecs du monde réel : quand la gouvernance par l’IA échoue
Entre 2013 et 2015, le système d’assurance chômage du Michigan a faussement accusé 40 000 personnes de fraude, atteignant un taux d’erreur de 93 %. En 2021, un algorithme aux Pays-Bas a provoqué l’effondrement du gouvernement en raison d’une fraude catastrophique dans les allocations familiales. Ces échecs révèlent que les systèmes d’IA peuvent automatiser des biais, commettre des erreurs catastrophiques à grande échelle, et créer des boucles de rétroaction qui perpétuent la discrimination.
Les questions d’éthique : optimisation contre humanité
Qui programme la moralité dans la machine ? Une IA présidentielle pourrait déterminer que la solution optimale pour la réduction des émissions est de réduire les populations dans certaines régions, une décision statistiquement correcte mais génocidaire. Une approche humaine serait de prendre en compte l’histoire et les injustices.
La pente glissante : l’efficacité comme un ratchet unidirectionnel
L’efficacité est un ratchet unidirectionnel car une fois qu’une décision est automatisée, il semble impossible de revenir en arrière. Nous avons demandé une connexion sociale et avons obtenu une polarisation. Avec la gouvernance par l’IA, nous demanderons de l’efficacité et obtiendrons un gouvernement qui ne peut être corrompu, mais qui pourrait également restreindre nos libertés.
Conclusion : le chemin que nous empruntons déjà
La gouvernance par l’IA n’est pas une possibilité future. Elle est déjà une réalité, décision par décision. La promesse est réelle : efficacité, décisions basées sur des données, élimination de la corruption. Mais les risques le sont également : biais dans les algorithmes, manque de responsabilité, questions morales sans réponses claires.