Leçons comptables que le Congrès n’a pas encore appliquées à l’IA
Les systèmes d’IA ne peuvent pas vérifier eux‑mêmes leur alignement, leur sécurité ou leur conformité, tout comme les entreprises qui les développent ne le peuvent pas. Cette impossibilité de auto‑certification expose un risque majeur que la profession comptable a longtemps cherché à combler.
Le cadre législatif actuel : la loi FRONTIER
Le Frontier Risk Oversight, National Transparency, Independent Evaluation and Reporting Act (FRONTIER) impose aux plus grands développeurs d’IA de publier leurs cadres de gestion des risques, de subir des audits indépendants et de signaler rapidement tout incident critique. Il crée également un registre public des développeurs de pointe avec divulgation de la propriété bénéficiaire.
Malgré ces avancées, la loi reste réactive : le compte à rebours d’un rapport démarre seulement après la découverte d’un incident, sans garantir que le registre nécessaire existe au moment de la prise de décision.
Le problème d’indépendance des auditeurs
Le texte oblige le Government Accountability Office (GAO) à vérifier chaque année l’indépendance des auditeurs, mais cela ne suffit pas. La véritable indépendance doit être intégrée dès la conception du système, afin que l’auditeur ne soit jamais influencé par le financement ou les intérêts du sujet audité.
Proposition : un enregistrement contemporain obligatoire
Chaque décision liée à la formation d’une IA – notamment le choix des données d’entraînement – doit générer un enregistrement horodaté et immuable au moment même de la décision, à l’instar d’une écriture comptable réalisée le jour même de la transaction.
Ces enregistrements doivent être vérifiés contre un registre de matériel protégé avant utilisation, et le résultat de la vérification doit être consigné dans le même enregistrement.
Modèle de financement et de gouvernance des examinateurs indépendants
Pour assurer une réelle indépendance, les examinateurs devraient être financés par un fonds collectif d’évaluations, sans lien direct avec une entreprise spécifique. Des restrictions strictes sur la mobilité du personnel entre les bureaux d’inspection et les entreprises auditées, ainsi que des protections contre le licenciement par des parties intéressées, sont essentielles.
Conséquences automatiques des constatations
Un simple avis d’audit ne suffit pas. Le texte propose que les constatations matérielles entraînent des sanctions automatiques, à l’image des inspections de sécurité aérienne qui peuvent immobiliser un avion, indépendamment de la volonté de la compagnie.
Étude de cas et exemple d’application
Un développeur d’IA décide d’utiliser un jeu de données contenant du contenu protégé. Avant de lancer l’entraînement, le système doit :
- Consulter le registre de matériel protégé.
- Enregistrer la décision avec la date, l’heure et le résultat de la vérification.
- Faire valider cet enregistrement par un examinateur indépendant financé par le fonds collectif.
Si la vérification révèle une violation, le registre déclenche immédiatement une sanction prévue par la loi, sans attendre qu’une tierce partie découvre le problème.
Conclusion
La profession comptable dispose depuis plus d’un siècle de principes permettant de garantir la création simultanée de preuves et leur vérification indépendante. Appliquer ces leçons à la gouvernance de l’IA exige que le Congrès impose un enregistrement contemporain obligatoire, un financement impartial des examinateurs et des sanctions automatiques. Sans ces mesures, toute législation restera essentiellement réactive et ne pourra pas prévenir les risques avant qu’ils ne se matérialisent.