Lettre Ouverte conjointe sur le Rejet de la Proposition visant à Miner la Transparence dans la Loi sur l’IA
CDT Europe, en collaboration avec 60 organisations, a signé une lettre ouverte rédigée par Access Now et European Digital Rights (EDRi), adressée aux institutions de l’UE, les exhortant à rejeter la suppression de la garantie de transparence de l’Article 49(2) de la Loi sur l’IA pour les systèmes d’IA à haut risque, comme proposé dans le récent Omnibus sur l’IA.
Une Lacune Critiquée
Dans une lacune fortement critiquée, la Loi sur l’IA permet aux fournisseurs dont les systèmes sont classés comme présentant un risque significatif de se soustraire à la catégorie à haut risque et à toutes les obligations qui y sont connectées sur la base de critères larges. Une garantie cruciale à cette exclusion dommageable est l’exigence pour les fournisseurs de systèmes d’IA qui s’exemptent de la catégorie à haut risque de s’enregistrer néanmoins sur une base de données de l’UE, permettant ainsi un examen et une surveillance sur l’exploitation potentielle de cette lacune.
Menace sur la Garantie de Transparence
Cette garantie de transparence veille à ce que les fournisseurs de systèmes d’IA ne puissent pas contourner les obligations fondamentales de la Loi sur l’IA et qu’ils soient tenus responsables lorsqu’ils tentent de le faire. Comme nous l’avons souligné dans notre précédent document sur la proposition d’Omnibus de la Loi sur l’IA, le fait de ne pas divulguer l’auto-évaluation d’un développeur d’IA permet à des systèmes d’IA potentiellement dangereux de proliférer sans restriction, empêchant les régulateurs et les utilisateurs de former une opinion ou une évaluation éclairée sur les systèmes d’IA qu’ils pourraient vouloir examiner ou éviter.
Coût Humain et Risques Accrus
La suppression de l’obligation de transparence entraînera un coût humain significatif en échange d’économies de coûts triviales pour les développeurs d’IA : cela nuira considérablement à l’applicabilité de la Loi sur l’IA et aggravera les risques pour la santé, la sécurité et les droits fondamentaux.
Pour plus de détails, lisez la lettre complète ici.