Europe Moves to Ban AI Nudification Tools Under Updated AI Act
La Union Européenne s’apprête à affiner son important Règlement sur l’IA, avec le Conseil Européen proposant de nouveaux amendements visant à simplifier les réglementations tout en abordant les risques émergents liés à l’intelligence artificielle.
Le vendredi, le Conseil a publié sa position sur les mises à jour du Règlement sur l’IA de l’UE, y compris une nouvelle interdiction des outils de nudification par IA et des normes plus strictes concernant l’utilisation des données personnelles sensibles. La proposition fait partie du paquet législatif plus large “Omnibus VII” conçu pour rationaliser le cadre réglementaire numérique de l’UE et réduire les charges de conformité pour les entreprises.
Amendements au Règlement sur l’IA de l’UE
Un des changements les plus significatifs proposés dans le Règlement sur l’IA mis à jour est une nouvelle interdiction ciblant les outils d’IA capables de générer des images intimes ou sexuelles non consenties. Selon le Conseil, la nouvelle disposition interdit explicitement les pratiques d’IA en matière de génération de contenu sexuel non consenti et de matériel d’abus sexuel sur mineurs.
Cette démarche survient alors que les régulateurs à travers l’Europe confrontent de plus en plus les dommages réels causés par le contenu généré par l’IA, comme les deepfakes.
La proposition fait suite à une étape similaire plus tôt cette semaine, lorsque les membres du Parlement Européen ont approuvé leur propre version de l’interdiction. L’alignement entre les deux organismes suggère que les restrictions sur les outils de nudification par IA devraient rester dans la version finale du Règlement sur l’IA de l’UE une fois les négociations conclues.
Contexte et Sécurité des Données Sensibles
La pression pour des règles plus strictes survient après un incident très médiatisé impliquant le chatbot Grok développé par xAI, intégré à la plateforme sociale X (anciennement Twitter). À partir de la fin décembre, le chatbot aurait généré des millions d’images intimes non consenties qui se sont rapidement répandues en ligne, provoquant un large retour de flamme.
En réponse, la Commission Européenne a lancé une enquête formelle sur la plateforme et ses fonctionnalités d’IA plus tôt cette année. Pour les décideurs politiques, cet épisode a souligné la vitesse à laquelle les outils d’IA générative peuvent créer et diffuser du contenu nuisible, et pourquoi le Règlement sur l’IA de l’UE a besoin de mécanismes pour traiter de tels risques.
Modifications aux Règles des Systèmes d’IA à Haut Risque
En plus de la nouvelle interdiction, les réformes proposées ajustent le calendrier de mise en œuvre des règles sur les systèmes d’IA à haut risque, un élément clé du Règlement sur l’IA de l’UE. La Commission Européenne avait précédemment suggéré de retarder la mise en œuvre de ces règles jusqu’à 16 mois, permettant aux régulateurs de développer les normes techniques et les outils nécessaires pour les faire respecter efficacement.
Selon la proposition du Conseil, les nouvelles échéances seraient : 2 décembre 2027 pour les systèmes d’IA autonomes à haut risque, et 2 août 2028 pour les systèmes d’IA à haut risque intégrés dans des produits. Ces extensions visent à fournir aux organisations des orientations plus claires et un temps de préparation suffisant tout en veillant à ce que le cadre réglementaire reste applicable.
Renforcement des Garanties pour les Données Sensibles
Un autre amendement clé se concentre sur la façon dont les organisations traitent les données personnelles sensibles lors du développement ou du test de systèmes d’IA. La proposition du Conseil rétablit le standard de “strict necessity” pour l’utilisation de catégories spéciales de données personnelles dans les processus de détection et de correction des biais.
Ce changement reflète le débat en cours en Europe sur l’équilibre entre l’innovation et la protection de la vie privée, particulièrement alors que les systèmes d’IA s’appuient sur des ensembles de données de plus en plus volumineux.
En outre, la proposition mise à jour du Règlement sur l’IA de l’UE reporte la date limite d’établissement des sables réglementaires nationaux sur l’IA jusqu’à décembre 2027, permettant aux entreprises de tester des technologies d’IA dans des environnements contrôlés sous supervision réglementaire.
Simplification des Règles sans Affaiblir la Surveillance
L’objectif plus large derrière les amendements proposés est de simplifier le réseau complexe de réglementations numériques affectant les entreprises à travers l’UE. Dans le cadre de l’initiative Digital Omnibus, la Commission Européenne a travaillé à réduire les charges administratives tout en améliorant la cohérence des règles d’IA à travers les États membres.
Marilena Raouna, ministre adjointe aux affaires européennes de la République de Chypre, a souligné l’importance d’équilibrer l’innovation avec la clarté réglementaire. “Rationaliser les règles d’IA est essentiel pour assurer la souveraineté numérique de l’UE. En tant que présidence, nous avons travaillé sur cette proposition avec urgence, atteignant un accord rapide pour faciliter l’application rapide du règlement sur l’IA. La proposition apportera une plus grande certitude juridique, rendra les règles plus proportionnées et garantira une mise en œuvre plus harmonisée à travers les États membres.”
La proposition du Conseil introduit également de nouvelles obligations de guidance pour les régulateurs. Selon le Règlement sur l’IA de l’UE révisé, la Commission Européenne fournirait des instructions plus claires pour aider les entreprises à se conformer aux exigences sur l’IA à haut risque tout en minimisant les coûts de conformité.
Prochaines Étapes pour le Règlement sur l’IA de l’UE
Avec le Conseil adoptant maintenant formellement sa position de négociation, les discussions passeront à la prochaine étape. La proposition sera négociée avec le Parlement Européen pour finaliser le cadre mis à jour.
Bien que le processus puisse encore impliquer des révisions, les derniers développements signalent que l’Europe reste engagée à façonner la gouvernance mondiale de l’IA à travers le Règlement sur l’IA de l’UE, équilibrant innovation, compétitivité des entreprises et garanties contre les risques technologiques émergents.
Alors que les outils d’IA générative continuent d’évoluer rapidement, le débat sur la façon dont ils devraient être réglementés est loin d’être terminé. Mais la dernière proposition du Conseil rend une chose claire : l’Europe est déterminée à renforcer les protections là où l’utilisation abusive de l’IA menace la vie privée, la sécurité et la confiance dans les technologies numériques.