La première phase de la loi californienne sur la transparence de l’IA
Le California AI Transparency Act est entré en vigueur le dimanche, imposant aux géants de l’IA comme Google et Anthropic d’intégrer des informations de provenance dans les métadonnées des images et vidéos générées. Cette balise indique clairement que le contenu a été créé par une IA.
Obligations immédiates pour les entreprises d’IA
Les entreprises doivent développer un système d’insertion de filigranes numériques afin de marquer chaque création. Si les balises sont modifiées ou supprimées, cela constitue une non-conformité, selon le chercheur en sécurité de l’IA, David Harris.
Prochaine étape en janvier 2027
À compter de janvier 2027, les plateformes de médias sociaux, les moteurs de recherche et les services de messagerie devront utiliser les métadonnées pour informer les utilisateurs si le contenu visualisé provient d’un humain ou d’une IA.
Exemples concrets de risques ciblés
• Deepfakes médicaux : la California Medical Association a signalé des vidéos de « médecins deepfake » utilisées pour vendre des remèdes hors marché.
• Deepfakes pornographiques : une hausse de ces contenus dans les écoles californiennes a motivé l’ajout d’étiquetage obligatoire.
Champ d’application élargi
Initialement réservée aux entreprises d’IA comptant plus d’un million d’utilisateurs mensuels, la loi a été étendue à toutes les entreprises, quelle que soit leur taille.
Perspectives futures
Une troisième disposition, prévue pour janvier 2028, exigera que les fabricants d’appareils photo permettent aux utilisateurs de signer numériquement leurs propres photos et vidéos, les certifiant comme « réelles ».
Réactions de l’industrie
OpenAI et Google ont déjà annoncé leur intention de se conformer, publiant des outils de filigrane permettant aux utilisateurs de vérifier l’origine d’un contenu visuel.
Enjeux et débats
Certains craignent que des exigences plus strictes puissent décourager les startups ou freiner l’innovation en Californie, mais le sénateur Josh Becker assure que la loi ne fera pas fuir les entreprises technologiques de l’État.