Les IA agentiques créent une nouvelle catégorie de contrôle, entre les personnes et les logiciels, nécessitant un modèle d’assurance dédié. Les CIO doivent concevoir des garanties qui testent les limites, surveillent les changements et documentent les interventions pour assurer la responsabilité.
De nombreuses équipes de développeurs d’IA médicale ignorent les cadres réglementaires tels que le AI Act de l’UE ou les directives singapouriennes, ce qui menace la confiance du public et la sécurité des patients. L’étude recommande d’intégrer la formation réglementaire dans les cursus et d’instaurer un mentorat interne pour combler ces lacunes.
La pétition “Pacing the Frontier” a rassemblé des milliers d’employés de la Silicon Valley pour demander la mise en place d’un mécanisme permettant de freiner le développement de l’IA, suite à l’incident de sécurité chez Hugging Face. Cette initiative soulève des questions cruciales sur la gouvernance mondiale de l’IA et sur qui devra diriger les règles de sécurité et de contrôle.
Le texte décrit comment l’USTDA a intégré un régime complet d’autorisation d’utilisation de l’IA dans son appel d’offres, distinguant les usages incidentels des usages substantiels et imposant des approbations écrites, des suivis et des divulgations. Il propose également des améliorations, comme ajouter une exception pour les IA intégrées aux logiciels courants et clarifier la notion « développé et produit aux États‑Unis ».
Le gouvernement Trump travaille sur un cadre de sécurité pour les nouveaux modèles d’IA afin d’évaluer leurs capacités cybernétiques et limiter leur diffusion publique. Des réunions avec les principaux acteurs du secteur technologique, comme OpenAI, Anthropic, Google et Meta, sont prévues pour discuter de ces règles.
Ce communiqué annonce que l’application des règles de transparence de l’AI Act de l’UE débute le 2 août 2026, obligeant les chatbots et les contenus générés par IA à être clairement identifiés. Les fournisseurs doivent intégrer des marquages techniques, tandis que les déployeurs doivent informer les utilisateurs dès la première interaction.
L’UE impose de nouvelles règles de transparence pour les contenus audio générés ou fortement manipulés, obligeant les systèmes d’IA à ajouter des marques lisibles par machine afin d’identifier ces matériaux. Les producteurs peuvent continuer à utiliser l’IA pour le nettoyage et le mixage, mais doivent signaler les créations entièrement synthétiques lorsqu’elles sont destinées à un public européen.
Le premier volet de la California AI Transparency Act impose aux entreprises d’IA d’intégrer des métadonnées indiquant l’origine des images et vidéos générées, afin de lutter contre les deepfakes pornographiques et les arnaques. Une deuxième phase, prévue pour janvier 2027, obligera les plateformes à utiliser ces balises pour informer les utilisateurs si le contenu est réel ou créé par l’IA.
Le projet de Youth AI Privacy Act vise à imposer aux entreprises d’IA des règles de confidentialité spécifiques aux enfants, mais cela pourrait conduire à une collecte accrue de données et à des restrictions qui portent atteinte aux droits du Premier Amendement. Une approche plus équitable consisterait à offrir les mêmes protections de confidentialité à tous les utilisateurs, évitant ainsi la nécessité de recourir à des barrières d’âge.
Prince Harry et Meghan, via Archewell Philanthropies, exhortent les législateurs à agir contre les deepfakes IA, soulignant les récentes lois du Minnesota qui interdisent les applications de « nudification ». Ils dénoncent la résistance de la Big Tech qui, selon eux, privilégie les profits au détriment de la sécurité des enfants.
