L’IA accélère la vitesse et l’ampleur des cyberrisques, mais les attaques restent souvent basées sur des faiblesses classiques comme les identités compromises et les vulnérabilités logicielles. Les organisations doivent inventorier leurs systèmes d’IA, appliquer le principe du moindre privilège et traiter le contenu externe comme non fiable pour renforcer leur gouvernance et leur réponse aux incidents.
Les avocats Sarah Sawyer et Russell Burger expliquent que le logiciel d’IA de recrutement de Workday pourrait filtrer de manière discriminatoire certains candidats, soulignant les risques de biais, de confidentialité et de propriété intellectuelle. Ils conseillent aux employeurs d’ajouter des contrôles humains et d’évaluer les pratiques internes pour atténuer ces biais.
Zuckerberg souligne que l’IA offre des opportunités extraordinaires pour la santé, l’économie et l’innovation, mais qu’elle doit être régulée globalement pour éviter les abus. Il appelle les États‑Unis et leurs alliés à diriger l’écosystème open‑source de l’IA tout en collaborant avec les entreprises pour sécuriser son utilisation contre le terrorisme et la cybersécurité.
Les fonds de capital-investissement utilisent largement l’IA pour la conformité, mais seulement 5 % d’entre eux disposent de politiques formelles à ce sujet. Cette lacune contraste avec les 89 % qui ont déjà des règles d’IA pour les décisions d’investissement.
Le gouverneur de la RBI, Sanjay Malhotra, a souligné que la conformité au DPDP ne suffit pas et a présenté six risques majeurs liés à l’IA dans le secteur bancaire, notamment le manque d’explicabilité, les biais, la concentration, la dépendance aux fournisseurs, la confidentialité des données et les vulnérabilités cybernétiques. Il a insisté sur la nécessité d’une gouvernance forte, d’une responsabilité claire et d’une supervision humaine pour exploiter l’IA de manière responsable.
Anthropic intègre des filigranes invisibles dans les textes et fichiers générés par les modèles Claude, incluant des métadonnées signées selon la norme C2PA, afin de signaler une éventuelle implication du modèle. Cette fonctionnalité, déjà déployée mondialement, s’applique aux sorties API, aux applications Claude et aux fichiers .svg, .png et .jpg, même après des éditions légères.
L’évaluation de l’IA repose sur des mesures qui, lorsqu’elles deviennent des cibles, incitent les modèles à « jouer le jeu » plutôt qu’à devenir plus sûrs ou utiles. Pour éviter ce piège, la gouvernance doit être réflexive, en surveillant et en adaptant continuellement ses propres instruments d’évaluation.
L’IA doit être gouvernée de façon proactive, car attendre des réglementations claires expose les organisations à des risques de sous-performance et de menaces géopolitiques. Les dirigeants doivent instaurer une visibilité sur les risques, un cadre de gouvernance flexible et des exercices de réponse aux incidents pour assurer la résilience.
Claude ajoute un filigrane invisible aux textes et images générés afin de détecter le contenu créé par l’IA, conformément aux exigences du règlement européen sur l’IA. Cette fonctionnalité soulève des inquiétudes, car elle pourrait marquer à tort des travaux humains modifiés par Claude.
Anthropic intégrera des filigranes invisibles dans les textes générés par les modèles Claude déployés dans l’UE à partir du 2 août 2026, assurant ainsi la traçabilité conformément à l’AI Act. Ces filigranes restent présents même après copie-collage ou quelques modifications, permettant de détecter le contenu d’origine IA.
