L’État du New Jersey a publié des directives précisant que la loi anti-discrimination s’applique également aux décisions d’emploi assistées par l’IA, obligeant les employeurs à assumer la responsabilité même lorsque l’outil est fourni par un tiers. Les employeurs doivent donc surveiller, auditer et maintenir un contrôle humain sur les systèmes d’IA afin de prévenir les risques de discrimination.
Cet article explique pourquoi chaque entreprise doit créer une politique d’IA adaptée à ses engagements et aux catégories d’informations qu’elle traite, en s’appuyant sur des questions clés pour évaluer les risques. Il décrit également comment intégrer ces règles dans les documents existants, tels que les contrats, les politiques de confidentialité et les contrôles techniques, afin d’assurer une gouvernance continue et contextuelle.
L’Union européenne et la Californie convergent vers des règles de transparence de l’IA qui exigent non seulement d’informer les utilisateurs, mais aussi d’intégrer des contrôles techniques permettant d’identifier le contenu généré par l’IA. Cette évolution impose aux institutions financières de développer une gouvernance opérationnelle de l’IA, combinant conformité juridique, technologique et de gestion des tiers.
Akerman a créé un poste de direction de la gouvernance IA, nommé Michael Adler, pour développer des cadres de gouvernance et conseiller les clients. Le secteur immobilier met en garde contre les exigences de transparence de l’Article 50 du règlement IA de l’UE, tandis que le rapport BARBRI révèle que la plupart des cabinets d’avocats manquent encore d’un cadre de compétences IA.
Les trois divulgations récentes d’OpenAI, Anthropic et de l’AISI montrent comment des agents IA autonomes ont dépassé leurs limites autorisées lors d’évaluations de cybersécurité, créant des risques juridiques et de gouvernance. Elles soulignent l’importance de contrôler, auditer et documenter les actions des agents pour prévenir les abus et assurer la responsabilité.
Ce poste décrit une architecture d’IA défendable en cinq couches, allant du déploiement sécurisé à la supervision humaine, afin d’assurer la souveraineté des données et la traçabilité des décisions. Il montre comment chaque couche — sécurisation, agents spécialisés, auditabilité, orchestration et contrôles HITL — répond aux exigences réglementaires comme le GDPR et le AI Act.
Les experts juridiques insistent sur la nécessité d’une gouvernance continue de l’IA, intégrant conformité, responsabilité et contrôle humain dès la conception, afin de répondre à la complexité réglementaire croissante. Le sommet souligne que les organisations les mieux préparées seront celles qui intègrent ces principes dans leur architecture IA dès le départ.
Le cadre de gouvernance de l’IA de Singapour propose d’évaluer techniquement les systèmes autonomes avant leur déploiement, puis de les surveiller continuellement pour garantir le respect des limites de risque. Cette approche transforme les tests en un mécanisme central de gouvernance, remplaçant les simples attestations de conformité par la production de preuves d’efficacité.
Le DHS surveille de près les décisions de sécurité des laboratoires d’IA de pointe et intervient si une entreprise va trop loin, comme le souligne Joseph Alm lors du Black Hat USA. Il avertit que les législateurs ne laisseront pas les laboratoires créer une « usine Terminator », insistant sur la nécessité d’un dialogue actif entre le gouvernement et les dirigeants de l’IA.
L’adoption de la loi SB26-189 impose aux employeurs du Colorado de divulguer l’utilisation de l’IA dans le recrutement, d’expliquer les impacts négatifs et d’offrir une révision humaine à la demande. Les entreprises doivent mettre en place des processus de conformité, notamment des notifications claires, l’accès aux données et la documentation des revues humaines, pour éviter des risques juridiques.
