Alex Bores, député de New York, est devenu une figure inspirante pour les législateurs d’État qui souhaitent réguler l’IA, même après sa défaite lors des primaires. Son rôle d’avocat de la sécurité de l’IA mobilise désormais des acteurs nationaux autour de nouvelles législations visant à encadrer les géants technologiques.
L’adoption incontrôlée de l’IA constitue le principal risque, car les outils sont déployés rapidement sans gouvernance adéquate. Un groupe de travail de surveillance de l’IA permet de rendre l’usage visible, d’établir des contrôles et de protéger les données.
Le rapport met en garde contre un patchwork réglementaire étatique qui compliquerait la conformité des entreprises technologiques et n’améliorerait pas forcément la sécurité des enfants. Il préconise des mesures ciblées, telles que la transparence, le contrôle parental et un système « drapeau enfant », plutôt que d’appliquer les mêmes règles que pour les réseaux sociaux.
L’IA, en tant que forme de cognition déléguée, doit être gouvernée de manière responsable pour renforcer la sagesse pratique et l’imagination disciplinée, tout en assurant fiabilité, sécurité et transparence tout au long de son cycle de vie. KPMG propose un cadre de confiance qui intègre ces principes afin de transformer les organisations tout en protégeant les valeurs humaines.
Les conseils de gouvernance montrent que les conseils d’administration doivent passer de la simple supervision de l’« IA mature » à la collecte de preuves concrètes, en créant des listes de témoins, des chaînes de garde et des dossiers de cas. Ainsi, les pratiques décrites offrent aux dirigeants des preuves tangibles pour démontrer que leurs systèmes d’IA sont équitables, sûrs et alignés sur les engagements de l’entreprise.
L’adoption de l’IA autonome pousse les entreprises à placer la gouvernance au cœur de la conception, afin d’assurer sécurité, transparence et responsabilité dès le départ. Une gouvernance intégrée, combinant surveillance continue, gestion des données et responsabilité transversale, devient essentielle pour déployer l’IA à grande échelle tout en préservant l’innovation.
Dans cet épisode de Corruption, Crime and Compliance, Michael Volkov interviewe Christian Focacci, fondateur de Threat Digital, pour discuter du rôle croissant de l’IA dans la due diligence. Ils abordent les limites du jugement machine et les implications pour les enquêtes de conformité.
Ce guide présente les clauses essentielles à inclure dans les contrats avec des fournisseurs d’IA, notamment la protection de la propriété intellectuelle, la gestion des données d’entraînement et les limites de responsabilité. Il souligne également l’importance d’un addendum dédié à l’IA et de politiques internes pour garantir la conformité et réduire les risques.
