Le Pentagone a désigné le géant de l’IA Anthropic comme un « risque pour la chaîne d’approvisionnement », interdisant ainsi l’utilisation de sa technologie par les agences fédérales. Cette décision soulève des questions sur qui fixe les règles d’utilisation de l’IA dans un contexte de tensions géopolitiques croissantes.
Les législateurs du Connecticut examinent un ensemble de projets de loi visant à établir un cadre politique pour réguler l’intelligence artificielle. Ces propositions incluent des mesures pour garantir la sécurité en ligne et la transparence en matière de données des consommateurs.
Vivox AI, une entreprise technologique basée à Londres, a levé 1,3 million de livres lors de son premier tour de financement pour accélérer le développement de sa plateforme d’agents d’IA dédiée à la conformité en matière de criminalité financière. La société prévoit d’utiliser ces fonds pour élargir sa plateforme et avancer dans le développement d’une nouvelle classe d’agents d’IA spécifiquement conçus pour les institutions financières hautement réglementées.
Les systèmes d’IA agentique représentent un changement fondamental, passant de l’IA en tant qu’assistant à l’IA en tant qu’agent autonome capable d’orchestrer des processus complexes. Toutefois, cette autonomie s’accompagne de risques importants, nécessitant une gouvernance des données solide pour garantir des actions prévisibles, éthiques et conformes aux exigences organisationnelles.
Insightsoftware a lancé Simba Intelligence, un ensemble de fonctionnalités conçu pour permettre aux clients de développer des applications d’IA en utilisant des données fiables, incluant une couche sémantique unifiée avec des politiques de gouvernance et de sécurité appliquées automatiquement. Cette innovation vise à rendre les sorties de l’IA transparentes et dignes de confiance, ce qui est essentiel dans un environnement de données de plus en plus complexe.
Solera Health a créé une plateforme numérique qui associe les membres des plans de santé à plus de 20 solutions de santé numériques sélectionnées. Lors d’une récente discussion, des dirigeants de l’entreprise ont abordé leur modèle commercial et leur approche de la gouvernance de l’IA au sein de leur réseau de partenaires en santé numérique.
À mesure que les systèmes d’IA deviennent plus indépendants, ils soulèvent de nouveaux défis de gouvernance que les cadres actuels ne sont pas entièrement prêts à aborder. Il est crucial pour ceux qui construisent ou gèrent l’IA dans des environnements réglementés de se demander si les cadres existants vont suffisamment loin.
L’adoption croissante de l’intelligence artificielle crée de nouveaux risques de gouvernance, de cybersécurité et de litiges pour les entreprises. Les assureurs s’intéressent de plus en plus à la manière dont les entreprises déploient des outils d’IA et à la présence de cadres de gouvernance adéquats.
L’analyse de la rupture d’Anthropic avec le Pentagone soulève un débat intense sur l’éthique de l’IA, en réponse aux demandes concernant les armes autonomes et la surveillance. La position d’Anthropic a suscité un soutien en ligne pour sa défense des principes éthiques, contrastant avec la volonté du gouvernement américain d’utiliser sa technologie à des fins militaires.
Selon un récent post LinkedIn de Zenity, l’entreprise promeut la deuxième session de sa série “Fondations de la sécurité de l’IA”, axée sur les risques de sécurité associés aux agents IA. Cette session, dirigée par l’expert en sécurité Kayla Underkoffler, se concentre sur les lacunes concrètes en matière de gouvernance et de conformité.
