Des poursuites contre les développeurs d’IA et la lutte pour réglementer la technologie soulignent les préoccupations liées à la sécurité de l’IA alors que son utilisation continue de croître. La Texas Responsible AI Governance Act, entrée en vigueur le 1er janvier, impose des restrictions sur les usages nuisibles de l’IA tout en préservant l’innovation.
Un groupe travaillant sur la politique de l’intelligence artificielle a conclu un accord sur un cadre visant à remplacer les réglementations adoptées par les législateurs du Colorado il y a deux ans. Le gouverneur Jared Polis a exprimé son soutien à cet accord, qui vise à repeindre la loi de 2024 jugée trop lourde par ses critiques.
Les décisions de Sedano et Noland illustrent comment l’utilisation d’écritures juridiques générées par l’IA peut entraîner des sanctions réelles lorsque des citations inventées ou des affaires non vérifiées sont utilisées. Il est crucial que chaque avocat vérifie personnellement l’exactitude des citations afin de protéger l’intégrité du processus juridique.
Suite à la rupture très médiatisée entre le gouvernement et Anthropic, la GSA a publié des termes et conditions d’intelligence artificielle (IA) qu’elle prévoit d’inclure dans la prochaine mise à jour de son Multiple Award Schedule (MAS). Ce projet de clause impose des obligations aux entrepreneurs lors de l’utilisation de systèmes d’IA dans le cadre de contrats fédéraux, notamment en ce qui concerne la propriété des données et le respect des normes américaines.
De nombreux dirigeants pensaient que l’IA serait déjà en train d’améliorer la performance de l’expérience client, mais ce n’est pas le cas pour la plupart des entreprises. La génération de données synthétiques est envisagée comme une solution pour former des systèmes d’IA tout en respectant les règles de conformité.
L’UE reconsidère la loi sur l’IA malgré les avertissements répétés de la société civile, ce qui pourrait affaiblir les protections essentielles contre les systèmes d’IA jugés dangereux. Il est crucial de renforcer les mécanismes de recours et de garantir des protections adéquates pour éviter que des systèmes d’IA nuisibles ne soient laissés sans surveillance.
À mesure que le paysage réglementaire devient de plus en plus complexe, les organisations se tournent vers l’IA générative pour améliorer leurs capacités d’évaluation des risques. Givershan Naidoo, consultant en conformité, souligne que cette technologie émergeante agit comme un copilote pour les équipes de conformité, leur permettant de se concentrer sur la prise de décision plutôt que sur la recherche manuelle.
Pour prévenir les accidents liés à l’utilisation de l’intelligence artificielle dans le secteur financier, un organe décisionnel sur l’IA dirigé par un président de niveau exécutif est nécessaire. Lee Jong-oh, vice-gouverneur du Digital and IT à la Financial Supervisory Service, a souligné que la gestion des risques liés à l’IA doit être séparée des unités de planification et de développement de l’IA pour résoudre les conflits d’intérêts.
Le 4 février, Epic a lancé son application AI Charting, qui propose des capacités d’IA intégrées pour la rédaction de notes cliniques et la recommandation de commandes. Cependant, les systèmes de santé doivent naviguer avec prudence dans les pièges réglementaires associés à l’utilisation des outils d’IA, afin de garantir la conformité et l’exactitude des données envoyées aux assureurs.
Le Sénat de la Pennsylvanie a presque unanimement adopté un projet de loi visant à réglementer les services de chatbot AI utilisés par les enfants et les adolescents. Ce projet de loi impose des mesures de sécurité pour les opérateurs de ces services, y compris des protocoles pour prévenir l’automutilation et fournir des ressources du monde réel aux utilisateurs vulnérables.
