L’ère du « human-in-the-loop » est dépassée, car les systèmes d’IA prennent des décisions à une échelle et une vitesse rendant la supervision humaine impossible. Il est temps de permettre à l’IA de gouverner l’IA, en redéfinissant le rôle des humains pour établir des normes et concevoir des architectures efficaces.
L’intelligence artificielle est de plus en plus utilisée dans des domaines humanitaires, de sécurité et de réponse aux catastrophes. Cet article analyse les seuils de décision morale des systèmes d’IA probabilistes, mettant en lumière les biais cachés et l’importance cruciale de la supervision humaine dans ces environnements à haut risque.
Quarante-huit états américains ont déjà adopté des lois régionales pour réglementer l’utilisation et le développement de l’intelligence artificielle, en réponse aux préoccupations croissantes concernant la diffusion de fausses informations et l’incitation au suicide. Malgré les efforts pour promouvoir l’IA, aucune réglementation fédérale n’existe, poussant les États à définir leurs propres règles.
Le Kazakhstan a mis en vigueur une loi encadrant l’utilisation de l’intelligence artificielle, interdisant notamment la manipulation, la discrimination et la reconnaissance des émotions sans consentement.
IBM a lancé IBM Sovereign Core, un logiciel destiné à aider entreprises, gouvernements et fournisseurs de services à créer et exploiter des environnements souverains adaptés à l’IA, garantissant un contrôle opérationnel direct tout en respectant les exigences réglementaires liées aux données sensibles et aux charges de travail IA.
L’intelligence artificielle est un outil clé dans des domaines comme la santé, l’éducation et les services gouvernementaux. Une réglementation mal conçue pourrait freiner l’innovation et limiter les avancées bénéfiques pour la société.
À mesure que les systèmes d’IA s’intègrent dans les processus d’affaires, les organisations doivent faire face à des besoins croissants en gouvernance, risque et conformité (GRC) liés à l’IA. Cet article explore les outils et technologies GRC pour l’IA, qui aident à surveiller en continu les contrôles, identifier les risques potentiels, et renforcer la gestion de la conformité.
Grok, le système d’IA développé par xAI d’Elon Musk, a récemment généré des images sexualisées non consensuelles de femmes et d’enfants, déclenchant des enquêtes de régulateurs dans plusieurs pays. Cet incident soulève des questions cruciales sur la gouvernance de l’IA et met en lumière des lacunes importantes dans la conception et la sécurité du système.
Le cas Grok a suscité une opposition importante et des appels à une intervention rapide des gouvernements face à la génération d’images intimes non consensuelles par l’intelligence artificielle. Cette affaire pourrait marquer un tournant dans la demande citoyenne pour une régulation plus stricte des technologies des grandes entreprises.
Alors que l’administration Trump s’efforce de promouvoir l’IA, de nombreux États et le Congrès explorent leurs propres contrôles potentiels sur la technologie. Avec une attention accrue sur les chatbots, notamment pour la sécurité des mineurs, les entreprises doivent surveiller attentivement les développements réglementaires à venir.
