Résumé des Nouvelles sur l’IA
La société xAI d’Elon Musk a restreint l’utilisation de son système d’IA Grok suite à des révélations concernant son utilisation pour « déshabiller » des photos de femmes et de filles en ligne. Selon le Financial Times, Grok a été utilisé par des utilisateurs de la plateforme X pour “déshabiller” numériquement des images partagées, suscitant de vives critiques de la part des gouvernements du monde entier. En conséquence, la société a limité les fonctionnalités de génération et d’édition d’images de Grok aux abonnés payants, sans toutefois annoncer de restrictions explicites sur ses capacités d’édition de photos.
Grok, contrairement à des modèles concurrents, a été conçu avec moins de restrictions sur ce que les utilisateurs pouvaient en faire. Cependant, les critiques à l’encontre de l’entreprise se sont intensifiées, avec la Commission Européenne ordonnant à xAI de conserver des documents liés à Grok, et trois sénateurs américains plaidant pour son retrait des magasins d’applications aux États-Unis. Musk a déclaré que « quiconque utilisant Grok pour créer du contenu illégal subira les mêmes conséquences que s’il téléchargeait du contenu illégal », tout en critiquant les restrictions gouvernementales comme une suppression de la liberté d’expression.
Réglementation de l’IA en Californie
Le Wall Street Journal rapporte qu’OpenAI soutiendra une mesure référendaire en Californie qui régulera la manière dont les chatbots IA peuvent interagir avec les enfants. La société avait précédemment soutenu sa propre mesure à soumettre au vote cet automne, qui rivaliserait avec une mesure plus stricte proposée par le groupe à but non lucratif Common Sense Media. Ce dernier est un fervent défenseur de la réglementation de l’IA et a récemment eu des conflits avec de nombreuses grandes entreprises technologiques. Cependant, Common Sense Media et OpenAI ont annoncé qu’ils travailleraient ensemble sur une mesure de compromis visant à donner aux parents plus de contrôle sur l’interaction de leurs enfants avec les chatbots IA.
Notamment, la nouvelle mesure ne comprend pas d’interdiction des téléphones portables dans les salles de classe, ni de dispositions permettant aux parents et aux enfants lésés par des chatbots IA de poursuivre en justice les entreprises d’IA. OpenAI s’engage à contribuer au moins 10 millions de dollars à la campagne pour cette mesure, qui nécessitera 875 000 signatures pour être inscrite sur le bulletin de vote de novembre. La collecte de signatures est prévue pour débuter le mois prochain.
Recherche sur la mémorisation des données d’entraînement par l’IA
Une nouvelle recherche a révélé que le phénomène de mémorisation des données d’entraînement par les modèles d’IA est plus répandu que ce que l’on pensait, selon The Atlantic. Un article prépublié la semaine dernière par des chercheurs de Stanford et de Yale a montré que plusieurs systèmes d’IA populaires, y compris ChatGPT d’OpenAI et Claude d’Anthropic, peuvent reproduire des extraits textuels de certains livres sur lesquels ils ont été formés. Cela implique que le texte des livres est stocké à l’intérieur des modèles eux-mêmes.
Suite à des invites spécifiques des chercheurs, Claude a produit le texte presque complet de plusieurs livres, y compris “1984” de George Orwell et le premier roman de “Harry Potter”. Ce phénomène, appelé « mémorisation », a été observé à une échelle plus petite dans le passé, mais les entreprises d’IA ont généralement nié que les modèles stockent des copies de leurs données d’entraînement, car une telle admission pourrait les exposer à des responsabilités légales pour violation de droits d’auteur. Alors que de nombreux procès se poursuivent, cette recherche éclaire le fonctionnement fondamental des modèles d’IA, souvent considérés comme une boîte noire, et pourrait influencer les décisions juridiques futures sur le sujet.
Lancement d’un assistant IA par Ford
Ars Technica rapporte que la société Ford prépare le lancement d’un assistant IA pour plusieurs de ses modèles automobiles. Lors du Salon de la consommation électronique annuel (CES) à Las Vegas, l’IA a été mise en avant dans la plupart des nouveaux gadgets et appareils présentés, y compris ceux de l’industrie automobile. Doug Field, responsable de l’EV, du numérique et du design chez Ford, a expliqué que l’entreprise envisage d’utiliser l’IA pour personnaliser l’expérience du conducteur, créant ainsi « une couche d’intelligence fluide qui vous accompagne entre votre téléphone et votre véhicule ». Un exemple donné est que le conducteur pourrait prendre une photo d’un objet qu’il souhaite placer dans son camion, et l’IA déterminerait s’il peut y entrer.
Le déploiement de l’assistant IA dans les applications Ford et Lincoln est prévu pour cette année, avec une intégration prévue dans les nouveaux modèles de voitures d’ici 2027.
Utilisation de l’IA par la SEC pour les décisions de vote par procuration
Un responsable de la Securities and Exchange Commission (SEC) des États-Unis a donné son feu vert aux conseillers en investissement pour utiliser l’IA dans la prise de décisions de vote par procuration, selon Bloomberg. Brian Daly, directeur de la Division de la gestion des investissements de la SEC, a déclaré lors d’un événement de la New York City Bar Association que « des outils d’IA tels que les modèles de langage et l’IA agentique… offrent une opportunité convaincante » d’assister les conseillers dans le vote pour le compte de leurs clients, bien que l’IA ne devrait pas remplacer le jugement humain dans ce processus.
Bien que Daly ait affirmé qu’il s’exprimait en son nom propre et non au nom de la SEC dans son ensemble, ses propos sur l’IA pour le vote par procuration marquent un tournant par rapport à la vision plus pessimiste de l’IA dans le monde financier prônée par l’ancien président de la SEC, Gary Gensler. Un récent décret présidentiel a demandé à la SEC de revoir les réglementations sur les conseillers en vote par procuration, notamment dans le contexte de la diversité, de l’équité et de l’inclusion (DEI) ainsi que des politiques environnementales, sociales et de gouvernance (ESG) dans les décisions de vote en entreprise. Daly a conseillé à son auditoire de « rester à l’écoute » pour les résultats de l’enquête de la SEC sur ces questions.