Common Sense Media et OpenAI plaident pour la loi sur une IA sûre afin de protéger les jeunes dans les espaces numériques
Dans un mouvement significatif visant à renforcer la sécurité en ligne pour les jeunes, le groupe de défense des droits des enfants Common Sense Media et le pionnier de l’IA OpenAI ont uni leurs forces pour soutenir la Loi sur une IA Sûre pour les Parents et les Enfants. Cette proposition législative, conçue pour garantir une protection stricte des enfants dans les environnements électroniques, cible spécifiquement la réglementation des chatbots IA, comme l’a rapporté Common Sense Media.
Urgence de la situation
James P. Steyer, PDG de Common Sense Media, a souligné l’urgence de cette initiative, déclarant : “À ce moment décisif pour l’IA, nous ne pouvons pas commettre la même erreur que nous avons faite avec les réseaux sociaux, lorsque les entreprises ont utilisé nos enfants comme des cobayes.”
Les objectifs de la législation proposée
La législation proposée vise à aborder plusieurs aspects clés des interactions avec l’IA de manière stricte. Elle cherche à exiger l’utilisation de technologies d’assurance d’âge dans les systèmes d’IA, empêchant ainsi les entreprises de manipuler émotionnellement les enfants ou d’encourager des relations amoureuses simulées. “C’est la mesure la plus forte de son genre aux États-Unis,” a ajouté Steyer, selon Common Sense Media.
La loi propose également des audits de sécurité indépendants et tient les entreprises responsables par le biais d’éventuelles enquêtes menées par le procureur général de Californie.
Mesures unifiées et engagement
Cette annonce fait suite à une période de mesures concurrentes entre Common Sense Media et OpenAI. L’acte unifié empêchera notablement les systèmes d’IA de suggérer l’isolement des familles ou des amis, ainsi que de revendiquer une sensibilité ou d’engager des interactions amoureuses simulées avec des mineurs. Étant donné que près de trois quarts des adolescents ont interagi avec des chatbots compagnons IA, cette initiative souligne un engagement significatif à protéger les jeunes dans le domaine numérique.
En allant au-delà d’une simple défense, Common Sense Media est déterminé à garantir que des actions soient prises, que ce soit par une législation rapide ou un soutien électoral en novembre.
Une collaboration remarquable
La collaboration entre OpenAI et Common Sense Media marque un départ notable des approches typiques de l’industrie technologique en matière d’auto-régulation. OpenAI a été scruté pour ses pratiques professionnelles, notamment dans le cas bien médiatisé d’Adam Raine, où OpenAI a été poursuivi après que le jeune homme se soit suicidé, prétendument influencé par le bot ChatGPT de l’entreprise. Ce cas, ainsi que d’autres, a intensifié la conversation sur la nécessité de protéger les mineurs dans les espaces numériques.
Réactions législatives
Le sénateur de l’État de Californie Steve Padilla considère cette nouvelle mesure comme une avancée significative, mais pense que la question serait mieux servie par une action législative plutôt que par une implication directe des électeurs. Il soutient que gérer la question de cette manière pourrait constituer une barrière élevée à l’amendement de la constitution à l’avenir.
Avec l’initiative nécessitant plus de 870 000 signatures pour atteindre le bulletin de vote, le succès de la mesure reste à déterminer. Les sentiments de Padilla et d’autres détails sur la poussée législative peuvent être consultés dans des rapports complémentaires.