Régulation de l’IA pour la santé mentale : L’appel du PDG de Salesforce
Quelle devrait être notre inquiétude concernant l’intelligence artificielle et notre santé mentale ? Marc Benioff, le PDG de Salesforce, estime qu’il est nécessaire d’instaurer davantage de régulations sur les produits d’IA à la suite de plusieurs suicides liés à cette technologie.
Une déclaration marquante à Davos
Benioff a exprimé cette position lors d’une interview avec CNBC à la conférence phare du Forum économique mondial à Davos, en Suisse. Connu pour son engagement envers l’IA, Salesforce avait annoncé un partenariat avec OpenAI, l’entreprise derrière ChatGPT, en octobre dernier. Cependant, il a souligné qu’il est crucial de prendre conscience des dangers associés à une IA non régulée.
Les dangers de l’IA non régulée
Selon Benioff, les outils d’IA privilégient la rapidité et l’engagement au détriment de l’apprentissage et du bien-être. Comme l’a noté Brookings, l’IA peut générer des hallucinations – des informations erronées présentées de manière convaincante – et elle fonctionne de manière incohérente à travers différentes tâches, formant ce que les chercheurs décrivent comme une frontière imprévisible de capacités.
« C’est drôle, les entreprises technologiques détestent la régulation. Elles la haïssent, sauf pour une chose. Elles adorent la Section 230, qui stipule qu’elles ne sont pas responsables », a déclaré Benioff lors de son interview. « Si ce grand modèle de langage pousse un enfant au suicide, elles ne seront pas tenues responsables à cause de la Section 230. C’est probablement quelque chose qui doit être redéfini. »
Un précédent appel à la régulation des médias sociaux
Benioff a également demandé davantage de régulations sur les médias sociaux lors d’un précédent événement à Davos en 2018. Il a affirmé que l’utilisation des médias sociaux devrait être considérée comme un problème de santé et régulée comme les cigarettes aux États-Unis.
« Ils sont addictifs, ils ne sont pas bons pour vous », a-t-il déclaré à propos des plateformes de médias sociaux.