Ex-chercheuse d’OpenAI démissionne en raison des publicités sur ChatGPT
OpenAI a commencé à tester des publicités sur ChatGPT, ce qui a poussé l’ancienne chercheuse Zoë Hitzig à démissionner et à critiquer publiquement la direction de l’entreprise. Dans un essai d’opinion, Hitzig a déclaré que ce choix risque de répéter les mêmes erreurs que celles commises par Facebook avec son modèle axé sur la publicité.
Des préoccupations éthiques
Hitzig ne considère pas la publicité comme inévitablement immorale. Elle a reconnu que les systèmes d’IA nécessitent des coûts opérationnels élevés en raison de la nécessité d’un revenu continu pour fonctionner correctement. Cependant, elle met en garde que les utilisateurs de ChatGPT ont partagé des informations profondément personnelles en pensant interagir avec un système neutre.
Selon Hitzig, la création de publicités ciblées à partir de ces archives pose des risques de manipulation subtile. Elle maintient que les incitations à l’engagement des organisations pourraient finalement diminuer les mesures de sécurité internes, en raison de leur impact similaire sur les systèmes de sécurité de Facebook.
Une comparaison avec Facebook
Hitzig a établi un lien entre les engagements initiaux de Facebook en matière de gestion des données des utilisateurs et le contrôle des utilisateurs, qui s’est ensuite effondré sous les exigences publicitaires. Elle suggère que des risques similaires pourraient émerger si OpenAI priorise des metrics de croissance tels que le nombre d’utilisateurs actifs quotidiens. Des rapports indiquent que l’entreprise optimise pour l’engagement, ce que les critiques disent pouvoir encourager des interactions trop flatteuses ou dépendantes.
Alternatives proposées
Hitzig a proposé des alternatives, y compris des subventions croisées où les profits de l’IA d’entreprise aident à financer l’accès public large. Elle appelle également à des structures de surveillance obligatoires avec une représentation indépendante sur la manière dont les données de conversation sont utilisées.