Régulation fédérale de l’IA : un manque inquiétant pour les écoles ?
Le manque de réglementation et d’orientation fédérales concernant l’utilisation de l’IA dans les écoles soulève des inquiétudes, comme l’a souligné un témoignage lors d’une audience au Congrès des États-Unis. L’administration Trump souhaite libérer l’IA pour favoriser l’innovation dans l’éducation et d’autres secteurs. Cependant, l’absence de régulation pourrait engendrer des problèmes à long terme.
Les déclarations des experts
Adeel Khan, le fondateur et PDG de Magic School AI, a déclaré : « Le problème est que nous n’avons pas encore de normes partagées et d’outils conçus pour être sûrs par défaut dans les salles de classe. » Il a ajouté que sans garde-fous clairs, les districts scolaires auront du mal à protéger les élèves et à identifier ce qui fonctionne.
Les initiatives de l’administration Trump
L’utilisation de l’IA dans l’éducation a été largement soutenue par l’administration Trump. En avril de l’année précédente, Trump a signé un décret visant à intégrer davantage l’IA dans l’éducation, y compris la formation des enseignants sur son intégration dans leurs méthodes pédagogiques. En septembre, Melania Trump a lancé le « Défi Présidentiel de l’IA », invitant les élèves et les éducateurs à résoudre des problèmes concrets de leurs communautés à l’aide de solutions basées sur l’IA.
En décembre, Trump a signé un autre décret interdisant aux États de créer des réglementations pour l’IA. Le Département de l’Éducation a également annoncé son intention de prioriser l’IA dans l’éducation en allouant des fonds à des personnes ou organisations visant à élargir la compréhension et l’utilisation de l’IA.
Les défis des districts scolaires
Alors que de plus en plus de districts scolaires commencent à élaborer leurs propres politiques sur l’IA, seuls deux États — Ohio et Tennessee — exigent des districts scolaires qu’ils aient une politique complète sur l’IA. Un défi majeur pour les districts est de déterminer comment fournir un développement professionnel significatif concernant l’utilisation de l’IA dans l’enseignement.
Selon une étude du Center for Democracy and Technology, 85 % des enseignants et 86 % des étudiants ont utilisé l’IA d’une manière ou d’une autre au cours de l’année scolaire 2024-25, mais seulement 50 % des enseignants ont déclaré avoir reçu au moins une session de formation sur l’utilisation de l’IA dans leur travail.
Les risques associés à l’IA
Les préoccupations concernant l’IA dans l’éducation incluent son impact potentiel sur la pensée critique des élèves, les relations entre élèves et enseignants, ainsi que les risques de harcèlement. Pour atténuer ces risques, il est crucial que les districts posent les bonnes questions lors de l’évaluation des produits générés par l’IA.
Des questions essentielles pourraient inclure :
- Comment protégez-vous les données des élèves ?
- Comment évaluez-vous votre plateforme en matière de biais, de sécurité et de partage ?
- Quels garde-fous sont en place pour assurer la sécurité des élèves ?
- Comment garantissez-vous que l’outil est principalement utilisé à des fins pédagogiques ?
Responsabilité et engagement des entreprises
Lors de l’audience, les experts ont souligné l’importance d’établir la responsabilité même sans réglementation fédérale. Par exemple, un sondage du Center for Democracy and Technology a révélé que 12 % des élèves connaissaient des images générées par l’IA non consensuelles représentant quelqu’un de leur communauté scolaire.
« Les entreprises doivent créer un environnement sûr pour leurs utilisateurs et respecter les promesses qu’elles font », a déclaré Alexandra Reeve Givens, présidente du Center for Democracy and Technology.
OpenAI a également lancé une formation pour les enseignants afin de les certifier dans les compétences fondamentales en IA et prévoit d’offrir une formation similaire pour les élèves. « Nous nous concentrons sur l’utilisation positive de nos outils et sur la prévention des abus », a déclaré Chaya Nayak, responsable des emplois et de la certification chez OpenAI.