Nouvelles règles sur l’IA pour les écoles de NYC ce mois-ci alors que la technologie bouleverse les salles de classe
Le département de l’éducation de la ville de New York a annoncé que de nouvelles directives concernant l’intelligence artificielle (IA) seront publiées ce mois-ci pour les écoles publiques de la ville. Pour de nombreux parents, ces règles arrivent à un moment crucial.
Le besoin de clarté
Miatheresa Pate, directrice académique du DOE, a déclaré lors d’une réunion du Panel pour la politique éducative que la ville publiera des « garde-fous » concernant l’utilisation de l’IA. Les parents auront également la possibilité de donner leur avis.
De nombreux parents se sont exprimés sur la lenteur de la ville à établir des politiques claires sur l’IA, ce qui a entraîné une augmentation des cas de plagiat et des risques de confidentialité.
Des préoccupations spécifiques
Sarah Gentile, une mère de Brooklyn, a été alarmée d’apprendre que la classe de sa fille en maternelle utilisait une technologie d’enregistrement vocal dans le cadre d’un nouveau programme de littératie. Elle a demandé que sa fille ne participe pas, craignant que la société technologique ait accès à la voix de sa fille et aux risques potentiels de fuite de données.
« C’est des données biométriques », a-t-elle déclaré.
Gentile a souligné que la ville devrait établir des paramètres clairs pour l’utilisation de l’IA dans les écoles, informer les parents et leur offrir la possibilité de se retirer des programmes technologiques.
Appel à une moratoire
Elle fait partie des parents ayant signé une pétition demandant un moratoire de deux ans sur l’utilisation de l’IA dans les salles de classe. La pétition stipule que le plus grand système scolaire du pays devrait utiliser son pouvoir d’achat et son autorité morale pour protéger les enfants, au lieu de les soumettre à une expérience de surveillance.
Critiques du département de l’éducation
Des éducateurs et des parents ont critiqué l’approche du département envers l’IA comme étant lente et incohérente. Le département a d’abord interdit l’utilisation de ChatGPT dans les écoles peu après son lancement, avant de lever cette interdiction.
Le syndicat des enseignants a collaboré avec de grandes entreprises technologiques, promettant une formation sur l’utilisation responsable de la technologie.
Contrats et préoccupations
Récemment, le Panel pour la politique éducative a rejeté plusieurs contrats en raison de préoccupations relatives à l’IA. Le membre Naveed Hasan a déclaré qu’il s’opposait à l’approbation de contrats pour la technologie IA avant que la ville n’ait une politique en place.
La semaine dernière, le panel a approuvé un contrat avec une entreprise appelée Kiddom pour fournir des logiciels en ligne et des matériaux qui complètent les nouveaux programmes de littératie et de mathématiques. Ce contrat a été initialement rejeté, mais approuvé après des promesses que le logiciel ne comprend pas d’IA.
Transparence et préoccupations sur la confidentialité
Le directeur exécutif de Class Size Matters, Leonie Haimson, a exprimé des préoccupations concernant le manque de transparence du département. « Notre groupe de travail a été entravé et bloqué à chaque étape », a-t-elle écrit.
Elle a appelé à une pause sur l’IA dans les écoles « jusqu’à ce que des garde-fous rigoureux soient établis ».
Optimisme prudent
Dans une interview récente, le chancelier des écoles, Kamar Samuels, a exprimé un optimisme prudent concernant l’IA. « Nous devons vraiment travailler contre certaines des peurs attachées à la conversation autour de l’IA », a-t-il déclaré.
Il a ajouté que le département annoncerait des mesures de sécurité tout en cherchant à utiliser l’IA de manière productive. « Je suis enthousiaste à ce sujet », a-t-il conclu.