Le projet de loi sur l’utilisation de l’IA dans les écoles publiques de Washington
SEATTLE — Un projet de loi visant à interdire certaines utilisations de l’intelligence artificielle dans les écoles publiques avance au sein de la Législature de l’État de Washington.
Les interdictions proposées
Le projet de loi sénatorial 5956 impose six interdictions concernant l’utilisation des « systèmes de décision automatisés ». Ces interdictions incluent :
- Utiliser un système de décision automatisé comme seule base pour toute décision disciplinaire concernant un élève.
- Imposer une exclusion d’urgence, une suspension ou une expulsion, ou faire appel à la police sur la base d’une prédiction ou d’un score généré par un système automatisé, sans enquête humaine indépendante.
- Maintenir des listes internes ou des listes de surveillance d’élèves basées sur un système de décision automatisé.
- Entrer dans un contrat avec un fournisseur de services scolaires qui autorise ces activités interdites.
- Utiliser des données biométriques pour inférer des états émotionnels ou d’autres caractéristiques personnelles sensibles d’un élève.
Les motivations derrière le projet de loi
Selon l’une des co-sponsors du projet de loi, Sénatrice T’wina Nobles (D-Fircrest), ces outils doivent être encadrés. Elle souligne l’importance de s’assurer qu’aucun élève ne soit maltraité à cause de la technologie IA. « Nous voulons veiller à ce que nos systèmes ne renforcent pas les disparités existantes », a-t-elle déclaré.
Des incidents aux États-Unis, tels que des systèmes de sécurité IA prenant des objets inoffensifs pour des armes, montrent les dangers potentiels de l’IA dans les écoles. Par exemple, un système de sécurité au Maryland a confondu un paquet de Doritos vide avec une arme à feu, entraînant l’arrestation d’un élève.
Une approche équilibrée de l’intelligence artificielle
Ce projet de loi ne vise pas à interdire l’utilisation de l’IA dans les écoles publiques, mais plutôt à garantir que le travail effectué par l’IA implique toujours un élément humain. Sénatrice Lisa Wellman (D-Mercer Island), également co-sponsor du projet de loi, a déclaré que « les données peuvent provenir de la technologie, mais l’analyse des données ne devrait pas être effectuée par la machine ».
Lors de sa première audience, deux partisans du projet de loi ont témoigné, sans aucune opposition.
Prochaines étapes
Le projet de loi est prévu pour une session exécutive en comité jeudi, où il pourrait être voté, amendé ou ne pas avancer.