Le projet de loi sur l’utilisation de l’IA dans les écoles publiques de Washington
Une proposition de loi visant à réglementer l’utilisation de l’intelligence artificielle (IA) dans les écoles publiques avance au sein de la législature de l’État de Washington. Cette initiative, connue sous le nom de Senate Bill 5956, établit six interdictions concernant l’utilisation des systèmes de décision automatisés.
Interdictions proposées
- Utilisation d’un système de décision automatisé comme base unique ou déterminante pour toute décision liée à la discipline des élèves.
- Imposition d’une retrait d’urgence, suspension ou expulsion, ou référence aux forces de l’ordre, sur la base d’une prédiction générée par un système de décision automatisé, sans enquête humaine indépendante.
- Utilisation d’un système de décision automatisé pour générer un score de risque ou une classification prédictive pour un élève individuel.
- Maintien de listes internes ou de listes de surveillance d’élèves basées sur un système de décision automatisé.
- Contrats avec des fournisseurs qui exigent ou autorisent ces activités interdites.
- Utilisation de données biométriques pour générer des états émotionnels ou des caractéristiques personnelles sensibles d’un élève.
Selon la sénatrice T’wina Nobles, co-sponsor du projet de loi, « ces outils doivent avoir des garde-fous ». Elle a également souligné que l’objectif principal est de veiller à ce qu’aucun élève ne soit maltraité en raison de la technologie IA.
Équité et protection des élèves
Le projet de loi vise à garantir que les systèmes ne renforcent pas les disparités existantes et ne touchent pas de manière disproportionnée les élèves de couleur, ceux en situation de handicap, ainsi que les élèves s’identifiant comme LGBTQ+ ou appartenant à d’autres groupes protégés.
Des incidents à travers le pays, où des systèmes de sécurité basés sur l’IA ont eu des conséquences négatives, soulignent l’importance de cette législation. Par exemple, dans le Maryland, un système a confondu un sac de chips vides avec une arme à feu, entraînant l’arrestation d’un élève. En Floride, une clarinette a été identifiée à tort comme une arme, provoquant un confinement de plusieurs heures dans une école.
Importance de l’intervention humaine
Le texte législatif ne vise pas à interdire l’utilisation de l’IA dans les écoles, mais à s’assurer que l’intervention humaine reste essentielle dans le processus décisionnel. La sénatrice Lisa Wellman, également co-sponsor et présidente du comité de l’éducation, a déclaré : « Les données peuvent être amenées par la technologie, mais l’analyse des données ne devrait pas être le fait de la machine. »
Prochaines étapes
Lors de sa première audition, deux soutiens du projet de loi ont témoigné sans aucune opposition. La loi est programmée pour une session exécutive en comité, où elle pourrait être votée, amendée ou conservée telle quelle.