Règlementation de la surveillance par IA dans le comté de Thurston
Les commissaires du comté de Thurston envisagent actuellement de réguler l’acquisition et l’utilisation de la technologie de surveillance activée par intelligence artificielle (IA).
Proposition d’ordonnance
Lors d’une réunion de travail, la commissaire Carolina Mejia a partagé un projet d’ordonnance visant à établir des garde-fous pour éviter une expansion silencieuse ou progressive des outils activés par IA sans l’approbation du conseil. Elle a souligné que cette initiative est nécessaire car la technologie évolue plus rapidement que les politiques en place.
Risques et transparence
Mejia a exprimé que les outils capables d’inférence, de prédiction et d’analyse biométrique nécessitent un niveau de transparence et de gouvernance intentionnelle supérieur à celui des équipements traditionnels. Elle a noté que les systèmes deviennent normaux au point où il est difficile de déterminer qui les a approuvés, quelles données ils collectent, et qui contrôle finalement ces données.
Engagement proactif
Mejia a déclaré que son objectif est d’assurer que le comté de Thurston adopte une approche proactive plutôt que réactive, en établissant des attentes claires en matière de transparence, de responsabilité et de libertés civiles avant l’acquisition de nouvelles technologies.
Exemples de technologies à réguler
Elle a cité les caméras Flock, qui lisent automatiquement les plaques d’immatriculation, comme un exemple de la surveillance par IA qu’elle souhaite réguler. Ces caméras ont été arrêtées à Olympia en raison de préoccupations communautaires concernant la collecte de données et la protection de la vie privée.
Contenu de l’ordonnance proposée
Selon le projet d’ordonnance, la technologie de surveillance activée par IA peut être bénéfique pour les opérations gouvernementales, mais elle peut aussi créer des risques pour la vie privée, les libertés civiles, l’équité raciale, la participation démocratique et la confiance du public.
Restrictions sur l’utilisation
- Déployer la reconnaissance faciale en temps réel dans des lieux publics.
- Utiliser la technologie de surveillance par IA pour profiler ou cibler des individus sur la base de caractéristiques protégées.
- Mettre en œuvre des systèmes de police prédictive dirigés contre des individus ou des communautés.
- Effectuer une surveillance discrète activée par IA sans l’approbation du shérif.
- Partager des données de surveillance avec des entités externes, sauf autorisation du conseil ou exigence légale.
Rapport d’impact de surveillance
Les bureaux et départements du comté souhaitant approuver des technologies de surveillance activées par IA devront soumettre un rapport d’impact de surveillance comprenant :
- Une description détaillée de la technologie, de ses capacités et de ses limitations.
- Une évaluation des impacts potentiels sur la vie privée et les droits civils.
- Des politiques de collecte, de conservation et de partage des données.
- Une analyse des coûts associés à l’acquisition et à l’exploitation.
- Les alternatives envisagées.
- Des mesures d’atténuation proposées.
- Une politique de déploiement et d’utilisation.
- Un plan d’évaluation de la performance et de la surveillance.
Évaluation continue
Les départements devront également soumettre un rapport annuel de surveillance détaillant les technologies déployées, les audits, les accès aux données, les incidents d’utilisation abusive et les coûts totaux encourus.
Conclusion
Le projet d’ordonnance vise à garantir que les décisions concernant l’utilisation de la technologie de surveillance par IA soient prises avec soin, transparence et discussion publique réfléchie. La commissaire Mejia a souligné l’importance de prendre le temps nécessaire pour discuter de ces outils puissants avant leur mise en œuvre.