Les programmes d’IA en expansion à Philadelphie face à des interrogations sur la gouvernance et l’implication du public
Philadelphie avance dans l’utilisation de l’IA au sein des services municipaux, mais certains résidents s’inquiètent du fait que ce déploiement s’est largement déroulé à l’abri des regards.
Regard sur la réglementation de l’IA
Le Conseil municipal a tenu la première grande audience sur la réglementation de l’IA en octobre dernier. Des représentants de l’administration du maire Cherelle Parker ont esquissé une stratégie de haut niveau, mais ont évité de fournir des détails sur la manière dont la technologie est effectivement utilisée.
Devren Washington, directeur d’organisation pour Philly Tech Justice, a exprimé ses préoccupations : « Nos inquiétudes concernant l’utilisation de la technologie par la ville, c’est que c’est une boîte noire. »
Cadre de gouvernance de l’IA
En octobre, les responsables municipaux ont annoncé qu’ils créeraient un cadre guidant l’utilisation de l’IA par les employés du secteur public d’ici la fin de l’hiver 2025 ou le début du printemps 2026, bien qu’il reste flou sur les progrès réalisés à ce jour. Une fois ce cadre en place, les dirigeants prévoient d’offrir davantage d’opportunités de formation et de constituer un comité de gouvernance de l’IA inter-départemental pour examiner et mettre à jour les futures politiques en matière d’IA.
Le responsable des technologies de l’information de la ville, Melissa Scott, a déclaré lors de l’audience que ces politiques visent à enseigner aux employés municipaux à ne pas entrer de données gouvernementales dans des outils en ligne comme ChatGPT et Gemini.
Questions en suspens
Malgré une demande de la conseillère Rue Landau, présidente de la Commission sur la technologie et les services d’information du Conseil, pour un inventaire complet de tous les outils d’IA utilisés par la ville, l’administration Parker n’a pas fourni de réponse. Sarah Huffman, journaliste pour Technical.ly, a noté : « Les membres du Conseil et du public avaient des questions, dont beaucoup restent sans réponse. »
Les préoccupations récurrentes concernant le déploiement de l’IA incluent la manière dont les données sont collectées, utilisées en interne et partagées avec des tiers. Washington a déclaré : « Au cœur de tout cela, il s’agit de qui contrôle nos données. » Il a ajouté que les entreprises obtiennent de plus en plus de contrôle sur les données que nous produisons, qui sont extrêmement précieuses.
L’importance d’une approche humaine
Les résidents veulent s’assurer que des humains sont impliqués dans le processus. Depuis des années, les agences de la ville expérimentent l’utilisation de l’IA dans des espaces publics. Par exemple, grâce à SmartCityPHL, le département des routes a collaboré avec l’entreprise GoodRoads en 2021 pour déployer des outils d’IA identifiant les nids de poule à réparer. D’autres initiatives comme SmartBlockPHL en 2022 ont testé des capteurs intelligents sur les lampadaires.
Avec Parker, les initiatives se poursuivent, comme l’utilisation de l’IA par SEPTA et l’Autorité de stationnement de Philadelphie pour délivrer des contraventions aux voitures dans les couloirs de bus.
Les préoccupations liées à l’application de la loi
Les témoignages lors de l’audience du Conseil municipal sur l’IA n’ont pas abordé l’utilisation de l’IA par le département de police ou la manière dont l’administration se préoccupe de l’utilisation de la technologie par l’Immigration et les douanes. Scott a déclaré qu’elle n’était « pas au courant » d’éventuelles instances où la police de Philadelphie aurait déployé l’IA contre des résidents.
Vers une équité dans l’utilisation de l’IA
Washington a souligné que les préoccupations vont au-delà de la transparence ; elles touchent également aux priorités budgétaires et à l’équité. Les données utilisées pour entraîner certains algorithmes peuvent contenir des biais, entraînant des résultats préjudiciables. Par exemple, un algorithme d’évaluation des propriétés de la ville a été critiqué pour avoir réparti le fardeau fiscal de manière inégale dans les quartiers à majorité noire.
Bray, conseiller juridique principal du maire, a déclaré lors de l’audience d’octobre que le jugement humain, la confiance du public et la responsabilité seraient au centre des préoccupations des responsables. « Un grand thème de tous ces témoignages était de garder des humains dans le processus », a ajouté Huffman.