Les législateurs des États sont prêts à réglementer à nouveau l’industrie de l’IA
Tout le monde parle de l’IA, que ce soit par amour ou par haine – ou parfois les deux. Prenons l’exemple de la gouverneure Kathy Hochul, qui a investi des fonds pour faire de New York un leader dans la recherche sur l’IA, tout en soulignant cette semaine les dangers de l’IA générative trompeuse lors des élections.
La technologie en constante évolution est plus significative que son usage pour valoriser une personnalité. C’est pourquoi la législation visant à réglementer l’industrie et le développement de la technologie IA est devenue l’un des sujets les plus brûlants ces dernières années à Albany. L’année dernière, des milliardaires de startups IA aux poches profondes se sont mêlés à la politique de l’État de New York en faisant pression contre des projets de loi introduisant des garanties qui pourraient affecter leurs bénéfices.
Une nouvelle audition sur les risques et solutions de l’IA
Dans cet esprit, la sénatrice d’État Kristen Gonzalez, présidente du comité Internet et Technologie, dirigera une audition à New York ce jeudi pour examiner les “risques et solutions” liés à l’utilisation de l’IA dans des domaines tels que le recrutement, la santé et les services financiers. “Bien que les avantages de l’IA puissent être considérables, et que les avancées en IA aient le potentiel de transformer des industries, les systèmes IA sont imparfaits”, indique un avis public sur l’audition à venir.
Le but déclaré est d’informer au mieux les législateurs sur les meilleures pratiques à adopter et les défis à relever lorsqu’il s’agit de réglementer cette industrie notoirement complexe et puissante.
Des réglementations difficiles à adopter
Passer ces réglementations ne sera pas facile. Les législateurs ont été confrontés à de fortes pressions de la part de l’industrie contre un trio de projets de loi l’année dernière visant à faire avancer cette cause. Un seul a été adopté – le RAISE Act – et bien qu’il soit allé légèrement plus loin qu’une loi existante en Californie affaiblie par des lobbyistes de l’IA, la version finale ressemblait étroitement aux règles plus faibles de la côte ouest.
De même, l’industrie a fait pression contre un projet de loi parrainé par Gonzalez en 2024, qui instaurait une surveillance stricte de l’utilisation de l’IA par de nombreuses agences gouvernementales. Le gouverneur a finalement signé cette législation, mais seulement après avoir négocié des modifications atténuant sensiblement plusieurs réglementations.
Propositions réglementaires à considérer
Avec le début d’une nouvelle session législative, les législateurs ont une multitude de propositions réglementaires sur l’IA à examiner. Gonzalez fera à nouveau pression pour son New York AI Act, qui exigerait des audits pour éliminer les préjugés dans les algorithmes, créerait des responsabilités pour les entreprises lorsque les décisions de l’IA entraînent des conséquences inattendues et garantirait que les entreprises disposent de plans pour atténuer les risques. Une autre mesure, également proposée par Gonzalez, tiendrait le développeur d’un chatbot IA utilisé dans les soins de santé et autres contextes professionnels responsable si son utilisation causait du tort à une personne ayant cherché des conseils humains dans ce domaine. Un autre projet de loi exigerait la transparence concernant les données utilisées pour former les modèles d’IA.
Le comité de Gonzalez a invité divers groupes à témoigner, y compris des intérêts syndicaux comme DC37 et CWA, des universitaires de l’Université de New York et du Haverford College, des défenseurs de la réglementation technologique, des organisations communautaires et des membres de l’industrie technologique. L’audition commencera à 10 heures ce jeudi.