“Wildly irresponsible” : L’utilisation de l’IA par le DOT pour rédiger des règles de sécurité suscite des inquiétudes
Le Département des Transports (DOT) des États-Unis envisage d’utiliser l’intelligence artificielle (IA) pour rédiger des règles impactant la sécurité des avions, des voitures et des pipelines, selon une enquête de ProPublica.
Cela pourrait poser problème si le DOT devenait la première agence à utiliser l’IA pour rédiger des règles, car l’IA est connue pour faire des erreurs et halluciner des informations fabriquées. Les employés craignent que tout échec à détecter les erreurs de l’IA puisse entraîner des lois défectueuses, conduisant à des poursuites judiciaires, des blessures, voire des décès dans le système de transport.
Inquiétudes des employés du DOT
Le principal avocat du DOT, Gregory Zerzan, ne semble pas inquiet, comme l’indiquent les notes d’une réunion de décembre. L’objectif n’est pas que l’IA soit parfaite, mais d’accélérer le processus de rédaction des règles, permettant ainsi de rédiger des règles qui prennent des semaines ou des mois en seulement 30 jours. Selon Zerzan, l’outil préféré du DOT, Google Gemini, peut rédiger des règles en moins de 30 minutes.
“Nous n’avons pas besoin de la règle parfaite sur XYZ”, a déclaré Zerzan lors de la réunion. “Nous ne voulons même pas d’une règle très bonne sur XYZ. Nous voulons juste que ce soit suffisant.”
Des experts sceptiques
ProPublica a interrogé des experts et a accordé l’anonymat à six employés du DOT pour discuter de leurs préoccupations concernant l’utilisation de Google Gemini pour rédiger des règles. Certains experts ont suggéré que le DOT pourrait gagner du temps en utilisant Gemini comme assistant de recherche, mais avec beaucoup de supervision et de transparence.
Les employés ont exprimé des doutes quant à la capacité de Gemini à accomplir cette tâche, soulignant que la rédaction de règles au DOT est un travail complexe nécessitant parfois des décennies d’expertise sur le sujet ainsi que sur les lois et règlements existants. Un exemple inquiétant a été donné où une démonstration de la rédaction de règles par Gemini a produit un document manquant de texte clé, que l’employé devait ensuite remplir.
Conséquences potentielles des erreurs
Les règles en question touchent presque tous les aspects de la sécurité des transports, en maintenant les avions en vol, en empêchant les pipelines à gaz d’exploser et en évitant que des trains de marchandises transportant des produits chimiques toxiques ne déraillent. Un employé a commenté : “Cela semble incroyablement irresponsable.”
Perspectives politiques et technologiques
Malgré les préoccupations des employés, le DOT semble déterminé à aller de l’avant avec ce plan. Le département a déjà utilisé Gemini pour rédiger une règle de la Federal Aviation Administration qui n’a pas encore été publiée.
L’ancien président Donald Trump a exhorté les agences fédérales à adopter l’IA rapidement, mais il n’a pas spécifiquement demandé à l’IA de rédiger des lois. Cependant, il est “très enthousiaste” à propos de l’initiative du DOT, Zerzan ayant fait savoir que Trump considère le DOT comme le “point de lance” et s’attend à ce que d’autres agences emboîtent le pas.
Actuellement, le DOT s’attend à ce que Gemini puisse gérer “80 à 90 pour cent du travail de rédaction des règlements”. À terme, tous les travailleurs fédéraux qui s’appuient sur des outils d’IA comme Gemini pour rédiger des règles pourraient revenir à un rôle de simple supervision, surveillant les “interactions IA à IA”.
Réponse de Google
Google n’a pas répondu à la demande de commentaire concernant cette utilisation de Gemini, qui pourrait s’étendre à d’autres administrations sous la direction de Trump. La société a plutôt publié un blog vantant les mérites de Gemini pour le gouvernement, promettant aux travailleurs fédéraux que l’IA les aiderait à résoudre des problèmes critiques.
Il est clair que l’engagement du DOT envers Gemini est crucial pour Google, qui a récemment célébré le fait que le DOT soit la première agence de cabinet à avoir complètement transitionné son personnel vers Google Workspace avec Gemini.
Google semble déterminé à soutenir la transformation numérique du DOT et encourage d’autres leaders fédéraux à adopter ce modèle pour réussir leurs propres missions.