Les dangers de la foi aveugle en l’intelligence artificielle : leçons d’une sanction de 60 000 dollars
La profession juridique traverse actuellement une période de changement technologique rapide, avec l’émergence d’outils d’intelligence artificielle générative tels que Chat GPT comme assistants pour la recherche et la rédaction juridiques. L’utilisation de l’IA dans ces domaines doit être accompagnée d’une surveillance humaine rigoureuse. En effet, l’absence de cette vérification peut entraîner des amendes coûteuses, des sanctions et un embarras public.
Un exemple frappant
Récemment, un cabinet d’avocats de Chicago a été condamné à une amende de 60 000 dollars pour avoir soumis un mémoire incluant une autorité juridique fabriquée par l’IA afin de soutenir la position de son client. Cette recherche juridique était le résultat de ce que l’on appelle des « hallucinations de l’IA », des situations où l’IA génère des résultats plausibles mais fictifs, tels que des citations, des noms d’affaires et des références qui, à première vue, semblent soutenir une position légale souhaitée, mais qui, en réalité, n’existent pas.
Les conséquences juridiques
En décembre 2025, un tribunal de l’Illinois a infligé des sanctions de près de 50 000 dollars au cabinet d’avocats et de 10 000 dollars à l’avocat en lien avec la soumission d’un mémoire post-jugement contenant des hallucinations de l’IA. La partie adverse a informé le tribunal que de multiples citations sur lesquelles le cabinet d’avocats s’appuyait pour soutenir sa position étaient des affaires de la Cour suprême de l’Illinois non existantes, générées de manière inexacte par Chat GPT, ce qui a conduit la partie adverse à déposer une motion de sanctions détaillée.
La réaction du tribunal
Dans un avis sévère, le tribunal a qualifié la conduite du cabinet d’avocats et de l’avocat de « grave échec », soulignant l’obligation d’un avocat de présenter une autorité juridique véridique et précise devant le tribunal. Le tribunal a précisé que « l’accent du tribunal n’est pas sur l’utilisation inappropriée de l’intelligence artificielle pour effectuer des recherches juridiques peu fiables, mais sur la soumission inacceptable d’une fausse autorité et d’arguments factuels au tribunal, ainsi que sur les fausses déclarations concernant l’étendue de la conduite impropre ». Cette obligation des officiers du tribunal dépasse de loin l’ère de la recherche électronique et de l’intelligence artificielle.
Les obligations professionnelles
La règle 1.1 des Règles de conduite professionnelle du modèle de l’Illinois (qui a un équivalent dans tous les États) affirme que les avocats « doivent » fournir une représentation compétente, ce qui nécessite les connaissances juridiques, les compétences, la minutie et la préparation raisonnablement nécessaires pour la représentation. Le commentaire à la règle 1.1 exige des avocats qu’ils se tiennent au courant des évolutions du droit et des pratiques juridiques, y compris les avantages et les risques associés à la technologie pertinente.
Reconnaissance des erreurs
En fin de compte, le cabinet d’avocats et l’avocat ont reconnu cette situation comme une grave lacune en matière de professionnalisme. De plus, le cabinet a mis en œuvre de nouvelles mesures au sein de l’entreprise pour rééduquer ses avocats sur sa politique relative à l’IA et a établi des mesures préventives.
Principaux enseignements – Atténuer les risques
- Vérification humaine obligatoire de toutes les citations et autorités juridiques générées ou suggérées par l’IA ;
- Mise en œuvre de politiques internes claires pour chaque cabinet d’avocats sur les utilisations acceptables de l’IA ;
- Formation continue sur l’utilisation de l’IA dans un paysage juridique en rapide évolution ;
- Documentation des étapes de vérification pour démontrer la conformité avec les obligations éthiques.
En fin de compte, les avocats doivent maintenir des normes élevées en matière d’intégrité professionnelle et de responsabilité. Soumettre un mémoire juridique avec de fausses citations d’affaires enfreint les devoirs professionnels de précision, de franchise et de compétence d’un avocat. La sanction infligée au cabinet d’avocats et à l’avocat dans cette affaire de l’Illinois ne préclut pas l’utilisation de l’IA dans la recherche et la rédaction juridiques ; au contraire, elle signale que les tribunaux examinent de plus près les citations de cas pour de possibles hallucinations de l’IA et que la pénalité pour soumettre une fausse autorité juridique au tribunal peut être coûteuse tant pour le cabinet que pour l’avocat.