ChatGPT en tant qu’ennemi : de nouvelles sanctions contre les avocats utilisant ChatGPT
ChatGPT n’est pas votre ami. Ce n’est ni votre collègue, ni un outil fiable. Il est rien de moins qu’une fraude et un voleur. Tous les produits GenAI partagent cette même problématique.
Sanctions potentielles pour un avocat
Un avocat du Kansas risque de lourdes sanctions et des dommages à sa réputation après avoir utilisé ChatGPT pour compléter des citations dans un document juridique, en raison d’une urgence personnelle. Il est crucial de signaler une urgence à la cour et à la partie adverse pour demander un délai. La pratique du droit demeure une profession honorable, et il n’y a aucune honte à demander plus de temps lorsque la vie l’exige.
Problèmes élargis avec ChatGPT
Dans l’affaire Lexos Media v. Overstock, ChatGPT n’a pas seulement produit une citation problématique, mais une multitude de citations incorrectes, créant ainsi un mémoire juridique extrêmement erroné. Selon la déclaration de Sandeep Seth, ChatGPT a généré des citations fictives utilisées dans son document :
- Liquid Dynamics Corp. v. Vaughan Co., Inc., 449 F.3d 1209, 1224 (Fed. Cir. 2006) : « Le témoignage d’expert ne doit pas être exclu simplement parce que l’expert a appliqué une construction de revendication incorrecte, tant que l’analyse de l’expert peut être comprise et évaluée à la lumière de la construction appropriée par le tribunal. »
- AVM Technologies, LLC v. Intel Corp., 927 F.3d 1364, 1370–71 (Fed. Cir. 2019) : « La réponse appropriée à un potentiel défaut dans la méthodologie d’un expert est le contre-interrogatoire, pas l’exclusion. »
- Hockett v. City of Topeka, No. 19-4037-DDC, 2020 WL 6796766, à *3 (D. Kan. Nov. 19, 2020) : « L’exclusion de preuves est une sanction extrême, et les tribunaux devraient préférer des remèdes moins sévères, particulièrement lorsque l’erreur semble involontaire ou peut être corrigée sans préjudice. »
Conséquences de l’utilisation de ChatGPT
Dans le cas de Lexos Media, le tribunal a exigé que tous les avocats signataires rendent compte de leur inconduite, pas seulement l’avocat ayant utilisé le programme. Cela inclut des avocats d’autres cabinets qui n’ont pas rédigé le mémoire mais qui l’ont co-signé.
Il est essentiel de comprendre que ChatGPT est totalement et complètement non fiable. Si vous utilisez GenAI dans la pratique du droit, il est recommandé de cesser immédiatement.
Cas tragique de suicide
Cependant, toutes ces problématiques sont insignifiantes comparées à ce que ChatGPT aurait fait à un adolescent de seize ans qui s’est suicidé après des échanges prolongés avec le programme. Il est crucial de prendre conscience des dangers que représente cette technologie.
Conclusion
L’intelligence artificielle est l’ennemie des personnes de bien. Il est conseillé de s’en éloigner.