Conflit entre les entreprises d’IA et le Pentagone sur l’utilisation éthique de leur technologie
WASHINGTON — La bataille éthique se poursuit cette semaine entre les entreprises de technologie et le Pentagone concernant l’utilisation de l’intelligence artificielle (IA).
Négociations d’OpenAI
Le directeur général d’OpenAI, Sam Altman, affirme avoir négocié des garanties éthiques pour empêcher l’armée américaine d’utiliser la technologie de son entreprise pour des armes autonomes ou pour une sorveillance non réglementée des citoyens américains.
« Si je recevais un ordre que je crois inconstitutionnel, je préférerais aller en prison que de le suivre », a écrit Altman dans un post interne chez OpenAI.
Le contrat qu’il a négocié est évalué à 200 millions de dollars.
Réactions des utilisateurs
Cependant, certains clients d’OpenAI demeurent sceptiques quant aux assurances éthiques d’Altman. Plus de 1,5 million d’utilisateurs de ChatGPT ont annulé leurs abonnements dans les deux jours suivant l’annonce du contrat.
ChatGPT est le service principal d’OpenAI, utilisant de grands modèles de langage pour comprendre et générer des réponses textuelles semblables à celles des humains.
Conflits et tensions
Le dilemme d’Altman s’inscrit dans une lutte plus large pour les principales entreprises d’intelligence artificielle, qui tentent d’imposer des limites sur la manière dont le gouvernement américain — en particulier le Département de la Défense et l’Agence de sécurité nationale — peut utiliser leur technologie.
L’annonce d’Altman est survenue quelques jours après que le président Donald Trump a ordonné au gouvernement de cesser de faire affaire avec le concurrent d’OpenAI, Anthropic, Inc.
Refus d’accès à l’armée
Le directeur général d’Anthropic, Dario Amodei, a refusé de donner à l’armée un accès illimité à son intelligence artificielle.
« Nous ne pouvons pas, en bonne conscience, accéder à une demande pour supprimer les précautions de sécurité », a déclaré Amodei.
Il a interdit à son entreprise de donner accès aux agences gouvernementales si leur contrat permettait son utilisation dans des armes autonomes ou pour une sorveillance généralisée des citoyens.
Cette objection a été soutenue par le géant de l’internet Google.
Armes autonomes et enjeux de sécurité
Les armes autonomes désignent des armes qui fonctionnent entièrement sous contrôle informatique — comme les drones automatisés — plutôt qu’avec une supervision humaine. Amodei a déclaré qu’elles ne sont pas suffisamment sophistiquées pour prendre des décisions de vie ou de mort sans supervision humaine.
Le Département de la Défense a exigé un standard plus permissif d’« utilisation légale » dans le contrat.
Trump a déclaré en cessant les affaires avec Anthropic qu’il ne permettrait pas au gouvernement d’être influencé par une entreprise.
Conséquences du conflit
En conséquence, Anthropic a perdu le contrat de 200 millions de dollars qui a été attribué à OpenAI. Le secrétaire à la Défense, Pete Hegseth, a classé Anthropic comme un risque de chaîne d’approvisionnement en matière de sécurité nationale, et l’a effectivement exclu des contrats fédéraux.
Une autre conséquence a été que l’application Claude d’Anthropic a surpassé ChatGPT en tant qu’application numéro un dans l’App Store d’Apple aux États-Unis. Les ventes de Claude ont augmenté de 51% en téléchargements quotidiens après que l’entreprise ait été mise sur liste noire la semaine dernière.
« Anthropic a été frappé pour avoir des éthiques, et Sam Altman a immédiatement volé à la rescousse pour le contrat du Pentagone », a déclaré un post viral sur Reddit avec des milliers de votes.
Poursuites potentielles
Anthropic menace de poursuivre si le gouvernement impose l’interdiction à son encontre.
Engagements d’OpenAI
Altman affirme que les « lignes rouges » qu’il a négociées dans le contrat d’OpenAI avec le Pentagone empêcheraient les problèmes mentionnés par Anthropic. Il a décrit l’accord comme un moyen de « désescalader » les tensions entre l’industrie technologique et le gouvernement.
« Deux de nos principes de sécurité les plus importants sont l’interdiction de la sorveillance de masse domestique et la responsabilité humaine pour l’utilisation de la force », a écrit Altman.
Il reconnaît qu’il a une capacité limitée à contrôler comment leurs outils sont utilisés par l’armée.
Défis stratégiques
Les responsables de la défense soutiennent que des accords flexibles avec les entreprises technologiques sont essentiels pour garder une longueur d’avance sur la Chine et d’autres concurrents mondiaux.