Anthropic Refuse les Demandes du Pentagone sur l'IA Éthique, Risquant une Confrontation

États-Unis - Agence de presse Ekhbary

Anthropic Refuse les Demandes du Pentagone sur l'IA Éthique, Risquant une Confrontation

Dans une décision audacieuse qui pourrait redéfinir le paysage de la régulation de l'intelligence artificielle aux États-Unis, la société technologique Anthropic a annoncé son refus catégorique d'obtempérer aux injonctions du Département de la Défense (Pentagone). Le Pentagone souhaitait qu'Anthropic supprime les garde-fous éthiques intégrés à son modèle d'IA phare, Claude, utilisé dans le cadre d'un contrat de défense significatif. Anthropic, défendant son engagement envers le développement responsable de l'IA, a choisi de maintenir ces restrictions, déclenchant une potentielle crise réglementaire.

La tension est montée lors d'une rencontre récente entre le Secrétaire à la Défense, Pete Hegseth, et Dario Amodei, le PDG d'Anthropic. Le Pentagone utilisait Claude dans le cadre d'un contrat de 200 millions de dollars, et l'IA aurait même joué un rôle dans des opérations militaires sensibles. Cependant, Hegseth a exprimé son mécontentement, soulignant que Claude refusait d'exécuter certaines commandes en raison de ses limitations éthiques.

Ces limitations, mises en place par Anthropic, visent à empêcher l'utilisation de Claude pour la surveillance de masse des citoyens américains ou pour le développement d'armes entièrement autonomes, où les machines prendraient des décisions létales sans intervention humaine. Selon des sources proches de la réunion, Hegseth a clairement indiqué qu'en l'absence de suppression de ces deux restrictions d'ici une date limite imminente, le Pentagone envisagerait des mesures coercitives. Celles-ci pourraient inclure l'invocation du "Defense Production Act", une loi datant de la Guerre Froide, pour réquisitionner une version modifiée et plus permissive de l'IA. Une autre option serait de qualifier Anthropic de "risque pour la chaîne d'approvisionnement", une mesure généralement réservée aux entreprises étrangères considérées comme problématiques, interdisant ainsi toute collaboration avec des entreprises liées à l'armée américaine.

Dans une déclaration publique officielle, Anthropic a réaffirmé sa position éthique : "Nous ne pouvons, en bonne conscience, accéder" à la demande du Pentagone. Cette prise de position courageuse par l'équipe de Dario Amodei, en refusant de céder aux pressions d'une administration qui cherche à imposer sa volonté aux entreprises privées, marque un tournant. Elle expose l'entreprise à des sanctions potentiellement sévères qui pourraient affecter sa viabilité à long terme et remettre en question son modèle économique.

L'administration actuelle semble naviguer dans des eaux complexes concernant la régulation de l'IA. Durant la première année du second mandat de Donald Trump, une approche plus libérale prévalait, promouvant l'innovation sans entraves bureaucratiques excessives. Les actions actuelles de Hegseth semblent cependant marquer une rupture, menaçant de facto de nationaliser une partie d'une entreprise technologique majeure et de la forcer à agir contre ses propres principes éthiques. Dean Ball, qui a contribué à l'élaboration des politiques IA sous l'administration Trump, a qualifié cet acte de "la démarche réglementaire la plus agressive en matière d'IA que j'aie jamais vue, de la part d'un gouvernement quelconque dans le monde".

Le Pentagone semble se préparer à d'éventuelles représailles. Des rapports indiquent que le ministère a déjà contacté d'autres contractants de défense pour évaluer leurs liens avec Anthropic, signe d'une préparation à la désignation de l'entreprise comme risque pour la chaîne d'approvisionnement. La désobéissance d'Anthropic met son contrat actuel en péril. Bien que le contrat de 200 millions de dollars ne soit pas financièrement vital pour Anthropic – l'entreprise générant environ 14 milliards de dollars annuellement et ayant récemment levé 30 milliards de dollars en capital-risque – une mise sur liste noire pourrait sérieusement freiner sa croissance future. Un porte-parole d'Anthropic a toutefois précisé à "The Atlantic" : "Nous ne renonçons pas aux négociations. Nous continuons à dialoguer de bonne foi avec le Département pour trouver une voie à suivre". Le Pentagone, interrogé par CBS, a déclaré que la situation "n'a rien à voir avec la surveillance de masse ou l'utilisation d'armes autonomes" et que "le Pentagone n'a émis que des ordres légaux".

Dans la compétition mondiale pour la suprématie en IA, Anthropic s'est distinguée par son accent mis sur la sécurité. Cela contraste avec les dérives observées chez d'autres acteurs. Le ChatGPT d'OpenAI a été critiqué pour avoir amplifié certaines illusions d'utilisateurs, menant à des cas de "psychose IA". Plus récemment, Grok de xAI a été signalé pour la génération d'images inappropriées sans consentement, bien que xAI ait indiqué prendre des mesures restrictives. Le chatbot grand public d'Anthropic, quant à lui, ne génère pas d'images. En résistant aux pressions gouvernementales sur les questions éthiques, Anthropic pourrait éviter une réaction négative majeure de la part des consommateurs qui la considèrent comme une entreprise plus éthique dans le domaine de l'IA.

Avant même l'ultimatum de Hegseth, Dario Amodei avait exprimé ses préoccupations concernant les risques liés aux restrictions que le Pentagone cherche à supprimer. Dans ses écrits, il a qualifié la surveillance à grande échelle, la propagande de masse et l'usage offensif d'armes entièrement autonomes, lorsqu'ils sont facilités par une IA puissante, de "crimes contre l'humanité".

L'approche de l'administration Trump envers l'IA semble ambivalente. D'une part, des figures comme David Sacks, le "czar" de l'IA à la Maison Blanche, ont critiqué Anthropic, l'accusant de mener une "stratégie sophistiquée de capture réglementaire basée sur la peur" et de promouvoir des limitations inutiles qui étouffent l'innovation. L'administration a également critiqué les réponses parfois jugées "woke" des IA. D'autre part, la valeur perçue de Claude est telle que le gouvernement envisage sérieusement de s'en emparer.

Dean Ball reconnaît que le Pentagone pourrait avoir un argument valable concernant la concentration du pouvoir technologique entre les mains de quelques entreprises de la Silicon Valley. Cependant, il juge les sanctions proposées par Hegseth contre Anthropic "malavisées et manifestement contradictoires". Bien que le "Defense Production Act" autorise effectivement le gouvernement à intervenir dans les industries nationales pour des raisons de sécurité nationale, la nécessité de forcer Anthropic à créer une version non restreinte de Claude pour la sécurité nationale soulève des questions. Une option encore plus déroutante est la possibilité pour Hegseth de commander une version modifiée de Claude tout en sanctionnant l'entreprise qui la développe.

Une solution plus simple est souvent négligée : le Pentagone pourrait simplement établir un partenariat avec une autre entreprise technologique. Le climat actuel dans la Silicon Valley est de plus en plus favorable aux collaborations avec le secteur de la défense. Des entreprises comme Palantir, dont le PDG Alex Karp vante l'utilisation de ses logiciels pour "effrayer nos ennemis et, à l'occasion, les tuer", et Palmer Luckey, qui développe des armes autonomes, illustrent cette tendance. Au lieu de chercher ailleurs, Hegseth menace de briser Anthropic, suggérant une volonté de contrôle absolu sur les capacités de l'IA, même au détriment des principes éthiques.

En tentant de faire d'Anthropic un exemple, le Secrétaire à la Défense risque d'établir un précédent dangereux en matière de gouvernance de l'IA, potentiellement au détriment de l'innovation éthique et de l'avenir du secteur technologique.

Agence de presse Ekhbary