OpenAI firma acordo com o Pentágono após bloqueio do Claude; Anthropic desafiará designação de risco na cadeia de suprimentos

Estados Unidos - Agência de Notícias Ekhbary

OpenAI firma acordo com o Pentágono após bloqueio do Claude; Anthropic desafiará designação de risco na cadeia de suprimentos

Em um desenvolvimento significativo que molda o cenário da integração da inteligência artificial (IA) na segurança nacional, a OpenAI, o proeminente laboratório de pesquisa em IA, anunciou um acordo histórico com o Departamento de Defesa (DoD) dos EUA. Este acordo permitirá a implantação dos modelos avançados de IA da OpenAI na rede classificada do Pentágono. Um ponto crucial deste acordo é o compromisso da OpenAI em aderir a rigorosos princípios de segurança: especificamente, a proibição da vigilância em massa doméstica e a exigência de supervisão humana nas decisões que envolvem o uso da força letal e armas autônomas. Essas são precisamente as "linhas vermelhas" de segurança que a concorrente Anthropic insistiu em cumprir, levando ao bloqueio efetivo de sua tecnologia.

Sam Altman, CEO da OpenAI, confirmou o acordo na noite de sexta-feira, enfatizando os princípios fundamentais de segurança da empresa. Em uma postagem no X (anteriormente Twitter), ele declarou que o "Departamento de Guerra" (como é chamado na administração atual) concordou com esses princípios, que serão refletidos na lei e nas políticas dos EUA e incorporados em seu acordo contratual. Este desenvolvimento ocorre logo após uma ordem do Presidente Trump, que supostamente instruiu todas as agências federais a cessarem imediatamente o uso da tecnologia da Anthropic, após semanas de negociações fracassadas entre a Anthropic e funcionários do Pentágono.

O DoD havia anteriormente classificado a Anthropic como um "risco na cadeia de suprimentos", exigindo que a empresa removesse as restrições em seu modelo de IA Claude, particularmente em relação à sua disponibilidade para "todos os fins legais". A recusa da Anthropic em cumprir essa ampla exigência levou ao colapso das negociações e ao subsequente bloqueio. A rapidez com que o Pentágono então alcançou um acordo funcionalmente semelhante com a OpenAI levantou questões e provocou debates sobre os critérios de aquisição de IA e sua regulamentação nos círculos de defesa.

Altman delineou os princípios centrais do acordo: "Dois de nossos princípios de segurança mais importantes são a proibição da vigilância em massa doméstica e a responsabilidade humana pelo uso da força, incluindo sistemas de armas autônomas." Ele acrescentou: "O DoD concorda com esses princípios, reflete-os na lei e na política, e nós os incluímos em nosso acordo." Embora este anúncio destaque um compromisso com a implantação responsável de IA, os detalhes permanecem ainda um tanto fluidos. Relatos indicam que nenhum contrato formal foi assinado ainda, e a implantação da OpenAI será limitada a ambientes de nuvem, excluindo sistemas de ponta como aeronaves ou drones.

A Anthropic declarou publicamente sua intenção de contestar a designação de "risco na cadeia de suprimentos" nos tribunais, afirmando que "nenhuma quantidade de intimidação ou punição do Departamento de Guerra mudará nossa posição." A empresa argumenta que os quadros legais atuais não acompanharam os rápidos avanços nas capacidades da IA, particularmente no que diz respeito à agregação de dados publicamente disponíveis para fins de vigilância potencial. Sam Altman parece compartilhar essas preocupações, observando em um memorando interno para funcionários da OpenAI que a empresa compartilha as "linhas vermelhas" da Anthropic e visa "desescalar" a situação.

O acordo entre OpenAI e DoD marca uma potencial mudança na abordagem das agências de defesa às parcerias de IA. Enquanto a Anthropic foi pioneira na implantação de seus modelos em redes classificadas através de uma parceria com a Palantir, a entrada da OpenAI, mesmo com essas estipulações de segurança, representa um passo significativo. A OpenAI havia previamente obtido um contrato de US$ 200 milhões do DoD para casos de uso não classificados. Este movimento sublinha a intensa competição entre os desenvolvedores de IA para garantir contratos governamentais lucrativos, enquanto navegam no complexo cenário ético e regulatório.

A situação também destaca um crescente debate interno na comunidade de IA. Aproximadamente 70 funcionários da OpenAI teriam assinado uma carta aberta intitulada "Não seremos divididos", expressando solidariedade com a posição da Anthropic. Essa dissidência interna sugere divergências de opinião dentro da OpenAI sobre as implicações éticas da implantação de IA em setores sensíveis. Enquanto a Anthropic prepara seu desafio legal, o resultado pode ter implicações de longo alcance para o futuro da regulamentação de IA, contratos governamentais e os limites éticos da inteligência artificial na defesa e além.

Agência de Notícias Ekhbary