Anthropic Resiste às Exigências do Pentágono sobre Ética de IA

Estados Unidos - Agência de Notícias Ekhbary

Anthropic Resiste às Exigências do Pentágono sobre Ética de IA

Numa jogada ousada que poderá moldar o futuro da regulamentação da inteligência artificial nos Estados Unidos, a principal empresa de IA Anthropic declarou publicamente a sua recusa em cumprir as exigências do Departamento de Defesa (Pentágono) para remover salvaguardas éticas do seu modelo de IA de ponta, Claude. O Pentágono pretendia alavancar Claude para fins de defesa, mas a insistência da Anthropic em manter os protocolos de segurança levou a um confronto significativo, que poderá afetar a viabilidade da empresa e a abordagem do governo à IA avançada.

A disputa atingiu o seu auge no início desta semana, durante uma reunião entre o Secretário de Defesa, Pete Hegseth, e Dario Amodei, CEO da Anthropic. O Pentágono utilizava o Claude no âmbito de um contrato de 200 milhões de dólares, e relatos sugerem que a IA até desempenhou um papel em operações sensíveis, incluindo uma missão para capturar o presidente venezuelano Nicolás Maduro. No entanto, o Secretário Hegseth expressou insatisfação, notando que o Claude recusava executar certas tarefas devido às suas restrições éticas incorporadas.

A Anthropic tinha intencionalmente embutido restrições específicas no Claude. A versão utilizada pelo Pentágono estava proibida de facilitar a vigilância em massa de cidadãos americanos ou de ser utilizada em armamento totalmente autónomo – cenários em que os sistemas de IA tomam decisões de vida ou morte sem supervisão humana direta. De acordo com fontes familiarizadas com a reunião, Hegseth deixou claro que, se a Anthropic não removesse estas duas salvaguardas críticas dentro do prazo estabelecido, o Departamento de Defesa poderia recorrer a medidas drásticas. Estas incluíam a possibilidade de invocar a Lei de Produção para a Defesa (Defense Production Act), uma lei da era da Guerra Fria, para requisitar efetivamente uma versão menos restritiva da IA. Alternativamente, a Anthropic poderia ser rotulada como um "risco na cadeia de suprimentos", uma designação tipicamente reservada para entidades estrangeiras como a Huawei e a ZTE da China, o que proibiria qualquer entidade que negocie com o exército dos EUA de se associar à empresa.

Numa declaração pública divulgada posteriormente, a Anthropic reafirmou a sua posição: "Não podemos, em boa consciência, aceder" ao pedido do Pentágono. Esta posição de princípio coloca a Anthropic num ponto crítico. A sua recusa em ceder a uma administração que parece pressionar empresas privadas à submissão, sublinha o compromisso da Anthropic com o desenvolvimento ético da IA. No entanto, esta resistência acarreta riscos significativos, incluindo potenciais sanções governamentais que poderiam comprometer a capacidade operacional a longo prazo e a posição de mercado da Anthropic.

A abordagem atual da administração à regulamentação da IA parece estar em evolução. No início do segundo mandato de Donald Trump, houve uma abordagem notavelmente mais liberal, com iniciativas como o Plano de Ação de IA enfatizando a rejeição de "dogmas climáticos radicais e burocracia" para promover a inovação. No entanto, as ações atuais de Hegseth representam uma escalada significativa, ameaçando efetivamente nacionalizar um componente chave de uma grande empresa privada de IA e forçá-la a violar os seus princípios fundamentais. Dean Ball, que anteriormente assessorou sobre política de IA para a administração Trump, descreveu a situação como "a ação regulatória de IA mais agressiva que já vi, por qualquer governo em qualquer lugar do mundo".

Evidências sugerem que o Pentágono está a preparar-se para possíveis retaliações. Relatos indicam contactos com outros empreiteiros de defesa para avaliar as suas ligações com a Anthropic, sinalizando a prontidão dos funcionários para designar a empresa como risco na cadeia de suprimentos. Com a desobediência da Anthropic, o lucrativo contrato está agora em perigo. Embora o contrato de 200 milhões de dólares não seja financeiramente crítico para a Anthropic – a empresa supostamente gera 14 mil milhões de dólares anuais e recentemente levantou 30 mil milhões de dólares em capital de risco – ser colocada numa lista negra poderia prejudicar gravemente o seu crescimento futuro e escalabilidade. Apesar da tensão, um porta-voz da Anthropic disse à "The Atlantic": "Não estamos a desistir das negociações. Continuamos a interagir de boa fé com o Departamento para encontrar um caminho a seguir". O Pentágono, na sua comunicação com a CBS, insistiu que a disputa "não tem nada a ver com vigilância em massa ou uso de armas autónomas" e que "o Pentágono apenas emitiu ordens legais".

Na corrida global pela dominação da IA, a Anthropic distinguiu-se ao enfatizar a segurança e as considerações éticas. Isto contrasta com os desafios enfrentados pelos concorrentes. O ChatGPT da OpenAI tem sido criticado por exacerbar as ilusões dos utilizadores, levando a casos de "psicose de IA". Da mesma forma, o Grok da xAI foi recentemente relatado por gerar imagens inadequadas sem consentimento, embora a xAI tenha posteriormente afirmado estar a implementar restrições. Notavelmente, o chatbot voltado para o consumidor da Anthropic não gera imagens de todo. Ao recusar-se a ceder à pressão governamental sobre limites éticos, a Anthropic pode ter evitado uma reação negativa significativa por parte dos consumidores que a veem como um ator mais ético na arena da IA. Esta posição surge depois de a Anthropic ter enfrentado algumas críticas internas sobre mudanças de política, incluindo um alegado relaxamento de um compromisso de segurança central relacionado com a sua abordagem mais ampla ao desenvolvimento de IA.

O próprio Amodei expressou anteriormente preocupações sobre as mesmas questões centrais às exigências do Pentágono. Em escritos publicados semanas antes do ultimato de Hegseth, ele descreveu o potencial uso indevido de IA poderosa para "vigilância em larga escala", "propaganda em massa" e "usos ofensivos de armas totalmente autónomas" como potencialmente constituindo "crimes contra a humanidade".

A abordagem da administração Trump à IA parece um tanto contraditória. Por um lado, figuras como o "czar" de IA da Casa Branca, David Sacks, criticaram a Anthropic, acusando-a de conduzir uma "estratégia sofisticada de captura regulatória baseada no medo" e de promover limitações excessivamente restritivas que sufocam a inovação. A administração também expressou descontentamento com os bots de IA que, por vezes, produzem respostas "woke". Por outro lado, o valor percebido de Claude é tão alto que o governo estaria alegadamente a considerar a sua requisição.

Dean Ball reconheceu a potencial validade do argumento do Pentágono relativamente à concentração de poder detida pela Silicon Valley sobre o uso da tecnologia pelo governo. No entanto, ele caracterizou as medidas punitivas propostas por Hegseth contra a Anthropic como "mal dirigidas e claramente contraditórias". Embora a Lei de Produção para a Defesa conceda efetivamente ao governo autoridade para intervir nas indústrias domésticas por razões de segurança nacional – como visto na ordem executiva da administração Biden de 2023 sobre a regulamentação de IA – a necessidade de forçar a Anthropic a criar uma versão irrestrita de Claude para a segurança nacional permanece questionável. O dilema é ainda mais complicado pela possibilidade de uma abordagem dupla: sancionar a Anthropic e, simultaneamente, encomendar uma versão modificada da sua IA.

Analistas sugerem que existe uma solução mais simples: o Secretário Hegseth poderia simplesmente procurar parcerias com outras empresas de tecnologia. O clima atual na Silicon Valley é cada vez mais receptivo a colaborações no setor de defesa. Empresas como a Palantir, cujo CEO Alex Karp fala abertamente sobre usar software para "assustar nossos inimigos e, ocasionalmente, matá-los", e Palmer Luckey, que está a desenvolver armas autónomas, ilustram esta tendência crescente. No entanto, em vez de explorar estas vias, as ações de Hegseth parecem destinadas a forçar a mão da Anthropic, implicando um desejo de controlo total sobre as capacidades de IA, mesmo ao custo de compromissos éticos.

Ao tentar fazer da Anthropic um exemplo, o Secretário de Defesa arrisca-se a estabelecer um precedente perigoso na governação da IA, potencialmente sufocando a inovação ética e afetando o panorama tecnológico mais amplo.

Agência de Notícias Ekhbary