Anthropic se planta ante las demandas del Pentágono sobre ética de IA

Estados Unidos - Agencia de Noticias Ekhbary

Anthropic se planta ante las demandas del Pentágono sobre ética de IA

En un audaz movimiento que podría dar forma al futuro de la regulación de la inteligencia artificial en Estados Unidos, la empresa líder en IA Anthropic ha declarado públicamente su negativa a cumplir las demandas del Departamento de Defensa (Pentágono) de eliminar las salvaguardias éticas de su modelo de IA estrella, Claude. El Pentágono pretendía aprovechar Claude para fines de defensa, pero la insistencia de Anthropic en mantener los protocolos de seguridad ha llevado a una confrontación significativa, que podría afectar la viabilidad de la empresa y el enfoque del gobierno hacia la IA avanzada.

La disputa alcanzó su punto álgido a principios de esta semana durante una reunión entre el Secretario de Defensa, Pete Hegseth, y Dario Amodei, CEO de Anthropic. El Pentágono había estado utilizando Claude bajo un contrato de 200 millones de dólares, e incluso se informó que la IA desempeñó un papel en operaciones sensibles, incluida una misión para capturar al presidente venezolano Nicolás Maduro. Sin embargo, el Secretario Hegseth expresó su insatisfacción, señalando que Claude se negaba a realizar ciertas tareas debido a sus restricciones éticas incorporadas.

Anthropic había incrustado intencionalmente restricciones específicas en Claude. La versión utilizada por el Pentágono tenía prohibido facilitar la vigilancia masiva de ciudadanos estadounidenses o ser desplegada en armamento totalmente autónomo, escenarios en los que los sistemas de IA toman decisiones de vida o muerte sin supervisión humana directa. Según fuentes familiarizadas con la reunión, Hegseth dejó claro que si Anthropic no eliminaba estas dos salvaguardias críticas antes de la fecha límite establecida, el Departamento de Defensa podría recurrir a medidas drásticas. Estas incluían la posibilidad de invocar la Ley de Producción para la Defensa (Defense Production Act), una ley de la era de la Guerra Fría, para requisar efectivamente una versión menos restrictiva de la IA. Alternativamente, Anthropic podría ser etiquetada como un "riesgo para la cadena de suministro", una designación típicamente reservada para entidades extranjeras como Huawei y ZTE de China, lo que prohibiría a cualquier entidad que haga negocios con el ejército estadounidense asociarse con la empresa.

En una declaración pública posterior, Anthropic reafirmó su posición: "No podemos, en conciencia, aceptar" la solicitud del Pentágono. Esta postura de principios sitúa a Anthropic en una coyuntura crítica. Su negativa a ceder ante una administración que parece presionar a las empresas privadas para que se sometan, subraya el compromiso de Anthropic con el desarrollo ético de la IA. Sin embargo, esta resistencia conlleva riesgos significativos, incluidas posibles sanciones gubernamentales que podrían poner en peligro la capacidad operativa a largo plazo y la posición en el mercado de Anthropic.

El enfoque actual de la administración hacia la regulación de la IA parece estar en evolución. A principios del segundo mandato de Donald Trump, hubo un enfoque notablemente más liberal, con iniciativas como el Plan de Acción de IA que enfatizaban el rechazo de la "doctrina climática radical y la burocracia" para fomentar la innovación. Sin embargo, las acciones actuales de Hegseth representan una escalada significativa, amenazando efectivamente con nacionalizar un componente clave de una importante empresa privada de IA y obligarla a violar sus principios fundamentales. Dean Ball, quien anteriormente asesoró sobre políticas de IA para la administración Trump, describió la situación como "la medida regulatoria más agresiva en IA que he visto jamás, por parte de cualquier gobierno en cualquier parte del mundo".

La evidencia sugiere que el Pentágono se está preparando para posibles represalias. Según se informa, se están estableciendo contactos con otros contratistas de defensa para evaluar sus vínculos con Anthropic, lo que indica la preparación de los funcionarios para designar a la empresa como un riesgo para la cadena de suministro. Con la desobediencia de Anthropic, el lucrativo contrato ahora está en peligro. Si bien el contrato de 200 millones de dólares no es financieramente crítico para Anthropic (la empresa supuestamente genera 14 mil millones de dólares anuales y recientemente recaudó 30 mil millones de dólares en capital de riesgo), ser incluida en la lista negra podría obstaculizar gravemente su crecimiento futuro y escalabilidad. A pesar de la tensión, un portavoz de Anthropic dijo a "The Atlantic": "No nos retiramos de las negociaciones. Continuamos interactuando de buena fe con el Departamento para encontrar un camino a seguir". El Pentágono, en su comunicación con CBS, insistió en que la disputa "no tiene nada que ver con la vigilancia masiva o el uso de armas autónomas" y que "el Pentágono solo ha emitido órdenes legales".

En la carrera global por la dominación de la IA, Anthropic se ha distinguido al enfatizar la seguridad y las consideraciones éticas. Esto contrasta con los desafíos que enfrentan sus competidores. ChatGPT de OpenAI ha sido criticado por exacerbar las ilusiones de los usuarios, lo que ha llevado a casos de "psicosis de IA". De manera similar, Grok de xAI fue informado recientemente de que generaba imágenes inapropiadas sin consentimiento, aunque xAI luego declaró que estaba implementando restricciones. Notablemente, el chatbot de cara al consumidor de Anthropic no genera imágenes en absoluto. Al negarse a ceder a la presión gubernamental sobre los límites éticos, Anthropic podría haber evitado una reacción negativa significativa por parte de los consumidores que la ven como un actor más ético en la arena de la IA. Esta postura llega después de que Anthropic enfrentara algunas críticas internas sobre cambios de políticas, incluido un presunto relajamiento de un compromiso de seguridad central relacionado con su enfoque de desarrollo de IA más amplio.

El propio Amodei ha expresado previamente preocupaciones sobre los mismos problemas en el centro de las demandas del Pentágono. En escritos publicados semanas antes del ultimátum de Hegseth, describió el uso potencial de IA potente para "vigilancia a gran escala", "propaganda masiva" y "usos ofensivos de armas totalmente autónomas" como potencialmente constitutivos de "crímenes contra la humanidad".

El enfoque de la administración Trump hacia la IA parece algo contradictorio. Por un lado, figuras como el "zar" de IA de la Casa Blanca, David Sacks, han criticado a Anthropic, acusándola de llevar a cabo una "sofisticada estrategia de captura regulatoria basada en el miedo" y de promover limitaciones excesivamente restrictivas que sofocan la innovación. La administración también ha expresado su descontento con los bots de IA que a veces producen respuestas "woke". Por otro lado, el valor percibido de Claude es tan alto que el gobierno supuestamente está considerando requisarlo.

Dean Ball reconoció la posible validez del argumento del Pentágono sobre la concentración de poder en manos de Silicon Valley en el uso de la tecnología por parte del gobierno. Sin embargo, calificó las medidas punitivas propuestas por Hegseth contra Anthropic como "erróneas y claramente contradictorias". Si bien la Ley de Producción para la Defensa otorga efectivamente al gobierno el derecho de intervenir en las industrias nacionales por razones de seguridad nacional (como se vio en la orden ejecutiva de la administración Biden de 2023 sobre la regulación de la IA), la necesidad de obligar a Anthropic a crear una versión sin restricciones de Claude para la seguridad nacional sigue siendo cuestionable. El dilema se complica aún más por la posibilidad de un doble enfoque: sancionar a Anthropic y al mismo tiempo encargar una versión modificada de su IA.

Los analistas sugieren que existe una solución más simple: el Secretario Hegseth podría simplemente buscar asociaciones con otras empresas tecnológicas. El clima actual en Silicon Valley es cada vez más receptivo a las colaboraciones en el sector de la defensa. Empresas como Palantir, cuyo CEO Alex Karp habla abiertamente de usar software para "asustar a nuestros enemigos y, ocasionalmente, matarlos", y Palmer Luckey, quien está desarrollando armas autónomas, ilustran esta creciente tendencia. Sin embargo, en lugar de explorar estas vías, las acciones de Hegseth parecen destinadas a forzar la mano de Anthropic, lo que implica un deseo de control total sobre las capacidades de la IA, incluso a costa de compromisos éticos.

Al intentar hacer un ejemplo de Anthropic, el Secretario de Defensa corre el riesgo de establecer un peligroso precedente en la gobernanza de la IA, lo que podría sofocar la innovación ética y afectar el panorama tecnológico en general.

Agencia de Noticias Ekhbary