El Pentágono amenaza a Anthropic por sus restricciones al uso militar de la IA
El Departamento de Defensa de Estados Unidos está valorando revisar o incluso romper su relación contractual con la empresa de inteligencia artificial (IA) Anthropic, ante la insistencia de la compañía por mantener algunas limitaciones sobre cómo los militares utilizan sus modelos.
Así lo ha adelantado Axios, que cita a un alto funcionario de la administración estadounidense, para el que hay una zona gris considerable en torno a lo que entraría o no en esas categorías, y que no es viable para el Pentágono tener que negociar casos de uso individuales con Anthropic, o que Claude bloquee inesperadamente ciertas aplicaciones.
"Todo está sobre la mesa", ha afirmado el funcionario, incluyendo reducir la colaboración con Anthropic o romperla por completo. "Pero tendrá que haber un reemplazo ordenado, si creemos que esa es la solución correcta".
Por su parte, un portavoz de Anthropic ha señalado a dicho medio que la compañía seguía "comprometida con el uso de inteligencia artificial de vanguardia en apoyo de la seguridad nacional de Estados Unidos".
Y es que el Pentágono está presionando a cuatro importantes laboratorios de IA para que permitan al ejército usar sus herramientas para "todos los fines legales", incluso en las áreas más sensibles del desarrollo de armas, la recopilación de inteligencia y las operaciones en el campo de batalla. Pero Anthropic no ha aceptado estos términos, y el Pentágono parece estar cansado tras meses de difíciles negociaciones.
De hecho, Anthropic insiste en que hay dos áreas que siguen estando fuera de sus límites: la vigilancia masiva de los estadounidenses y el armamento totalmente autónomo.
Todo ello, después de que las tensiones hayan llegado a un punto crítico recientemente por el uso de Claude por parte de los militares en la operación para capturar al presidente de Venezuela, Nicolás Maduro, a través de la asociación de Anthropic con la firma de software de IA Palantir.
Así, en base a las declaraciones del alto funcionario, un ejecutivo de Anthropic se puso en contacto con otro de Palantir para preguntarle si Claude había sido utilizado en la redada. "Se planteó de tal manera que daba a entender que podrían desaprobar que se utilizara su software, porque obviamente hubo fuego cinético durante esa redada, hubo disparos".
No obstante, desde Anthropic lo han negado rotundamente, indicando que la compañía no había "discutido el uso de Claude para operaciones específicas con el Departamento de Guerra. Tampoco hemos discutido esto con ningún socio de la industria más allá de las conversaciones rutinarias sobre asuntos estrictamente técnicos".
Cabe recordar que el verano pasado Anthropic firmó un contrato de hasta 200 millones de dólares con el Pentágono.
