El CEO de Anthropic rechaza eliminar límites en el uso de su IA por parte del Pentágono
Anthropic ha reafirmado su disposición a colaborar con el Departamento de Defensa de Estados Unidos, pero ha dejado claro que no eliminará determinadas salvaguardas en el uso de su inteligencia artificial (IA), al considerar que ciertos casos pueden "socavar, en lugar de defender, los valores democráticos".
En un comunicado firmado por su consejero delegado, Dario Amodei, la compañía subraya que cree "profundamente en la importancia existencial de usar la IA para defender a Estados Unidos y otras democracias", y recuerda que ha sido pionera en desplegar sus modelos en redes clasificadas del Gobierno estadounidense, en los Laboratorios Nacionales y en entornos de seguridad nacional.
Según explica, sus modelos —incluido Claude— están ampliamente desplegados en el Departamento de Defensa y otras agencias para aplicaciones críticas como análisis de inteligencia, modelización y simulación, planificación operativa o ciberoperaciones.
Se ha amenazado con designar a Anthropic como "riesgo para la cadena de suministro"
Amodei también destaca que la empresa ha adoptado decisiones contrarias a su interés económico a corto plazo para proteger el liderazgo estadounidense en IA, como renunciar a "varios cientos de millones de dólares" al cortar el acceso a firmas vinculadas al Partido Comunista Chino y respaldar controles estrictos a la exportación de chips.
No obstante, la compañía marca dos límites claros que, asegura, nunca han formado parte de sus contratos con el Departamento de Defensa y que no deberían incorporarse ahora.
El primero es el uso de IA para vigilancia masiva doméstica. Anthropic respalda el uso de estos sistemas en misiones legales de inteligencia exterior y contrainteligencia, pero considera que la vigilancia masiva dentro del país es incompatible con los valores democráticos. Advierte de que la IA permite integrar grandes volúmenes de datos dispersos —movimientos, navegación web o asociaciones— en un retrato completo de la vida de cualquier persona "de forma automática y a gran escala", lo que plantea riesgos inéditos para las libertades fundamentales.
El segundo límite se refiere a las armas totalmente autónomas, es decir, aquellas que operan sin intervención humana en la selección y ataque de objetivos. Aunque reconoce que pueden resultar críticas para la defensa nacional en el futuro, sostiene que los sistemas actuales de IA avanzada "no son lo suficientemente fiables" para ese fin y que, sin la supervisión adecuada, no pueden sustituir el juicio humano de tropas profesionales. Anthropic afirma que no proporcionará "con conocimiento" un producto que ponga en riesgo a militares o civiles.
La compañía señala que el Departamento de Defensa ha comunicado que solo contratará con empresas que acepten "cualquier uso legal" y eliminen las salvaguardas mencionadas. Según Anthropic, se ha amenazado con excluirla de sus sistemas, designarla como "riesgo para la cadena de suministro" —una etiqueta reservada hasta ahora a adversarios extranjeros— o invocar la Ley de Producción de Defensa para forzar la retirada de esas protecciones.
Amodei considera que estas amenazas no alteran la posición de la empresa y afirma que no pueden "en conciencia" acceder a esa solicitud. Aun así, expresa la preferencia de la compañía por continuar prestando servicio al Departamento de Defensa y a las fuerzas armadas estadounidenses con las dos salvaguardas solicitadas.
En caso de que el Pentágono decida prescindir de Anthropic, la empresa asegura que facilitará una transición ordenada hacia otro proveedor para evitar interrupciones en la planificación y operaciones militares en curso.
La compañía concluye reiterando su disposición a seguir apoyando la seguridad nacional de Estados Unidos, dentro de los límites que considera compatibles con la fiabilidad tecnológica actual y con la defensa de los valores democráticos.
