Anthropic y el Pentágono en conflicto por los usos militares y de vigilancia masiva de Claude

El Pentágono está considerando cortar vínculos con Anthropic, con el Secretario de Defensa Pete Hegseth cerca de designar a la empresa como un “riesgo en la cadena de suministro”. Anthropic se opone al uso de su modelo de IA Claude en campañas de vigilancia masiva y operaciones militares completamente autónomas.

Anthropic se enfrenta al Pentágono por los usos ‘no éticos’ de Claude

Anthropic, una de las mayores empresas de inteligencia artificial (IA), está siendo criticada por el Departamento de Guerra por el uso de sus modelos de IA en actividades consideradas poco éticas por la propia empresa.

Axios informó que el Secretario de Defensa Pete Hegseth está considerando designar a Anthropic como un riesgo en la cadena de suministro, lo que implicaría que todos los contratos y vínculos con la empresa tendrían que reducirse. Además, todas las empresas que trabajan con el Pentágono también tendrían que abandonar los servicios de Anthropic.

El conflicto surge porque la empresa se ha negado a permitir el uso de Claude, su modelo registrado, en campañas de vigilancia masiva y operaciones que involucran equipos militares completamente autónomos. Por otro lado, el Pentágono afirma que debería poder aprovechar las capacidades de Claude para “todos los fines legales”, sin que la empresa tenga voz en estos procesos.

Si finalmente se designa a Anthropic como un riesgo en la cadena de suministro, esto significaría que el modelo tendría que ser retirado de los sistemas de información del Pentágono, ya que solo Claude tiene acceso a los sistemas clasificados de la organización.

Esto permitió que Claude participara activamente en la Operación Resolución Absoluta, que llevó a la extracción de Nicolás Maduro en enero. Aunque no se ha divulgado completamente el papel que asumió el modelo durante la operación, representa una escalada en el uso de la IA para campañas militares.

El enfrentamiento podría establecer un precedente sobre cómo las empresas de IA pueden tratar con los gobiernos del mundo occidental, sentando las bases para los niveles de control que estas empresas podrían mantener sobre sus modelos cuando se utilicen con fines militares.

Un portavoz de Anthropic declaró que la empresa estaba teniendo “conversaciones productivas, de buena fe, con el Departamento de Guerra sobre cómo continuar ese trabajo y abordar estos problemas nuevos y complejos”.

Preguntas frecuentes

• ¿Qué problemas enfrenta Anthropic con el Departamento de Guerra?

Anthropic está bajo escrutinio por parte del Departamento de Guerra por negarse a permitir que su modelo de IA, Claude, sea utilizado en actividades que considera poco éticas, como la vigilancia masiva y operaciones militares autónomas.

• ¿Qué consecuencias potenciales podría enfrentar Anthropic si se la clasifica como un riesgo en la cadena de suministro?

Si se la designa como un riesgo en la cadena de suministro, se cancelarán todos los contratos con el Pentágono, lo que requerirá retirar a Claude de los sistemas de información del Pentágono.

• ¿Cómo ha respondido Anthropic a las demandas del Pentágono respecto a su modelo de IA?

La empresa sostiene que está manteniendo “conversaciones productivas” con el Departamento de Guerra, con el objetivo de abordar los complejos temas éticos relacionados con el uso de su tecnología de IA.

• ¿Qué operación militar reciente involucró a Claude y cuál fue su importancia?

Claude participó en la Operación Resolución Absoluta, que facilitó la extracción de Nicolás Maduro en Venezuela, marcando una escalada significativa en el uso militar de tecnologías de IA.