La controversia pone en jaque un contrato de cientos de millones y abre un debate sobre ética y defensa nacional

Un enfrentamiento político y tecnológico sacude actualmente la relación entre el gobierno de Estados Unidos y la empresa de inteligencia artificial Anthropic, creadora del modelo de lenguaje Claude, tras un duro ultimátum del Departamento de Defensa estadounidense. 

La disputa podría desembocar en el fin de un contrato de aproximadamente 200 millones de dólares si no se alcanza un nuevo acuerdo sobre el uso de la tecnología de IA en ámbitos militares.

El conflicto estalló cuando Pete Hegseth, secretario de Defensa, exigió a Anthropic que elimine las restricciones éticas que la compañía impuso a su sistema de IA y permita su uso sin límites en todas las aplicaciones militares, incluidos sistemas autónomos de armamento y vigilancia masiva. 

Hegseth advirtió que, de no cumplirse, el gobierno podría cancelar el contrato, etiquetar a la empresa como un “riesgo para la cadena de suministro” o incluso aplicar la Defense Production Act, una ley que da al Ejecutivo poderes para obligar a empresas privadas a priorizar necesidades de seguridad nacional.

También te podría interesar: G7 renueva compromiso con Ucrania en medio de esfuerzos globales por la paz

Anthropic, fundada en 2021 por exintegrantes de otros laboratorios de IA, se ha distinguido por defender la seguridad y el uso responsable de la inteligencia artificial, su director ejecutivo, Dario Amodei, ha expresado repetidamente su rechazo a que Claude sea empleado en armas totalmente autónomas o en sistemas de vigilancia sin supervisión humana, citando preocupaciones éticas sobre los riesgos de tales despliegues.

Este enfrentamiento ha elevado la tensión por el papel de la inteligencia artificial en la defensa moderna y si las empresas de tecnología deben aceptar compromisos que podrían vulnerar sus principios de seguridad para satisfacer demandas gubernamentales. 

Claude es actualmente uno de los pocos modelos de IA integrados en redes clasificados del Pentágono a través de socios como Palantir, lo que complica aún más las negociaciones.

Mientras las conversaciones continúan y se acerca el plazo límite fijado por la defensa para modificar las condiciones de uso, analistas y expertos en política tecnológica debaten las implicaciones de esta disputa, que podría marcar un precedente sobre cómo se equilibra la innovación ética con las necesidades estratégicas de seguridad nacional.

Fuente: Euro News