Anthropic denuncia que un grupo presuntamente vinculado a los hutíes utilizó la IA Claude para apoyar el desarrollo de tecnología de misiles.
La inteligencia artificial vuelve a situarse en el centro del debate sobre la seguridad internacional. La empresa estadounidense Anthropic asegura haber detectado que un grupo presuntamente vinculado a los rebeldes hutíes de Yemen utilizó su modelo de IA Claude para colaborar en el desarrollo de sistemas relacionados con misiles balísticos e hipersónicos. Según un informe publicado por la compañía, los usuarios emplearon varios agentes de Claude Code de forma simultánea para apoyar tareas de programación, simulación y análisis técnico, llegando incluso a introducir datos obtenidos tras una prueba real de lanzamiento. Anthropic afirma que bloqueó las cuentas implicadas y sostiene que no existen pruebas de que se llegara a fabricar un arma plenamente operativa con ayuda de su tecnología, aunque reconoce que parte de las herramientas utilizadas habrían sido trasladadas posteriormente a un entorno sin conexión a internet.
Anthropic revela un uso presuntamente militar de su inteligencia artificial
La empresa estadounidense Anthropic ha dado a conocer uno de los incidentes de seguridad más sensibles relacionados hasta la fecha con el uso de inteligencia artificial generativa.
Según explica la compañía en un informe técnico, un grupo asociado presuntamente a los rebeldes hutíes habría utilizado diferentes instancias de Claude Code para asistir en el desarrollo de tecnologías vinculadas a misiles de largo alcance.
La investigación interna sostiene que los usuarios no utilizaron un único modelo conversacional, sino varios agentes de IA funcionando de forma paralela, asignando distintas tareas a cada uno de ellos para acelerar el proceso de desarrollo.
De acuerdo con Anthropic, esta metodología permitió sustituir parcialmente el trabajo que normalmente desempeñaría un equipo de ingenieros especializados.
El informe señala que la IA fue utilizada para redactar código relacionado con sistemas de guiado y control, estudiar parámetros de navegación y modelar trayectorias balísticas para proyectiles con un alcance superior a los 2.000 kilómetros.
Asimismo, los investigadores detectaron consultas destinadas al desarrollo conceptual de un vehículo hipersónico, una tecnología considerada estratégica por numerosas potencias militares debido a su elevada velocidad y dificultad de interceptación.
Varios agentes de IA trabajando de forma simultánea
Uno de los aspectos que más llama la atención del informe es el método utilizado por los usuarios.
Anthropic explica que el grupo desplegó varios agentes de Claude Code al mismo tiempo, asignando diferentes funciones técnicas a cada uno de ellos.
Mientras un modelo colaboraba en tareas de programación, otro realizaba cálculos relacionados con trayectorias, simulaciones físicas o análisis de comportamiento durante el vuelo.
Este enfoque permitió repartir el trabajo entre distintas instancias de inteligencia artificial de forma similar a como lo haría un equipo humano multidisciplinar.
Los expertos consideran que este tipo de utilización refleja una evolución significativa respecto al uso tradicional de los asistentes conversacionales, demostrando que los modelos de IA pueden emplearse como herramientas de apoyo para proyectos altamente complejos cuando se combinan adecuadamente.
El grupo llegó a realizar una prueba de lanzamiento
Según el informe de Anthropic, la actividad no se limitó únicamente al plano teórico.
La compañía sostiene que el grupo llevó a cabo una prueba real de lanzamiento de un misil guiado.
De acuerdo con la investigación, el ensayo terminó en un fracaso operativo.
Tras la prueba, los usuarios recopilaron la información de telemetría obtenida durante el vuelo y la introdujeron nuevamente en Claude para intentar identificar las posibles causas del fallo.
El modelo habría colaborado en el análisis de los datos técnicos y en la búsqueda de explicaciones relacionadas con el comportamiento del sistema durante el lanzamiento.
Este detalle preocupa especialmente a los especialistas en ciberseguridad porque muestra un uso iterativo de la inteligencia artificial, donde cada ensayo permite obtener nueva información para perfeccionar futuros desarrollos.
Anthropic asegura que no existe un arma funcional
Pese a la gravedad del caso, Anthropic afirma que no dispone de evidencias de que el grupo consiguiera fabricar un sistema plenamente operativo utilizando la asistencia de Claude.
La empresa insiste en que no existen pruebas de que la inteligencia artificial haya permitido desarrollar un misil funcional listo para su empleo militar.
No obstante, reconoce que parte de las herramientas utilizadas durante el proceso fueron exportadas posteriormente a un entorno sin conexión a internet.
Esto implica que determinados recursos generados con ayuda del modelo podrían seguir utilizándose fuera del control de la compañía.
Ante esta situación, Anthropic decidió bloquear las cuentas implicadas tan pronto como detectó la actividad considerada sospechosa.
La empresa señala además que continúa reforzando sus mecanismos internos para detectar patrones de uso incompatibles con sus políticas de seguridad.
La inteligencia artificial y el reto de evitar usos militares
El incidente vuelve a abrir el debate internacional sobre el potencial uso militar de los modelos de inteligencia artificial.
Las grandes compañías tecnológicas llevan meses reforzando sus controles para impedir que sus plataformas sean empleadas en actividades relacionadas con el desarrollo de armas, ciberataques o terrorismo.
Sin embargo, numerosos expertos advierten de que resulta extremadamente complejo impedir completamente un uso indebido cuando los modelos poseen capacidades avanzadas para resolver problemas científicos, matemáticos o de programación.
La dificultad aumenta cuando diferentes usuarios coordinan el trabajo de múltiples agentes de IA para repartir tareas específicas.
Aunque los sistemas incorporan filtros destinados a rechazar solicitudes peligrosas, los investigadores reconocen que siempre existe el riesgo de intentos de eludir esas limitaciones mediante técnicas de ingeniería de instrucciones o fragmentando las consultas en múltiples pasos aparentemente inocuos.
Crece la preocupación por la proliferación tecnológica
El caso también refleja un fenómeno cada vez más estudiado por gobiernos y organismos internacionales: la proliferación del conocimiento técnico gracias a la inteligencia artificial.
Modelos capaces de generar código, realizar cálculos complejos o explicar principios de ingeniería pueden convertirse en herramientas de gran utilidad para investigadores legítimos, pero también plantean riesgos cuando son utilizados por actores implicados en conflictos armados.
Por ello, las principales empresas del sector mantienen equipos especializados en supervisar el uso de sus plataformas y colaborar con autoridades cuando detectan actividades potencialmente peligrosas.
Anthropic sostiene que este incidente demuestra la necesidad de seguir desarrollando sistemas de monitorización capaces de identificar patrones anómalos antes de que puedan derivar en riesgos para la seguridad.
La regulación de la IA vuelve al centro del debate
El episodio llega en un momento en el que numerosos gobiernos trabajan en nuevas normas destinadas a regular el desarrollo y utilización de la inteligencia artificial.
Las autoridades buscan equilibrar el enorme potencial económico y científico de esta tecnología con la necesidad de minimizar sus posibles aplicaciones maliciosas.
Entre las cuestiones que centran el debate figuran la obligación de incorporar mecanismos de supervisión, la transparencia sobre los usos detectados y la cooperación entre empresas tecnológicas y organismos públicos.
El informe de Anthropic añade un nuevo argumento a favor de reforzar esas medidas, al mostrar cómo una herramienta diseñada para asistir en tareas de programación y productividad puede, presuntamente, ser utilizada con fines relacionados con el desarrollo de tecnología militar.
Mientras continúan las investigaciones, el caso se perfila como uno de los ejemplos más relevantes hasta la fecha sobre los desafíos que plantea la inteligencia artificial en el ámbito de la seguridad internacional.
.png "Google-Translate-Spanish to English")
COMMENTS