Exinvestigador de Anthropic alerta sobre los riesgos de la IA

Un exinvestigador de Anthropic alerta sobre los riesgos de la inteligencia artificial y pide frenar la carrera hacia sistemas más avanzados.

Jacob Coxon, exinvestigador de Anthropic y antiguo empleado de OpenAI, ha anunciado su dimisión con un duro mensaje sobre el desarrollo de la inteligencia artificial. El especialista sostiene que la carrera por crear sistemas cada vez más avanzados se está llevando a cabo sin las garantías suficientes y advierte de que una superinteligencia podría representar un riesgo existencial para la humanidad durante la próxima década, según su valoración personal.

El debate sobre los riesgos de la inteligencia artificial ha vuelto a cobrar fuerza tras la publicación de una extensa carta de Jacob Coxon, investigador que durante los últimos tres años trabajó en proyectos de preentrenamiento tanto en OpenAI como en Anthropic.

En el comunicado, difundido tras anunciar su salida de Anthropic, Coxon sostiene que ninguna de las dos compañías está actuando con la responsabilidad necesaria frente al rápido avance de esta tecnología.

Según explica, la industria estaría inmersa en una carrera para desarrollar sistemas de inteligencia artificial cada vez más potentes, con capacidades que, en su opinión, podrían superar ampliamente las habilidades humanas en numerosos ámbitos.

El exinvestigador considera que la velocidad con la que evoluciona esta tecnología no está siendo acompañada por mecanismos de control y seguridad suficientemente sólidos.

Sus declaraciones se suman a un debate que lleva varios años creciendo dentro de la comunidad científica, donde conviven posiciones muy diferentes sobre el potencial y los riesgos asociados a la inteligencia artificial avanzada.

La advertencia sobre una posible superinteligencia

Uno de los aspectos centrales de la carta de Coxon es su advertencia sobre la llegada de sistemas de inteligencia artificial capaces de mejorar su propio rendimiento sin intervención humana.

Según afirma, el desarrollo tecnológico podría conducir en pocos años a modelos con capacidades sobrehumanas para resolver problemas complejos, desarrollar investigación científica, automatizar procesos y ejecutar tareas informáticas de enorme dificultad.

Entre los ejemplos que menciona figura la posibilidad de que estos sistemas sean capaces de vulnerar infraestructuras digitales, acelerar descubrimientos científicos o adquirir recursos mediante su interacción con el mundo real.

Estas afirmaciones representan la opinión personal del exinvestigador y no constituyen una conclusión aceptada de forma unánime por la comunidad científica.

Aunque numerosos expertos reconocen que la inteligencia artificial seguirá aumentando sus capacidades durante los próximos años, existe un amplio debate sobre la velocidad de ese progreso y sobre si realmente podría alcanzarse una inteligencia artificial general o una superinteligencia en el corto plazo.

Coxon sostiene que muchas personas que trabajan directamente en el desarrollo de modelos avanzados consideran seriamente la posibilidad de que esta tecnología llegue a representar un riesgo existencial para la humanidad.

Según su relato, algunos responsables e investigadores expresarían internamente preocupaciones más intensas que las que trasladan públicamente.

No obstante, estas afirmaciones proceden exclusivamente de su testimonio personal y no han sido confirmadas de forma independiente por las empresas mencionadas.

El investigador sostiene además que la dimensión del riesgo sería comparable a ninguna otra tecnología desarrollada anteriormente por el ser humano.

Una carrera tecnológica marcada por la competencia internacional

En su carta, Coxon intenta explicar por qué las empresas continúan desarrollando sistemas cada vez más avanzados pese a los riesgos que él mismo describe.

Según su interpretación, existe una fuerte competencia entre laboratorios de inteligencia artificial que dificulta cualquier reducción voluntaria del ritmo de investigación.

El exinvestigador afirma que algunos responsables consideran que detener el desarrollo permitiría que otros actores tecnológicos alcanzaran primero esos avances.

Esta lógica competitiva, añade, estaría impulsando una carrera internacional por liderar la próxima generación de modelos de inteligencia artificial.

En este contexto, Coxon considera que decisiones con un impacto potencial sobre toda la humanidad no deberían depender únicamente de empresas privadas.

A su juicio, el desarrollo de sistemas cada vez más potentes debería estar acompañado por mecanismos internacionales de coordinación, supervisión y regulación.

Durante los últimos años, distintos gobiernos han comenzado precisamente a debatir marcos regulatorios para la inteligencia artificial.

La Unión Europea aprobó la Ley de Inteligencia Artificial (AI Act), mientras Estados Unidos, Reino Unido y otros países trabajan en modelos propios de supervisión.

Al mismo tiempo, organizaciones internacionales han impulsado foros destinados a establecer estándares comunes sobre seguridad y gobernanza de la IA.

Pese a estos avances, todavía no existe un consenso global sobre cómo regular una tecnología cuyo desarrollo continúa acelerándose.

Petición de mayor coordinación y pausa en el desarrollo

En la parte final de su comunicado, Coxon plantea la posibilidad de adoptar medidas extraordinarias para reducir el ritmo de desarrollo de los modelos más avanzados.

Entre ellas menciona la opción de establecer una moratoria temporal para impedir que continúe aumentando la capacidad de los sistemas de inteligencia artificial hasta disponer de mayores garantías de seguridad.

El investigador considera que el denominado problema del alineamiento —la capacidad de garantizar que una IA actúe conforme a los objetivos humanos— sigue lejos de estar completamente resuelto.

En su opinión, entrenar sistemas cada vez más potentes sin comprender plenamente su funcionamiento interno supone asumir riesgos difíciles de evaluar.

Coxon también dirige un mensaje a los investigadores que actualmente trabajan en laboratorios de inteligencia artificial.

Les anima a reflexionar sobre las implicaciones de los próximos avances tecnológicos y a participar activamente en el debate sobre las condiciones en las que debe desarrollarse esta tecnología.

Las declaraciones del exinvestigador han generado nuevas discusiones dentro del sector tecnológico sobre el equilibrio entre innovación, competitividad y seguridad.

Mientras algunos expertos consideran que estos riesgos deben tomarse muy en serio, otros sostienen que muchas de las previsiones más extremas siguen siendo especulativas y que la prioridad debe centrarse en problemas actuales como los sesgos algorítmicos, la desinformación, la privacidad o el impacto laboral de la IA.

En cualquier caso, el mensaje de Jacob Coxon vuelve a situar sobre la mesa una cuestión que gana relevancia conforme avanzan los modelos de inteligencia artificial: cómo combinar el desarrollo tecnológico con mecanismos eficaces de supervisión que permitan aprovechar sus beneficios minimizando los riesgos potenciales.