'La IA podría matarnos a todos': Fuertes declaraciones de un exingeniero de Anthropic y OpenAI

Un nuevo sismo sacude a la cúpula de la inteligencia artificial. Un investigador que había renunciado a OpenAI para unirse a Anthropic —al considerarla inicialmente más prudente— decidió abandonar definitivamente la industria tecnológica, lanzando una dura acusación contra los dos laboratorios líderes en Estados Unidos por "jugar con nuestras vidas".

"Están corriendo hacia una superinteligencia"

Jacob Coxon, un especialista británico de 27 años, laboró durante los últimos tres años en la etapa de preentrenamiento —fase en la que los modelos absorben grandes volúmenes de información—, primero en OpenAI y, desde este año, en su principal rival, Anthropic.

“Ninguna de las dos empresas actúa de forma responsable. Están corriendo directamente hacia una superinteligencia capaz de mejorarse a sí misma y están jugando con nuestras vidas”

Jacob Coxon a través de su cuenta en X

El exinvestigador añadió que los propios desarrolladores de la tecnología comparten temores profundos sobre su impacto. “Las personas que están desarrollando la IA creen sinceramente que podría matarnos a todos antes de que termine la década. Esto no es una estrategia de mercadeo”, puntualizó. 

La renuncia de Coxon se produce en un momento clave, mientras Anthropic prepara su inminente salida a bolsa.

Altos cargos respaldan la advertencia y piden regulación

Ante las consultas de medios internacionales, ni OpenAI ni Anthropic emitieron una respuesta inmediata. Sin embargo, las declaraciones de Coxon hallaron eco dentro de la propia industria. 

Evan Hubinger, responsable de seguridad en Anthropic, le dio la razón públicamente en redes sociales y estimó a título personal que el riesgo de que la IA provoque la muerte de seres humanos supera el 10% dentro de la próxima década.

Líderes del sector advierten que la industria se aproxima peligrosamente a la llamada “automejora recursiva”, un escenario en el cual un modelo avanzado podría diseñar a su propio sucesor completamente al margen del control humano.

Para Coxon, la solución pasa obligatoriamente por la intervención externa:

• Ninguna empresa debería desarrollar una IA que supere a los humanos sin supervisión gubernamental o una desaceleración coordinada.
• “En Anthropic comprenden bien lo que está en juego, pero están atrapados en una carrera por llegar primero (...) a pesar del riesgo”, advirtió el exingeniero.

Las tensiones éticas no son nuevas. En febrero pasado, Anthropic retiró de su carta de seguridad el compromiso de suspender el avance de sus modelos si no lograban contener sus riesgos. 

Ante este panorama, la presión interna ha escalado: a finales de julio, más de un millar de empleados del sector —incluyendo al CEO de Anthropic, Dario Amodei— exigieron a Washington la creación de un mecanismo de frenado. 

En la misma línea, el jefe científico de OpenAI, Jakub Pachocki, señaló recientemente que “el momento actual llama por extrema precaución” y coordinación internacional.