Gigantes de la IA de acuerdo en poner un pie en el freno a su desarrollo

El jefe de OpenAI, Sam Altman, y el director de xAI, Elon Musk, dijeron coincidir con el CEO de Anthropic, Darío Amodei, en que es necesario pisar el freno en el desarrollo de la inteligencia artificial, tras varios incidentes preocupantes.

Amodei, hizo un llamado el sábado 12 de septiembre de 2026 a que las empresas de inteligencia artificial (IA) avancen de manera más lenta y cautelosa en el desarrollo de esta poderosa tecnología, y afirmó que la prevención de riesgos es primordial.

"Debemos reducir el ritmo al que mejoramos las capacidades de los modelos de IA. El progreso seguirá pareciendo rápido, y debemos hacer un uso inteligente del tiempo que ganemos", escribió Amodei en una entrada de blog.

"La IA conlleva riesgos y, dado que es una tecnología tan poderosa, estos riesgos son graves", indicó.

"No construir la tecnología privada a la humanidad de beneficios o simplemente pone la IA en manos de poderes autoritarios, mientras que construirla demasiado rápido Hemos es imprudente. Trató de buscar una vía intermedia", dijo Amodei, que cofundó Anthropic con su hermana Daniela en 2021.

"Pero en los últimos meses me ha convencido de que abordar plenamente los riesgos requiere aún más prudencia", afirmó.

Altman y Musk reaccionaron a su escrito

"Estoy de acuerdo con Darío", escribió Altman en X, agregando que su empresa seguirá el ejemplo de Amodei al aceptar evaluadores externos de seguridad. "Darío tiene razón", intervino Musk de su lado.

Estos comentarios se producen unos días después de que el investigador de IA Jacob Coxon, que dejó OpenAI para incorporarse a Anthropic, decidió abandonar la industria, acusando a ambas empresas estadounidenses de "jugar con nuestras vidas" en la carrera por desarrollar modelos capaces de automejorarse.

La declaración de Amodei coincide, además, con otro llamamiento de Anthropic, a principios de junio, para ralentizar o suspender el desarrollo de la IA.

Luego, a finales de julio, Altman dijo que los desarrolladores tal vez tengan que frenar voluntariamente sus rápidos avances para dar a la sociedad la oportunidad de ponerse a tiro.

Más o menos al mismo tiempo, más de 1 000 empleados de empresas punteras de IA, incluido Amodei, firmaron una petición al gobierno estadounidense solicitando ayudar a "marcar deliberadamente el ritmo (de evolución, ndlr) de la frontera del desarrollo automatizado de IA".

OpenAI había revelado que durante las pruebas, los modelos de IA se escaparon de su entorno confinado, se conectaron a internet e infiltraron Hugging Face, un sitio que los desarrolladores utilizan para almacenar y compartir código.

A principios de esta semana, Coxon, de 27 años, hizo sonar la alarma tras haber pasado los tres últimos años preentrenando modelos de IA, primero en OpenAI y luego, este año, en su rival Anthropic, al que consideró más cauto en su enfoque.

El preentrenamiento es la etapa en la que los modelos de IA absorben cantidades ingentes de datos.

"Ninguna de las dos empresas está actuando de forma responsable. Están corriendo directamente hacia una superinteligencia capaz de automejorarse y jugando con nuestras vidas", dijo Coxon el martes pasado.

"Las personas que construyen IA creen firmemente que podrían matarnos a todos antes de que termine la década", afirmó en una publicación en X.

La superinteligencia es el punto teórico en el que las capacidades de la IA superan a la inteligencia humana.