Anthropic dice que frenará evolución de la IA cuando sea necesario; OpenAI pide 'extremo cuidado'

El debate sobre los límites de la tecnología escaló hasta el máximo organismo de seguridad global. 

El director ejecutivo de Anthropic, Dario Amodei, prometió ante la Organización de las Naciones Unidas (ONU) que desacelerará el desarrollo de la inteligencia artificial (IA) cada vez que sea estrictamente necesario, con el fin de garantizar que los nuevos modelos comerciales cumplan con rigurosos estándares de seguridad.

• De Lunes a Lunes: ¿Regular o frenar la inteligencia artificial? Ecuador debate cómo poner límites

El compromiso unilateral de Anthropic

“Reduciremos el ritmo de desarrollo tanto como sea necesario para garantizar que cada nuevo modelo de IA que lancemos sea realmente seguro”, declaró Amodei a través de un mensaje en video dirigido al Consejo de Seguridad de las Naciones Unidas.

Este anuncio marca un hito al ser el primer compromiso unilateral de esta naturaleza asumido por un alto ejecutivo del sector, a tan solo diez días de haber solicitado infructuosamente una desaceleración coordinada y global entre los principales actores de la industria tecnológica.

OpenAI pide "extremo cuidado" frente al optimismo ciego

En la misma sesión especial, el director ejecutivo de OpenAI, Sam Altman, intervino ante el Consejo de Seguridad para señalar que la rápida evolución actual de la inteligencia artificial "requiere un extremo cuidado", advirtiendo que el avance de esta tecnología podría acelerarse de forma imprevisible.

“La industria no debe aceptar demasiados riesgos tecnológicos simplemente porque los beneficios sean demasiado grandes e importantes como para frenar su avance”, enfatizó Altman ante los 15 miembros del organismo. 

El directivo fue invitado junto a Dario Amodei y a Clément Delangue (de la plataforma Hugging Face) para ofrecer un panorama sobre el estado actual de la industria.

La reunión de emergencia se celebró tras semanas de intensos debates globales en torno a los riesgos de sistemas de IA fuera de control. 

“No queremos caer en la trampa del optimismo ciego, pero tampoco podemos sucumbir al catastrofismo [...] Así que vamos a hacer todo lo posible por encontrar un término medio”, concluyó Altman, recordando que OpenAI ha instado recientemente a Estados Unidos a liderar un esfuerzo internacional para fijar estándares éticos y de seguridad para la inteligencia artificial.