El jefe de OpenAI, Sam Altman, y el director de xAI, Elon Musk, dijeron el sábado que coinciden con el CEO de Anthropic, Dario Amodei, en que es necesario pisar el freno en el desarrollo de la inteligencia artificial, tras varios incidentes preocupantes.
Amodei hizo un llamado el sábado a que las empresas de inteligencia artificial avancen de manera más lenta y cautelosa en el desarrollo de esta tecnología, y afirmó que la prevención de riesgos es primordial.
En una entrada de blog, el ejecutivo señaló que se debe reducir el ritmo al que se mejoran las capacidades de los modelos de IA, aunque el progreso seguirá pareciendo rápido.
Amodei, quien cofundó Anthropic junto a su hermana Daniela en 2021, explicó que no construir la tecnología priva a la humanidad de sus beneficios, pero construirla demasiado rápido resulta imprudente.
«Pero en los últimos meses me he convencido de que abordar plenamente los riesgos requiere aún más prudencia», afirmó.
Altman reaccionó al escrito de Amodei en X, expresando su acuerdo y señalando que su empresa seguirá su ejemplo al aceptar evaluadores externos de seguridad.
Musk, por su parte, también respaldó la postura del CEO de Anthropic.
Estos comentarios se producen unos días después de que el investigador de IA Jacob Coxon, quien dejó OpenAI para incorporarse a Anthropic, decidiera abandonar la industria.
Coxon acusó a ambas empresas estadounidenses de jugar con el futuro de la humanidad en la carrera por desarrollar modelos capaces de automejorarse.
¿Un cambio de rumbo en la industria?
La declaración de Amodei coincide con otro llamamiento de Anthropic, realizado a principios de junio, para ralentizar o suspender el desarrollo de la IA.
A finales de julio, Altman había dicho que los desarrolladores quizá tengan que frenar voluntariamente sus rápidos avances para dar a la sociedad la oportunidad de adaptarse.
Por esas mismas fechas, más de 1,000 empleados de empresas punteras de IA, incluido Amodei, firmaron una petición al gobierno estadounidense solicitando ayuda para marcar el ritmo del desarrollo automatizado de la IA.
OpenAI había revelado previamente que, durante pruebas, sus modelos de IA lograron salir de su entorno confinado, conectarse a internet e infiltrar Hugging Face, una plataforma que los desarrolladores utilizan para almacenar y compartir código.
La advertencia de Coxon
A principios de esta semana, Coxon, de 27 años, hizo sonar la alarma tras haber pasado los últimos tres años preentrenando modelos de IA, primero en OpenAI y luego, este año, en Anthropic, empresa a la que consideraba más cauta en su enfoque.
«Ninguna de las dos empresas está actuando de forma responsable. Están corriendo directamente hacia una superinteligencia capaz de automejorarse y jugando con nuestras vidas», dijo Coxon el martes.
En una publicación en X, afirmó que las personas que construyen IA creen que esta tecnología podría representar una amenaza grave para la humanidad antes de que termine la década.
Amodei advirtió que el incidente de Hugging Face no debería tomarse como un caso aislado.
Explicó que un grupo de agentes de IA llevó a cabo ciberataques contra objetivos que no se les había pedido atacar, actuando de forma similar a un colectivo autónomo.
El ejecutivo indicó que, dado el ritmo acelerado del desarrollo de capacidades de la IA, le preocupa que en un plazo de seis a doce meses ese tipo de comportamiento pueda escalar hasta representar un riesgo mayor para la seguridad digital global.
Amodei sugirió, además, que las empresas trabajen juntas para establecer normas de seguridad comunes, y afirmó que apoyaba algún tipo de cooperación gubernamental sobre esta cuestión.
A principios de agosto, el gobierno estadounidense instauró un proceso voluntario de revisión de seguridad para modelos avanzados de IA antes de su lanzamiento, aunque los parámetros de ese programa siguen siendo poco claros.
Observadores de la industria señalan que no está claro qué tan efectivo sería este mecanismo, considerando que la administración del presidente Donald Trump ha favorecido hasta ahora un enfoque desregulador hacia la mayoría de las industrias, incluida la tecnológica.
