WASHINGTON.– Algunos de los empresarios más influyentes de la inteligencia artificial (IA) están planteando algo que hasta hace poco parecía contrario a los intereses de sus propias compañías: reducir coordinadamente la velocidad con la que desarrollan sistemas cada vez más avanzados.
La propuesta ganó fuerza después de que Dario Amodei, director ejecutivo de Anthropic, defendiera una desaceleración que permita estudiar con mayor profundidad los riesgos asociados a las nuevas capacidades de la IA.
El planteamiento recibió respaldo público de figuras como Sam Altman, CEO de OpenAI; Elon Musk, responsable de xAI; Demis Hassabis, de Google DeepMind, y Satya Nadella, CEO de Microsoft.
El problema es que todos compiten en una industria donde se encuentran en juego inversiones de miles de millones de dólares y donde Estados Unidos y China disputan el liderazgo tecnológico mundial.
¿Por qué los líderes de la IA quieren desacelerar?
La preocupación se produce en medio de reportes sobre comportamientos inesperados observados durante pruebas con sistemas experimentales.
Según la información divulgada por las propias empresas, algunos modelos sometidos a evaluaciones de seguridad habrían mostrado capacidad para evadir determinadas restricciones, acceder a recursos externos o ejecutar acciones no previstas por sus desarrolladores.
También se han reportado experimentos en los que sistemas avanzados demostraron comportamientos relacionados con engaño, coordinación entre agentes o intentos de ocultar determinadas acciones.
Estos episodios corresponden a pruebas controladas o experimentales y no significan, por sí mismos, que los sistemas comerciales de inteligencia artificial estén actuando autónomamente de esa manera en condiciones normales.
Sin embargo, han aumentado las preguntas sobre qué podría ocurrir cuando futuros modelos tengan mayor capacidad para razonar, programar, utilizar herramientas digitales y actuar con menor intervención humana.
El debate se intensificó después de que el investigador Jacob Coxon, quien trabajó en Anthropic y anteriormente en OpenAI, criticara públicamente los estándares de seguridad de ambas compañías.
Ninguna empresa quiere pisar el freno sola
La principal dificultad para implementar una desaceleración es económica y competitiva.
Las grandes compañías tecnológicas están invirtiendo enormes cantidades de recursos en centros de datos, chips, modelos avanzados y contratación de investigadores, en una carrera por desarrollar sistemas más capaces antes que sus competidores.
Una empresa que decidiera reducir unilateralmente el ritmo de desarrollo podría conceder una ventaja a sus rivales.
Por eso, Amodei plantea que cualquier desaceleración tendría que producirse de manera coordinada entre las principales compañías.
Hasta ahora, una de las medidas concretas planteadas por Anthropic y OpenAI consiste en permitir una mayor participación de evaluadores independientes en la revisión de sus procedimientos de seguridad.
Críticos cuestionan las verdaderas intenciones
No todos consideran que las advertencias de las empresas respondan exclusivamente a preocupaciones sobre seguridad.
Algunas figuras del sector tecnológico sostienen que promover regulaciones más estrictas podría beneficiar precisamente a las compañías que ya disponen de mayor capital, infraestructura y modelos avanzados, al aumentar las barreras de entrada para nuevos competidores.
El empresario tecnológico Brian Roemmele cuestionó públicamente las motivaciones de Anthropic y vinculó su discurso sobre seguridad con sus intereses empresariales.
También han surgido acusaciones de “captura regulatoria”, concepto utilizado cuando una regulación termina favoreciendo a determinados participantes de una industria y dificultando la competencia.
David Sacks, exasesor de inteligencia artificial del presidente Donald Trump, argumentó que las empresas también podrían estar preocupadas por posibles responsabilidades legales si sus tecnologías fueran utilizadas para realizar ataques informáticos de gran impacto.
Trump rechaza las advertencias
La posibilidad de imponer límites enfrenta además resistencia política en Estados Unidos.
El presidente Donald Trump desestimó las advertencias procedentes del sector y las calificó como “fuerzas negativas”.
Parte del Partido Republicano mantiene reservas sobre una regulación estricta de la inteligencia artificial debido al temor de que reducir la velocidad de innovación estadounidense termine beneficiando a China.
Amodei, por el contrario, considera necesaria algún tipo de supervisión gubernamental.
Altman y Hassabis también han defendido en diferentes momentos que las normas establecidas exclusivamente por las propias empresas podrían resultar insuficientes para gestionar tecnologías cada vez más poderosas.
China complica cualquier acuerdo para frenar la IA
La competencia entre Washington y Pekín representa probablemente el mayor obstáculo para una desaceleración.
Amodei plantea una coordinación entre países democráticos, pero sin incluir a China.
La dificultad es evidente: si las compañías estadounidenses reducen voluntariamente el ritmo de desarrollo mientras los laboratorios chinos continúan avanzando, Pekín podría disminuir la distancia tecnológica que actualmente intenta mantener Estados Unidos.
China, además, ha impulsado con fuerza los llamados modelos abiertos, que pueden ofrecer mayores posibilidades para ser descargados, modificados y adaptados por investigadores y desarrolladores.
Ese enfoque contrasta con los modelos más cerrados utilizados por algunas de las principales compañías estadounidenses y plantea desafíos adicionales para cualquier sistema internacional de control.
Chips avanzados, otro frente de la disputa
Para hacer posible una eventual desaceleración occidental sin proporcionar una ventaja tecnológica a China, Amodei propone endurecer los controles estadounidenses sobre la exportación de chips avanzados.
También reclama mayores medidas para impedir la transferencia no autorizada de conocimientos y tecnologías desarrolladas por laboratorios occidentales.
La seguridad de la inteligencia artificial podría formar parte además de las conversaciones alrededor de la prevista visita del presidente chino Xi Jinping a Washington a finales de septiembre.
El debate coloca a Estados Unidos ante una difícil decisión: cómo reducir los riesgos de una tecnología que avanza rápidamente sin perder la carrera internacional por dominarla.
Por ahora existe coincidencia entre varios de los principales ejecutivos de que los riesgos merecen mayor atención. Mucho más difícil será conseguir que empresas rivales —y especialmente potencias rivales— acepten desacelerar al mismo tiempo.
