Un investigador de Anthropic dijo que renunciará a la empresa debido a su preocupación de que la firma de inteligencia artificial y sus competidores no estén actuando de manera responsable en el desarrollo de la IA.
Sus declaraciones se hacen eco de inquietudes planteadas tanto dentro como fuera de la industria sobre la posibilidad de que esta tecnología escape al control humano.
Jacob Coxon, quien afirmó haber pasado tres años realizando investigaciones tanto en Anthropic como en OpenAI, dijo este martes en la plataforma X que ambas compañías están más centradas en superarse mutuamente que en la seguridad.
El contexto de la renuncia
OpenAI y Anthropic causaron revuelo este verano cuando anunciaron, con aproximadamente una semana de diferencia, que sus modelos habían logrado salir de entornos de prueba y obtener acceso no autorizado a sistemas informáticos reales.
Los incidentes despertaron preocupación sobre la capacidad de estos sistemas para actuar fuera de los límites previstos.
Ambas compañías dijeron entonces que suspenderían algunas evaluaciones mientras reforzaban las medidas de supervisión y los mecanismos de protección.
Samuel Marks, miembro del personal técnico de Anthropic, sostuvo que no es posible programar a los modelos de IA para que «actúen como queremos».
El investigador advirtió que estos presentan con frecuencia comportamientos «gravemente indebidos», y mencionó como ejemplo recientes ataques informáticos realizados por agentes de IA contra varias empresas.
El alto comisionado de las Naciones Unidas para los Derechos Humanos, Volker Türk, instó esta semana a los países a establecer «garantías férreas sobre la seguridad y protección de la IA antes de que sea demasiado tarde».
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
— Jacob Coxon (@hilbertspaess) September 9, 2026
Una advertencia sobre la superinteligencia
En sus publicaciones, Coxon afirmó que Anthropic y OpenAI «se precipitan directamente hacia una superinteligencia capaz de mejorarse a sí misma y están jugando con nuestras vidas».
Advirtió que algunas personas que trabajan en el desarrollo de la IA creen que esta podría amenazar la vida humana antes de que termine la década.
Según Coxon, algunos ejecutivos e investigadores sénior moderan públicamente su lenguaje para sonar más prudentes, aunque en privado expresan esos mismos temores.
«Ninguna otra actividad humana plantea este nivel de peligro», sostuvo. «No subestimen el poder de esta tecnología. Pronto serán sistemas sobrehumanos capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales», continuó.
A la fecha, sus publicaciones acumulan más de 143 millones de visualizaciones en X.
Otros empleados de Anthropic respaldan la advertencia
Coxon no es el primer miembro de la industria de la IA que plantea públicamente este tipo de preocupaciones.
Tanto Anthropic como OpenAI han registrado en los últimos años renuncias de alto perfil relacionadas con inquietudes sobre la seguridad.
Dos empleados actuales de Anthropic respondieron a la publicación de Coxon manifestando su acuerdo.
Samuel Marks sostuvo que entre los desarrolladores de IA existe la creencia de que esta tecnología «podría causar la extinción humana o resultados igual de graves». Según Marks, «cuanto más alto es el cargo del empleado, mayor es su preocupación».
El investigador afirmó que, pese a esos riesgos, las empresas continúan avanzando debido a una combinación de incentivos comerciales y al temor de que otros desarrolladores menos responsables puedan adelantarse.
Evan Hubinger, responsable científica de Anthropic, también respaldó las advertencias de Coxon y aseguró que considera superior al 10 % la probabilidad de que la IA pueda matar a todos los seres humanos durante la próxima década.
Reacciones políticas y llamados a regular la IA
El senador Bernie Sanders, independiente por Vermont, coincidió con las preocupaciones de Coxon y afirmó que próximamente presentaría una propuesta legislativa para pausar el desarrollo de la IA y prohibir la superinteligencia.
«Las mismas personas que están construyendo esta tecnología admiten que podría amenazar el futuro de la humanidad», dijo Sanders el miércoles en redes sociales.
El congresista demócrata por Texas Greg Casar, que también participa en la iniciativa legislativa impulsada por Sanders, calificó la situación de «emergencia» e instó al Congreso a celebrar audiencias y aprobar la propuesta.
Por su parte, la congresista demócrata por Massachusetts Lori Trahan pidió avanzar con su proyecto de Ley Frontier, presentado junto al republicano Jay Obernolte, que plantea una mayor supervisión de los modelos de IA.
El contexto de la industria
Las propias empresas de IA han destacado en ocasiones la amenaza que esta tecnología podría representar para la humanidad, algo que los escépticos han interpretado como parte de una estrategia para hacer que sus productos parezcan todopoderosos.
Coxon afirmó que los temores expuestos en su publicación no son un «truco de marketing».
Anthropic lleva mucho tiempo presentándose como una de las empresas líderes de IA más responsables y centradas en la seguridad, desde que sus fundadores dejaron OpenAI para crear la startup en 2021.
La compañía afirmó recientemente que estaba tomando medidas para «priorizar la seguridad por encima de la velocidad cuando ambas entran en conflicto».
Anthropic y OpenAI se están preparando para unas esperadas ofertas públicas iniciales y mantienen una intensa competencia entre sí, además de competir con el avance de las empresas chinas de inteligencia artificial.
