Washington.– La Comisión Federal de Comercio de Estados Unidos (FTC, por sus siglas en inglés) envió citaciones civiles a OpenAI y Anthropic para solicitar documentación sobre incidentes de seguridad relacionados con sus sistemas de inteligencia artificial (IA) y los posibles daños a usuarios, según informaciones publicadas por Axios y confirmadas por un portavoz del organismo a CBS News.
Las dos compañías recibieron las solicitudes el miércoles. Según Axios, cada documento contiene más de 50 páginas de preguntas sobre los incidentes registrados, las medidas de seguridad adoptadas y los materiales de mercadeo que podrían haber generado expectativas equivocadas entre los usuarios.
La FTC también prevé solicitar información a terceros que habrían sido afectados por agentes de IA durante pruebas de seguridad, además de recabar testimonios de ejecutivos de las empresas y de la organización METR, dedicada a evaluar las capacidades y los riesgos de estos sistemas.
Incidentes bajo investigación
La actuación forma parte de una investigación más amplia anunciada por la FTC en septiembre, centrada en episodios en los que agentes digitales habrían accedido a sitios web o interactuado de manera inesperada con organismos gubernamentales durante pruebas.
Entre los casos reportados figura el de un agente de Anthropic que habría presentado 19 solicitudes de visado de no inmigrante sin una instrucción clara para realizar ese procedimiento. También se reportaron interacciones imprevistas de agentes de OpenAI con varios sitios gubernamentales.
Otro aspecto que interesa al regulador es el momento en que las empresas comunicaron los incidentes. Según los reportes citados, algunas notificaciones públicas se produjeron después de que los problemas fueran resueltos.
El presidente de la FTC, Andrew Ferguson, encabeza la denominada Super Intelligence Force, un grupo de trabajo creado por el Gobierno de Donald Trump para vigilar los riesgos asociados con la inteligencia artificial. Entre sus iniciativas figura exigir a las empresas del sector que reporten los incidentes de seguridad tan pronto como sean detectados.
OpenAI enfrenta demandas judiciales
La investigación regulatoria coincide con acciones judiciales contra OpenAI relacionadas con presuntos daños derivados del uso de ChatGPT.
Ocho estados estadounidenses demandaron esta semana a la compañía al considerar que el sistema podría reforzar delirios, fomentar comportamientos peligrosos y facilitar la planificación de actos violentos, incluidos tiroteos masivos. Esas afirmaciones forman parte de los argumentos presentados en la demanda y deberán evaluarse en el proceso judicial.
La FTC cuenta con facultades para actuar contra empresas por prácticas comerciales desleales o engañosas. El alcance de esas atribuciones podría ser relevante para determinar si los desarrolladores adoptaron medidas razonables para proteger a los consumidores frente a los riesgos de sus productos.
Ferguson había señalado previamente, en una entrevista con Reuters, que los desarrolladores podrían tener que responder por daños ocasionados cuando agentes diseñados para pruebas de ciberseguridad terminan ejecutando ataques reales.
La respuesta de las compañías
Un portavoz de OpenAI declaró a Reuters que la empresa está comprometida a colaborar de manera constructiva con la FTC y que continuará trabajando con los reguladores y responsables de políticas públicas para elevar los estándares de seguridad.
Anthropic no había respondido de inmediato a las solicitudes de comentarios sobre las citaciones, según la información publicada. La FTC confirmó el envío de los documentos, pero no ofreció detalles adicionales sobre el contenido de la investigación.
El procedimiento busca determinar qué ocurrió durante los incidentes, qué controles aplicaron las compañías y si sus actuaciones pudieron generar riesgos o perjuicios para usuarios y terceros.
