Los legisladores californianos, muy críticos con la inteligencia artificial, habían aprobado un total de unos 30 textos relacionados con esta tecnología.
El gobernador demócrata Gavin Newsom no optó por promulgar todos ellos, ya que tuvo que lidiar, en particular, con los líderes de Silicon Valley, con sede en San Francisco.
El mandatario seleccionó dos, que prevén la creación de organismos de verificación independientes, siguiendo un modelo similar al que existe en la industria aeronáutica.
Estas entidades tendrán la facultad de probar y auditar los sistemas de inteligencia artificial.
Sobre todo, estos organismos no podrán mantener ningún vínculo con las empresas de IA.
De este modo, la industria deberá abrir sus sistemas a expertos certificados por el estado de California.
Las dos nuevas leyes
La primera de las normas es la SB 813, impulsada por el senador Jerry McNerney, demócrata de Pleasanton.
Esta legislación establece un marco estatal, descrito como «pionero a nivel nacional», para que organizaciones de verificación independientes evalúen sistemas y modelos de inteligencia artificial y determinen si cumplen con las leyes de California.
El segundo proyecto firmado por Newsom es la AB 1405, presentada por la asambleísta Rebecca Bauer-Kahan, demócrata de Orinda.
Esta ley crea un registro estatal para auditores de IA y establece estándares para su independencia, transparencia e integridad.
Un enfoque más moderado que en 2024
Esta nueva normativa prioriza, por lo tanto, la transparencia, a diferencia del enfoque previsto para 2024.
En ese entonces, Newsom había vetado una ley que preveía sanciones extremadamente severas contra los desarrolladores de inteligencia artificial en caso de que sus modelos se desviaran de su propósito, especialmente durante ciberataques.
El gobernador había considerado que ese texto iba demasiado lejos y que aún no se basaba en fundamentos científicos.
Esta vez, las medidas son mucho más moderadas, lo que les ha valido el apoyo de dos gigantes de la inteligencia artificial: Anthropic, creadora de Claude, y OpenAI, desarrolladora de ChatGPT.
Ambas empresas han elogiado estos textos y reclaman que el Congreso de los Estados Unidos apruebe un marco nacional.
Coincide con advertencias sobre riesgos de la IA
La firma de los proyectos de ley coincidió con la circulación generalizada de publicaciones del investigador Jacob Coxon, quien había dejado recientemente Anthropic advirtiendo que los desarrolladores de IA avanzaban imprudentemente hacia la superinteligencia.
Al ser consultado sobre esas preocupaciones, Newsom dijo que el gobierno federal debe «dar un paso adelante con regulaciones nacionales sólidas que correspondan a la urgencia de este momento».
El senador McNerney afirmó que la legislación «codifica una de las principales recomendaciones del panel de expertos del gobernador sobre IA», y señaló las revelaciones recientes sobre modelos de OpenAI y Anthropic que habían lanzado ataques por sí mismos durante pruebas de seguridad.
