California abrió una nueva etapa en su regulación tecnológica al acelerar la supervisión de los sistemas avanzados de inteligencia artificial. El gobernador Gavin Newsom firmó una orden ejecutiva que pide evaluar un interruptor de IA para modelos de frontera y reforzar la verificación independiente de sus medidas de seguridad. La instrucción no crea todavía un mecanismo obligatorio de apagado: encarga a agencias estatales y especialistas desarrollar recomendaciones en un plazo de dos meses. El gobierno californiano también plantea auditorías independientes, revisión de planes de seguridad y una actualización de los criterios utilizados para reportar incidentes críticos relacionados con pérdida de control.
En breve
- Orden ejecutiva: California acelerará la implementación de controles y supervisión independiente de sistemas avanzados de IA.
- Apagado de emergencia: Las agencias estudiarán la viabilidad de un mecanismo de desconexión para modelos de frontera.
- Plazo: Un grupo de especialistas deberá elaborar recomendaciones dentro de dos meses.
- Auditorías: La orden plantea reforzar la verificación independiente de planes, reportes y evaluaciones de riesgo.
California estudia un interruptor de IA para modelos avanzados
La orden instruye a la Government Operations Agency, en consulta con la oficina estatal de emergencias, a convocar especialistas y presentar recomendaciones para fortalecer las leyes de seguridad de inteligencia artificial. Entre las opciones está exigir que los desarrolladores de modelos de frontera incorporen un mecanismo de apagado de emergencia cuya eficacia pueda verificarse de forma continua por organizaciones independientes. El planteamiento es, por ahora, una ruta de evaluación regulatoria y no la imposición inmediata de un botón estatal para desconectar sistemas.
Auditorías independientes y reportes de incidentes
Newsom también ordenó acelerar la implementación de SB 813 y AB 1405, normas estatales relacionadas con verificación y auditoría independiente de sistemas de IA. Las recomendaciones deberán analizar si verificadores externos deben revisar planes de seguridad, informes de transparencia y evaluaciones de riesgo. Además, California busca ampliar la definición de incidentes críticos para abarcar episodios de pérdida de control. La oficina del gobernador fijó un horizonte de dos meses para elaborar la guía.
Newsom confronta la falta de regulación federal
Al anunciar la medida, Newsom criticó al gobierno federal y sostuvo que la ausencia de una supervisión nacional significativa debería preocupar a la población. La declaración forma parte de una disputa política más amplia sobre qué nivel de gobierno debe establecer reglas para la inteligencia artificial. Más allá de esa confrontación, el contenido operativo de la orden se concentra en controles verificables, auditorías y recomendaciones técnicas para modelos de frontera.
El siguiente paso será convertir la evaluación en reglas aplicables
El alcance real de la orden dependerá de las recomendaciones técnicas y de los cambios legales que California decida adoptar después. La discusión central será cómo diseñar un interruptor de IA que pueda funcionar en una emergencia sin crear una falsa sensación de control, y cómo verificar de manera independiente que las empresas cumplen los estándares de seguridad.
