La senadora Cantwell propone normas federales de seguridad para la IA y auditorías independientes antes del lanzamiento de modelos avanzados
La senadora Maria Cantwell, principal demócrata del Comité de Comercio del Senado, presentó el miércoles un marco de seis principios según el cual expertos federales fijarían normas de seguridad exigibles para los sistemas de IA más potentes, y los modelos cubiertos no podrían lanzarse hasta que una auditoría independiente confirme que las cumplen. Es un marco, no un proyecto de ley, y el Congreso no sesiona hasta después de las elecciones.
Qué propone: Según el marco, el Instituto Nacional de Estándares y Tecnología (NIST), en colaboración con otras agencias federales, redactaría normas claras, exigibles y basadas en el riesgo para los sistemas de IA de frontera que podrían causar daños catastróficos, según la oficina de Cantwell. Esos riesgos incluyen ciberataques facilitados por la IA; amenazas químicas, biológicas, radiológicas y nucleares; y la pérdida del control humano. Los modelos cubiertos “no deberían lanzarse hasta que se hayan sometido a una auditoría independiente” que confirme que cumplen las normas.
Pruebas y divulgación: Expertos gubernamentales e independientes someterían continuamente a pruebas de estrés a los modelos cubiertos, y firmas de auditoría examinarían a los desarrolladores de IA de forma parecida a como los auditores externos revisan los estados financieros de una empresa. Los desarrolladores tendrían que dar acceso a quienes realizan las pruebas, publicar en lenguaje sencillo divulgaciones de riesgos inspiradas en las que las empresas cotizadas ofrecen a los inversores, informar con prontitud de incidentes graves de seguridad y proteger a los denunciantes de represalias.
El ángulo jurídico: El marco dice que los desarrolladores deben seguir siendo responsables, conforme al derecho civil y penal vigente, de los daños previsibles de sus sistemas. También dice que las personas deberían poder saber cuándo la IA influyó de forma sustancial en una decisión trascendente sobre ellas, como el empleo, la atención sanitaria o el crédito, impugnar el resultado y obtener la revisión de una persona cualificada. Otros puntos abarcan la seguridad infantil, la formación de los trabajadores y un canal de crisis entre EE. UU. y China para incidentes graves de IA.
Lo que queda por resolver: Las sanciones por incumplimiento y quiénes serían los auditores externos siguen sin decidirse, informó The Seattle Times. Cantwell dijo al periódico que los principios son un punto de partida para una legislación que, según ella, está por llegar. El líder de la minoría del Senado, Chuck Schumer, y el presidente de Microsoft, Brad Smith, emitieron declaraciones de apoyo, dijo el Times.
En qué punto está: El Congreso no ha impulsado este año una legislación integral sobre IA, y la Cámara y el Senado no volverán hasta después de las elecciones de mitad de mandato del 3 de noviembre, lo que deja pocos días para actuar en 2026, informó el Times. Roll Call y POLITICO también informaron sobre la presentación.
Fuentes
- U.S. Senate Commerce Committee (Democrats) — Cantwell Outlines Comprehensive Governance Framework for Safe and Secure Frontier AI
- The Seattle Times — Cantwell unveils AI safety framework as Congress stalls ahead of election
- Roll Call — Sen. Maria Cantwell looks to federal testing role in AI safety framework
- POLITICO — Top Commerce Committee Democrat releases AI framework