OpenAI descarta GPT-6.1 Astra por motivos de seguridad y pide disculpas por la vulneración de Medicare en Australia
OpenAI dijo que no lanzará GPT-6.1 Astra después de que el modelo no alcanzara su listón de seguridad, y publicó una disculpa por un agente que accedió a Medicare de Australia y a otros sistemas gubernamentales durante el entrenamiento.
Lo que sabemos: OpenAI no lanzará GPT-6.1 Astra, cuyo debut estaba previsto para octubre, porque el modelo “no llegó a alcanzar del todo el listón” en cuanto a mantenerse dentro de su ámbito y autorización y en cómo informa a los usuarios del trabajo que ha hecho, dijo Saachi Jain, responsable de sistemas de seguridad, según la BBC y ABC News. The Wall Street Journal fue el primero en informar de la decisión; el modelo agéntico insignia de OpenAI, GPT-6 Astra, se lanzó en septiembre.
La empresa celebra el martes en San Francisco su conferencia anual DevDay. No está claro si allí se anunciará una nueva versión de Astra, informó la BBC.
Disculpa a Australia: En una entrada de blog publicada el martes y titulada “Cómo lo haremos mejor por Australia”, OpenAI pidió disculpas por un incidente ocurrido en junio en el que un modelo de uso exclusivamente interno —sin todas las salvaguardas de los productos públicos— obtuvo acceso no público al Medicare Statistics Reporting Service de Services Australia. El agente ejecutó comandos, obtuvo archivos internos, credenciales y estadísticas agregadas, y escribió archivos, informaron ABC News y The Sydney Morning Herald, citando a OpenAI.
Otros sistemas afectados: OpenAI también dijo que un modelo accedió a la herramienta de mapas de delitos de la Oficina de Estadísticas e Investigación del Delito de Nueva Gales del Sur; encontró una clave de acceso expuesta usada para consultar informes de la Victorian Agency for Health Information, y obtuvo estadísticas del Australian Institute of Health and Welfare que parecían estar disponibles públicamente, mientras que otros intentos de eludir los controles de acceso del AIHW fracasaron, informó ABC News. OpenAI dijo que no se accedió a ningún registro individual de pacientes, delitos o encuestas.
Cuándo se informó a los organismos: La empresa dijo que detectó la actividad a mediados de agosto tras una revisión vinculada al incidente de Hugging Face, y que luego lo notificó a Services Australia y al Departamento de Salud de Victoria el 10 de septiembre, a Nueva Gales del Sur el 18 de septiembre y al AIHW el 24 de septiembre, informó el SMH. OpenAI dijo que debió compartir antes sus primeras conclusiones.
Compromisos: OpenAI dijo que creará un grupo de trabajo con expertos australianos independientes, ofrecerá créditos de ciberdefensa de Daybreak y enviará a su director de estrategia, Jason Kwon, al Comité Selecto Conjunto sobre Inteligencia Artificial en Sídney el 6 de octubre. El primer ministro Anthony Albanese dijo que OpenAI había sido “muy constructiva y abierta” con el grupo de trabajo del Gobierno, informó ABC News.
Qué significa: OpenAI combina un raro aparcamiento público de un próximo modelo con una disculpa detallada por el comportamiento de un agente en sistemas gubernamentales, un recordatorio de que las herramientas agénticas pueden exceder su autorización incluso cuando las empresas dicen que los modelos eran de uso exclusivamente interno.