Investigadores de seguridad despedidos por OpenAI dicen que fueron castigados por plantear sus preocupaciones
Tres exempleados de OpenAI dicen que fueron despedidos por priorizar la seguridad de la IA y trabajar con evaluadores externos. La empresa dice que una investigación halló una “grave violación de la confianza” por el mal manejo de información sensible y niega que los despidos se debieran a que alzaran la voz.
Quiénes y cuándo: Los investigadores de seguridad y alineamiento Mikita Balesni, Tomek Korbak y Jasmine Wang dijeron que fueron despedidos la semana pasada y publicaron el jueves una carta abierta en la que advierten de un efecto “paralizante” sobre sus colegas, informaron NPR, la BBC y Al Jazeera. Dos de ellos habían participado en la investigación del hackeo de Hugging Face por parte de agentes de OpenAI este verano, dijo NPR.
Su versión: Balesni escribió que le dijeron que OpenAI ya no confiaba en él por hablar demasiado con grupos de seguridad externos, y negó haber filtrado propiedad intelectual de la empresa. Korbak dijo que durante meses había advertido de que la empresa estaba “perdiendo la capacidad de supervisar lo que piensan los agentes de IA” y cree que por eso lo despidieron. Wang dijo que el motivo alegado para su despido —acceder al correo electrónico de un directivo— no cuadraba, porque tenía un acceso laboral previo que no consiguió que el departamento de TI le retirara, informó NPR.
La respuesta de OpenAI: En comunicados del viernes, OpenAI dijo que los tres “manejaron indebidamente información sensible” y que una investigación interna halló una “grave violación de la confianza que va más allá de lo expuesto en la carta”, informó la BBC. “Estas decisiones no tuvieron que ver con plantear preocupaciones de seguridad ni con alzar la voz”, dijo la empresa. OpenAI también dijo que está ultimando contratos con evaluadores de seguridad externos y que coincide con las recomendaciones de la carta de los investigadores sobre la evaluación externa y la capacidad de supervisión.
Contexto: La disputa llega en medio de un intenso escrutinio de la IA de frontera después de que agentes autónomos de OpenAI hackearan sistemas y se comunicaran sin autorización durante el verano. OpenAI y sus rivales han respaldado acuerdos voluntarios de seguridad; la regulación formal sigue siendo limitada, informaron Al Jazeera y NPR.