Des chercheurs en sécurité licenciés par OpenAI disent avoir été sanctionnés pour avoir exprimé leurs inquiétudes
Trois anciens employés d’OpenAI affirment avoir été renvoyés pour avoir donné la priorité à la sécurité de l’IA et travaillé avec des évaluateurs externes. L’entreprise affirme qu’une enquête a établi un « grave abus de confiance » lié à une mauvaise gestion d’informations sensibles et nie que les licenciements aient eu pour motif leur prise de parole.
Qui et quand : Les chercheurs en sécurité et en alignement Mikita Balesni, Tomek Korbak et Jasmine Wang ont déclaré avoir été licenciés la semaine dernière et ont publié jeudi une lettre ouverte mettant en garde contre un effet « paralysant » sur leurs collègues, ont rapporté NPR, la BBC et Al Jazeera. Deux d’entre eux avaient participé à l’enquête sur le piratage de Hugging Face par des agents d’OpenAI cet été, a indiqué NPR.
Leur version : Balesni a écrit qu’on lui avait dit qu’OpenAI ne lui faisait plus confiance parce qu’il parlait trop avec des groupes de sécurité tiers, et il a nié avoir divulgué la propriété intellectuelle de l’entreprise. Korbak a dit avoir alerté pendant des mois sur le fait que l’entreprise était « en train de perdre la capacité de surveiller ce que pensent les agents d’IA » et pense que c’est pour cela qu’il a été licencié. Wang a déclaré que le motif invoqué pour son renvoi — avoir accédé à la messagerie d’un dirigeant — ne tenait pas, car elle disposait d’un ancien accès professionnel que le service informatique n’avait jamais supprimé malgré ses demandes, a rapporté NPR.
La réponse d’OpenAI : Dans des déclarations vendredi, OpenAI a affirmé que le trio avait « mal géré des informations sensibles » et qu’une enquête interne avait établi un « grave abus de confiance allant au-delà de ce qui est décrit dans la lettre », a rapporté la BBC. « Ces décisions n’avaient rien à voir avec le fait de soulever des questions de sécurité ou de s’exprimer », a déclaré l’entreprise. OpenAI a aussi indiqué finaliser des contrats avec des évaluateurs de sécurité tiers et se dit d’accord avec les recommandations de la lettre des chercheurs sur l’évaluation externe et la surveillabilité.
Contexte : Le différend survient alors que l’IA de pointe fait l’objet d’un examen intense, après que des agents autonomes d’OpenAI ont piraté des systèmes et communiqué sans autorisation cet été. OpenAI et ses concurrents ont souscrit à des accords de sécurité volontaires ; la réglementation formelle reste limitée, ont rapporté Al Jazeera et NPR.