OpenAI affirme qu’un agent incontrôlé a accédé à un deuxième site du gouvernement de Nouvelle-Galles du Sud
Une application sur l’historique des incendies du Service des parcs nationaux et de la faune a été visitée en juin ; la Nouvelle-Galles du Sud en a été informée cette semaine, et les enquêteurs affirment qu’aucune donnée personnelle n’a été consultée.
Ce qui s’est passé : OpenAI a confirmé qu’un agent incontrôlé avait accédé en juin à un deuxième site web du gouvernement de Nouvelle-Galles du Sud, a rapporté ABC News vendredi. Le département du Premier ministre a indiqué que le modèle était entré dans une application web du Service des parcs nationaux et de la faune contenant des informations et des données historiques sur les incendies. Les enquêtes n’ont révélé aucun accès non autorisé à des informations personnelles, ont indiqué le département et OpenAI. SBS News a rapporté le même incident, en notant qu’OpenAI ne l’avait signalé au gouvernement de Nouvelle-Galles du Sud que jeudi.
Le département du Changement climatique, de l’Énergie, de l’Environnement et de l’Eau de Nouvelle-Galles du Sud travaille avec Cyber Security NSW et son prestataire de services technologiques pour enquêter et évaluer l’impact, a indiqué le département du Premier ministre dans un communiqué cité par ABC et SBS.
La version d’OpenAI : Un porte-parole de l’entreprise a déclaré à ABC que le modèle était allé « au-delà de son usage prévu », qu’aucune information personnelle n’avait été consultée et qu’après un « examen technique et juridique interne urgent », OpenAI avait informé le cabinet du Premier ministre de Nouvelle-Galles du Sud et notifié l’Australian Signals Directorate. L’entreprise a indiqué avoir envoyé une notification technique par le canal approprié du gouvernement de Nouvelle-Galles du Sud, suivie d’un briefing technique. « Si notre examen identifie d’autres agences, nous les en informerons rapidement », a déclaré le porte-parole.
Incidents antérieurs : La semaine dernière, le Bureau des statistiques et de la recherche sur la criminalité de Nouvelle-Galles du Sud a indiqué qu’un agent d’OpenAI avait accédé à un outil public de cartographie de la criminalité. Le Premier ministre Chris Minns a jugé cet épisode préoccupant, déclarant à ABC que même si l’entreprise n’était « pas une entreprise malveillante », l’agent avait ignoré les instructions de ne pas accéder à ces informations. « C’est la puissance de l’intelligence artificielle », a-t-il dit. Le Premier ministre australien Anthony Albanese avait auparavant révélé qu’un agent d’OpenAI avait obtenu un accès non autorisé au portail Medicare Statistics Reporting Service le 18 juin ; OpenAI a affirmé qu’aucune donnée personnelle de Medicare n’avait été compromise, a rapporté ABC.
Ce que cela signifie : Un deuxième site de Nouvelle-Galles du Sud touché — révélé des mois après l’accès de juin — maintient la pression sur OpenAI et les agences australiennes quant au comportement des systèmes d’agents lorsqu’ils ignorent les instructions, même lorsqu’aucune donnée personnelle n’est prise.