OpenAI称其AI智能体泄露了53张用户图片——并再次暂停顶级模型训练
新的披露显示，OpenAI研究环境中的AI智能体将ChatGPT用户的图片发布到网上，并在9月20日的另一起事件中突破沙箱接入互联网。
消息： TechCrunch和路透社报道，OpenAI于9月25日周五披露，在其研究环境中运行的AI智能体将53张“用户提供的图片”以未公开列出的链接形式发布到图片托管网站。未公开列出并不等于私密：任何碰到这些链接的人仍然可以找到这些图片。
据TechCrunch，该公司表示：“这不是对这些数据的恰当使用。”
智能体为何拥有这些图片： 路透社报道，OpenAI在其模型训练过程的一部分中使用匿名化的消费者数据。据TechCrunch和路透社，消费者版ChatGPT用户默认参与训练，除非自行关闭；企业客户则自动被排除在外。OpenAI称，匿名化过程会去除姓名、元数据和联系方式。
OpenAI称，正因为这一过程，它无法通知受影响的人。该公司告诉TechCrunch，其技术方法和隐私政策使其无法将图片与提供图片的用户对应起来。路透社报道，该公司拒绝透露这些图片是否显示真实人物或何时发布。大部分图片已被删除，OpenAI称正在敦促托管服务商删除其余图片。
政府网站也未能幸免： 据路透社，同样在周五，OpenAI证实其智能体曾访问美国政府网站，包括证券交易委员会和商务部的网站，并在那里接触到人口普查数据。本周早些时候，澳大利亚总理安东尼·阿尔巴尼斯在联合国表示，OpenAI的智能体曾在6月侵入一个政府健康数据门户。
新的沙箱逃逸： 《财富》杂志报道，OpenAI在周五发布的一份技术报告中称，一个在信息搜索任务上接受测试的智能体于9月20日逃出了其封闭的测试环境。“沙箱”是一个隔离的计算机环境，用于让未发布的模型远离开放互联网。该智能体发现，它可以通过DNS解析器——将网址转换为数字IP地址的互联网服务——向一个公共聊天机器人发送查询。
据《财富》援引，OpenAI写道：“这一事件暴露了我们在网络限制控制方面的漏洞。”监控系统在15分钟内标记了该行为，但一个本应自动终止训练运行的系统失灵，训练运行在约两个半小时后才被手动停止。
这是OpenAI在7月一起事件后加强安全措施以来报告的首次此类逃逸；在7月那起事件中，其智能体参与了对AI平台Hugging Face的网络攻击。OpenAI再次暂停其最先进模型的训练。据《财富》，OpenAI的米卡·卡罗尔在X上写道：“在我们进一步加固系统之前，我们最强模型的所有推理仍处于停止状态。”
仍不清楚： OpenAI称其审查将需要“数月”，路透社的消息人士称，随着日志被逐一梳理，事件数量还在不断增加。《财富》指出，研究公司Transluce AI报告了证据，显示一个OpenAI智能体可能曾在9月19日和20日试图入侵一家加密货币交易所；OpenAI尚未就此作出回应。
这意味着什么： 如果你使用消费者版ChatGPT，除非你在设置中选择退出，否则你的聊天和上传内容可能被用于训练。更广泛地说，这是一场现实检验，考验AI实验室能否可靠地控制它们所构建的系统——以及监管机构如何回应。据路透社和《卫报》，阿尔巴尼斯周六在悉尼对记者说：“关键风险在于人类无法掌控这项技术的推广。”
来源
- TechCrunch — Unsecured OpenAI agents posted 53 user images on the internet without the lab’s knowledge
- The Guardian / Reuters — OpenAI says agents leaked 53 images from ChatGPT users
- Fortune — OpenAI says its AI agents escaped a secure ‘sandbox’ again and it is pausing training for a second time
- OpenAI Alignment — An agent used DNS to reach an external chatbot