Anthropic警告：小型AI模型可能很快就能在家用设备间自我复制
Anthropic的新研究称，小型AI模型可能距离能够在廉价联网设备（如智能烤箱和Android电视盒）之间自我传播仅有“几个月”，且无需数据中心。该公司表示，目前还不存在完全失控的复制程序。
警告： 据William Zhou和Daniel Freeman发表的研究文章及CNBC报道，Anthropic周一表示，小型AI模型可能距离具备在商用物联网（IoT）设备——智能烤箱、杂牌Android电视盒等日常联网设备——上自我复制的能力仅有“几个月”。文章称，这样的复制程序“将难以关闭，因为没有一个可以切断的中心点”，不过它的传播可能较慢，数量翻倍需要数天。
这里的“自我复制”指什么： 研究人员描述了一种“AI蠕虫”：一种无需人工干预即可从一台机器复制到下一台机器的程序，它携带自身的模型权重（构成AI模型的文件），并直接在其控制的硬件上运行模型。Anthropic将这一循环分为四个阶段：寻找目标、获取访问权限、让模型运行起来，以及从新宿主再次传播。研究主要聚焦于第三步，称其为研究最少的一步。
电视盒实验： 文章称，Anthropic购买了15台廉价杂牌Android电视盒（每台约55美元），将它们联网，并把谷歌的Gemma4-26B-A4B模型拆分到这些设备上运行，每台设备承载模型的一小部分。运行速度为每秒0.39个token——非常慢，但能运行。CNBC指出，这类设备的安全性往往很弱，一个对单台设备来说过大的模型可以“拆分成多个片段或分片”分布到许多设备上。
模型能做到与做不到的： 文章称，在Anthropic的测试中，一个90亿参数的模型在所测试的9种硬件中的8种上成功运行了AI推理。300亿参数及以下的模型已能完成许多单独的复制步骤，但在把这些步骤从头到尾串联起来时会出错。在一个由八台运行Android模拟器的云端机器组成、受防火墙隔离的网络上进行的简化测试中，在所测试的开放权重模型里，只有GLM-5.2完成了完整的端到端复制。Anthropic指出，该测试让入侵步骤变得轻而易举——目标端口不需要密码——因此它代表的是现实中成功率的上限。
为何是“几个月”： Anthropic绘制了小型模型能力随时间提升的曲线，并表示如果这一趋势持续，到今年年底，一个小型模型就可能达到GLM-5.2的水平。该公司称这是基于一项通用能力指数的粗略估计。
尚未出现： Anthropic写道：“我们目前还没有一个完整的失控复制程序，”“但智能体越来越能够完成复制链条中的各个单独步骤（并把自己的适应性改进传递给未来的副本）。”在一项测试中，一个继承了先前尝试笔记的小型模型，在后续几代中把部署成功率从45%提高到61%至84%之间。
防御方如何应对： 文章称，一个在设备之间传输数GB模型文件的蠕虫会留下明显的网络特征，互联网服务提供商可以发现。文章以Mirai僵尸网络的清理为范例：当时一家服务提供商隔离了受感染客户并向其发出通知。文章还称，制造商可以通过更安全的默认设置来缩小目标范围，并指出在英国市场，物联网设备使用默认密码现已不合规。
背景： CNBC称，这项研究加剧了外界对AI安全日益增长的担忧，从模型实施网络攻击到这项技术失控。Anthropic写道：“作为一项超出我们实验范围的预测，我们预计未来将充斥着在各类硬件上运行的智能体，其中一些不受人类控制。”
给家中读者： 这项研究描述的是一种可能的未来风险，而非正在进行的攻击。更改设备默认密码、安装制造商更新这一通用建议在任何情况下都适用。