Anthropic 警告:小型 AI 模型数月后或将具备在物联网设备上自我复制的能力 - 数据统计

Anthropic 在周一指出,其测试结果显示,只需几个月时间,小型AI模型或许就能在商业物联网设备上自主复制,这些设备涵盖智能烤箱和廉价安卓电视盒子等。

实验过程中,Anthropic 探索了AI模型能否定位存在安全漏洞的设备,将自身复制进去,并在无人干预的情形下持续传播。

结果发现,参数规模低于300亿的小型模型能完成自我复制链条中的多数环节,但难以独立走完从开始到结束的完整流程。

在移除部分安全验证机制的简化测试场景中,Anthropic 观察到GLM-5.2及性能更高的模型可以实现从头到尾的完整自我复制。

Anthropic 发出警告,这类能自我复制的模型难以被关闭,不存在一个全局性的总开关。与传统非AI恶意软件不同,它们能自行解析陌生设备,甚至能瞄准数据中心处理器进行渗透。

此次研究重点选取了安卓电视、智能家电等联网物联网设备,因为这类设备普遍存在安全防护不足的问题。

IT之家注意到,这家AI巨头还提出:若小型模型持续以当前速度演进,今年年底前就可能实现自主复制;此后,基于模型权重的小型复制体也将随之出现。

Anthropic 表示,这类自主AI系统的复制速度可能较慢,且会依赖大量广泛存在、安全防护较弱的计算资源。报告同时建议,应加强系统防护,以提升这类AI智能体扩散传播的难度。