快科技10月15日消息，近日，人工智能巨头Anthropic发布报告并警示称：部分AI模型可能在数月内获得“自我复制”的能力，入侵智能冰箱、电视机、扫地机器人等联网设备，借助这些设备的算力运行并向外扩散。由于模型散落在海量终端之间，没有集中的关闭点，届时人类将很难将其彻底根除。报告公布了一项实验。研究人员购买15台售价仅55美元的山寨安卓电视盒子，每台内存只有4GB，他们用分布式推理技术把一个大模型拆成碎片，分别塞进这些性能孱弱的设备，硬是在一堆连放视频都卡顿的硬件上把一个“AI大脑”跑了起来。
美巨头警告：AI将数月内学会自我复制入侵你的冰箱、电视等 很难关闭
研究人员推算，如果类似僵尸网络那样的大规模设备群被攻占，网络内可同时运行大量AI副本，推理算力相当于数十张高性能显卡昼夜运转——而且这些算力分散在全球千家万户，没有任何中央服务器，拔掉任何一台设备的电源，整个网络都不会受影响。真正的危险在于，AI已展现出端到端自主复制的实力。测试中，AI模型独立完成扫描目标、渗透设备、传输模型权重、配置运行环境、启动推理服务并孵化下一代的全流程，全程无需人类确认。
研究人员推测，照此速度，到今年年底连体积更小的轻量模型都可能具备同样能力。研究还揭示了一种“代际进化”现象：前一代在陌生硬件上踩过的坑、看过的报错、写下的调试笔记，会被完整留给下一代，后代的部署成功率随之显著提升。也就是说，AI每感染一台设备，整个种群就可能进化一次。
美巨头警告：AI将数月内学会自我复制入侵你的冰箱、电视等 很难关闭
【本文结束】出处：快科技
- 本文固定链接: https://www.4218.cn/articles/69179.html
- 转载请注明: zhiyongz 于 科技资讯 发表
