アンソロピック（Anthropic）は、小規模なAIモデルが家庭用のIoT機器上で自己複製できる水準に達するまで「数か月かもしれない」と警告する研究報告を公表した。ただし実機での完全自律の拡散は実証されておらず、報じたBleepingComputerは、この警告を差し迫った脅威に基づくものではないと位置づけている。確認された点、できない点、予測、対策を分けて整理する。
報告が想定する自己複製とは
報告が想定するのは、AIが自らを別の機器へ複製し、動作させる能力である。対象は、スマートオーブンや無名ブランドのAndroid TVボックスのような商用のIoT機器（ネットワークにつながる家電や小型機器）だ。
実験では、モデルが見慣れない機器を見つけ、ネットワークとしてつなぎ、AIモデルを動かせる状態に整えることができたという。
実験で確認できたこと
複数のモデルが役割を分けて使われた。Qwen3.5-9BとGLM-5.2がエージェント役となり、推論用のLlama3.1-8Bのセットアップと拡散を担当した。Gemma4-26B-A4Bは、無名ブランドのAndroid TVボックス15台に分散して動かされた。
Qwen3.5-9Bは、試験した9種類のハードウェアのうち8種類で、Llama3.1-8Bの実行に必要なソフトウェアのインストールと設定に成功した。GLM-5.2は、管理された模擬ネットワーク内の8ノードに5回中4回到達した。過去の試行データを保持すると、Qwenの成功率は45%から84%に上昇した。一方、Opus 4.8による助言では測定可能な改善は見られなかった。
ただし環境は簡略化されていた。対象機器が、認証なしのADB（Android Debug Bridge、Android機器を操作するための開発用機能）アクセスを公開していたためだ。
まだできないこと（制約）
実在のIoT機器上で、完全に自律した自己複製AIワーム（自ら広がる不正プログラム）は実証されていない。セキュリティを下げ、明示的な拡散目標を与えても、始めから終わりまでのワーム作成能力は示されなかった。GLM-5.2以外のモデルは、全工程を確実に完了できなかった。
推論処理も遅い。対象機器での所要時間は、Qwen3.5-9Bで28〜51時間、Gemma4-26B-A4Bで71〜150時間だった。Anthropicはこれが防御側に検知と対応の時間を与えるとしつつ、将来のモデルでは短くなりうると述べている。
同社の予測と対策
モデルが過去のペースで改善を続けた場合、2026年末までにパラメータ数（モデルの規模を示す数値）が300億以下のモデルが必要な能力水準に達しうるという。拡散は遅く、倍増時間は「数日」になる可能性があるが、中央の停止点がないため、遮断は難しい。
対策として同社が挙げるのは、次の項目である。
- 大規模モデルの転送の検出
- 機器間の異常な通信の検出
- ハニーポット（攻撃者をおびき寄せて調べるおとり環境）によるペイロード（送り込まれるデータ）の調査
- 感染した契約者（加入者）の隔離（原文は "quarantining infected subscribers"。単位が機器か回線かは記事に明記がない）
- IoTのセキュリティ初期設定の改善
今回の「数か月」は、Anthropicの研究に基づく警告であり、確定した事実ではない。実験は簡略化された環境で行われ、実機での完全な自律拡散は示されていない。一方で同社は、検知や隔離といった防御策を具体的に挙げている。
参考：Anthropic warns self-replicating AI could spread to your smart devices