フューチャー・オブ・ライフ・インスティテュート（FLI）が2026年7月7日に公表した「AIセーフティ・インデックス夏版2026」によると、評価対象の主要AI企業9社はいずれも最高でC+にとどまった。上位企業ほど以前に誓約した安全基準を後退させていることが判明し、業界全体の自主規制の形骸化が浮き彫りになった。
各社の評価結果
本報告書は7人の独立した研究者が担当し、9社を37の指標・6分野にわたって評価している。総合評価の結果は以下のとおりである。アンソロピック（Anthropic）が首位でC+、オープンAI（OpenAI）とグーグル・ディープマインド（Google DeepMind）がともにC、メタ（Meta）がD+だった。ジーエーアイ（Z.ai）とアリババ・クラウド（Alibaba Cloud）はD-、エックスエーアイ（xAI）・ディープシーク（DeepSeek）・ミストラル（Mistral）の3社はFの落第評価となった。
最大の問題として報告書が指摘したのは、安全誓約の撤回である。アンソロピック、オープンAI、グーグル・ディープマインド、メタの4社はかつて、AIが危険な能力水準に近づいた場合に開発を一時停止すると約束していた。しかし現在はその誓約を弱体化または撤廃している。評価パネルはこれを「ゴールポストを動かす行為」と批判し、業界全体の安全フレームワークを損なうと結論づけた。
存在論的安全性と軍事利用の懸念
次に低かったのは存在論的安全性の分野であり、全社でC-を超える評価はなかった。解釈可能性研究やチェーン・オブ・ソート（Chain-of-Thought）監視の取り組みは評価されたが、高度なシステムが人間の制御を逃れることを防ぐには不十分だと判断された。
軍事利用の拡大も懸念事項に挙げられた。以前は軍事目的の使用を広く禁じていた企業が、現在は軍との協力に積極転換している。アンソロピックについては民間人への被害に関わりうる軍事案件への関与が指摘された。
FLI議長のマックス・テグマーク（Max Tegmark）氏は「AI企業は崖に向かって疾走している」と警告した。同日ジュネーブで開かれた国連AI会議では、アントニオ・グテーレス（António Guterres）事務総長が「人類と機械の共存条件を設定できる最後の世代かもしれない」と述べた。
AI能力の競争が激化する中、企業の自主的な安全管理は後退を続けている。政府による実効的な規制がまだ整わない現状で、業界の自主規制が先に崩壊しつつあることを、この報告書は数字で示している。FLIの調査に参加する企業は増加傾向にあり、内部議論への影響も出始めているというが、根本的な方向転換には至っていない。国際的な枠組み作りが急がれる。
参考：AI companies retreat from safety pledges even as capabilities grow