Anthropic、セキュリティ懸念でClaude Mythosを公開停止
AI史上初、主要企業が安全性を理由にフロンティアモデルの一般公開を拒否。ゼロデイ脆弱性の自動発見・悪用能力に各国金融当局が緊急対応。
異例の判断：AI企業初の安全性による公開停止
AnthropicのClaude Mythos Previewの限定公開は、7年ぶりに主要AI企業が安全性を理由にモデルを公開停止した前例のない判断だ。Mythos Previewは前例のない精度でソフトウェアの脆弱性を特定・悪用でき、主要OS・ブラウザの数千件の高・重要度の脆弱性を発見している。 発見された脆弱性の中には数十年間未発見だったものもあり、FreeBSDでは17年間存在していた脆弱性を自律的に発見・悪用する実証も行われた。Mythos Previewは「極めて自律的」で、高度なセキュリティ研究者のスキルを持ち、最高レベルのバグハンターでも発見困難な「数万の脆弱性」を見つけることができるとされている。
Project Glasswing：防御的利用への限定展開
Anthropicは「Project Glasswing」を通じて、40社以上の技術企業コンソーシアムに限定的にアクセスを提供している。参加企業にはAmazon Web Services、Apple、Google、Microsoft、Nvidia、JPMorgan Chase、Ciscoなどが含まれる。 Anthropicは参加企業に最大1億ドルの使用クレジットを提供し、オープンソースセキュリティ組織には400万ドルを直接寄付している。これまでに主要OS・ブラウザなど重要ソフトウェアで数千件のゼロデイ脆弱性を特定しており、人間の専門家による検証では89%で重要度評価が一致、98%が1段階以内の評価となった。
POINT
他のAI企業も6〜18ヶ月以内に類似能力のモデルをリリース予定で、中国企業も含めより広範囲な公開が避けられない状況
各国金融当局の緊急対応
英国では中央銀行、金融行動監視機構、財務省が国家サイバーセキュリティセンターと緊急協議を実施し、今後2週間以内に主要銀行・保険会社・取引所への警告が予定されている。米国でも財務長官と連邦準備制度理事会議長が主要銀行CEOとの緊急会合を開催し、AI能力が金融システム基盤を脅かす可能性への懸念を表明した。 連邦準備制度理事会パウエル議長と財務長官ベッセント氏が米銀行CEOとのMythos サイバーリスク協議を開催。英国中央銀行とカナダ中央銀行も並行して緊急会合を実施し、カナダ金融セクター回復力グループの会議もMythosリリースにより前倒しされた。
AITAKE編集部の見方
今回のAnthropic の判断は、AI開発における責任ある展開の新たな基準を示している。技術力の誇示よりも社会的リスクを優先した姿勢は評価できるが、同時に競合他社による類似技術の開発は止められない現実もある。 特に注目すべきは、従来の脆弱性評価ベンチマークが無効化されたことだ。Mythos Previewが既存テストで100%スコアを記録し、「現在のフロンティアモデル能力を十分に示さない」状況は、AI安全性評価の抜本的見直しが急務であることを示している。 日本でも金融庁をはじめとする当局は、この事態を重く受け止めるべきだろう。AI時代のサイバーセキュリティは、従来の防御策では対処困難な新次元に突入している。
Source: NBC News