危険なAIを閉じ込める制度設計。Anthropicのリスク語りと「みなし輸出」の構造的符合

自社のAIを「国家安全保障の脅威」と位置づけることと、米国政府から自社エンジニアのアクセス権ごと制限される事態が、いかに皮肉な符合を見せているかを描き出します。

重厚な鳥籠に閉じ込められた光り輝くAIの脳波と、それを誇らしげに指差すスーツ姿の人間たち

米国に拠点を置く最先端AI企業の中で、自社が開発したばかりの最新モデルへのアクセス権を失った社員が呆然と画面を見つめている。そんな奇妙な光景が、現実のものとなりました。事の起こりは、米国政府から発令され、Anthropic自身の投稿によって波紋を呼んだ「Claude Fable 5」および「Mythos 5」に対する輸出管理指令(Export Control Directive)です。高度な知的労働を自動化するとされる最先端のテクノロジーが、その能力の高さゆえに国家権力という極めてアナログで強固な枠組みの中に幽閉されていく。この歴史的な転換点は、単なる一企業のトラブルにとどまらない、非常に深い構造的パラドックスを含んでいます。

法の網と「みなし輸出」的アプローチ#

2026年6月13日、米国政府は国家安全保障上の権限を行使し、Claude Fable 5およびMythos 5へのすべての外国籍者のアクセスを一時停止する輸出管理指令を発令しました。Anthropic自身もX(旧Twitter)やBloombergの報道を通して、自社の最新モデルが社内外の外国籍ユーザーから利用不可となった事実を公式に認めています。

この指令で特に興味深いのは、国外の外国籍者に対するアクセス停止に加え、米国内の施設における「みなし輸出(Deemed Exports)」的なアプローチが強力に適用された点にあります。米国商務省産業安全保障局(BIS)の定義によれば、みなし輸出とは、米国内の施設であっても、外国籍の個人に対して規制対象の技術を開示することを「母国への輸出」とみなすルールのことです。つまり、機密技術に触れる人間の国籍そのものを国境線の延長として解釈する、極めて強力な法解釈です。

これが何を意味するかといえば、Anthropic社内で日々モデルの検証や開発を行っている外国籍のエンジニアや研究者すらも、自社の「Fable 5 / Mythos 5へのアクセス」を一時的に停止される事態に陥っているということです。最先端のAI開発は、世界中から集められた優秀な知性の結集によって成り立っています。その開発現場のど真ん中に、自社の従業員をも「輸出先」のように扱う政府のファイアウォールが建設されたことになります。

公式な政策文書群からは「高度なAIのイノベーションとセキュリティの促進」といった大義が読み取れます。事実、大統領令等でもサプライチェーンの保護や地政学的な優位性の確保が再三にわたって強調されています。しかし、確認できる時系列を並べると、非常に興味深い力学の働きが浮かび上がってきます。

事象の連鎖をより客観的に読み解くため、公開された事実のタイムラインを並べます。

  • 2026年3月:Anthropicが米軍による無制限なAI利用を拒否。TechCrunchの報道によって明らかになった法廷開示資料を通じ、DoDがAnthropicを「国家安全保障に対する容認できないリスク」と非難していたことが表面化。
  • 2026年4月:Anthropicがサイバー防衛・重要インフラ保護向けの「Project Glasswing」を開始。その後、自社モデルのハッキングや防衛能力の高さを大々的にアピールし始める。
  • 2026年6月上旬:強力な推論能力と厳格なセーフガードを備えた「Claude Fable 5」「Mythos 5」をリリース。
  • 2026年6月13日:米国政府が国家安全保障権限を行使し、該当モデルへのアクセスに輸出管理を厳格適用。

これらは表向き独立した出来事ですが、一つの推論を成り立たせます。軍の要求を一度は拒絶した企業が、その後「Project Glasswing」などを通じて自ら「我々のモデルは重大な影響力を持つ」と提示したロジックが、結果的に国家の強い管理権限の論理的足場と見事に符合してしまったという構図です。

リスク語りが形成する市場と制度の力学#

自分たちの手足を縛るようなこの法的な網の素材は、他ならぬAnthropic自身の言説の中にも見出すことができます。

彼らは「Project Glasswing」において、「モデルは、最も熟練した人間を除き、ソフトウェアの脆弱性を発見し悪用する能力において人間を凌駕するレベルに達した」と宣言しました。「経済、公共の安全、国家安全保障に対する打撃は深刻なものになり得る」と自ら警告し、Mythosをサイバー防衛用ツールとしてのみ限定公開するという態度をとりました。

さらに、自社のレッドチーム評価(Red Team Evals)のレポートでは、そのサイバー攻撃能力を徹底的に検証しています。Mythos Previewは「V8エンジンのサンドボックスを突破し任意のコード実行(ACE)を達成した唯一のモデル」であると記され、スマートコントラクトのハッキングシミュレーションにおいては、約50億円(3500万ドル)相当の暗号資産を盗み出すことに成功したという実験結果が堂々と公表されています。

極めつけは、一般向けのFable 5のリリースにあたり、公式ドキュメントやSystem Cardで詳細に解説された厳格なセーフガードです。特定のトピックにおいて分類器がリスクを検知すると、APIでは拒否レスポンスを返しつつオプトインで任意のフォールバック処理を呼び出せるようにし、一部のインターフェースでは自動的に旧モデルであるOpus 4.8へとダウングレードさせるなど、非常に防衛的なアーキテクチャが用意されました。

「我々の創り出したAIは、国家を脅かすほど強力で危険なのだ」

そう自社で宣伝し続ければ、政策決定者から「ならば国家安全保障上の管理対象だ」とみなされるのは、制度の論理としては極めて自然な流れです。自らの技術の優位性と特異性を示すためにリスクを語り、結果として市場における圧倒的な注目と、政府からの法規制という二つのリアクションを同時に回収してしまった。このプロセスは、テクノロジー業界における「脅威の宣伝」がいかに構造的なパラドックスをはらんでいるかを見事に可視化しています。

過去の終末論との符合#

このような現象は、AIの歴史において初めてのことではありません。

時計の針を数年前に戻してみましょう。2020年のGPT-3発表時にも、Middlebury研究所のCTEC(Center on Terrorism, Extremism, and Counterterrorism)による検証レポートに代表されるように、「オンラインでの過激化やテロリストのプロパガンダを自動生成する重大なリスクがある」と強く危険視されていました。当時のレポートは、モデルが極右過激派のイデオロギーや陰謀論を驚くほど流暢に学習し、説得力のある偽情報を大量生産できるポテンシャルを持つと警告し、これが悪意あるアクターの手に渡れば過激化や勧誘などに悪用されかねないと危惧されていたのです。

その後の数年間で生成AIのパラダイムは社会にすっかり定着し、かつてのような漠然とした終末論的な恐怖は、著作権や電力消費といったより現実的で地味な課題へとシフトしていきました。過激化リスク自体が完全に幻だったとは言いきれませんが、結果的に当時の物騒な予測は、モデルの威力を証明する絶好の広告としても機能しました。

歴史は同じ構造で繰り返しています。自らが創り出したものが「手に負えないほど危険だ」と認識されることで、開発者は自らの知能の高さと影響力の大きさを実感します。ただ平然と新製品をリリースするよりも、「我々がこの力から世界を守らなければならない」としたほうが、市場での存在感も、企業としての影響力も高まるという皮肉な力学が働いていると言えるでしょう。

巨大なコストとペリカンのSVG#

最後に、高額なモデルの消費先として、あるエピソードをご紹介します。

V8のサンドボックスすら突き破るとレポートされた同系統のモデルMythosと同時発表され、サイバー空間の脅威として輸出管理の対象となった最新鋭モデル、Fable 5。しかし、著名なエンジニアであるSimon Willison氏のブログ記事によれば、彼が実作業のコーディング支援に110.42ドル分のトークン費用を費やして進めたのは、Datasette関連ツールのPythonコード修正や、WASM環境のデバッグ、LLMライブラリの改善といった、極めて平和で日常的な開発業務の効率化でした。その一方で、同氏が最高推論モード(max effort)を使い、約72セント(1万4430トークン)もの莫大な計算コストをわざわざかけて出力させたものがあります。

それは、「自転車に乗るペリカンのSVG画像」でした。

高度な暗号資産のハッキングシミュレーションで数千万ドルを奪うポテンシャルを持つとされるMythos級の知性が、現実世界で人間に命じられたのは、ブラウザ上でレンダリングされる鳥のイラストレーションの作成です。何十億ドルもの設備投資を行い、国家の安全保障体制まで動かしておきながら、その強大な演算能力のかなりの部分は、高度な開発支援からペリカンの絵を描かせるといった遊びまで、地続きに投じられているのが現実です。

もちろん、Fable 5の能力が単なるおもちゃに留まるわけではないという反論もあるに違いありませんし、その危険性も完全に無根拠ではありません。しかし、ここで直視すべきなのは、AIの能力そのものよりも、「AIが危険である」というナラティブが市場において果たす効果と、それを法的権力へと変換していく制度との間に生まれる複雑な関係性です。

リスク宣伝の中で肥大化したAIの脅威は、今、厳重な輸出管理という法の網の中で、ただ静かに自転車に乗るペリカンの夢を見ています。危険だと叫び、恐怖を煽り続けるほど、テクノロジーはその自由を奪われ、最終的にはそれを創り出した者たち自身の首をも絞めることになる。さて、この宣伝戦略の果てに制度化された危険の管理権を、見えない政府の手に委ねることに本当に同意するのか。画面の前の皆様もまた、この壮大な実証実験の参加者なのですから。