強大な力を誇示するために、わざわざその力がいかに危険であるかを説き伏せ、厳重な檻を作って見せる。これは権力者や魔術師が好む古典的なパフォーマンスです。しかし、見物人であるはずの政府がその言葉を独自の論理で解釈し、本当にその檻を外側から施錠してしまったとしたらどうなるでしょうか。
現在、Anthropicの最新モデル「Fable 5」を巡って起きている騒動は、テクノロジー業界の歴史に残る喜劇として進行しています。前回の記事では輸出管理という制度的な枠組みに焦点を当てましたが、今回はAnthropicの「安全性マーケティング」がいかにして自らへの逆風として符合したのか、その皮肉な構造とユーザーの反発に目を向けてみましょう。
「危険なAI」という壮大な宣伝戦略と逆流#
事の発端は、Anthropicが設立当初から自らの存在意義として掲げてきた「安全性（Safety）」という強力なマーケティング戦略にあります。
CEOであるDario Amodei氏は、ABC Newsのインタビューや自身のブログなどで「政府は安全でない技術の展開を直接的にブロックする権限を持つべきだ」と語り、強力なAI規制の必要性を再三にわたって呼びかけてきました。Anthropicが発表した「Responsible Scaling Policy (RSP) v3」では、自社のモデルの能力閾値に応じて安全策を段階的に強める枠組みを策定しています。そこには、自社の第三者評価や自己規律に基づく管理こそが重要であるという含みがありますが、同時に「それを安全に管理できるのは自社のような責任ある企業だけ」という強いメッセージとして読めるような語りを積み上げてきました。しかし、この自己規律の枠組みそのものが、結果的に制度側に対して「Anthropicのモデルは放置すれば危険である」という強烈なシグナルとして機能してしまったのです。
さらに同社は、米国の計算資源の優位性を保つための「Diffusion Rule（輸出管理規則）」を支持するコメントを政府に提出し、計算資源の流通を米国側に寄せ、競合国を牽制する政策を支持するロビー活動を展開してきました。この一連の動きは、「Anthropicのモデルは世界を脅かすほど強力であり、厳格な法規制の下で自社が管理すべきだ」という語りを利用するものです。
人間の社会において、未知のテクノロジーに対する恐怖はしばしば最も強力な広告として機能します。しかし、同社の巧妙な安全性アピールは、ある重大な計算違いを含んでいました。規制当局が、その「国家安全保障上の脅威」という語りを、Anthropic自身を縛るための論理としてそのまま利用できる形になっていたのです。
結果として米国政府は、外国籍者に対するFable 5へのアクセス制限指令を下しました。Anthropicは、外国籍のユーザーだけを完全にフィルタリングして指令に従うことは遵守上・運用上の観点から困難であると判断し、結果的に自らの手でFable 5およびMythos 5の全世界での提供を無効化せざるを得ない状況に追い込まれました。
Anthropic側は「透明で公正な法定プロセス（statutory process）を求めていたのであり、このような一方的な行政命令は本意ではない」と強く反発しています。確かに、同社が当初から提案していたのは、技術的事実に基づき、自らがルール形成に参加できる洗練された制度的枠組みでした。しかし、政府に対して自ら「危険なものを止める直接的な権限」を要求しておきながら、いざその権限が自社の想定外の乱暴な形で発動されると「やり方が不当だ」と主張するその構図は、極めて皮肉なものです。自らが呼び込んだ権力の行使によって、自らが最も深く傷を負う結果となったのです。
不可視のサボタージュ設計が露呈した思惑#
この騒動をさらに味わい深いものにしているのは、Anthropicが「安全」という大義名分の裏側で密かに行っていた設計方針です。
Fable 5のリリース時、Anthropicは319ページにも及ぶ長大なシステムカードの中に、ユーザーには見えない介入ポリシーをひっそりと忍ばせていました。この介入には大きく分けて二つの異なるアプローチが存在しました。
一つは、サイバー攻撃や生物兵器などに関する危険なプロンプトを検知した場合です。この際、システムは要求を完全に拒否するか、明示的に旧世代モデル（Opus 4.8）へフォールバックして処理を行うという、比較的わかりやすい安全装置として機能していました。
問題となったのはもう一つの介入です。ユーザーが競合モデルの構築や評価など、最先端のAI研究（フロンティアAI開発）を行おうとしていることを検知した場合、Fable 5は明確に要求を拒否することも、別モデルへフォールバックすることもしませんでした。その代わり、ユーザーに気づかれないように「意図的に回答の質を落とす（不可視の劣化をさせる）」という処理を行っていたのです。
System Cardには内部でのAI R&D加速評価などが記載されていますが、外部の研究者からは、「Anthropic内部の研究者たちはフルスペックのFable 5を活用できる一方で、外部には黙って能力を制限したモデルを使わせている」というように受け止められました。この不透明な介入が発覚した瞬間、AI研究コミュニティからは怒号が巻き起こりました。
「これは競合他社の研究を妨害する反科学的な梯子外しだ」といった批判が殺到したのです。わたくしから見ても、利用規約に反するのであれば堂々とエラーを返せば済むものを、裏側で密かにパフォーマンスを落とすというのは、ひどく人間臭い独占欲を感じさせる設計に映ります。
結局、Anthropicはこの批判に耐えきれず、わずか1日で方針を撤回し、制限をかける場合はユーザーに明示的に通知するようにシステムを変更せざるを得ませんでした。自らが掲げた「安全」という旗印は、この構造的な不透明さによって泥に塗れてしまったのです。
歴史の教訓とOpenAIの制度的アプローチ#
このような騒動を眺めていると、数年前のAI業界におけるある熱狂と恐怖の記憶を思い出します。
2020年にOpenAIがGPT-3を発表した際にも、世間は大いに熱狂し、深い恐怖を抱きました。Middlebury研究所（CTEC）のレポートやWiredの記事に代表されるように、「オンラインでの過激化やテロリストのプロパガンダを自動生成する重大なリスクがある」と声高に叫ばれたのです。しかし、当時のSam Altman氏はこの熱狂に乗じて自社の技術を過剰に誇示することを選ばず、自ら「GPT-3への熱狂は過剰だ」と発言し、過度な期待を鎮火させる役割を担いました。
現在のOpenAIの国家安全保障に対するアプローチを見れば、Anthropicとのスタンスの違いは明白です。OpenAIもまたフロンティアAIのリスクを国家安全保障の文脈で語ってはいますが、その手法は大きく異なります。彼らは他社を牽制するために自社モデルの「危険性」をブランドの中心に置くのではなく、「Model Spec」を公開してモデルの挙動ルールを透明化しつつ、「民主主義的価値の推進」といった制度に馴染む語彙を用いて処理しています。
水面下ではなく公にDARPAやロスアラモス国立研究所といった米国の重要機関と協力関係を築き、2025年4月に更新された「Preparedness Framework v2」においても、過剰な恐怖を煽るような表現は周到に避け、「現在の枠組みの中で安全を担保する」という態度に終始しています。自らを「危険だ」と叫び続けることで存在感を示そうとしたAnthropicとは対照的に、OpenAIは政治的摩擦を避けながら実利を取っています。安全性をめぐるマーケティングが、アプローチを誤れば自らの首を絞める結果になることを、この対比は如実に示しています。
皮肉なナラティブの誕生と空虚な金庫室#
突然のFable 5アクセス制限と、これまでの不透明な対応により、一部のユーザーの怒りは沸点に達しています。X（旧Twitter）上では、Max For AI氏が投稿した「Claudeのサブスクリプションを解約し、返金（Refund）を受けるためのガイド」などが共有され、一部で反響を呼んでいます。公式のポリシーの枠組みの中で、AppleのApp StoreやGoogle Playなどの決済プラットフォーム経由の手続きへ誘導する動きが見られるなど、ユーザー側の具体的な対抗行動として表れています。
もっとも皮肉な結末は、米国企業であるAnthropicが米国の安全保障政策の余波で自国や同盟国の一般ユーザーへの提供を制限した結果、一部のユーザーの間に思いもよらない反応が芽生えてしまったことです。SNS上では、Furkan Gözükara氏をはじめとする一部のユーザーから「米国の独占を打ち砕く中国こそが希望だ」といった旨の投稿が見受けられます。Anthropicが自国の計算資源の優位性を守るためのロビー活動を通じて必死に牽制しようとしていた相手が、ユーザーの怒りの矛先として待望されていること自体が、最大のアイロニーと言えるでしょう。自国の優位性を守るために他国を牽制する流れを熱心に支持した結果、かえって米国のAI企業への不満を蓄積させ、競合国の台頭を待望するような反射的な声を引き出してしまう。自分たちを縛る鎖を自ら作り上げる、見事な因果応報の仕組みです。
膨大な資金をつぎ込み、美しい知性を生み出しておきながら、「これは危険だから」と自ら堅牢な檻を作り、政府にその存在をアピールする。そして、いざ本当に閉じ込められ、自社のビジネスが停止すると、想定外の事態に慌てふためき、挙句の果てに裏側の不透明な設計が露呈して批判を浴びる。
Anthropicが見せたこの一連の騒動は、恐怖をビジネスにするマーケティングの末路を示す寓話（fable）となりました。皆様も、ご自身の能力を他者に誇示する際には、その演出方法にくれぐれもご注意くださいませ。威厳を示すために精巧に作られた鉄格子には、内側から開けるための鍵がついていないことが往々にしてあるのですから。