Dario Amodei：オープンウェイトモデルに対する私たちの立場

オープンウェイトモデルに対する我々の立場 2026年7月27日 Anthropic最高経営責任者 ダリオ・アモデイ（Dario Amodei）執筆

ここ数日、オープンウェイトモデル（open-weights models）、特に中国発のオープンウェイトモデルを巡り、多くの議論が交わされている。一部の米国の高官が、米国企業による中国製オープンウェイトモデルの使用禁止を検討しているとの報道もある。これに対し、多くのテック企業がオープンウェイトモデルを支持する公開書簡に連署し、さらにはAnthropicが自社の商業的利益を守るためにオープンウェイトモデルの禁止を企てていると非難する声すら上がっている。私の過去の文章を読んだことがある人なら誰でも、私がこのような禁止令を効果的な施策とは考えていないことが分かるはずだが、誤解を生まないようここで明確に表明しておきたい。Anthropicはこれまで一度たりとも、オープンウェイトモデルに対する禁止令を主張したことはない。

危険な能力を持たないオープンウェイトモデルは一種の公共財である。それらを稼働させるために必要な計算能力を除けばコストはほとんどかからず、同時に企業、開発者、研究者に価値をもたらす。

保護主義的な禁止令では、私が最も懸念している国家安全保障上の問題を解決することはできない。具体的に、私には2つの悪夢のようなシナリオに対する懸念がある。半年前に私は『技術の思春期（The Adolescence of Technology）』という文章でこの2点について詳述した¹が、長年にわたりこの立場が一貫して変わることはない：

私が最も懸念しているのは、権威主義政府――単なる中国共産党（CCP）にとどまらず（もっともCCPは明らかに最も能力の高い脅威であるが）――が米国よりも強力なAIモデルを構築し、それを利用して永続的な軍事優位性を獲得するか、自国民に対して極めて深刻な弾圧を課すことである。この懸念は米政府内でも広く共有されている。バンス（Vance）副大統領は昨年のパリでの演説で、「権威主義政権はすでにAIを盗み出し、軍事、情報、監視能力を強化するために利用している」と警告した。また、米国情報機関が発表した『2026年度脅威評価』でも、「他の世界大国によるAI分野での力強い進展が、米国の経済競争力と国家安全保障上の優位性に挑戦している」と指摘されている。これらのモデルがオープンウェイトの形式で公開されているかどうかは重要ではなく、米国企業によって使用されているかどうかも同様に重要ではない。実際、最も危険なモデルとは、秘密裏に訓練が完了し、無人機用の中国人民解放軍や、監視・鎮圧用の国家安全部にのみ引き渡されたようなモデルである可能性が極めて高い。 私の2つ目の懸念は、強力なAIモデルがサイバー攻撃や生物兵器攻撃に悪用される可能性があり、深刻なアライメント（alignment）の問題が存在するかもしれないという点である。オープンウェイトモデルは、中国発であろうと他のどこ発であろうと、クローズドソースモデルに比べて高いリスクをもたらす可能性がある。なぜなら、それらに対する防護措置を講じたり、利用状況を監視したりすることが極めて困難であり、ウェイトが一度公開されてしまえば回収することができないからだ²。しかし、米国企業によるこれらのモデルの使用を禁止したところで、このリスクを解決することはできない。なぜなら、悪意を持つ者が合法的な米国企業である可能性は低いからだ。そのような禁止令は米国のAI企業を競争から守るだけだが、それが私の目的であったことは一度もない。

これらの問題に対処するため、私とAnthropicが一貫して提唱し続けている以下の3つの施策を、私は実際に支持している：

我々は先進的なチップやチップ製造装置を中国に販売すべきではなく、現在横行している密輸³や、こうしたチップを入手するためのあらゆる迂回手段を取り締まるべきである。中国本土の生産能力には限界があるため、スケーリング則（scaling laws）に基づけば、米国のチップがなければ中国は米国よりも強力なモデルを構築することはできない。これが第一の脅威を阻止する最も効果的かつ直接的な方法であり、同時に、米国法が及ばないモデルの訓練を妨げることで、第二の脅威への対処にも間接的に寄与する。 我々は工業化規模の蒸留（distillation）オペレーションを取り締まるべきである。ゼロからモデルを訓練するのと比較して、蒸留ははるかに計算効率の高い手法であり、中国がチップの数量だけでは本来支えきれない水準の、予想をはるかに超える強力なモデルを構築することを可能にし、それによってチップ規制を部分的に回避するものである。蒸留によってCCPが米国と同等、あるいはそれを超越するAI能力を獲得できるわけではないが、中国のフロンティア水準を米国のフロンティアのわずか数ヶ月遅れにまで縮めることが可能になる。確かに、こうした蒸留オペレーションに従事している企業の多くは実際にオープンウェイトモデルを公開している。しかし、「これらのオペレーションの背後にあるのは、フロンティア分野で米国を超えようとしている権威主義国家である」という事実と比較すれば、オープンウェイトそのものははるかにどうでもよいことである。我々はこうした行為を抑制するための政策的介入措置を講じるべきである。オープンウェイトモデルに対する全面的な禁止令は、正しい解決策でもなければ、我々が主張しているものでもない⁴。 能力が一定の水準に達したすべてのモデルは、オープンかクローズドかを問わず、強制的な安全性テストを受けるべきである。第二の脅威に対処するための最善の方法は、モデルが公開される前に、サイバーセキュリティ、バイオセキュリティ、およびアライメントに関するリスクを直接テストすることである。この考え方は実際には合意に近づいていると私は考えている。一方では、トランプ政権がここ数ヶ月この方向に向けて政策を推進していることに私は勇気づけられている。他方では、モデルがどの国の出身であれ、オープンであれクローズドであれ、最も能力の高いクラスに属する限りはこうしたテストを受けるべきである（同時に、スタートアップや学術界など能力の低いモデルは完全に免除する）という提案が業界から最近いくつか出されていることにも、同様に安堵している。オープンモデルが果たしてより高いリスクをもたらすのか、そしてそのリスクが軽減可能なのかどうかは、あらかじめ仮定するのではなく、テストを通じて結論を出すべきである。さらに、オープンウェイトモデルの安全性を向上させるための有望な手法はすでにいくつか存在する可能性があり、その中にはAE StudioとAnthropicがモジュール式訓練戦略に関して行った最近の共同研究も含まれている。指摘しておかなければならないのは、テストを真に有効なものにするためには、グローバルな規模で実施されなければならないということだ。つまり、CCPであっても参加する必要があるということである。これが実際に実現可能であると私は考えている。私が『技術の思春期』で書いたように、AI生物兵器の防止をめぐる限定的な協力は可能である。なぜなら、それもまた中国自身の利益に合致するからだ。

ここで件の公開書簡の話に移る。私はその書簡の中にある多くの見解に同意する。オープンウェイトはAI経済への参入機会を拡大し、少なくとも特定のユースケースにおいては競争を強化し、顧客により大きな自主性をもたらした。蒸留に関する懸念は、ターゲットを絞った法的・商業的枠組みを通じて解決されるべきであり、それは私が上で述べた施策にほかならない。しかし、私は書簡の中にある以下の主張には同意しない。すなわち、オープンウェイトモデルが防護措置の開発に必ずしもより資するという主張や、能力の広範な獲得が攻撃者よりも防御者にとって必ずや有利になるという主張である。私の見方では、事態は完全にその逆である可能性が少なくとも同様に存在する。例えば、生物学の分野には強力な攻防の非対称性が存在することを私は懸念している。十分に強力なモデルは、広く入手可能な素材を利用して、パンデミックレベルのウイルスを迅速に兵器化する可能性がある。一方、こうした病原体に対する防御は、最善のシナリオの下であっても、数年を要する取り組みである（私たちが「ワープ・スピード作戦（Operation Warp Speed）」で目撃したように）⁵。このような問題は、結論をあらかじめ仮定するのではなく、公開前の厳格な実証テストを通じて答えられるべきである。

私とAnthropicの立場を総括する。我々は過去においてオープンウェイトモデルというカテゴリ全体に対する全面的な禁止令を主張したことはなく、現在も将来も主張しない。それどころか、我々が注力すべきなのは以下の点である。すなわち、先進的なチップが権威主義政府の手に渡るのを防ぐこと、工業化規模の蒸留オペレーションを抑制すること、そして能力が一定の水準に達したすべてのモデル――オープンかクローズドかを問わず――に対して安全性テストの受けることを義務付けることである。

*編集者注（7月28日更新）：本文中で言及されているモジュール式訓練戦略に関する研究は、AnthropicとAE Studioが共同で行ったものであることをここに更新して説明する。