これは日本語版です。韓国語版と 英語版もご覧いただけます。

AI開発は減速すべきか――安全協調と独占禁止法がぶつかる理由

2026-09-22 · AI · 日本 · Zoogom編集部

#AI安全#Anthropic#独占禁止法#フロンティアAI#シャーマン法

安全確認の関門へ向かうフロンティアAIの開発レーンと、協調と競争を量る独占禁止法の天秤

フロンティアAIを開発する企業が、安全のためにそろってペースを落とした場合、それは責任ある協力なのか。それとも、競争相手どうしが製品の改善を抑える取り決めなのか。2026年9月、この問いは政策論にとどまらず、米国の連邦裁判所で争われる問題になった。

ここで最も重要なのは、安全策の提案、経営者による公開の賛同、法的拘束力を持つ企業間合意は、それぞれ別のものだという点である。

Anthropicの最高経営責任者Dario Amodeiは9月12日、AI開発のペースを段階的に管理する構想を公表した。その後、OpenAIのSam Altman、SpaceXAIのElon Musk、Google DeepMindのDemis Hassabisが、その方向性や一部の措置に賛同する趣旨の反応を示した。一方、MetaのMark ZuckerbergとNVIDIAのJensen Huangは、業界全体で減速する方式より、各社が独立して責任を負う考えを重視した。

そして9月18日、ChatGPT、Claude、Grok、Geminiの有料利用者4人が、Anthropic、OpenAI、SpaceXAI、Googleを相手取り、集団訴訟として扱うことを求める訴えを起こした。ただし、訴状が提出されたことと、違法な合意が裁判で認定されたことは同じではない。

要点

  1. Amodeiの提案は、すべてのAI研究をただちに停止する案ではない。外部評価、民主主義国での安全協調、検証可能な国際協力へと進む3段階の構想である。
  2. 米国の訴訟は、公開発言やそれ以前の接触が競争制限の合意を示すと主張しているが、合意の存在や消費者への損害はまだ認定されていない。
  3. 共通の安全試験や事故報告の仕組みは監督を助け得る一方、発売時期、供給量、価格、製品改善の速さを競合企業がそろえると、独占禁止法上の問題が生じやすい。

各社の立場はどこで分かれたのか

関係者ごとの公開見解、中心となる手段、現時点で区別すべき事実関係

公開されている立場を整理すると、争点は「安全を重視するか、しないか」ではない。安全を確保する責任を、各社の自主判断、政府による規制、企業間の共通ルールのどこに置くかが分かれている。

こうした公開見解だけから、法的な合意が成立したと結論づけることはできない。方向性への賛同と、競争上の行動を拘束する契約や協定との間には、法的にも事実認定の面でも大きな隔たりがある。

Amodeiが示した3段階の構想

Dario Amodeiの公開文書は、フロンティアAIのペース管理を三つの段階に分けている。

第1段階は、各研究所が独立した外部評価者を内部に受け入れることだ。完成済みのモデルを一度だけ試してもらうのではなく、社内のリスク評価チームに近い形で、作業環境、評価ツール、担当者、必要な情報へ継続的にアクセスできるようにする。Anthropicは、この段階について自社だけでも進める意向を示した。

第2段階では、民主主義国の企業間で共通の安全基準を整え、能力向上を無制限に進めない仕組みを検討する。例えば、モデルが所定のリスク水準に達した時点でいったん立ち止まり、評価、解釈可能性の分析、学習環境の監査などを通過してから次の段階へ進む「能力チェックポイント」が考えられている。

第3段階は、中国を含む地政学上の競争相手との国際協力である。ただし、最初から世界共通の全面停止を目指すのではなく、サイバー攻撃、生物学的リスク、AIの制御や整合性に関する試験など、比較的範囲を絞り、実施状況を検証しやすい分野から始める考えだ。

Amodei自身も、研究所をまたぐ協議には政府による仲介や限定的な法的措置が必要になり得ると認めている。また、世界的な全面停止については、秘密裏の開発を見つけることが難しく、一部の参加者が離脱する誘因もあるため、近い将来の実現は困難だとしている。

したがって、この構想を「AI企業が開発停止に合意した」と要約するのは正確ではない。公表されたのは段階的な提案であり、すべての段階が実施されたわけでも、企業間の法的合意が確認されたわけでもない。

なぜ継続的な外部評価が最初に置かれるのか

独立評価、事故報告、能力チェックポイントを通って公開へ進むAIの学習工程

モデルカードや安全報告書が公開されても、企業が何を試し、何を試験対象から外したのかを、外部から十分に確かめられるとは限らない。完成したモデルだけを短期間評価する方式では、学習パイプライン、隔離された実験環境、インシデント対応、日常的な運用管理まで確認することは難しい。

継続的な外部評価者は、製品の判断を企業に代わって行う存在ではない。企業内部へ一定のアクセスを持ちながら、安全方針と実際の運用が一致しているかを検証する監督者に近い。

この仕組みには、事故や重大な発見を報告できる経路が必要になる一方、サイバーセキュリティー、法的秘匿特権、第三者の機密情報を守る範囲も設定しなければならない。安全性を高める目的だけでなく、どの情報へ誰がアクセスし、何を外部へ報告できるのかという制度設計が重要になる。

米国の集団訴訟は何を主張しているのか

Buist v. Anthropic, PBC、事件番号3:26-cv-10693は、2026年9月18日に米国カリフォルニア州北部地区連邦地方裁判所へ提出された。Tech Policy Lawの訴訟記録概要によれば、原告はChatGPT、Claude、Grok、Geminiの有料加入者4人で、9月12日以降に米国で直接サービスを購入した利用者を代表する集団を提案している。

原告側は、経営者らの公開発言に加え、7月から会合を始めたとされる作業グループが、競合するAI製品の改善速度を抑える合意を示していると主張する。シャーマン法第1条違反を訴え、差し止めとクレイトン法に基づく3倍賠償を求めている。

一方、原告は、個々の企業が独自に安全対策を決めることや、政府に規制を求めること自体を争っているわけではないとしている。

現時点で確定しているのは、訴えが提出されたこと、当事者、裁判所、事件番号、請求内容などの手続き上の事実である。競合企業間に契約、結合、共謀が存在したのか、関連市場をどう定めるのか、競争や消費者にどのような影響があったのか、安全上の利益をどう評価するのかは、証拠に基づいて審理される必要がある。

報道時点で被告企業から即時の回答が示されていなかったという事情もある。したがって、「4社が談合した」「安全協力が違法と判断された」と現在形で断定するのは適切ではない。

共通の安全基準と製品カルテルは同じではない

共通の安全試験や事故報告と、発売時期・価格・供給量の協調を分ける法的な天秤

競合企業であっても、事故の分類、外部試験の手順、脆弱性を安全に知らせる経路などを共通化する必要が生じることはある。誰でも利用できる技術基準であれば、監督や比較を容易にし、新規参入企業にも役立つ可能性がある。

しかし、発売日、供給量、料金、顧客、投資計画、製品をどの程度の速さで改善するかといった競争上重要な事項までそろえると、性質は変わる。安全を掲げていても、競合企業が市場での行動を調整すれば、独占禁止法上の検討対象になり得る。

安全協力を実務として設計するなら、少なくとも次の境界が必要になる。

政府が関与すれば、あらゆる企業間合意が自動的に適法になるわけではない。ただし、法律や行政規則によって同じ最低義務を一律に課す方式は、一部の有力企業だけで市場全体のペースを決める場合とは異なる。

消費者の損害をどう測るのか

原告側は、AIサービスの継続的な改善も月額料金で購入する価値の一部だと捉えている。競合企業が共同で改善速度を落とせば、本来の競争が生み出したはずの価値を加入者が受け取れなくなる、という考え方だ。

これに対しては、そもそも合意が存在したのか、能力向上の速さが契約上約束されたサービス量といえるのか、慎重な公開によって品質や安全性が高まり、利用者の価値が増える場合をどう扱うのか、といった論点が残る。

AIモデルの更新は同一単位の商品ではない。ベンチマーク性能の向上、コンテキストの拡大、危険な出力の減少、ツール利用の安定性は、いずれも異なる改善である。競争制限によって利用者が実際に不利益を受けたかどうかは、単純な公開回数の比較ではなく、具体的な証拠によって判断される問題だ。

国際協力には検証可能性の壁がある

Amodeiの構想は、中国との競争も制約として扱っている。民主主義国だけが大幅にペースを落とせば、検証できる技術的な優位を失う可能性がある。より強い国際的な制限を成立させるには、秘密の開発を発見できるほど実効性のある査察や確認方法が必要になる。

そのため、国家安全保障に関わるAI事故の通知や、サイバー・生物学的リスクの試験といった限定的な協力は、世界共通の「開発速度制限」より対象と手順を定めやすい。一般的な能力向上の速さを制限するには、何を速度として測るのかについて合意し、企業や政府が公開したがらない学習活動まで確認する必要がある。

日本の読者がニュースを見分けるポイント

この問題を読む際は、次の六つを分けると理解しやすい。

韓国語版が比較対象として参照した制度では、韓国の公正取引法第40条が、事業者間の合意による価格、取引条件、生産、出荷、取引、事業活動などの不当な制限を禁じている。一方、韓国の人工知能基本法第32条と同法施行令第24条は、一定の高性能AIについてリスクの特定、評価、軽減、安全事故の監視を求める枠組みを設けている。

これは日本法についての説明ではないが、安全義務と競争法上の規律を同時に考える必要があるという論点を示している。本稿の資料には日本の法制度に関する根拠が含まれていないため、日本での適法性については断定しない。

実用的な結論

フロンティアAIをめぐる選択肢は、「速く開発するか、安全を守るか」の二者択一ではない。各社だけに任せれば、安全対策の比較や外部検証が難しくなる。一方、競合企業が一緒に動けば、安全協力が製品供給や改善速度の調整へ広がるおそれがある。

現実的な設計は、政府が定める最低限の義務、企業から独立した継続評価、誰でも利用できる技術基準、各社による商業判断の独立を組み合わせることだ。企業がリスク情報を共有する場合は、会議の目的だけでなく、共有データの範囲、参加者、監督方法、最終的な決定権まで明確にする必要がある。

今回の米国訴訟は、安全協力そのものが違法だと確定した事件ではない。また、被告4社が違法な協定を結んだと認定された事件でもない。現段階で言えるのは、安全という目的を掲げても競争法の検討は不要にならず、協力の手続きと情報境界を安全評価そのものと同じくらい慎重に設計しなければならない、ということまでである。

出典と利用について

本稿は、公開された提案文書、訴訟記録の概要、報道、法令資料をもとに、事実、公開見解、原告の主張、未確定事項を区別して独自に構成した。裁判所による結論は示されておらず、訴状の内容を確定事実として扱っていない。出典に掲載された写真、図表、製品画面、ロゴは転載していない。

出典: Dario Amodei · 独自の画像・図版を含みます

あわせて読みたい記事