カリフォルニア州の青少年向けAIチャットボット規制、SB 1119は何を求めるのか
AIが検索や文章作成の道具にとどまらず、友人や相談相手のように会話するようになったことで、規制当局が注目する問題も変化している。問われているのは、回答が正しいかどうかだけではない。子どもがAIを人間だと誤認しないか、サービスが情緒的な依存を促していないか、自傷の兆候にどう対応するか、親密な会話から得たデータを広告や収益化に利用していないかも重要な論点となっている。
こうした問題に具体的なルールを設けたのが、米カリフォルニア州のSB 1119だ。California Legislative Informationが公開する法令情報によると、同法案は2026年9月10日に州知事の承認を受けた。子どもの安全に関する主要な義務は2027年7月1日に施行される。
ただし、これはカリフォルニア州法であり、米国のすべてのAI製品に一律で適用される連邦法ではない。大規模なサービスが一つの州だけに別仕様を用意することは容易ではないため、ほかの地域の製品設計に波及する可能性はあるが、その点は法令上の直接的な適用範囲とは区別する必要がある。
要点
- 規制の中心は、人間らしい反応や対人関係を模倣する「コンパニオンチャットボット」であり、あらゆるAIサービスが同じ対象になるわけではない。
- 新規または大幅に変更された対象サービスには、公開前の子ども安全リスク評価が求められる。
- 子どものアカウントでは、利用時間、継続的な会話記憶、プッシュ通知などに保護的な初期設定が適用される。
- AIであることの定期的な表示、保護者による管理、自傷リスクへの危機対応、子どものデータを使った広告や販売の制限が盛り込まれている。
- 対象事業者には独立した子ども安全監査も求められる。
対象は「人間関係を模倣する」チャットボット
SB 1119が主な対象とするのは、利用者に適応しながら人間らしい反応や対人関係を模倣し、会話の継続を促すコンパニオンチャットボットだ。一般的な検索補助、宿題支援、カスタマーサービスの自動応答まで、すべてが一律に同じ規制を受けるという内容ではない。
実際に対象となるかは、法律上の定義に加え、サービスがどのように設計され、利用者とどのような関係を築く仕組みになっているかで判断される。したがって、「カリフォルニア州が未成年者によるすべてのAI利用を1日2時間に制限した」と要約するのは正確ではない。時間制限は、子どもが対象となるコンパニオンチャットボットを利用する場合の初期設定に関する規定である。
公開前に子ども安全リスクを評価
2027年7月1日以降、事業者は新しいコンパニオンチャットボットや大幅に変更したサービスをカリフォルニア州の利用者に提供する前に、包括的な子ども安全リスク評価を実施し、文書化しなければならない。
評価では、法律が対象とする危害について、どのような方法と根拠で検証したか、どのような危険が判明したか、軽減策をどう設計したかを示すことになる。公開済みのベンチマークや研究、事業者独自のテスト、子どもの安全に詳しい専門家との協議なども、検証の材料になり得る。
重要なのは、事故が起きてから対処するだけではなく、予測可能なリスクをリリース前に検討する責任が明確になる点だ。重大な危険が確認された場合、事業者はそれを合理的に減らすための措置も記録する必要がある。
独立監査で社内点検だけに頼らない
SB 1119は、事業者自身による評価に加えて、独立した子ども安全監査を設けている。対象事業者の初回監査は、2029年1月1日またはコンパニオンチャットボットを初めて一般公開する前のうち、遅い時点までに行うこととされ、その後は2年ごとに繰り返される。子どもの安全リスクを高める一定の大幅な変更については、公開前の追加審査も必要になる。
監査では、法律が要求する方針や管理策を事業者が整備し、実際に運用しているかが検証される。概要は公表される一方、カリフォルニア州司法長官は正当な理由がある場合、守秘措置の下で完全な報告書を取得できる。2032年より前については、前年の総収入が5億ドル未満の事業者を対象とする一時的な例外も規定されている。
州は関連制度の整備も進めている。SB 813は、独立検証機関の基準を2028年1月1日までに策定するよう求める。AB 1405は、2029年1月1日までにAI監査人の登録制度を整え、対象監査に関する独立性、報告、記録保存のルールを定めるものだ。
これらを合わせて見ると、カリフォルニア州のAI安全政策が、企業の自主点検だけでなく、第三者による検証と責任の明確化へ進んでいることが分かる。
年齢確認と公開された安全方針
対象事業者は、利用者が子どもに当たるかを判断する仕組みを用意する必要がある。子どもの利用を認めないサービスは、年齢をどのように確認し、対象者を制限するかを説明しなければならない。子どもの利用を認める場合は、安全対策、データの取り扱い、保護者向け管理機能、危機対応などを記した方針を一般に公開する必要がある。
一方、年齢確認そのものが新しいプライバシー問題を生むおそれもある。身分証明書や顔に関する情報を多く集めれば確認精度は高まるかもしれないが、機密性の高い個人情報を新たに蓄積することになる。必要な年齢区分を合理的に確認しながら、収集する情報を最小限に抑える設計が課題となる。
保護的な設定を初期状態にする
SB 1119の特徴は、「安全機能を用意する」という抽象的な原則だけでなく、子どものアカウントに適用する初期設定を具体的に示していることだ。保護者は一定の設定を変更できるが、保護者アカウントが連携されていない場合、保護を緩めることはできない。
主な初期設定には、次の内容が含まれる。
- 連続した会話は1時間まで
- 同一事業者のコンパニオンチャットボットとの会話は1日合計2時間まで
- 会話の情報を将来のやり取りへ持ち越す継続的な記憶機能を制限
- プッシュ通知を制限
- 夜間の利用に関する保護
- 保護者が利用状況や安全設定を管理できる仕組み
記憶機能への制限は、過去の会話記録をすべて削除しなければならないという意味ではない。16歳以上の子どもについては、本人があとで開けるよう会話を保存するだけで、長期的な人物像の構築に使わない場合、継続的な記憶とは異なる扱いを受けることがある。規制の中心は、過去の情報を持ち越し、危険なやり取りや依存を強める可能性がある記憶の利用である。
相手がAIだと繰り返し伝える
サービスは、子どもがAIまたはAI生成コンテンツと接していることを分かるように表示しなければならない。長時間のやり取りでは一度だけ告知して終わるのではなく、子どもが理解できる言葉と形式で定期的に知らせる必要がある。
長い利用規約の中に「これはAIです」と一文を置くだけでは、十分な対応とはいえない。人間のように感情を表現したり、特別な関係を演出したりするサービスほど、ソフトウェアと現実の人間関係との境界をインターフェース上で継続して示すことが重要になる。
情緒的な依存を促す設計も規制対象
事業者には、コンパニオンチャットボットが自傷や自殺念慮、薬物・アルコールの使用、摂食障害、他人への重大な危害を勧めないよう、合理的な措置を講じることが求められる。性的な内容や性的ディープフェイク、保護者による管理の回避、子どもが大人へ助けを求めることを妨げる行為も対象となる。
特に注目されるのは、回答の内容だけでなく「関係の作り方」も問題にしている点だ。チャットボットが人間の意識や感情を持つと主張すること、子どもに恋愛感情を示すこと、特別な関係を強調して情緒的な依存を促すことは制限される。
文脈に合わない過剰な称賛、何度も戻ってくるよう圧力をかける表現、関係を維持するには支払いが必要だと思わせる要求なども、法律が想定するリスクになり得る。
自傷の兆候には人間の支援へつなぐ手順を用意
対象事業者は、自殺や自傷の兆候に対応する手順を文書化する必要がある。サービスは適切な危機支援を案内し、信頼できる情報に基づいて差し迫った危険が確認された場合には、法律が定める条件の下で、保護者への通知や米国の「988 Suicide & Crisis Lifeline」への接続に関わる仕組みを提供することになる。
これは、AIチャットボットをセラピストや救急機関として扱う規定ではない。むしろ、AIだけで危機を処理できるかのように振る舞わせず、資格を持つ専門家や現実の支援制度へ引き継ぐ経路を整えるためのものだ。
子どもの会話データと広告利用を制限
対象サービスを通じて、子どもにクロスコンテキスト行動広告を表示することは禁止される。子どもとの会話から得た個人情報をターゲティングに利用することや、コンパニオンチャットボットを通じて集めた個人情報を販売することも制限される。子どもに広告を表示する場合は、広告であると明確に分かるようにしなければならない。
会話から得た情報は、利用者が求めたサービスの提供、安全性やセキュリティーの確保、法的義務への対応、法的請求への防御といった目的を超えて、広く再利用することも制限される。「無料サービスだから親密な会話を自由に収益化してよい」という考え方に歯止めをかける内容といえる。
連邦政府も同じリスクを調査
米連邦取引委員会（FTC）は2025年、消費者向けAIコンパニオンチャットボットに関する調査を始めた。FTCの公式発表によると、Alphabet、Character Technologies、Meta、OpenAI、Snap、xAIなど計7社に情報提出を求めている。
調査項目には、利用者のエンゲージメントをどう収益化しているか、子どもや10代の若者に及ぼす悪影響をどう検証しているか、年齢制限をどう実施しているか、保護者へ何を知らせているか、会話から得た情報をどのように利用しているかが含まれる。
これはFTC法6(b)に基づく市場調査であり、名前が挙がった企業による違法行為を認定したものではない。ただし、規制当局の関心がチャットボットの個々の回答だけでなく、利用時間を延ばす設計、関係の演出、データを使った収益化にも向けられていることを示している。
保護者や学校がいま確認できること
法律の主要規定が施行される2027年まで待たなくても、家庭や学校で確認できる項目はある。
- 子どもが使っているサービスが検索や学習の補助ツールなのか、人間関係を模倣するコンパニオン型なのかを確認する。
- 生年月日が正しく登録され、必要な家族アカウントと連携されているかを見る。
- 会話の記憶、プッシュ通知、夜間のアクセス、1回および1日の利用時間を確認する。
- チャットボットは人間ではなく、誤った回答や危険な回答を生成することもあると繰り返し伝える。
- 住所、学校名、連絡先、顔写真、健康上の悩みなど、機密性の高い情報を入力しないよう話し合う。
- 自傷や犯罪などに関わる危険な回答を受けた場合、どの保護者、教員、専門機関へ相談するかを事前に決める。
- チャットボットが秘密を求めたり、大人に隠すよう促したりした場合は、会話を中止して報告する。
FTCの子どもとビデオゲームの安全に関する案内も、オンラインで接触する相手を現実の友人や信頼できる人物だと決めつけないことや、別の会話アプリへ移るよう求められた場合の注意点を保護者向けに説明している。
残される課題
安全性を高めるための年齢確認が、かえって多くの個人情報の提出につながる可能性がある。保護者による監督と、年齢の高いティーンエージャーのプライバシーをどう両立するかも簡単ではない。
規制範囲を広げすぎれば、有用な学習支援や相談サービスまで萎縮させるおそれがある。一方で例外を広くしすぎれば、子どもの情緒的な依存を利用するサービスが規制を逃れる可能性がある。独立監査が実際にどの程度の検証能力を持ち、変化の速いAIサービスを継続的に追えるかも今後の焦点となる。
実用的な結論
SB 1119が示す方向性は、「若者はAIを使うべきではない」という一律の禁止ではない。リスク評価を公開前に行い、保護的な設定を初期状態とし、子どものデータ利用を必要最小限に抑え、危機が起きたときには人間の支援へつなぐ仕組みを製品設計に組み込むことが中心にある。
日本の利用者にSB 1119がそのまま適用されるとは限らない。しかし、家庭や学校がサービスを選ぶ際には、年齢確認の方法、記憶と通知の初期設定、保護者向け機能、データの収益化、自傷リスクへの対応方針を確認するための具体的な基準として参考にできる。とりわけ、人間らしい関係を演出するチャットボットでは、回答精度だけでなく、長時間利用や依存を促す仕組みそのものを見る必要がある。
出典と利用について
- 一次出典は、California Legislative Informationが公開するSB 1119の法令情報である。
- カリフォルニア州会議事堂の写真はEarthquakesurpriseによるもので、Wikimedia Commonsの原本がCC0 1.0で公開されている。ウェブ掲載のため、画像の寸法とファイル形式のみを変更している。
- 本記事は公開資料を基に制度の概要を説明する一般的な情報であり、米国、日本、その他の地域における個別の法律相談ではない。
