SB 1047とは
SB 1047とは、カリフォルニア州で2024年に提案された、高性能なAIモデルの開発企業に安全対策を義務づけようとした法案のことです。最先端の巨大なAI(フロンティアモデル)が引き起こしうる重大な被害を防ぐ狙いがありました。ただし2024年9月にニューサム知事が拒否(veto)したため、法律としては成立していません。
正式名称：フロンティアAIモデルの安全・安心なイノベーション法(仮訳)
英語表記：Safe and Secure Innovation for Frontier Artificial Intelligence Models Act
何を義務づけようとしたのか
対象は、開発に約1億ドル(2024年時点)を超える費用がかかり、桁外れに大きな計算量で訓練された「対象モデル」に絞られていました。日常的なアプリやサービスではなく、ごく一部の最先端AIだけを想定していたわけです。開発企業に求められたのは、暴走に備えた緊急の全停止の仕組み、第三者による監査、安全管理の方針を州の司法長官へ提出すること、そして重大な被害につながる不合理なリスクを生まないこと。AIの「もしもの事態」に企業側が責任を持つ、という発想が土台にありました。
なぜ知事は拒否したのか
ニューサム知事は、法案の理念には理解を示しながらも署名を見送りました。主な理由は、規制の対象を「大きく高価なモデル」だけに絞った点にあります。小さくても危険なAIを取りこぼす一方で、基本的な機能にまで厳しい基準を課しかねない。結果として人々に誤った安心感を与えてしまう恐れがある、という論拠でした。どこまで・何を規制すべきか。AIルール作りの難しさを象徴する判断だったといえるでしょう。
否決のあとに残ったもの
否決されたとはいえ、SB 1047を巡る議論が無駄になったわけではありません。翌2025年には、透明性の確保に焦点をしぼった後継的な州法「SB 53」が成立しました。AIをどこまで・どう規制するのかという問いは、SB 1047を一つの出発点として、今も各地で問われ続けています。
Topic賛成はAnthropic、反対はOpenAIとMeta。割れたシリコンバレー
SB 1047に関するよくある質問
- 「1047」とは何の番号ですか？
- カリフォルニア州議会に提出された法案の通し番号です。法律名そのものではなく審議中の議案を指す番号で、これが通称として広まりました。
- アメリカ全体や日本にも適用される規制ですか？
- いいえ。カリフォルニア州の法案で、しかも成立していません。ただし大手AI企業の多くが同州に拠点を置くため、議論の影響は州外にも広く及びました。
- もし成立していたら、身近なAIツールも対象でしたか？
- 対象は開発費が約1億ドル(2024年時点)を超える極めて大規模なモデルに限られる想定でした。日常的に使う多くのAIツールは、もともと対象外です。
