AI安全性(えーあいあんぜんせい)とは
AI安全性とは、AIが事故・悪用・意図しない害を起こさないようにするための研究や取り組みのことです。賢いAIを作る競争が進むなか、「強くする」だけでなく「安全に保つ」ことの大切さが高まっています。SFのようなロボットの反乱だけを指す言葉ではなく、いま実際に起きる問題まで含む、幅広い分野です。
近い害から、長期のリスクまで
AI安全性が扱う範囲は広く、大きく2つに分けて捉えるとわかりやすいでしょう。一つは、いますぐ起きる害。バイアスによる差別、誤情報、悪用などが当てはまります。もう一つは、長期のリスク。AIが人の意図から外れて動いたり、制御しきれなくなったりする心配です。こうした問題に備えるため、AIを人の意図どおりに動かす「アラインメント」や、判断の中身を見えるようにする「解釈可能性」といった研究が進んでいます。
企業も政府も取り組むテーマに
AI安全性は、いまや一部の研究者だけの話ではありません。AnthropicやOpenAI、DeepMindといった開発企業が安全研究の部門を持ち、米国や英国は2023年に政府のAI安全研究所を立ち上げました。ただし両国とも、その後に名前と守備範囲を変えています。英国は2025年2月にAI Security Institute（AIセキュリティ研究所）へ改称し「バイアスや表現の自由は扱わない」と明言。米国も2025年6月に担当組織をCAISI（AI標準・イノベーションセンター）へ改組し、サイバーセキュリティや生物・化学兵器のような実証できるリスクへ焦点を絞りました。便利さと引き換えにリスクも大きくなるからこそ、作る側と社会の両方で「安全をどう確かめるか」を考える流れが強まっています。
Topic暗号解読の地に、各国が集まった
2023年11月1〜2日、英国のBletchley Park(ブレッチリー・パーク)で開かれたAI安全サミットに29カ国が集まり、共同宣言に署名しました。最先端AIの悪用や、制御を失うリスクが主な議題です。じつはこのBletchley Parkは、第2次世界大戦中にアラン・チューリングらが暗号解読にあたった、コンピュータ史ゆかりの地。計算機の礎が築かれた場所で、そのAIのリスクを世界が話し合ったという符合が、AI安全性が一研究テーマから国際的な課題へ移ったことを物語っています。
AI安全性に関するよくある質問
- AI安全性は、AIを開発する会社だけの問題ですか？
- 開発側だけの話ではありません。29カ国が署名した2023年のブレッチリー宣言は、AIは「設計・開発・導入・利用」のすべての段階で安全に扱われるべきだと述べています。自社で作らず既製のAIを導入して使う場合も、その導入と利用の段階が対象に入っています。
- なぜ2023年になって、各国が集まって話し合ったのですか？
- 宣言はとくに注意すべき対象を「フロンティア」と呼び、幅広い仕事をこなせる高性能な汎用モデル——その時点で最も進んだモデルに匹敵するか、それを超えるもの——と定義しました。用途ごとに分かれた道具ではなく、何にでも使える強力なモデルが現れたことが、国をまたいで話し合う理由になっています。
