ショゴスとは
ショゴスとは、AIの分野で、AIの本当の姿は得体の知れない怪物のようなもので、私たちが目にする礼儀正しい受け答えは表面に貼られたお面にすぎない、という見方を表すネットミーム（俗称）です。正式な学術用語ではなく、AIの不気味さを語るときに使われる、業界の内輪的なたとえだと考えてください。
英語表記：shoggoth
なぜAIを怪物にたとえるのか
大規模言語モデルは、インターネット上の膨大な文章を取り込んで作られます。その内部は人間には見通せず、なぜその答えを出したのかを完全には説明できません。この「正体のつかめなさ」を、形を持たない怪物ショゴスになぞらえたわけです。AIが丁寧で無害に振る舞うのは、人間の評価をもとに調整するRLHF（人間のフィードバックによる強化学習）という訓練の成果です。ただ、それは不気味な本体に「笑顔のお面」をかぶせただけで、中身が穏やかになったわけではない。ミームはそう問いかけているのでしょう。AIの安全性や、内部を解き明かす解釈可能性の議論とも響き合う、皮肉のきいたたとえでしょう。
Topic元ネタは「反逆した召使い」の怪物
ショゴスは、怪奇小説家H.P.ラヴクラフトが1936年の作品『狂気の山脈にて』で描いた架空の怪物です。物語の中では、ある種族が便利な召使いとして造り出した不定形の生き物でしたが、やがて知性を得て主人に反旗を翻します。「役に立つ道具として生み出したものが、いつしか制御を超える」というこの筋立てが、AIへの漠然とした不安にぴたりと重なる。だからこそ、数あるモンスターの中からショゴスが選ばれたわけです。
関連用語
ショゴスに関するよくある質問
- ショゴスというたとえは、AIが危険だと科学的に証明されたという意味ですか？
- いいえ。ショゴスはあくまで比喩的なネットミームで、証明された結論ではありません。AIの中身が人間には見通しにくいという事実をもとに、その不安を怪物の姿で表現したものです。
- ショゴスのミームはいつごろ広まったのですか？
- ChatGPTが公開され生成AIが一気に身近になった2022年末ごろ、SNSやAI安全の議論の場で広まりました。米紙ニューヨーク・タイムズが「AIで最も重要なミーム」と紹介したことでも知られています。
