P(doom)とは
P(doom)とは、AIが人類に破滅的な結果をもたらす確率を、主観的に見積もった数値です。「Pドゥーム」と読み、Pは確率（probability）、doomは破滅を意味します。AIのリスクをどれくらい深刻に見ているかを、一つの数字で言い表す言い方として使われます。
英語表記：probability of doom
どこから来た言葉か
もとは、AI研究者や「合理主義（ラショナリスト）」と呼ばれる人々の間で交わされていた符牒でした。広く知られるようになったのは2023年です。高性能なAIであるGPT-4の公開後、深層学習の第一人者であるジェフリー・ヒントン氏やヨシュア・ベンジオ氏がAIの危険性を公に警告し、この言葉も一般のニュースで目にするようになりました。
見積もりは専門家でもバラバラ
おもしろいのは、専門家でも数字が大きく食い違う点です。では、どの見積もりを信じればよいのでしょうか。AIに楽観的なヤン・ルカン氏は0.01%未満、ヒントン氏は10〜20%、警鐘を鳴らすエリーザー・ユドコフスキー氏は95%超と見積もっています。2023年にAI研究者へ行った調査では、平均が14.4%、中央値が5%でした。同じ分野の専門家ですら、これほど見方が割れているわけです。
ビジネスでどう受け止めるか
AIリスクの記事を読むとき、P(doom)は便利な目印になります。ただし、これはあくまで個人の主観的な見立て。誰か一人の数字を「正解」として鵜呑みにしないほうがよいでしょう。大事なのは特定の数字に振り回されることではなく、楽観と悲観の幅があると知ったうえで、自社の備えを淡々と考えることではないでしょうか。
Topic同じ「破滅確率」でも、指す中身が違う
P(doom)には、わかりやすさゆえの弱点もあります。批判する人たちは、そもそも「破滅」が何を指すのか（人類の絶滅なのか、社会の大きな混乱なのか）、いつまでの話なのか、人間並みの汎用AIの実現を前提にするのか、といった条件が人によってバラバラだと指摘します。同じ数字でも、指している中身が違う。だからこそ独り歩きしやすい言葉です。
P(doom)に関するよくある質問
- P(doom)が高い専門家の意見だけ信じるべきですか？
- 一人の数字を正解として扱うのは危険です。見積もりは主観で、同じ分野でも0.01%未満から95%超まで大きく割れています。幅があると知ったうえで、自社の備えを考える材料にするのが現実的です。
- P(doom)はどうやって計算されるのですか？
- 厳密な計算式はありません。各人が経験や考えに基づいて主観的に置く見積もりで、その人のAIリスク観を一つの数字で示したものです。
