GPT-2とは
GPT-2とは、OpenAIが2019年2月14日に発表した、GPTシリーズの2代目にあたる大規模言語モデルです。文章の続きを予測して書く仕組みで、初代の10倍以上の規模に広げた結果、数段落にわたって筋の通った文章を書けるようになりました。ChatGPTの一般公開(2022年11月30日)より4年近く前のモデルで、会話サービスではなく、研究者向けに公開されたものです。
なぜ「公開の見送り」で知られるの?
GPT-2がいまも語られるいちばんの理由は、発表のしかたにあります。OpenAIは発表の日、悪用への懸念から、学習を終えた最大のモデルは公開しないと明らかにしました。挙げた心配は4つ。誤解を招くニュース記事の量産、他人へのなりすまし、SNSに流す中傷や偽の投稿の自動化、迷惑メールや詐欺メールの自動化です。代わりに出したのは、ずっと小さい版と論文だけでした。
OpenAI自身、これを「責任ある公開の実験」と呼び、「今日これが正しい判断かどうか、確信はない」とも書いています。その後は、小さい順に少しずつ出す段階的公開をとりました。2019年5月に2番目、8月に3番目の大きさを出し、いちばん大きい約15億パラメータの版を公開したのは11月5日。最初の発表から9か月後のことです。
最後の公開に踏み切った理由も残っています。悪用の強い証拠がそこまで見つかっていなかったこと。そして、読んだ人が感じる「もっともらしさ」が、ひとつ下の版とほとんど変わらなかったことです。一方で、GPT-2の文章を見分ける判別モデルの検出率は約95%にとどまり、OpenAIは「これだけで見分けるには足りない」と認めました。AIが書いた文章の見分けにくさは、この時点で課題として記録されていたわけです。
何が新しかったの?
作り方は初代のGPTと同じで、大量の文章を読ませて「次に来る言葉」を当てさせるだけです。違いは規模でした。学習で調整される数値(パラメータ)は最大約15億個。教材には、掲示板サイトRedditで一定の評価を得たリンクの先から集めた、約800万のWebページ(約40GB)の文章を使っています。
すると、翻訳や要約、質問への回答といった作業を、そのための訓練なしに、ある程度こなせるようになりました。用途ごとに教材を作って教え込まなくても、規模を大きくすれば色々な作業の芽が出てくる。この方向は、翌2020年のGPT-3へ引き継がれます。ただし当時の成績は専門のシステムに届いておらず、OpenAIもそう明記していました。
いまも使える?何に気をつける?
GPT-2の本体は、いまも無料で公開されています。OpenAIが言語モデルの中身(重み)を公開したのは、このあと2025年8月のgpt-ossまで約6年ありませんでした。利用もまだ続いていて、モデル共有サイトのHugging Faceでは、いちばん小さい版だけで月に約1,500万回ダウンロードされています(2026年10月時点)。
ただし、仕事の文章作りに向く道具ではありません。対応するのは英語で、知識は2017年末まで。OpenAIが付けた説明書(モデルカード)は、「事実と作り話を区別しないので、書いた内容が正しいことを求める用途は対象外」と書いています。同じ文のくり返しや、水の中で火事が起きるといった現実とずれた記述も、発表時から弱点に挙げられていました。もっともらしい文章と、正しい文章は別のもの。いまの生成AIにも通じる注意が、2019年の説明書にすでに書かれています。
Topic有名な「ユニコーンの記事」は、10回試したうちの1本
GPT-2に関するよくある質問
- GPT-2のパラメータ数が、資料によって1億1,700万と1億2,400万のように食い違うのはなぜですか?
- OpenAIが当初の数字を誤っていたためです。公開リポジトリの説明に「最初のパラメータ数は誤りだった」と注記があり、いちばん小さい版は1億1,700万ではなく1億2,400万、2番目は3億4,500万ではなく3億5,500万が正しい値とされています。GPT-2には4つの大きさがあり、最大の版が約15億です。
- GPT-2で作った文章は、自由に使えますか?
- 公開時のライセンスでOpenAIは、GPT-2で作った内容の所有権を主張しないと書いています。そのうえで、責任ある使い方と、GPT-2で作ったと明示することを求めました。人が書いた文章と間違われないよう、広く配る前に機械が作った文章だと表示することも勧めています。