AlexNet(アレックスネット)とは
AlexNetとは、2012年にカナダのトロント大学の大学院生2人と指導教員が作った、写真に何が写っているかを見分けるAIモデルです。画像認識の国際大会で2位に大差をつけて優勝し、いまのAIの主流である深層学習（ディープラーニング）が一気に広まるきっかけになりました。
時期と種類は取り違えやすいところです。ChatGPTの一般公開（2022年11月30日）より10年前の出来事で、AlexNet自体は文章を書いたり会話したりするAIではありません。それでも、大量のデータと強力な計算機で大きなニューラルネットワークを学習させるという、今の生成AIにも続くやり方は、ここから本格的に広がりました。
2012年の大会で、何が起きた？
舞台は、画像データベースImageNetを使った画像認識の国際大会ILSVRCです。課題は、写真を1,000種類の分類のどれかに見分けること。AlexNetのチーム（大会での名前はSuperVision）は、誤り率15.3%で優勝し、26.2%だった2位に10ポイント以上の差をつけました。
この誤り率は、「5つまで答えてよい」というルールでの数字です。モデルが挙げた上位5つの候補に正解が入っていなければ誤り、と数えます。1回で言い当てた割合ではない点に注意しましょう。
大会は2010年に始まり、優勝チームの誤り率は2010年が28.2%、2011年が25.8%。最初の2年間は、最良のシステムでもわずかな改善にとどまっていました。そこへ前年の優勝から一気に約10ポイント縮めたのがAlexNetです。2位のチームは、画像の手がかり（特徴量）を取り出す手順を人が設計し、それを組み合わせて分類する従来型の方法でした。一方のAlexNetは写真の画素をそのまま入力し、見分けるための手がかりそのものを、データから学ばせています。
何が新しかったの？
中身は、畳み込みニューラルネットワーク（CNN）と呼ばれる、画像に向いた形のニューラルネットワークです。学習で調整される数値（パラメータ）は約6,000万個、層は8つ。GPU（画像処理用の半導体）1枚のメモリ3GBには収まらない大きさだったため、2枚のGPUに分けて載せ、5〜6日かけて学習させました。学習を速める活性化関数ReLUや、覚え込みすぎ（過学習）を防ぐドロップアウトといった工夫も、論文で効果を確かめています。
米国のコンピューター歴史博物館（CHM）は、AlexNetの意義を「深いニューラルネットワーク、大きなデータ、GPUの計算力の3つを初めて一緒にしたこと」とまとめています。どれか1つでは足りなかった、という見方です。GPUで学習したCNNが画像の大会で勝った例は2011年にもありましたが、小さなデータでの話で、分野全体を動かすには至りませんでした。学習のプログラムは、クリジェフスキー氏がNVIDIAのGPU向けの開発環境CUDAで自作したものです。
論文の著者たち自身も、「もっと速いGPUと大きなデータが出てくるのを待つだけで、結果は良くなる」と書いていました。AIの性能が、データと計算資源をどれだけ用意できるかに大きく左右される。2012年の一文は、その後の流れを先取りしていたといえるでしょう。
その後、何が変わった？
論文は2012年秋に発表され、10月にはイタリアのフィレンツェで開かれた画像認識の学会で、クリジェフスキー氏が発表しています。CHMによると、ベテランの研究者たちは納得しなかった一方、会場にいたヤン・ルカン氏はAIの転換点だと評しました。結果はルカン氏の言うとおりになります。AlexNetの前、画像認識の主要な論文でニューラルネットワークを使うものはほとんどなく、後にはほとんどすべてが使うようになりました。
なお、ヒントン氏の研究室で先に成果が出たのは、実は画像ではなく音声認識でした。学生たちは2000年代の終わりから、GPUで画像と音声の両方に取り組んでいたのです。画像でも勝ったことで、深層学習がAIの汎用的な解き方になりうると見られるようになった、とCHMは説明しています。
3人の会社DNNresearchはのちにGoogleに買収され、AlexNetの権利もGoogleのものになりました。サツケバー氏は、その後OpenAIを共同で創業した一人です。
Topic「AlexNet」という名前は、論文のどこにも出てこない
2012年の論文の題名は「ImageNet Classification with Deep Convolutional Neural Networks」。本文を探しても「AlexNet」の文字はなく、大会に出たときのチーム名も「SuperVision」でした。AlexNetは、のちに筆頭著者アレックス・クリジェフスキー氏の名にちなんで付いた呼び名です。学習は、クリジェフスキー氏の両親の家の寝室に置いた、NVIDIA製のGPUを2枚積んだパソコンで行われました。3人の役割について、2024年にジョン・ホップフィールド氏とともにノーベル物理学賞を受けたヒントン氏は、CHMにこう要約しています。「イリヤがやるべきだと考え、アレックスが動くものにし、私がノーベル賞をもらった」。
AlexNetに関するよくある質問
- 誤り率15.3%なら、AlexNetは85%の写真を1回で言い当てたのですか？
- いいえ。15.3%は、モデルが挙げた上位5つの候補に正解が入らなかった割合です。1つ目の答えだけで比べた誤り率は、論文の表で36.7%でした（7つのモデルの予測を平均した版・検証用のデータでの値）。大会の結果表も、5つまでの候補で比べた誤り率で順位を付けていました。
- AlexNetの元のプログラムは、今でも見られますか？
- 見られます。2025年3月20日、米国のコンピューター歴史博物館（CHM）が、権利を持つGoogleと協力して2012年版のソースコードをオープンソースとして公開しました。CHMによると、GitHubにある「AlexNet」という名前のコードの多くは論文をもとに作り直したもので、元のコードではありません。公開までの交渉には5年かかっています。
