AlexNetとは?意味をわかりやすく簡単に解説
公開:
AlexNetとは
AlexNetとは、2012年に画像認識コンペティションILSVRCで、圧倒的な性能を示した深層畳み込みニューラルネットワークのことです。トロント大学のアレックス・クリジェフスキー氏らによって開発され、エラー率を従来手法の26.2%から15.3%へと大幅に低減させました。
このネットワークは8層構造を持ち、約6000万個のパラメータと65万個のニューロンで構成されています。GPUを活用した並列計算によって学習時間を劇的に短縮し、深層学習が実用的な技術として認知されるきっかけとなりました。
AlexNetの具体的なネットワーク構造
AlexNetは「5層の畳み込み層」と「3層の全結合層」から構成され、入力画像サイズは224×224ピクセルのRGBカラー画像となっています。第1層の畳み込み層では11×11のフィルタを96個使用し、ストライドを4に設定することで特徴マップのサイズを削減しています。
各畳み込み層の後にはReLU活性化関数が適用され、特定の層ではマックスプーリングによる空間サイズの縮小が行われます。最終的な全結合層では4096個のニューロンを2層重ね、出力層で1000クラス分類のためのソフトマックス関数を使用しています。
| 層の種類 | フィルタサイズ | 出力チャンネル数 |
|---|---|---|
| 畳み込み層1 | 11×11 | 96 |
| 畳み込み層2 | 5×5 | 256 |
| 畳み込み層3 | 3×3 | 384 |
| 畳み込み層4 | 3×3 | 384 |
| 畳み込み層5 | 3×3 | 256 |
AlexNetで採用された革新的技術
AlexNetではReLU活性化関数を採用することで、従来のシグモイド関数やタンジェント関数と比較して、学習速度を約6倍高速化しました。また、過学習を防ぐためにドロップアウト技術を導入し、学習時に50%の確率でニューロンを無効化する手法を取り入れています。
| 技術名 | 効果 |
|---|---|
| ReLU活性化関数 | 学習速度を約6倍向上 |
| ドロップアウト | 過学習を抑制 |
| データ拡張 | 訓練データを増加 |
| 局所応答正規化 | 汎化性能を向上 |
| GPU並列処理 | 学習時間を大幅短縮 |
データ拡張技術として、画像の反転や切り抜き、RGB値の変更を行うことで訓練データを人工的に増やしました。2台のGPUを使用した並列処理により、単一GPUでは実現困難だった大規模ネットワークの学習を約1週間で完了させることが可能になりました。
※上記コンテンツの内容やソースコードはAIで確認・デバッグしておりますが、間違いやエラー、脆弱性などがある場合は、コメントよりご報告いただけますと幸いです。
左へフリックで次のページ、右へフリックで前のページに戻れます左右の矢印ボタン、左右のスワイプで移動できます




