エポック (Epoch)
機械学習におけるエポックとは、学習用データセット全体を最初から最後まで一通りアルゴリズムに通すことを指します。モデルの学習には通常多くのエポックが必要で、モデルはサンプルのバッチを1つ処理するたびに内部パラメーターを少しずつ調整します。
重要な理由
エポック数は、学習における主要な設定の1つです。少なすぎると、モデルはデータのパターンをまだ学習しきれていません（アンダーフィッティング）。多すぎると、学習用のサンプルを丸暗記し始め、新しいデータに対する性能が低下します（オーバーフィッティング）。そのため開発者は、エポックごとに別の検証用データセットでモデルの誤差を測定し、誤差が改善しなくなった時点で学習を打ち切ることがよくあります。これは早期終了（アーリーストッピング）と呼ばれる手法です。暗号資産に関心のある読者は、この言葉に別の意味でも出会います。プルーフ・オブ・ステーク型のブロックチェーンでは、バリデーターの職務や報酬を整理するための、一定数のブロックまたはスロットからなる期間をエポックと呼びます。
具体例
あるモデルを1,000枚のラベル付き画像で学習させ、100枚ずつのバッチで処理するとします。したがって、1エポックは10回の学習ステップになり、5エポック後にはモデルはすべての画像を5回ずつ見たことになります。検証用データセットでの精度が3エポック目まで向上し、その後低下した場合、開発者は3エポック目の後に保存したバージョンを採用します。