Эпоха (Epoch)
Кратко: В машинном обучении эпоха (epoch) — это один полный проход обучающего набора данных через алгоритм, от начала до конца.
В машинном обучении эпоха (epoch) — это один полный проход обучающего набора данных через алгоритм, от начала до конца. Обучение модели обычно занимает много эпох, и после каждого пакета (batch) примеров модель немного корректирует свои внутренние параметры.
Почему это важно
Количество эпох — одна из главных настроек обучения. Если их слишком мало, модель ещё не усвоила закономерности в данных (недообучение, underfitting); если слишком много, она начинает запоминать обучающие примеры и хуже работает на новых данных (переобучение, overfitting). Поэтому разработчики после каждой эпохи измеряют ошибку модели на отдельном валидационном наборе и нередко останавливают обучение, как только эта ошибка перестаёт уменьшаться, — такой приём называется ранней остановкой (early stopping). В криптовалютах это слово встречается и в другом значении: в блокчейнах на proof of stake эпохой называют фиксированный период из блоков или слотов, в рамках которого распределяются обязанности и вознаграждения валидаторов.
Пример
Модель обучается на 1000 размеченных изображениях, которые обрабатываются пакетами по 100. Следовательно, одна эпоха состоит из 10 шагов обучения, а после пяти эпох модель увидит каждое изображение пять раз. Если точность на валидационном наборе растёт до третьей эпохи, а затем снижается, разработчик оставляет версию, сохранённую после третьей эпохи.