Что такое прямой и обратный проходы в нейронных сетях?
Что означает пас вперед и обратная передача в нейронных сетях?
все упоминают эти выражения, когда говорят о backpropagation и эпохах.
Я понял, что прямой проход и обратный проход вместе образуют эпоху.
2 ответов
Я настоятельно рекомендую вам внимательно прочитать эту статью:
http://cs231n.github.io/optimization-2/
Это показано в фантастических и легко undestandable пути.
вкратце:
на пас вперед относится к процессу расчета, значения выходных слоев из входных данных. Он проходит через все нейроны от первого до последнего слоя.
функция потерь вычисляется из выходных значений.
а то обратная передача относится к процессу подсчета изменений веса (de facto обучение), используя алгоритм спуска gradiend или похожие. Расчет производится из последний слой, назад к первому слою.
назад и вперед пас делает вместе один шаг