недавно пару умных книг (Гудфеллоу и Хайкин, в них хоть формулы какие-то есть) внезапно понял, что в этом подходе есть некая идея.Хайкина я читал, Гудфеллоу — этого не знаю. Идея там простая.)
1. Если мы заменяем пороговую функцию с sign на tanh, то сетка ничего путного наваять не можетФигня. Это от конкретики зависит. Смотря для чего, короче.
2. Если мы оставляем пороговую функцию sign, то результат получается шикарный
практически никто, кроме меня, не умеет решать задачи нелинейной оптимизации с негладкими пороговыми функциями )))Никаких проблем с обучением сейчас нет, алгоритмов полно, хороших, разных и уже готовых к употреблению — наливай, да пей.). Основная проблема в постановке задачи.
Дай мне еще месяц до начала января — попробую собрать все в кучу и опубликовать подробный пост. Материалов много,Не думаю, что по НС мы услышим что-то новое, чего уже не было в других источниках.