3Qu, ну Ок, бро

Вижу, что ты на своей волне и не готов к конструктивному диалогу
Уважаю твою позицию, хотя и не согласен с ней

Искренне надеюсь, что в январе выложу аргументированные тесты
Тогда и подискутируем

С уважением

Классная традиция.

М.б. и нам этот метод стоит перенять? Хотя бы частично?

С уважением

3Qu, низачет

Вот есть обычная DL сетка с N скрытыми слоями.
Функция активации нейрона — sign

Можешь привести ссылку хоть на одну (!) работу, в которой приведен метод расчета оптимальных весов при данной пороговой функции?

С уважением

Влад, да не особо впечатляет, если честно

Просто у меня была застарелая сексуальная фантазия — типо я и несколько женщин. Я осторожно обсудил ее со своей 2-й супругой — и получил категорический отказ. И — понеслось...

С уважением

3Qu, так получилось, бро

Что мне пришлось познакомиться и с трансформерами, и с SFT, и с KTO, и с LOR-адаптерами, и с многим, многим другим...

По сути что-то сказать можешь?

С уважением

P.S. Если вкратце — в вопросе предсказания рыночных цен новодел не работает. В противном случае об этом уже трубили бы из каждого утюга )))

3Qu, так и я про это же, бро!

Обучение сетей прямого распространения — это метод сопряженных градиентов вместе с back propagation (ну это только для гладких пороговых функций)

Для негладких пороговых функций (sign) что-то умное из классики предложить сможешь? )))

С уважением

3Qu, хммм

У меня Хайкин 2012 английское издание с дополнениями

Математика после этого не изменялась
Появились трансформеры и прочая шляпа

С уважением

3Qu, по классике (нейробиологи) — именно sign

А уже лет через 20 инженеры, которые только и умеют, что дифференцировать, стали заменять пороговую функцию на сигмоиду )))

 Суважением

3Qu, бро

Это было 2 разных вопроса. Если конкретно
1. Никто не умеет обучать модели с негладкими пороговыми функциями. При несогласии — расскажи про обучение для sign
2. Все умеют обучать с гладкими пороговыми функциями. Но никто не заморачивается оценкой разницы экстремумов при замене sign на tanh

С уважением

3Qu, уважаю твою вечнопозитивную точку зрения

Возьмем простую прямую сетку для глубокого обучения с N скрытыми слоями
Поставим (по классике) пороговую функцию sign

Приведи мне хотя бы одну ссылку на метод оптимального расчета коэффициентов для такой модели.

Ну или приведи мне хотя бы одну ссылку для оценки разницы экстремумов между моделью с sign и моделью с tanh.

С уважением

Все же школьникам не хватает знания основ маркетинга.

Тот же самый школьник, наваявший игру

«Трамп против Байдена»

или даже

«Киркоров против Галкина»

мог бы собрать в разы больше денег )))

С уважением

ВВШ, и это правильно!

С уважением

DAMAN, не, братэлло

Это когда скучающий интеллигент, не ищущий срача, внезапно попадает на мой пост (неожиданно? Онегин, епть!) — это интрига, да)

А я просто уважаю community и хочу очистить его (постепенно) от п@здоболов. Интеллигентно и аккуратно, без срача.

К тебе, браэлло, это пока не относится, кстати)

С уважением

3Qu, +85% (BitMEX, с НГ)

Я не учился нейросетям, но прочитав недавно пару умных книг (Гудфеллоу и Хайкин, в них хоть формулы какие-то есть) внезапно понял, что в этом подходе есть некая идея.

Но есть нюансы.

1. Если мы заменяем пороговую функцию с sign на tanh, то сетка ничего путного наваять не может
2. Если мы оставляем пороговую функцию sign, то результат получается шикарный

Проблема в том, что (судя по публикациям) практически никто, кроме меня, не умеет решать задачи нелинейной оптимизации с негладкими пороговыми функциями )))

Не торопись, бро. Дай мне еще месяц до начала января — попробую собрать все в кучу и опубликовать подробный пост. Материалов много, а работы до НГ — еще больше (((

С уважением

3Qu, почему?

Есть чем.

В моменте пишу большую статью, что ни ты, ни А.Г. не умеют говить нейросети к предсказанию приращений рыночных цен )))
А так — п@здобольство на СЛ достало. Пишу человеку вежливо — перестань, плз, писать про меня инсинуации. А он мне в ответ — а я так думаю, ты что, мне рот затыкаешь? Детский сад, младшая группа...

Как сам?

С уважением

DAMAN, хммм

Ну, если ты, братэлло, один из первых ответ в моем топике накатал, то одно из двух:
1. Ты у меня в друзьях (нет)
2. Ты быстро реагируешь на любой новый срач (да)
Ну так и реагируй )))

С уважением

DAMAN, да никто ни на кого не обиделся

Я просто против лжи и провокации, которые процветают на СЛ на каждом шагу
Хочешь сказать что-то — скажи в лицо
Хочешь сказать что-то в онлайне — выбирай выражения
Все это чистое IMHO, конечно

С уважением

Дебильный хомяк, нет

Я в своем блоге аккуратно излагал, что 95+% из них были девушки с пониженной социальной ответственностью.
А оплодотворял я жен из своего маленького городка Москва.

С уважением

Дебильный хомяк, ну да, ну да )))

Я ему писал как-то:

Не падайте духом, порутчик Голицын
Корнетт Оболенский, налейте вина

С уважением

Astronomer, хммм

А какой мог быть разряд в 7-м классе?

С уважением

P.S. Лично у меня — 3-й юношеский (был)