Практическое использование нейросетей на рынке 2. На примере трансформеров.

  Таки собрался дописать вторую часть своих результатов применения трансформеров для предсказания на российском фондовом рынке. Может и хорошо что не спешил, так как пафос первой части о трансформерах дающих какие то уникальные результаты по сравнению с другими архитектурами нейросетей, оказался несколько преувеличенным, по крайней мере LSTM дал вполне сравнимый результат с трансформерами. Потом я попробовал градиентный бустинг, дерево решений и вновь получил схожий результат. Так что подавайте в нейросеть правильные признаки и многие модели покажут положительный результат. Тем не менее, раз я начал с трансформерах, и так как их архитектура хорошо отражает рынкок, о них и продолжу. 
  Для любителей вопросов о «таймфреймах, на чем обучал, какие акции, что в качестве таргета, какие параметры, время удержании позиции» итп итд. Акции МосБиржы, из числа наиболее ликвидных. Данные у меня с 2011 до 2021 (и это увы необходимость, так как именно с 2011 года время работы биржи стало 9 часов). Прогнозы строил следующим образом — выкидывал один год (это out-sample), а из оставшихся делал разбивку на train и test. Таким образом получил 10 одногодичных прогнозов. Для меня важно получить доходность на сделку пусть поменьше, но чтобы прибыльность подтверждалась на как можно большем диапазоне, и на всех акциях. Такое чтобы для каждой акции своя модель — для меня неприемлемо. И само собой никаких убыточных годов, как минимум. Знаю многие меняют системы каждые 3 года и для них это нормально, я предпочитаю вылавливать аномалии которые работают десятилетиями. Тут я никого не учу, рынок сам рассудит.    
  Таймфремы, это уже не важные детали, так как нейросеть может обучиться хорошо на разных внутридневных таймфремах. Прогноз на какой период вперед — это тоже не важные детали, они могут быть разными, но на ночь сделку я переводил, уж так получается что значительная часть динамики на российском рынке заключена в утреннем гэпе. Задачу решал классификации, можно было и регрессии (но конечно не угадывание цены, а return), суть не поменяется. Хотя с точки зрения моего видения рынка, решать задачу нужно именно классификации, но практика показывает что это все не суть. До перебора параметров модели я не дошел, просто не доходят руки так как если прикинуть возможные варианты, то получится нечто слишком долгое. Например данные можно подавать в разных таймрфемах. Признаки: я ограничивал себя работой с 4 признаками, можно подать их по одному, можно подать все 4, можно подать разными парами и тройками. Просто подать все в надежде что нейросеть сама разберется — так не получается. Если мы работаем с более чем одним признаком, то мы получаем матрицу длина_последовательности*число признаков, но мы можем брать эту матрицу транспонированной (получая другие прогнозы, я проверял). В чем смысл такого транспонирования?! Если мы берем матрицу длина_признаков*число признаков, то мы выражаем в трансформерах одни признаки через другие, в случаи обратной матрицы мы выражаем признак на одном временном интервале через тот же признак, на другом временном интервале. Это разные истории и то и другое вполне логично и только практика может подтвердить что удачней. Параметрах модели, это прежде всего размерность Key, Query, Value, число HeadAttantion и EncoderLayer. Это все что касается только части механизма attantion, а ведь дальше идут полносвязные слои у которых свои параметры. А еще можно придумать разные стратегии обучения, брать разное число эпох, разные параметры остановки обучения. Можно использовать разные разбивки датасета на train, test, out_sample. Например чтобы обучиться предсказывать в 2018 году можно использовать все данные за исключением 2018 года, а можно только предыдущие к нему годы. Эти предыдущие годы можно брать все, а можно только последние, как наиболее актуальные. Я пробовал так и так, и в результаты везде положительные.  И это далеко не все, но даже если перемножить описанные варианты, уже получатся тысячи вариантов. Для экономии времени я не стал менять параметры модели, взяв их так сказать из коробки, а для ускорения обучения брал часовики. 
Как видите я широкими мазками накидал все многообразие моделей которые мы можем получить. Из всего этого многообразия переборов кое что я все таки сделал. Существует 3 варианта в ансамблевом подходе: bagging, boosting, stacking. Я простакал модели обученные на разных наборах признаков. Результаты стаканья можно использовать по разному — можно увеличивать число сделок, можно увеличивать профитность на сделку, тут уж как кому нравится, главное, что дисперсия финансовых результатов по годам стал меньше, для меня это важно. Еще обучал модель только на голубых фишках, а уже обученную модель применял для прогноза на всех 40 более менее ликивдных акциях. В чем разница при прогнозировании модели обученной на 6 фишках и 40?! Профитность обученной на 40 фишках выше, но число сделок становится меньше, без неожиданностей. 
  Скромненько и быстренько о результатах. 
  Знаю многие datescientists ищущие на фондовых рынках приложение своих знаний, дальше оценок точности результатов не идут. Получают уcловно говоря 56% accurasy или какой то там ROC-AUC, или прости господи r2 и все. Это само собой не имеет никакого отношения к реальности, многие кстати даже не догадываются насколько и почему. Нас конечно интересует финансовый результат и только он, поэтому я сразу перевожу результаты прогнозов в «количество дней в рынке» со средним профитом этих дней, с разбивкой по годам, и с дальнейшим построением equity.
  Вот табличка:

  Тут можно комбинировать, увеличивая порог, снижая, тем самым увеличивая или уменьшая сделки (и наоборот доходность на сделку). Понятно дело что если у вас куча других систем, то можно ужесточить условие и тогда по этой модели у вас число дней в рынке сократится в 2 раза, но при этом средний профит в день превысит 1%. 
  А вот кривая equity с комиссией и проскальзыванием в 0,1%, без реинвестирования.

  Число дней с момента предыдущего максимума equity:

  Если прищурить то можно увидеть что это 140 дней.

  И MaxDrodown:

  Очень маленький дродаун, но это во многом потому что без реинвестирования, например о каом большом дродауне можно говорить если (например) в 2020 мы использовали для входа в сделку 25% счета.
  Для тех кто считает что 0,1% мало на комиссию и проскальзывание (кстати соглашусь), вот вам на это 0,25%, но с реинвестированием

  Тут понятно дело кривая устремилась ракетой вверх, но и форма equity потеряла плавность.
  Численные показатели эффективности системы:
Win_rate 61.5
Прибыль на 1 сделку 0.69
Profit_factor 2.29
Recovery_factor 29.46
Payoff_ratio 1.46

  Месяц, на небольшую сумму торгую по этой системе, в первую очередь чтобы убедиться что не намудрил с кодом. Торговать тяжело, потому что у меня нет никакой связки между питоном и терминалом transaq, поэтому если кто может в этом помочь, с удовольствием приму помощь. 
  Не буду оценивать систему с точки зрения ее практического использования, так как цель было показать, что если правильно подобрать признаки и правильно их представить, и все это скормить правильной нейросетке, то можно получить нечто, как минимум уверенно обыгрывающее пассивное инвестирование в индекс МосБиржы. Мой личный опыт говорит что на практике результаты систем ухудшаются на 30-50% от того что было получено на истории, поэтому этот результат явно меня удовлетворить не может. Если потенциал для улучшения? Есть, так как я искусственно ограничивал возможности модели, для ускорения работы. 

  А что под капотом?!
Все эти показатели, графики equity это все понятно, но меня всегда больше интересовало что под капотом, возможность понять суть рынка с помощью успешных моделей. Если сравнить какие значения в среднем принимают признаки при сильной уверенности модели в росте и сильной уверенности модели в падении (зеленая линия это динамика признака за прошлые 9 часов при уверенности модели в росте, красная — в падении) 

то мы увидим нечто напоминающее параболу с вершинами в разную сторону. Усложнив нейросеть можно подогнать что угодно, но и признаки в таком случаи примут хаотический характер, а тут они принимают форму известной функции. И графики довольно гладкие. Конечно, подгонка была бы видна и на плохих результатах на out-sample, но я привел этот график еще и потому, что мне всегда было интересно как именно нейросетка работает с признаками. Тут мы можем наблюдать (с каким то допущением конечно), что если признак (на примере 1 признака) 6 баров рос, а затем на оставшихся 3 припадал, то вероятность роста выше, если нет, то наоборот. Такое бинарное разделение мне нравится, так как я всегда стремлюсь к простоте, чтобы избежать ошибок разброса. А ошибки разброса для рынка, где данные зашумлены легко превращают хорошую модель на истории в нечто невразумительное на практике.
  Можно ли сказать что нейросеть нашла какой то паттерн? В данном случаи мы говорим о средних значениях и тут конечно таится дьявол. Если рассмотреть случаи сильной уверенности нейросети в росте (или падении) отдельно, мы можем увидеть очень сильные отклонения от этого среднего значения (принявшем вид параболы). О чем это говорит? С точки рения алготрейдера — нейросеть нашла несколько паттернов, и тот который рисует на средних параболу — основной, но не единственный. Методы кластеризации говорят о примерно 3-4 паттерна. Все их можно вычленить и переписать в коде которые применяют алготрейдеры, конечно, в каком то приближении. Так что применение нейросетей возможно и такое. 
  Для любителей шортов.
  Модель позволяет получать прибыль и от шортовых позиций, но доходность раза в 2 меньше лонговых и если совместить лонг и шорт, то показатели эффективности системы становятся чуть хуже. Но если вы сильно хотите, то можно и пошортить.
  О коде.
  Если кого интересует код, то может написать мне в личку, однако у меня нет никакого желания раскрывать свою работу с признаками и сами признаки. А все остальное — код обучения трансформера, использование обученной модели для прогноза и перевод прогноза в финансовый результатах — это я показать могу, хотя сразу предупреждаю что писал для себя, это не продакшн и разобраться в нем будет сложно, а во вторых в нем нет ничего уникального, модель трансформеров для временных рядов я использовал готовую, с сайта keras, а дальше много pd.pivot_table и простой арифметики.
  Вывод: Очень долго машинное обучение вообще не давала ничего нового к моему багажу знаний торговли на фондовой бирже. Даже подавая на вход моделям данные, которые я использую для реальной торговли, модели кривовато находили пороги и комбинации признаков. Мои вычисленные на коленках параметры оказывались лучше, стабильней, с точки зрения финансового результата. В том числе потому что я оптимизировал непосредственно финансовый результат (с учетом стабильности по годам) и минимизируемая нейросеткой CrossEntropyLoss (принимающая минимальные значения при увеличении числа угадываний направлений движения), имеет весьма опосредованное отношение к прибыли. Возможно сейчас что то изменится и я смогу получить что то новое в своем практическом трейдинге благодаря нейросеткам. Но это не точно.
  Однако один позитивный момент нейросетей я уже вижу — в поиске паттернов на рынке я использую 2-3 параметра и таким образом я никак не смогу описать языком алготрединга полученную нейросеткой плавную кривую в форме параболы. А нейросетка может. А возможно именно плавность динамики признака во времени и описывает ту самую ситуацию ны рынке, которая и дает трейдеру статпримущество.