Прогнозирование

Думай медленно — предсказывай точно. Искусство и наука предвидеть опасность. ФилипТетлок, ДэнГарднер

 Электронная книга https://t.me/kudaidem/1808
Часть 1 https://smart-lab.ru/blog/673858.php

( Читать дальше )

Думай медленно — предсказывай точно. Искусство и наука предвидеть опасность. ФилипТетлок, ДэнГарднер

Электронная книга https://t.me/kudaidem/1808

( Читать дальше )

Глава 2. С чем Россия подошла к пандемии?
Электронная книга t.me/kudaidem/1703

( Читать дальше )

Различных методов Machine Learning очень много, но все они работают примерно одинаково. Это и нейросети, и леса-деревья, и Байесовские классификаторы, и многое другое. Найти и прочитать как ходят-как сдают, как обучают и проверяют правильность обучения — не проблема.
Но пользователи часто забывают одно правило: мусор на входе — мусор на выходе. Для обучения недостаточно сделать обучающую последовательность с правильными ответами — результатом будут хорошие результаты на обучающей последовательности, и никакие на реальных данных.
Таким образом, мы должны четко себе представлять, чему именно мы учим, и это вовсе не правильные ответы, а правильные ответы на правильные вопросы. Если не хотите получать дурацкие ответы — не задавайте дурацкие вопросы.

Т.е., для обучения МЛ нам нужно сформулировать адекватные вопросы и ответы на них. Только в этом случае метод МЛ реально обучится и будет реально работать не только на обучающейся последовательности.
Вопрос ещё в том, что обычно мы не знаем и правильных вопросов.
Но это дело поправимое  Мы формируем какую либо гипотезу, например — три солдата показывают нам то-то и то-то. Мы как-то ищем этих трёх солдат на истории, там же находим ответы на них, обучаем на этом метод МЛ, проверяем на независимом отрезке истории, и выясняем — действительно ли эти 3 солдаты так важны для нашей торговли, или ну их на фиг.
Понятно, что и при обучении и на реале нам надо задавать МЛ только значимые вопросы, а именно, показывать МЛ не все данные подряд, а только наших трёх солдат.
Ну, а если солдаты воевать не желают, проверяем значимость вороны на шесте.) И так, пока действительно не найдем что-то стоящее.

Был у меня топик  "Классификация сделок в торговых системах" — в общем, не зашел. Но некоторые плюсанули, вот, для некоторых и напишу пример конкретного применения. Рекомендую прочитать предыдущий, иначе можете не понять этот топик.
К счастью, у меня оказался рояль в кустах — вялотекущий проект системы прогнозирования котировок, вычисляющей прогноз изменения цены на интервале Т по значению и состоянию цены в момент t — dС(t+Т). Ну, и общая формула прогнозирующей системы:
                              dC(t+T) = C(t+T) — C(t),
где C(t) — цена в момент t.
График теста системы я показывал в комментариях к предыдущему топику вот он:


По Х (Predict)  — прогноз изменение цены, по У (Real) — реальное изменение цены через время Т. Не обращайте внимание на значения осей, это не сами изменения цены, это нормированные к диапазону системы значения изменений цен.

( Читать дальше )

Популярность книги Талеба, с ярким описанием проблем прогнозирования кризисов, нередко сбивает с толка интересующихся, лишая стимулов углубленного изучения рынков/экономики. Всеобщая апатия побудила написать этот текст.

Трудности, непреодолимые для далеких от реального рынка людей, включая экономистов, вовсе не означают, что толковые трейдеры, инвесторы, бай-сайд аналитики или любители самостоятельно мыслить не могут успешно предсказать «черный лебедь».

Пример 1, мартовское падение 2020 года.

С конца весны прошлого года практически все мировые СМИ, уделяющие внимание биржевой тематике, сообщали об усиливающейся инверсии доходностей дальних и ближних американских бумаг. Это хорошо известное, неоднократно описанное явление с фундаментальной основой (не путать с «фундаменталом» из книжек для инвесторов), часто предваряющее снижение рынков и торможение экономики. Однако пользоваться такой закономерностью непросто, поскольку скорость изменений невелика и до значительной реакции бирж обычно проходит от полугода до двух лет. На известных трейдерских ресурсах тему обсуждали неоднократно, причем с идентичными выводами: для определения времени входа нужны дополнительные факторы. Например, полезна информация о поведении других инструментов хеджирования, типа золота, мощный рост начался прошлым летом.

( Читать дальше )

Это уже третий пост. Первые два найдете тут: https://smart-lab.ru/books/superforecasting/ 

15 качеств хороших прогнозистов:
👉Осторожны
👉Скромны (не будут писать, что «это лучшая в России аналитика» ©😁
👉Нет детерминизма / судьбы (понимают, что ничто не предопределено)
👉Не предвзяты
👉Умны и эрудированы
👉Склонны к рефлексии
👉Обладают математическими способностями
👉Прагматичны (не привязаны к идеям, взглядам и тп)
👉Аналитический склад ума
👉«Зрение стрекозы» (Способность разглядеть проблему со всех сторон)
👉Понимают вероятностный анализ
👉Вдумчиво обновляют суждения
👉Хорошие интуитивные психологи
👉«Мышление роста» (Вера в самосовершенствование)
👉Выдержка, терпение

Получилось всего 15 черт-факторов примерно. К слову сказать, естественно я отмеряю это всё на себя, и у меня получилось, что по-меньшей мере 12 черт мне точно свойственны (в остальных 3 просто не уверен, лучше со стороны судить). Я сам не считаю себя удачным прогнозистом, я просто читаю и пытаюсь проанализировать прочитанное. Делюсь тем, что получилось.

❓А у вас сколько факторов совпало?

Другие интересные моменты последней трети книги:

( Читать дальше )

Вчера я писал первую часть про книгу Филипа Тетлока «SUPERFORECASTING». Но там так много идей, что за один присест не успел осилить.

Итак, вот методика суперпрогнозирования:

1️⃣Расчлени вопрос на компоненты — более простые вопросы
2️⃣Отдели известное от неизвестного
3️⃣Подвергнуть каждое допущение тщательному исследованию
4️⃣Взглянуть на вопрос снаружи и в сравнении
5️⃣Переключиться на взгляд изнутри
6️⃣Обновляй прогноз, когда выходят новые факты (см. ниже Теорему Байеса)


👉Чтобы хорошо прогнозировать, надо саморавиваться.
👉Чтобы развиваться, надо делать обратную связь
👉Обратная связь возможна только если вы четко однозначно формулируете прогноз и используете четкие даты, чтобы не подменить прогноз задним числом (распространенная ловушка)

👉Можно повысить точность, если после прогноза предположить, что он неверен, и попытаться подумать о причинах и снова сформулировать новый прогноз. Точность повышается почти также, как если 2 суперпрогнозист подумал над проблемой и дал прогноз.
👉Значит при прогнозировании важно уметь отстраняться от самих себя
👉Сделав прогноз, ищите доказательства противоположного
👉«зрение стрекозы»: Широкий взгляд на проблему формируется через синтез: взгляд снаружи, взгляд изнутри, альтернативный взгляд.
👉Ключ к успеху: Необходимо подвергать сомнению базовые эмоционально заряженные оценки.

( Читать дальше )

Добавил эту книгу в корзину после первой рецензии к ней на смартлабе от СергеяЮ. Скажу прямо: книга превзошла мои ожидания. Это вообще не попса, эта книга — результат многолетних научных исследований повышения точности прогнозирования.  Автор ее — профессор пенсильванского университета, хорошо знаком с Канеманом, а также руководитель проекта «Здравое суждение», цель которого — попытаться собрать частных лиц с определенными способностями и получить от них результат прогнозирования лучше, чем от тысяч аналитиков ЦРУ на зарплате.

В целом, в книге я нашел научно сформулированное подтверждение моих личных попыток прогнозировать что-либо на бирже. Я убедился, что в целом, я делаю все достаточно грамотно. Но чтение этой книги все равно полезно, потому что тут прям точно сформулированы все элементы грамотного прогнозирования. Когда читаешь эту книгу, понимаешь, что и Максим Орловский максимально грамотный прогнозист. Некоторые люди, которые его слушают, критикуют его, что он не предсказал то, не предсказал это, слишком осторожен и слишком неопределенен в формулировках. Эта книга объясняет почему грамотные прогнозисты прогнозируют так, а не иначе. В противовес им можно поставить прогнозистов-популистов, которые по факту ошибаются в своих прогнозах слишком часто, но при этом появляются наиболее часто на публике и экранах ТВ. 

👉Люди любят тех, кто дает прогнозы уверенно.
👉Но те, кто их дает уверенно прогнозируют не точнее монетки.
👉Чем знаменитей эксперт, тем менее он точен
👉Лжегуру дают простой понятный прогноз в виде яркой истории. Изъясняются примитивно.

А теперь выпишу все остальные полезные тезисы книги:

👉предсказуемость в целом очень ограничена
👉вопрос к прогнозу надо ставить максимально прагматично, максимально близко к цели прогнозирования
👉суперпрогнозистов отличает то, КАК они думают. 
👉нужны: кругозор, интеллект, матем. способности (понимание вероятностей)
👉статистические алгоритмы предсказывают лучше, чем люди, даже если они эксперты
👉люди часто делают поспешные выводы из минимума знаний (работа системы №1)
👉предвзятость подтверждения: люди склонны хвататься за первое подходящее объяснение, а потом притягивать подтверждающие факты


( Читать дальше )