Интересуют консультации платные по договоренности и ответы на разные вопросы. Если алготрейдер, еще лучше.
Например, скорость работы различных БД, оптимизация запросов, индексация, тонкости работы с Квиком.
Кодить не потребуется, я сам (может немного с помощью). Общение Skype.
$100, я на пороге глобального рефакторинга своего робота, не могу решиться, нужен помогатор. Мамба переходит на 19-значные номера заявок ордеров в июле (приблизительно). Квик перешел на х64. Мои алгоритмы требовательны к ресурсам — много запросов SQL в Access. Нужно оценить что делать, перетащить базу в MS SQL и как оптимизировать запросы и т.д. Оставить ли клиентом Access или написать эту часть заново в VB / C#. Рефакторинг опять же. Поменять комп нужно, мой моно блок ЦП жрет 30% в процессе работы, а память 8Г на 60-80%, греется к концу дня. И так далее
kvazar, Sqlite вам в помощь вместо Access. Оч быстрая и компактная БД при определенных настройках pragma. Хотя, объемы транзакций надо знать, чтобы сказать что-то определенное.
А с компом у вас и так все ОК.
Определенно написать на С#/VB, а часть на С++.
kvazar, экспорт данных из терминала, в БД, в том числе. В том числе из Квик через Луа. Ну, или по ODBC. Эт как хочется, но не все хотелки возможны через ODBC.
3Qu, Выгоднее просто добавить памяти.
до 16gb.
Одно это добавит скорости.
И что удивительно и неожиданно, надежности.
(своп до сих пор, несмотря на 25 лет использования в ос подглючивает)
Антон Б, если памяти итак хватает, на фига ее добавлять. А 8 ГБ и так за все про все хватит.
У меня вот всего 4 ГБ (несчастный случай, сдох комп, и срочно на Авито купил новый-ненадеванный, других не было, а через неделю появился — локти кусал) — и то на все хватает. Квик подтормаживает, но здесь не в памяти дело, ее еще 20% остается, и проц не загружен.
Квик х64.
Антон Б, нормально, потом куплю. Руки ( и ноги) не доходят.))
С Квик вообще все интересно, свободная память есть, процессор свободен, а Квик подвисает. Че-то в нем не так.
И воще, я IT специалист, а сапожнику положено без сапог.)
3Qu, Свободная память которую показывает диспетчер.
Это такое.
Он может свопить и показывать свободную память.
+ то-же dde
Работает в ТОМ ЖЕ потоке.
И если стучится в dde сервер, в виде excel, пока тот из свапа выползет фрезится.
Антон Б, да, куплю, не переживайте, руки не доходят, и ноги тоже. Пока вроде хватает — Питон идет, VC идет.
А вот память не апгрейдится, впаяна в сис. плату.
А Васька слушает, да ест. Тем временем моя сделка на стрэнглах РТС вверх ползет.)) Пустячок, а приятно.
3Qu, Ниже скриншот там 92% загрузка по памяти.
Он на этом компьютере не только стратегию крутит.
но и использует его как рабочую станцию.
Так что 8gb ему мало, это видно по скриншоту.
Самое дешевое и надежное добить памяти до 16 gb.
Как минимум.
Все станет надежнее.
Даже квик с dde.
И акцесс весь кеш переселит в память и вообще не будет читать диск.
Только писать.
По факту просто добив памяти получаешь надежность и отзывчивость.
Очень дешево.
+ открывает путь к безопасности и надежности через виртуализацию.
( Когда бот работает в виртуалке в отдельной чисто системе)
Которую можно снешшопить.
При обновлении квика.
И если что пойдет не так, обратно восстанавливать.
+ которую хакнуть будет тяжело.
потому что вылезти из броузера будет недостаточно.
нужно еще в чистую виртуалку зайти.
FinSerfing, что то вполне конкретное есть. Но меня интересуют теоретические / практические советы. Если ты работал с разными базами 20 лет и написал тысячи запросов, мне нужны советы опытного практика.
FinSerfing, все. поток сделок потиково, статистику торговую, позиции, ордера, стоп-ордера. сделки. ну и статистику сделок для анализа. Знания из книг не подходят, книг у меня немеряно, нужен практик который скажет как лучше сделать.
FinSerfing, сейчас 10 инструментов, можно обойтись 2 и проблема исчезнет, НО — нужно сделать так чтобы не было проблем и при расчете 30 инструментов, вот задача. расчет по тикам, это основа, от этого нельзя отказаться. Перерасчет идет каждые 10 секунд, это край.
FinSerfing, окно скользящее — обсчитываем тики за последние 5 минут/ соотносим с данными за последние 15 минут и по той же логике 15/60 минут. много, к вечеру память 90% использует.
FinSerfing, для меня это сложно, идет поток по ODBC из квика и идет. Мне с этим очень просто работать. Да, только запросов то на 44000 тиков — в цикле 10, а не 1. несколько индикаторов. Я соврал, вернее забыл — есть еще пару запросов по всему дню, с начала торгов, здесь сам додумаю.
В день записывается строк с расчетами около 35000-40000, самих запросов больше в день, есстественно.
FinSerfing, понял, я 2-3 года назад брался за C# / Stock#. Времени и терпения не хватило пройти весь путь. Нужен профи-помощник-учитель..
С СУБД проще работать. Решил что главнее результат, чем процесс. Когда получаешь результат, интереснее улучшить процесс)
FinSerfing, спасибо, не совсем я новичок, скорее старичок) как относитесь к идее устроить демонстрацию, чтобы оценить насколько трудозатратен переход к DDE-C#?
kvazar, если вам не к спеху, то подстрагаю и дам на пробу программу, которая получает данные по DDE из таблицы всех сделок, сворачивает их в нужный фрейм и выводит бары в Excel.
Запустите на десятке ликвидных инструментов и оцените загрузку процессора/памяти(за вычетом экселя).
Если устроит, то на основе этих библиотек можно будет соорудить то, что нужно именно вам.
Свободное время появится к концу этой — началу следующей недели.
FinSerfing, есть 2 пути в алготорговле (очень образно, их конечно много): ООП — C# — DDE и ODBC — СУБД. По второму я уже прошел, робот готов, все работает. Первый для меня — либо самому пилить ради расширения кругозора либо заказать. Пока решил, пардон, второй прокачать.
tranquility, поток ODBC льется в приемник-таблицу, как это в процессе изменить не знаю. Задал вопрос техподдержке квика можно ли сделать много таблиц обезличенных сделок и настроить у каждой фильтр. Тогда можно 10 таблиц квика (по инструментам) — 10 таблиц БД
kvazar, значит надо из своего кода производить запись потиково в БД. Как заполняется час — подставлять другую таблицу, а прежнюю на диск, сливать отдельным потоком… Вроде народ через коннекторы C# кучу инструментов за раз мониторит (арбитражеры, например) и соединение у них не лопается). Кстати, когда сами писать в БД будете, там какой-нибудь порожняк выкинуть можно будет, вроде номера сделки (если так надо, то хотя бы можно базовое значение отнять, а сохранять только int32), время из текстового вида в численный перевести — поток данных ужмется в разы.
tranquility, запрос работает со смещением. скользит. то есть ему придется обрабатывать сразу 2 таблицы, обсчитывая 60 минут, так как часть данных в одной, часть в другой. В чем проблема Акцесса? Это 2Гб на базу. И базу нельзя сжать в процессе, к концу дня замедляется поток, нужно индексы ведь обсчитывать при вставке в таблицу, база растет. А SQL такой проблемы не испытывает, там можно базу сжимать в процессе. насколько я знаю.
Акцессовский движок это урезанный SQL. И поскольку все работает локально прирост в скорости будет далеко не в разы.
kvazar, А, я все же подразумевал что все данные у Вас в ОЗУ будут за необходимый промежуток времени, а БД нужна только для последующего бектестирования. Но если так надо чтобы данные в БД были, можно писать какое-то время в старую таблицу еще час и в новую. Тогда будут куски по 120 минут, каждый последующий повторяет половину предыдущего. Данные брать из старой продолжать пока час новой не наберется, тогда только сохранять старую, делов-то ;) Ну, и если сами писать будете, то следует ожидать какого-то ужатия данных. Может, как раз в те же 2Гб и уложитесь. Я подозреваю, что в бд все в текстовом виде поступает, а это значит, что еще стоит кроме ужатия и прироста скорости ожидать, если все перевести в численный. Ведь чтобы найти нужное время, СУБД не надо будет индекс производить, просто достаточно логарифмический поиск по упорядоченному массиву выполнить.
tranquility, если все данные за день в ОЗУ — тогда вопросов нет конечно. Сбросить в конце дня в базу. А если 30 инструментов, это где-то за день, 3-4 млн записей приблизительно будет...
kvazar, ну, тогда внахлест сбрасывайте каждые 2 часа, раза в 4 разгрузите память ОЗУ. Но вот только надо разобраться с коннектором и как самому в базу писать. Я правильно подозреваю что в БД все в текстовом виде сохраняется, время, и может даже — цена? Если так, то перегоняя каждый тик при поступлении в численный вид — сильно объем данных ужмется.
kvazar, ну и вот со временем тем же, вот сколько байт это занимает в одном тике?
9 * sizeof( float64 ) = 72 байта, когда это все можно хранить в 8ми?? 4 на кол-во секунд с «начала эпохи» и по 2 на милли- и микро- секунды? Микро, подозреваю, можно отбростить, тогда 6… Память, правда, скорее всего выделяется порциями не меньше 4 байт (выравнивание, так называемое), поэтому особо микросекунды отбрасывать не имеет смысла.
kvazar, ну, уже хорошо, хотя, время можно вполне себе в int32 перевести, по сравнению с текстом — ужатие существенное. Ну и посмотрите на структуру обезличенной сделки:
tranquility, я получаю только номер сделки, инструмент, время, количество, цену и операцию. Спасибо за подсказку, глаз замылился, исторически сложилось, номер сделки мне не нужен, выкину.
kachanov, различные (не одна) выборки из всех тиков по инструменту за последние 60 минут. Т. е. выборок несколько, допустим, 10 и 10 инструментов. За 10-30 секунд около 100 запросов проходит. Это один цикл.
На мой взгляд, если SQL запросы в Access писали ручками, а не через их кривой мастер, то для простых приложений MS SQL явного прироста производительности не принесет.
kachanov, :) будет ли выигрыш от ухода от акцесса к localdb ms sql. как строитт запросы в этом случае. чем хорош акцесс, это его офигенная терпимость к ошибкам. исправил код в процессе выполнения и дальше погнали.
Если есть таблица обезличенных сделок с 10 инструментами, и нужно делать выборки, учитывая время, инструмент, операцию, необходимо ли индекс на поле время. Вот общем я это и сам выяснить могу, опытным путем. Добавляя / убавляя индекс.
kvazar, у меня опыт не впечатляющий, но без совета не оставлю )))
На мой взгляд прямого выигрыша не будет. Не те задачи.
Сами запросы SQL перенести легко, базовые конструкции везде одинаковы.
MS SQL я использовал с SQL Server Management Studio. Мощная штука, особенно на этапе изучения и повышения навыков в SQL.
Имеет смысл поставить и протестировать там то, что используется.
Как минимум, можно повысить скилл написания самих запросов, что в Access сделать сложно.
А вот это уже приведет к итоговому улучшению.
С индексами только эксперименты, просто потому что база маленькая.
kvazar, согласен. Просто и удобно.
SQL там нормальный, это скорее в MS SQL расширенный, причем большая часть этих расширений нужна только для сложных задач
Там мастер кривой. Я когда запросы из MS SQL переносил в access, он ряд запросов даже отобразить не мог, хотя выполнял их прекрасно.
Я почему и говорю, что имеет смысл поработать именно над запросами и, возможно будет достаточно их просто перенести потом в access, не устраивая кардинальных переделок
Вы сделали, очень интересное и изящное решение для робота. Никаких танцев с бубнами над коннекторами и прочей обвеской.
У меня старый запорожец. В принципе я знаю где и что у него отваливается. Стоит ли мне пересаживаться на новую современную машину?
Access это чуть лучше чем Excel. Любая нормальная СУБД будет намного лучше. Сервер с 32ГБ в аренду можно взять за 40 евров в месяц.
FinSerfing, если нужна скорость то ничего другого кроме как хранить в оперативке не придумали еще. Ну если вся база это 8ГБ то это вообще смешно. Хотя для accessa и это вызов
Ынвестор, в данном случае корректней сравнение автомобиля и прогулки пешком/ на велосипеде.
Машина хорошо, но для похода в соседнюю булочную она необязательна. )))
kvazar, думаю, если бы Вы хранили историю в .qsh файлах, при этом держа в памяти только те данные, к которым производится обращение, то ресурсов Вашего компа было бы все еще достаточно. Интересно вообще, а зачем нужна тут СУБД? Там же в любом случае не должно быть каких-то суперхитрых запросов, а функцию логарифмического поиска и самому реализовать несложно, на любом языке программирования…
kvazar, ну, хотя бы переход на SQL будет каким-то поводом встряхнуть мозгами) Я вообще СУБД никогда не пользовался, разве что когда-то немного с примерами SQLite игрался. Поэтому и спросил в чем там профит от использования СУБД, вдруг лично мне как раз этого не хватает чтобы откопать свой персональный грааль))
А так, классы C# для работы с qsh вроде ведь доступны, просто бери и используй (не то что некоторым заново на С++ все это реализовывать надо было). День торгов по РИ вместе со всем ордерлогом там вмещается в ~10Мб, а если в текст распаковать — то больше 1 Гб может получиться. Мало ли, вдруг заинтригует. В конце концов, можно тики хранить в .qsh, а сами файлы (либо ссылки на них, относительные пути) уже в БД записывать. Вполне себе функциональная вещь должна получиться))
kvazar, есть только то, что касается qsh и на С++. С# мне не нужен, но я видел на сайте кускальпа библиотеку классов C# для работы с qsh. Этого должно быть достаточно для нуждающегося.
kvazar, может, я проблему саму техническую не понял? Т.е. инструментов так много, что тиковая история в ОЗУ не вмещается, если ее целиком там хранить весь день и поэтому ее надо сразу практически скидывать в ОЗУ на диск? Звучит как-то странно, тиков по одному инструменту ну тысяч 200, каждый, скажем, байт 100 (на самом деле — меньше) занимает — это всего 20 Мб. 8Гб на сотню-другую таких инструментов должно хватать…
kvazar, так «хранение этого где-то в памяти» подразумевает только лишь создание объекта массива структур (объектов с полями: время, цена, объем, номер сделки, и т.п.). Обычная работа с массивами (ну, векторами по С++шному). Там реально ничего сложного. С# как и С++ позволит Вам создать хоть миллирардной длины массив (вектор) — лишь бы памяти хватало, и все будет стабильно работать.
Проблема не в базе, а в архитектуре. данные надо держать в памяти и дампить в базу с некоторой переодичностью в отдельном потоке. из базы данные брать только при первичной загрузке и при перезапуске, например, после обрыва связи. вытаскивать данные раз в 5 секунд с базы за последний час… ну такое.я, конечно, не знаю всех входящих условий, но я бы пересмотрел логику работы с котировками, а не оптимизировал бы базу.
ГОТОВ ПОКАЗАТЬ ЧЕРЕЗ СКАЙП СВОЮ ПОДЕЛКУ и обсудить возможности реализации другим гарантированно более быстрым способом (с открытым кодом для меня). За деньги)
kvazar, так почему тогда СКАЙП? мерзакаяя майкрософтская приоьретёнка, если такие глобальные задачи? и с какого фига до сих пор Акцесс фигурирует в написаниии????
Давайте ещё будем строить всё в Кью-Бейзе и прочих… АКЦЕСС!!! Реально??????? ЭТО РЕАЛЬНО СТРОИТЬ РОБОТА ЧЕРЕЗ АКЦЕССС????
ЕО ВООБЩЕ ГДЕ-ТО ДО СИХ ПОР ПОЛЬЗУЮТ?
Я пользовал его до развития 1С чтобы создавать свои базы на предприятии ...
Закончилось это примерно в 2001-2003 году… а тут робот через акцесс… ЖЕСТЬ ПОЛНАЯ!!!
GrayFox, робот написан и работает. что столько эмоций? абсолютно все равно в 90% случаях на чем написан робот, если это не HFT. Если гонять 1-2 инструмента, так вообще пофиг.
kvazar, если переписывать робота, то вам однозначно надо уходить от постоянного запроса тиков из базы. Это неправильно, хотя понятное решение с минимум ошибок. MS SQL Server очень прожорлив к памяти, хотя его и можно настроить.
Берете с гитхаба библиотеку луашарп — тики у вас уже есть. Дальше делаете подписку роботов на событие OnTrade ( FinSerfing может помочь). Да, это сложнее.
Все тики собираете в базу также через ODBC в SQLite/MS SQL, и при старте робота запрашиваете нужную глубину. Готово. ))
Кстати, активные запросы знатно убивают SSD диски.
yurikon, спасибо за совет. задачка масштабнее… мы говорили только про узкое место. функционала в поделке намного больше, это конструктор, плюс анализ сделок — это главное… на переделку хозспособом у меня уйдут годы. Самое разумное сейчас сменить комп и возможно СУБД. Правильно говорите, решение стабильное относительно.
kvazar, можете поставить ms sql express — бесплатный релиз, там ограничение на ядра и ОЗУ есть. И поставить MsManager MS SQL — оттуда можно делать запросы и смотреть скорость исполнения. MS SQL будет конечно шустрее.
Еще можно сделать трюк, чтобы лишний раз не драконить базу. Таблицу с тикером и флагом апдейт. Если пришел новый тик, то тригером выставляем флаг ему. А уже из проги сначала проверяем флаг, если он тру, то уже дергаем серию тиков. Удачи!
yurikon, этим уже занимаюсь. есть VS prof 2013, и MMSQL. Тиков заходит в таблицу 1-10 в секунду… Проверять это лишнее время? В роботе я лишь проверяю актуальность времени котировок в базе.
Правильно Вам все пишут.
1. БД — только для хранения данных и загрузки данных в начале работы робота с утра или после сбоя. Использовать БД для быстрого оперативного анализа — неправильно.
2. Весь анализ необходимо производить в ОЗУ — быстро и безопасно.
Если нужно очень быстро обрабатывать, то используйте многопоточность.
Можно, например, разделить на потоки обработку по разным инструментам и стратегиям.
В любом случае Вы рано или поздно в процессе развития своей системы придете к такой архитектуре:
Прием данных в Память, а дальше Анализ, Принятие решений, Прием и отправка ордеров и сделок, Запись данных в БД для истории итд — Все это в отдельных потоках.
И чем раньше Вы это сделаете, тем лучше.
kvazar,
Правильно поняли.
1. У Вас уже есть то, что работает сейчас — это здорово.
2. Вы понимаете, что то что есть сейчас, развивать все сложнее и сложнее — это тоже хорошо (то что Вы это понимаете).
3. Необходимо смело сделать соответствующие выводы —
Использовать то что есть сейчас, и постепенно переходить к другим более перспективным технологиям.
Да не, недостаточно волатильно. Больше повторяет общие тренды.
Тут не наспекулируешь уже особо… Все, кто хотел давно слил.
Карась опоздал. Поэтому и истерит :))
Investor_bez_sapog, Я готов потерпеть за 35% уже по двум картам получил кешбек, пока не жалуюсь, а так 20к в месяц не лишнее, что одна пятая от пассивного дохода гуру дивидендных инвесторов, жаль ч...
Новый выпуск облигаций "Брусника. Строительство и девелопмент" (RU000A10A3C3) 🔶 ООО «Брусника. Строительство и девелопмент»
(для квалифицированных инвесторов)
▫️ Облигации: Брусника-002P...
Тимур,
И по сравнению с 300 млрд заблокированными (украденными).
Чиновники наши богатые, детки как правило ПМЖ, две Родины
Могут и даром отдать
radiosputnik.ru/20241116/1974790021.html
Без снижения RGBI падение рынка не будет? Основная гипотеза по рынку. Фактор снижения акций — повышение ставки ЦБ. Исходя из этого, на текущий момент лучшим индикатором для акций является более умный ...
А с компом у вас и так все ОК.
Определенно написать на С#/VB, а часть на С++.
до 16gb.
Одно это добавит скорости.
И что удивительно и неожиданно, надежности.
(своп до сих пор, несмотря на 25 лет использования в ос подглючивает)
опять-же на квик 64 бит переходит.
У меня вот всего 4 ГБ (несчастный случай, сдох комп, и срочно на Авито купил новый-ненадеванный, других не было, а через неделю появился — локти кусал) — и то на все хватает. Квик подтормаживает, но здесь не в памяти дело, ее еще 20% остается, и проц не загружен.
Квик х64.
а через стенку, в другой квартире, у 12 летнего гейсера 32 гига чтобы было.
И что у вас нет запасного терминала в виде дешевого ноута тоже очень грустно.
А еще это значит что ни о каких бд промышленно используемых вы в реале не видели.
Потому что железо сейчас очень дешевое.
А квалификация хорошо оплачивается. даже в рф.
С Квик вообще все интересно, свободная память есть, процессор свободен, а Квик подвисает. Че-то в нем не так.
И воще, я IT специалист, а сапожнику положено без сапог.)
Это такое.
Он может свопить и показывать свободную память.
+ то-же dde
Работает в ТОМ ЖЕ потоке.
И если стучится в dde сервер, в виде excel, пока тот из свапа выползет фрезится.
А по памяти это не видно навскидку.
Ок надо, )
А вообще б/у покупать хорошо. Кому-то дарят на ДР, он на Авито продает ненужное новье с гарантией в 2 раза дешевле.
Памяти нужно на разработку как минимум 16gb
Тем более что это дешево. 100$ 16gb
А вот память не апгрейдится, впаяна в сис. плату.
А Васька слушает, да ест. Тем временем моя сделка на стрэнглах РТС вверх ползет.)) Пустячок, а приятно.
Он на этом компьютере не только стратегию крутит.
но и использует его как рабочую станцию.
Так что 8gb ему мало, это видно по скриншоту.
Самое дешевое и надежное добить памяти до 16 gb.
Как минимум.
Все станет надежнее.
Даже квик с dde.
И акцесс весь кеш переселит в память и вообще не будет читать диск.
Только писать.
По факту просто добив памяти получаешь надежность и отзывчивость.
Очень дешево.
+ открывает путь к безопасности и надежности через виртуализацию.
( Когда бот работает в виртуалке в отдельной чисто системе)
Которую можно снешшопить.
При обновлении квика.
И если что пойдет не так, обратно восстанавливать.
+ которую хакнуть будет тяжело.
потому что вылезти из броузера будет недостаточно.
нужно еще в чистую виртуалку зайти.
а через стенку, в другой квартире, у 12 летнего гейсера 32 гига чтобы было.
И что у вас нет запасного терминала в виде дешевого ноута тоже очень грустно.
Опытнейший программист не станет консультировать так абстрактно.
Потому что понимает, что очень многое зависит от архитектуры приложения, используемых фреймворков и библиотек.
Можно и на C++ так наговнокодить, что VBA окажется быстрее.
Разбирать нужно что-то конкретное.
Иначе в этом нет почти никакого смысла.
kvazar, базы данных — это не к программисту.
Это к DBA(DataBase Administrator).
При этом достаточно базовых знаний, которые есть в массе книг.
Разделение на нормальные формы, создание правильных индексов, работа с SQL Query Analyzer.
Но самое занятное, что во многих случаях базы данных просто не нужны.
Либо нужны но в гораздо меньших объёмах.
Не редко их используют не по назначению.
Самый первый вопрос: «Что вы храните в базе данных ?»
kvazar, хорошо.
Основной объём и проблемы дают тики.
Идём дальше.
За какой период хранится тиковая история и по какому количеству инструментов?Зачем вам вообще тиковая история и можно ли обойтись бОльшим фреймом или меньшим объёмом тиков ?
kvazar, возьмём фьючерс на индекс РТС(RIM0).
За первый час пролетело 44308 сделок.
Это совершенно не много.
При учёте того, что время от времени очищать старые данные.
MSSQL достаточно просто потянет данную задачу.
Если нужна супер скорость, то можно создать in-memory-table.
Скажу больше, подобный объём можно хранить и обрабатывать внутри программы.
Хоть в массивах, хоть в хеш-таблицах.
Данные в access поставляются через ODBC ?
Сколько оперативки на компе ?
Какой процессор ?
В день записывается строк с расчетами около 35000-40000, самих запросов больше в день, есстественно.
kvazar, горячие/актуальные данные правильнее кешировать.
Т.е. хранить внутри программы.
Либо где-то в оперативной памяти.
По ним вести расчёты и не совершать избыточную работу.
Записывая и читая по 100 раз из базы(ибо это дисковые операции).
Время от времени скидывать пачками(bulk insert) данные в базу(если оно вообще нужно).
Можно поизвращаться с in-memory-table.
https://docs.microsoft.com/ru-ru/sql/relational-databases/in-memory-oltp/introduction-to-memory-optimized-tables?view=sql-server-ver15
Но простое решение всегда лучше, надёжнее, стабильнее и быстрее.
kvazar, через LUA или DDE из таблицы всех сделок.
Первый вариант особо не щупал.
Со вторым работаю давно.
kvazar, это 2 разные технологии с отличными целями.
DDE — старый протокол для обмена данными.
ODBC — интерфейс для работы с базами данных.
С DDE я могу напрямую работать из C#, получая сырые данные прямо из Квика.
И решая что с ними делать дальше.
Писать в базу, хранить в памяти или выбрасывать.
ODBC подобной прямой возможности не имеет.
С СУБД проще работать. Решил что главнее результат, чем процесс. Когда получаешь результат, интереснее улучшить процесс)
kvazar, C# — это норм.
Со Stock# связываться категорически не рекомендую.
Для начала выбирайте простые задачи, чтобы как можно быстрее видеть результат и сохранять мотивацию.
Например отправка заявок через файлы или trans2quik.dll
Но всё равно это будет непросто.
Ибо написать программу и написать её хорошо — это 2 бооольшие разницы.
Каждый должен заниматься своим делом.
Трейдер торговать и генерировать идеи, а программист программировать.
Иначе на рынке не победить.
kvazar, чтобы иметь степени свободы нужно как можно меньше использовать сторонние библиотеки типа Stock#.
Но подобный подход требует значительно больше времени и опыта.
Для новичка это почти нереально.
В общем пробуйте.
Это полезно.
Если что, обращайтесь.
kvazar, если вам не к спеху, то подстрагаю и дам на пробу программу, которая получает данные по DDE из таблицы всех сделок, сворачивает их в нужный фрейм и выводит бары в Excel.
Запустите на десятке ликвидных инструментов и оцените загрузку процессора/памяти(за вычетом экселя).
Если устроит, то на основе этих библиотек можно будет соорудить то, что нужно именно вам.
Свободное время появится к концу этой — началу следующей недели.
Работы там не сильно много.
Акцессовский движок это урезанный SQL. И поскольку все работает локально прирост в скорости будет далеко не в разы.
9 * sizeof( float64 ) = 72 байта, когда это все можно хранить в 8ми?? 4 на кол-во секунд с «начала эпохи» и по 2 на милли- и микро- секунды? Микро, подозреваю, можно отбростить, тогда 6… Память, правда, скорее всего выделяется порциями не меньше 4 байт (выравнивание, так называемое), поэтому особо микросекунды отбрасывать не имеет смысла.
kvazar, ну, уже хорошо, хотя, время можно вполне себе в int32 перевести, по сравнению с текстом — ужатие существенное. Ну и посмотрите на структуру обезличенной сделки:
Вам и вправду все эти данные нужны??
kvazar, под «обсчитываем» что понимается?
тики за 60 мин это маленькая база, чтобы хоть как-то напрячь SQL сервер
kvazar, экстенсивный путь не является умным решением.
Это действие в лоб.
Возможно, забесплатно советов наслушаетесь на годы работы вперед ))
Если есть таблица обезличенных сделок с 10 инструментами, и нужно делать выборки, учитывая время, инструмент, операцию, необходимо ли индекс на поле время. Вот общем я это и сам выяснить могу, опытным путем. Добавляя / убавляя индекс.
kvazar, у меня опыт не впечатляющий, но без совета не оставлю )))
На мой взгляд прямого выигрыша не будет. Не те задачи.
Сами запросы SQL перенести легко, базовые конструкции везде одинаковы.
MS SQL я использовал с SQL Server Management Studio. Мощная штука, особенно на этапе изучения и повышения навыков в SQL.
Имеет смысл поставить и протестировать там то, что используется.
Как минимум, можно повысить скилл написания самих запросов, что в Access сделать сложно.
А вот это уже приведет к итоговому улучшению.
С индексами только эксперименты, просто потому что база маленькая.
SQL там нормальный, это скорее в MS SQL расширенный, причем большая часть этих расширений нужна только для сложных задач
Там мастер кривой. Я когда запросы из MS SQL переносил в access, он ряд запросов даже отобразить не мог, хотя выполнял их прекрасно.
Я почему и говорю, что имеет смысл поработать именно над запросами и, возможно будет достаточно их просто перенести потом в access, не устраивая кардинальных переделок
Вы сделали, очень интересное и изящное решение для робота. Никаких танцев с бубнами над коннекторами и прочей обвеской.
Там история длинная, зачем это понадобилось, но такой опыт был
Наоборот естественно тоже переносил ))
А где их использовать другой вопрос
Самый быстрый и надежный результат.
sql будет все хранить в памяти сам если будет видеть что озу много.
Access это чуть лучше чем Excel. Любая нормальная СУБД будет намного лучше. Сервер с 32ГБ в аренду можно взять за 40 евров в месяц.
Ынвестор, если вы хотите ехать комфортнее, быстрее и не убиться от лёгкого удара об столб, то пересаживаться на современную машину стоит.
Для задач данного топика никаких 32 гигов оперативы не требуется.
Совет добавь озу до 16 gb самый простой и рабочий.
А еще надежный и дешевый.
И не отменяет следующих шагов
Машина хорошо, но для похода в соседнюю булочную она необязательна. )))
А так, классы C# для работы с qsh вроде ведь доступны, просто бери и используй (не то что некоторым заново на С++ все это реализовывать надо было). День торгов по РИ вместе со всем ордерлогом там вмещается в ~10Мб, а если в текст распаковать — то больше 1 Гб может получиться. Мало ли, вдруг заинтригует. В конце концов, можно тики хранить в .qsh, а сами файлы (либо ссылки на них, относительные пути) уже в БД записывать. Вполне себе функциональная вещь должна получиться))
Проблема не в базе, а в архитектуре. данные надо держать в памяти и дампить в базу с некоторой переодичностью в отдельном потоке. из базы данные брать только при первичной загрузке и при перезапуске, например, после обрыва связи. вытаскивать данные раз в 5 секунд с базы за последний час… ну такое.я, конечно, не знаю всех входящих условий, но я бы пересмотрел логику работы с котировками, а не оптимизировал бы базу.
ЕО ВООБЩЕ ГДЕ-ТО ДО СИХ ПОР ПОЛЬЗУЮТ?
Я пользовал его до развития 1С чтобы создавать свои базы на предприятии ...
Закончилось это примерно в 2001-2003 году… а тут робот через акцесс… ЖЕСТЬ ПОЛНАЯ!!!
Берете с гитхаба библиотеку луашарп — тики у вас уже есть. Дальше делаете подписку роботов на событие OnTrade ( FinSerfing может помочь). Да, это сложнее.
Все тики собираете в базу также через ODBC в SQLite/MS SQL, и при старте робота запрашиваете нужную глубину. Готово. ))
Кстати, активные запросы знатно убивают SSD диски.
Еще можно сделать трюк, чтобы лишний раз не драконить базу. Таблицу с тикером и флагом апдейт. Если пришел новый тик, то тригером выставляем флаг ему. А уже из проги сначала проверяем флаг, если он тру, то уже дергаем серию тиков. Удачи!
1. БД — только для хранения данных и загрузки данных в начале работы робота с утра или после сбоя. Использовать БД для быстрого оперативного анализа — неправильно.
2. Весь анализ необходимо производить в ОЗУ — быстро и безопасно.
Если нужно очень быстро обрабатывать, то используйте многопоточность.
Можно, например, разделить на потоки обработку по разным инструментам и стратегиям.
В любом случае Вы рано или поздно в процессе развития своей системы придете к такой архитектуре:
Прием данных в Память, а дальше Анализ, Принятие решений, Прием и отправка ордеров и сделок, Запись данных в БД для истории итд — Все это в отдельных потоках.
И чем раньше Вы это сделаете, тем лучше.
Желаю успехов.
Правильно поняли.
1. У Вас уже есть то, что работает сейчас — это здорово.
2. Вы понимаете, что то что есть сейчас, развивать все сложнее и сложнее — это тоже хорошо (то что Вы это понимаете).
3. Необходимо смело сделать соответствующие выводы —
Использовать то что есть сейчас, и постепенно переходить к другим более перспективным технологиям.