Комментарии к постам Павел Дерябин
averbin, В ссылке по статье Т банк менял веса модели.
Плюс контекст не увеличивается. а в модель доучиваются новые факты.
Это важный нюанс.
прочитайте статью.
habr.com/ru/companies/tbank/articles/865582/
Контекст это ограничение, но именно факты в предметной области.
артефакты проекта, или информацию о вашем персональном сайте можно до обучить.
и эта часть не будет занимать контекстное окно.
это важно.
В СУБД можно запросто новые данные положить, в LLM нельзя, только полное переобучение.
так вот почему она торговать в открытой системе не умеет....
спасибо))
я думал, что ей просто вычислительной мощи не хватает для скорости принятия решения в марковском процессе оного.