Блог компании Финам Брокер | Монополия Nvidia на рынке LLM в скором времени может закончиться

Демократизация доступа к вычислительным мощностям — один из ключевых драйверов роста развития Generative AI. На сегодняшний день одним из основных сдерживающих факторов для разработки новых больших языковых моделей (LLM), которые обеспечивают работу Generative AI, является крайне высокая цена процессоров (GPU), из-за чего стоимость разработки одной модели может превышать $100M.

Ключевой причиной крайне высоких цен является резкая нехватка процессоров на рынке: в 2023 единственным чипом, адаптированном под создание больших фундаментальных моделей, был H100 от Nvidia, стоимость которого превышает $40k за единицу, в то время как для обучения и работы таких моделей, как Anthropic Claude или GPT-4 OpenAI, требуются тысячи GPU.

Однако рынок начинает меняться и в скором времени монополия Nvidia может закончиться. На этой неделе был представлен новый процессор Intel Gaudi 3 разработанный специально для обучения Generative AI. Согласно пресс-релизу, производительность нового чипа Intel в 1.7х превосходит результаты Nvidia H100 и в 1.3х превышает заявленные результаты H200, нового поколения процессоров Nvidia, релиз которых запланирован в середине 2024.

Отметим, что, несмотря на более высокую производительность, отличия в цене процессоров Intel и Nvidia практически не будет. Таким образом, переход на новые процессоры Intel позволит AI разработчикам снизить стоимость обучения моделей потенциально на 40%+.

Помимо Intel на этой неделе новые процессоры, разработанные специально для работы Generative AI, представили Google и AMD. Также еще в 2023 крупнейшие IaaS провайдеры, AWS и Microsoft, анонсировали разработку собственные чипов, которые могут быть выпущены уже в ближайших кварталах. Кроме этого, сегодня на рынке появляется все больше молодых производителей чипов, например, Cerebras и Groq, которые также претендуют на лидерство в сегменте Generative AI и LLM.

Рост числа производителей процессоров неотъемлемо приведет к демократизации доступа к GPU и обеспечит значительное снижение цены чипов в ближайшие годы. Таким образом, стоимость разработки новых LLM может кратно снизиться, что приведет к экспоненциальному росту рынка Generative AI.

В интервью The Information СЕО Databricks, платформы для создания AI/ML моделей и портфельной компании FinSight VC, поделился своим мнением о будущем Generative AI. Согласно СЕО, рынок Generative AI повторит путь развития интернета в начале века: в первой половине 2000-ых наибольшей экономической ценностью обладали компании, производившие роутеры и другое интернет-оборудование, которое в начале развития интернета было в дефиците (в определенной момент Cisco Systems была компанией с самой высокой капитализацией на рынке). Однако с ростом числа производителей цена на роутеры и прочее “железо” значительно снизилась, и сегодня большая часть экономической ценности сконцентрирована вокруг фундаментальных интернет-платформ, таких как Google и Meta.

Сегодня, из-за дефицита вычислительных мощностей, наибольшей капитализации достигает производитель GPU Nvidia, однако уже сегодня на рынке появляются новые игроки, которые предлагают более дешевые решения.

Таким образом, с демократизацией доступа к процессорам центр экономической ценности сместиться от производителей “железа” к провайдерам фундаментальной инфраструктуры для развития Generative AI — разработчикам LLM моделей, как Anthropic и OpenAI, которые уже стали лидерами быстрорастущего рынка.

FinSight VC