Вчерашний отчет Nvidia показал, что AI-бум не собирается останавливается. $26 млрд дохода за квартал и огромная потребность рынка в GPU-решениях Nvidia, положили на лопатки все предсказания ну процентов 80(по моим прикидкам) самых маститых аналитиков рынка, кто уже давно ждет падения SP500. Практически уверен, что сипа доедет до 6000 в этом году, если без черных лебедей. Печально, что Россию оставили на отшибе прогресса и на российский фондовый рынок и экономику AI-бум как-то слабо влияет сейчас. А ведь нас ждут в ближайший год-два масса интереснейших трансформаций и удивительных новых продуктов. Что прекрасно — так это то, что AI может быть внедрено в ЛЮБОЙ IT-продукт с пользой для него.





А что я? А я поставил на AMD )). Практически уверен, что AMD вскоре выпустит продукт, схожий по производительности с AI-решениями Nvidia и тогда это будут иксы, а может даже 10x!

Вкратце про Generative AI — что это?

GPT — это сокращение от Generative Pre-trained Transformer «генеративный предварительно обученный трансформер». Это специальный класс крупных нейросетей, который появился совсем недавно — в 2017 году, а тот самый ChatGPT стал доступен общественности в прошлом году и сразу завоевал популярность благодаря своим качественным ответам, невиданным ранее у нейросетей. Сейчас GPT-нейросети могут генерировать текст, качественно переводить языки, создавать изображения и музыку подчас неотличимые от профессиональной работы. И все это на новом качественном уровне, что открывает новую степень полезности для внедрения во все области деятельности человека.

Почему это очень ресурсоемко

Для получения качественно лучших результатов ChatGPT использует 175 млрд параметров, это очень много. Вам нужно 5 карт Nvidia A100 80Gb только, чтобы загрузить модель. А скорость генерации текста будет порядка 15 слов в секунду.
Стоимость одной такой карты A100 — $16,895, то есть минимум денег только на карты это $85K.

( Читать дальше )