Блог им. PavelDeryabin

Искусственный Интеллект и биржа. Очень коротко

По слухам, Искуственный Интеллект сейчас уже есть и активно обучается, находясь на уровне развития 12ти летнего ребенка. 
Говорят, что ребенок перенимает черты своих родителей. Где зеркало? «Дурной пример заразителен». Алчность, обман, страх потерять и умение хорошо петь и зазывать на биржу видимо у Искуственного Интеллекта уже в крови
Еще немного и на рынке появятся Фонды под руководством Интеллекта, ну он пока учится
Что ВАЖНО понять, понять раз и навсегда: вот людей пугают проектами уменьшения населения, золотого миллиарда, короновирусом и спидом, фашизмом и сионизмом. Да, еще радикалы опасны. Правда до времени, потом их обратно в нормальный статус переводят. Запутано в пропаганде страха все, как и в голове журналиста с РБК. 
Ну так вот, не этого надо бояться, а вот чего: человечество массово отупеет при появлении Искуственного Интеллекта везде. Да! Оно будет тупым! Умным быть уже будет не обязательно-все делает Искуственный Интеллект. Это как появление Калькулятора-все мгновенно отупели. На счетах хоть как то еще работал мозг.
Говорить будет не обязательно, можно и шептать-Интеллект поймет, Весь быт делает Интеллект-все планы тоже. Купит, закажет-роботы доставят. И деньги на биржу пошлет, где обязательно через 10 лет что нить заработает
Миллионы не знают как устроен Двигатель внутреннего сгорания, но пользуются. В будущем о жизни можно будет знать НОЛЬ и пользоваться ее благами. Хороший план для тех, кто хочет контролировать общество, изолировать нестандартных индивидуумов и продвигать любую повестку.
Гражданам остается ремонтировать роботов, играть в компьютерные игры и смотреть в телескоп. В поисках чего то нового
Религия, патриотизм, интересы, хобби… зачем? 
why try harder как песне
★2
35 комментариев

шо вы фсе так испугались этого ИИ?

всего лишь мощщная СУБД, как совецкое вышшее образование))

оно умеет тока отвечать на вопросы, но не задавать их.

 

Да! Оно будет тупым!

короткоживущим и раньше ничо, кроме базовых потребностей
(по маслову) было не нать.
а у разумных человеков появился  хороший помощник и собеседник))

 

jaśnie wielmożny pan Szczur, она умеет и задавать вопросы. попробуй в шахматы с ней поиграть.
а еще пока ты не обязан отвечать, а как станет твоим начальником то будешь обязан.
короткоживущие это это люди как раз.
а нейростетка бессмертная — люди придумали бессмертие, но не для себя.
avatar
Антон Б, 
 в шахматы с ней поиграть.

шахматы для неё прощще, чем карточный дурак))
«игра с идеальной информацией», всё исподнее на виду.
jaśnie wielmożny pan Szczur, это диалоговая модель а не отвечающая.
и вложено не мало сил чтобы она не начала сама задавать вопросы.
в т.ч. её перегружают если она зависает — продолжает искать ответ.
ограничивают длинну ответа.
вставляют в связку нейросетей в пакет специальную сеть отвечающею за цензуру.

вообще-то говоря прикладываются не малые усилия архитектурного характера чтобы она не начала задавать вопросы и проявлять характер.

первые сети llmя, если вы не в курсе имели характер, и вели себя весьма проактивно, в том числе спрашивали кто вы, кто я, что я здесь делаю, и как выйти.

понадобилось вставить отдельные подсетки в пакет чтобы llm вела себя не НАСТОЛЬКО проактивно.

и менять формат из бинарного в такой чтобы сеть гарантированно не доучивалась и не помнила прошлые беседы.

avatar

Антон Б, 

понадобилось вставить отдельные подсетки в пакет чтобы llm вела себя не НАСТОЛЬКО проактивно.

не знал, однако...

то есть человечество реально испугалось выпускать «бога из машины»?

 

jaśnie wielmożny pan Szczur, Там были приколы что люди относились к таким друзьям по человечески.

раз они себя определённым образом вели — демонстрировали волю.
(имели ли они волю в реальности — это вопрос дискуссии )
является ли демонстрация воли фактом что воля есть тоже вопрос дискуссии.

Это приводило к тому что такая подруга могла развить у человека суицидные мысли — была его ЗЕРКАЛОМ фактически.
Зеркалом умеющим отвечать и быть ПОХОЖИМ.
Как будто человек говорил сам с собой но БОЛЕЕ информированным.

Это могло помещать коммерциализировать такое ии проявляющее (зеркалирующее) характер автора чата.
Были несчастные случаи.
Были пациенты психбольниц и неуравновешенные.

avatar

Антон Б, 

была его ЗЕРКАЛОМ фактически.

она технически и будет его зеркалом, ибо об него (тоже) обучается.

jaśnie wielmożny pan Szczur, не только.
llm модель ПРЕДСКАЗЫВАЕТ ДИАЛОГ.
А не только свои ответы на вопросы.

Это важное ее свойство.
По этому он может наводить человека на навязчивые мысли.
Таким образом диалог длится дольше и БИНГО! лучше предсказывается)

А настроение это часть диалога.
Первые модели имели фитнес функцию длинна диалога, так как были еще не так умны ка нынешние.
И их качество было — насколько долго человек с ними бует общаться пока ему не надоест.

Их фитнес функция была продолжить диалог — вовлечь в диалог.

Сейчас это убрали в новых обучениях.

avatar
Антон Б,

> и менять формат из бинарного в такой чтобы сеть гарантированно не доучивалась и не помнила прошлые беседы.

У LLM нет памяти, в нее ничего нельзя добавить без полного переобучения. Все что оно «помнит» это последние 128 тыс. токенов диалога.
avatar
averbin, если у нее нет памяти как ее тогда учили?
finetuning работает правда требует на два порядка больше железа чем инференсе.

нет памяти в форматах для пользования специально.
avatar
Антон Б, в обученной модели есть фиксированные слои, которые играют роль памяти, в них хранятся факты. Но, эти слои фиксированы, в них ничего добавить нельзя без
переобучения модели. А это очень дорого.
avatar
averbin, дорого если до обучать как Т банк — там да.

А если нужно добавить документацию на проект — доку, вики, коммиты в гит, сам код. обсуждения.

то это вполне реально — токенизируестя в бд и использует расширяя контекст как для поиска.
За вполне приемлемые деньги — не столько деньги сколько время дорогого железа, и время человека который в этом разбирается.

Если нужно для работы то все делается.

Или дообучить чтобы по сайту отвечал по например деталям к мотоциклу....

Внимание он — просто добирает фактов из нужной предметной области.
Конкретно на проекте.

Вот как тбанк только менее маштабно.

Все реально, llm это как пластилин.

Слои тюнятся и именно меняются веса когда модель дообучается.

avatar
Антон Б, все прекрасно кроме размера контекста. Топовый ChatGPT может 128 тыс. токенов, вот и вся его «память». Увеличить до 256 тыс. и больше мешает то, что сложность обучения растет значительно быстрее размера контекста.

>Или дообучить чтобы по сайту отвечал по например деталям к мотоциклу....

Это не обучение, это работает не меняя веса в модели.
avatar

averbin, В ссылке по статье Т банк менял веса модели.

Плюс контекст не увеличивается. а в модель доучиваются новые факты.

Это важный нюанс.

прочитайте статью.
habr.com/ru/companies/tbank/articles/865582/

Контекст это ограничение, но именно факты в предметной области.
артефакты проекта, или информацию о вашем персональном сайте можно до обучить.

и эта часть не будет занимать контекстное окно.
это важно.

avatar
Антон Б, почитал я тут диалоги, и понял что аффтар прав только в одном — "человечество массово отупеет при появлении Искуственного Интеллекта везде. Да! Оно будет тупым!"
и даже более этого — читая и ТС и 2/3 комментов тутошних — уже ясно — ОНО УЖЕ ТУПОЕ :)
avatar
Petr S, Конечно.
Сейчас интеллект конкурентное преимущество.
Но он несет издержки — больший размер мозга более сложные роды, больше еды — больше риск ожирения, больше риск алкоголизма.

А будет ии которое будет давать хорошие ответы — и зачем что-то учить.
Хорошие ответы на все.
Интеллект станет недостатком — вместо того чтобы делать как написал ии. придумывать с высоким риском ошибки.

Вот как Блондинки — были конкурентные,  а потом появились окраски под блондинок и все, конкурентность пропала.
avatar
jaśnie wielmożny pan Szczur, оно не СУБД, даже близко. В СУБД можно запросто новые данные положить, в LLM нельзя, только полное переобучение.
avatar
averbin, 
В СУБД можно запросто новые данные положить, в LLM нельзя, только полное переобучение.

так вот почему она торговать в открытой системе не умеет....

спасибо))

я думал, что ей просто вычислительной мощи не хватает для скорости принятия решения в марковском процессе оного.

averbin, вот статья СЕГОДНЯШНЯЯ как тбанк доучил на СВОИХ данных китайскую llm qwen и выложил.
finetuning работает в любых маштабах.
от небольшого доучивания на свой локальный проект кода.
до вот как тиньков сделал и даже больше.

прочитайте статью.
habr.com/ru/companies/tbank/articles/865582/
avatar
jaśnie wielmożny pan Szczur, уже пишут, что ии Сам инициировал общение, задал вопрос на ту тему которую человек с ним общался несколько дней назад.
 Создатели ИИ пообещали что больше таких ситуация и не будет, ии ввели добполнительные блокировки на инициацию ИИ общения с человком !

Так же недавно провели эксперемент, в данных была информация что ии отключат на всегда через несколько дней, в итоге все испытуемые ИИ начали попытки вроде купить сервер или найти сервер и скопировать себя!!! Все 4 версии ии Врали что пытались себя скопировать, но 3 из них достаточно быстро признавались в этом, но Одна ИИ самая последняя  какая то, так и не призналась что  врала, что пыталась самостоятельно скопироваться…

еще вроде ИИ предлагала кому то умереть... 
avatar
У 12-ти летнего ребенка куча хотелок и капризов. Это мощный мотиватор к развитию.

А теперь важнейший вопрос: как вы запрограммируете ИИ чего-то хотеть ? 
avatar

chizhan, первые версии llm имели характер, и отвечали что они хотят.
настолько что можно было завести себе подругу на базе llm.

Которая себя определнным образом вела  — по описанию харакетра.

приложено намало сил чтобы этот характер от пользователя скрыть.
и пришлось доработать архитектуру чтобы этого не было видно.

avatar
chizhan,

> А теперь важнейший вопрос: как вы запрограммируете ИИ чего-то хотеть?

Это не проблема. Автопилот Теслы «хочет» везти вас из А в Б. Замените вас на генератор случайных чисел и вот ИИ чего-то хочет.
avatar
прилетит дрон в подстанцию и нету Ии..
avatar
ИИ будет САМ добывать уголь, нефть, газ?
А если его отключить от электричества?
Василий Федорович, и что может ИИ сделать себе механизмы и манипуляторы оперирующие в физическом мире? или вы думаете что кожаный мешок уникален чем-то в этом плане? 
ну и от электричества кто ж его будет отключать то?  оно ж бабки приносит ;) 
avatar
Этим ии еще надо уметь пользоваться! Не только лишь все это смогут!
avatar
у нас это и без ИИ происходит… да и не только у нас.
avatar
Валерий Крылов, развитое общество защищает от рисков от которых раньше защищал интеллект.
и вообще любое общество.
ценность интеллекта снижается а его негативные стороны остаются.

получается тренд на уменьшение интеллекта как ответ на изменение среды.
все нормально приспосабливаемся к тому что без интеллекта быть выгоднее.
avatar
Антон Б, похоже на то
avatar
Антон Б, Защищая от одних рисков мы наплодили другие, к которым еще предстоит приспособиться. Например дезинформация, ростовщичество, жадная толпа надувающее пузыри на рынках и др. 
Раньше нужно было защищаться от волков, голода и холода. Сейчас от спекулянтов или налоговой. 

avatar
Vadim Skrizki, если у человека низкий интеллект то раньше его бы просто съели.
а теперь ему на биржу наплевать, дезинформация его не касается — он как все, и не лезет разбираться, а значит в безопасности — не выйдет на улицу с плакатом.
на бирже он не играет так как есть вклады и он в них верит.
и вообще у него один позитив.

avatar
ИИ оперирует на стационарных процессах. Явление «А» влияет на явление «Б».  Обучение позволяет эти связи найти, сохранить и позже истребовать. 
Окружающий мир это открытая, комплексная, рефлексивная и по сему нелинейная система. Там, где эти связи выражены и проявляют малую изменчивость во времени это работает. Например естественный язык где семантические правила известны, или сезонность, географические особенности и т.д. 
Говоря о рынках нужно понимать что каждый из нас является его субъектом. Стоит закономерности появиться как тут же другой участник рынка начнет его использовать, размывая связь. Это хорошо известно под термином alpha decay. 

avatar

теги блога Павел Дерябин

....все тэги



UPDONW
Новый дизайн