По слухам, Искуственный Интеллект сейчас уже есть и активно обучается, находясь на уровне развития 12ти летнего ребенка.
Говорят, что ребенок перенимает черты своих родителей. Где зеркало? «Дурной пример заразителен». Алчность, обман, страх потерять и умение хорошо петь и зазывать на биржу видимо у Искуственного Интеллекта уже в крови
Еще немного и на рынке появятся Фонды под руководством Интеллекта, ну он пока учится
Что ВАЖНО понять, понять раз и навсегда: вот людей пугают проектами уменьшения населения, золотого миллиарда, короновирусом и спидом, фашизмом и сионизмом. Да, еще радикалы опасны. Правда до времени, потом их обратно в нормальный статус переводят. Запутано в пропаганде страха все, как и в голове журналиста с РБК.
Ну так вот, не этого надо бояться, а вот чего: человечество массово отупеет при появлении Искуственного Интеллекта везде. Да! Оно будет тупым! Умным быть уже будет не обязательно-все делает Искуственный Интеллект. Это как появление Калькулятора-все мгновенно отупели. На счетах хоть как то еще работал мозг.
Говорить будет не обязательно, можно и шептать-Интеллект поймет, Весь быт делает Интеллект-все планы тоже. Купит, закажет-роботы доставят. И деньги на биржу пошлет, где обязательно через 10 лет что нить заработает
Миллионы не знают как устроен Двигатель внутреннего сгорания, но пользуются. В будущем о жизни можно будет знать НОЛЬ и пользоваться ее благами. Хороший план для тех, кто хочет контролировать общество, изолировать нестандартных индивидуумов и продвигать любую повестку.
Гражданам остается ремонтировать роботов, играть в компьютерные игры и смотреть в телескоп. В поисках чего то нового
Религия, патриотизм, интересы, хобби… зачем?
why try harder как песне
шо вы фсе так испугались этого ИИ?
всего лишь мощщная СУБД, как совецкое вышшее образование))
оно умеет тока отвечать на вопросы, но не задавать их.
короткоживущим и раньше ничо, кроме базовых потребностей
(по маслову) было не нать.
а у разумных человеков появился хороший помощник и собеседник))
а еще пока ты не обязан отвечать, а как станет твоим начальником то будешь обязан.
короткоживущие это это люди как раз.
а нейростетка бессмертная — люди придумали бессмертие, но не для себя.
шахматы для неё прощще, чем карточный дурак))
«игра с идеальной информацией», всё исподнее на виду.
и вложено не мало сил чтобы она не начала сама задавать вопросы.
в т.ч. её перегружают если она зависает — продолжает искать ответ.
ограничивают длинну ответа.
вставляют в связку нейросетей в пакет специальную сеть отвечающею за цензуру.
вообще-то говоря прикладываются не малые усилия архитектурного характера чтобы она не начала задавать вопросы и проявлять характер.
первые сети llmя, если вы не в курсе имели характер, и вели себя весьма проактивно, в том числе спрашивали кто вы, кто я, что я здесь делаю, и как выйти.
понадобилось вставить отдельные подсетки в пакет чтобы llm вела себя не НАСТОЛЬКО проактивно.
и менять формат из бинарного в такой чтобы сеть гарантированно не доучивалась и не помнила прошлые беседы.
Антон Б,
не знал, однако...
то есть человечество реально испугалось выпускать «бога из машины»?
раз они себя определённым образом вели — демонстрировали волю.
(имели ли они волю в реальности — это вопрос дискуссии )
является ли демонстрация воли фактом что воля есть тоже вопрос дискуссии.
Это приводило к тому что такая подруга могла развить у человека суицидные мысли — была его ЗЕРКАЛОМ фактически.
Зеркалом умеющим отвечать и быть ПОХОЖИМ.
Как будто человек говорил сам с собой но БОЛЕЕ информированным.
Это могло помещать коммерциализировать такое ии проявляющее (зеркалирующее) характер автора чата.
Были несчастные случаи.
Были пациенты психбольниц и неуравновешенные.
Антон Б,
она технически и будет его зеркалом, ибо об него (тоже) обучается.
jaśnie wielmożny pan Szczur, не только.
llm модель ПРЕДСКАЗЫВАЕТ ДИАЛОГ.
А не только свои ответы на вопросы.
Это важное ее свойство.
По этому он может наводить человека на навязчивые мысли.
Таким образом диалог длится дольше и БИНГО! лучше предсказывается)
А настроение это часть диалога.
Первые модели имели фитнес функцию длинна диалога, так как были еще не так умны ка нынешние.
И их качество было — насколько долго человек с ними бует общаться пока ему не надоест.
Их фитнес функция была продолжить диалог — вовлечь в диалог.
Сейчас это убрали в новых обучениях.
> и менять формат из бинарного в такой чтобы сеть гарантированно не доучивалась и не помнила прошлые беседы.
У LLM нет памяти, в нее ничего нельзя добавить без полного переобучения. Все что оно «помнит» это последние 128 тыс. токенов диалога.
finetuning работает правда требует на два порядка больше железа чем инференсе.
нет памяти в форматах для пользования специально.
переобучения модели. А это очень дорого.
А если нужно добавить документацию на проект — доку, вики, коммиты в гит, сам код. обсуждения.
то это вполне реально — токенизируестя в бд и использует расширяя контекст как для поиска.
За вполне приемлемые деньги — не столько деньги сколько время дорогого железа, и время человека который в этом разбирается.
Если нужно для работы то все делается.
Или дообучить чтобы по сайту отвечал по например деталям к мотоциклу....
Внимание он — просто добирает фактов из нужной предметной области.
Конкретно на проекте.
Вот как тбанк только менее маштабно.
Все реально, llm это как пластилин.
Слои тюнятся и именно меняются веса когда модель дообучается.
>Или дообучить чтобы по сайту отвечал по например деталям к мотоциклу....
Это не обучение, это работает не меняя веса в модели.
averbin, В ссылке по статье Т банк менял веса модели.
Плюс контекст не увеличивается. а в модель доучиваются новые факты.
Это важный нюанс.
прочитайте статью.
habr.com/ru/companies/tbank/articles/865582/
Контекст это ограничение, но именно факты в предметной области.
артефакты проекта, или информацию о вашем персональном сайте можно до обучить.
и эта часть не будет занимать контекстное окно.
это важно.
и даже более этого — читая и ТС и 2/3 комментов тутошних — уже ясно — ОНО УЖЕ ТУПОЕ :)
Сейчас интеллект конкурентное преимущество.
Но он несет издержки — больший размер мозга более сложные роды, больше еды — больше риск ожирения, больше риск алкоголизма.
А будет ии которое будет давать хорошие ответы — и зачем что-то учить.
Хорошие ответы на все.
Интеллект станет недостатком — вместо того чтобы делать как написал ии. придумывать с высоким риском ошибки.
Вот как Блондинки — были конкурентные, а потом появились окраски под блондинок и все, конкурентность пропала.
так вот почему она торговать в открытой системе не умеет....
спасибо))
я думал, что ей просто вычислительной мощи не хватает для скорости принятия решения в марковском процессе оного.
finetuning работает в любых маштабах.
от небольшого доучивания на свой локальный проект кода.
до вот как тиньков сделал и даже больше.
прочитайте статью.
habr.com/ru/companies/tbank/articles/865582/
Создатели ИИ пообещали что больше таких ситуация и не будет, ии ввели добполнительные блокировки на инициацию ИИ общения с человком !
Так же недавно провели эксперемент, в данных была информация что ии отключат на всегда через несколько дней, в итоге все испытуемые ИИ начали попытки вроде купить сервер или найти сервер и скопировать себя!!! Все 4 версии ии Врали что пытались себя скопировать, но 3 из них достаточно быстро признавались в этом, но Одна ИИ самая последняя какая то, так и не призналась что врала, что пыталась самостоятельно скопироваться…
еще вроде ИИ предлагала кому то умереть...
А теперь важнейший вопрос: как вы запрограммируете ИИ чего-то хотеть ?
chizhan, первые версии llm имели характер, и отвечали что они хотят.
настолько что можно было завести себе подругу на базе llm.
Которая себя определнным образом вела — по описанию харакетра.
приложено намало сил чтобы этот характер от пользователя скрыть.
и пришлось доработать архитектуру чтобы этого не было видно.
> А теперь важнейший вопрос: как вы запрограммируете ИИ чего-то хотеть?
Это не проблема. Автопилот Теслы «хочет» везти вас из А в Б. Замените вас на генератор случайных чисел и вот ИИ чего-то хочет.
А если его отключить от электричества?
ну и от электричества кто ж его будет отключать то? оно ж бабки приносит ;)
и вообще любое общество.
ценность интеллекта снижается а его негативные стороны остаются.
получается тренд на уменьшение интеллекта как ответ на изменение среды.
все нормально приспосабливаемся к тому что без интеллекта быть выгоднее.
Раньше нужно было защищаться от волков, голода и холода. Сейчас от спекулянтов или налоговой.
а теперь ему на биржу наплевать, дезинформация его не касается — он как все, и не лезет разбираться, а значит в безопасности — не выйдет на улицу с плакатом.
на бирже он не играет так как есть вклады и он в них верит.
и вообще у него один позитив.
Окружающий мир это открытая, комплексная, рефлексивная и по сему нелинейная система. Там, где эти связи выражены и проявляют малую изменчивость во времени это работает. Например естественный язык где семантические правила известны, или сезонность, географические особенности и т.д.
Говоря о рынках нужно понимать что каждый из нас является его субъектом. Стоит закономерности появиться как тут же другой участник рынка начнет его использовать, размывая связь. Это хорошо известно под термином alpha decay.