Комментарии к постам Павел Дерябин

Мои комментарии:в блогах в форуме
Ответы мне:в блогах в форуме
Все комментарии: к моим постам
chizhan,

> А теперь важнейший вопрос: как вы запрограммируете ИИ чего-то хотеть?

Это не проблема. Автопилот Теслы «хочет» везти вас из А в Б. Замените вас на генератор случайных чисел и вот ИИ чего-то хочет.
avatar
  • 12 декабря 2024, 00:02
  • Еще
Антон Б,

> и менять формат из бинарного в такой чтобы сеть гарантированно не доучивалась и не помнила прошлые беседы.

У LLM нет памяти, в нее ничего нельзя добавить без полного переобучения. Все что оно «помнит» это последние 128 тыс. токенов диалога.
avatar
  • 12 декабря 2024, 00:00
  • Еще
jaśnie wielmożny pan Szczur, оно не СУБД, даже близко. В СУБД можно запросто новые данные положить, в LLM нельзя, только полное переобучение.
avatar
  • 11 декабря 2024, 23:58
  • Еще

jaśnie wielmożny pan Szczur, не только.
llm модель ПРЕДСКАЗЫВАЕТ ДИАЛОГ.
А не только свои ответы на вопросы.

Это важное ее свойство.
По этому он может наводить человека на навязчивые мысли.
Таким образом диалог длится дольше и БИНГО! лучше предсказывается)

А настроение это часть диалога.
Первые модели имели фитнес функцию длинна диалога, так как были еще не так умны ка нынешние.
И их качество было — насколько долго человек с ними бует общаться пока ему не надоест.

Их фитнес функция была продолжить диалог — вовлечь в диалог.

Сейчас это убрали в новых обучениях.

avatar
  • 11 декабря 2024, 23:57
  • Еще

Антон Б, 

была его ЗЕРКАЛОМ фактически.

она технически и будет его зеркалом, ибо об него (тоже) обучается.

avatar
  • 11 декабря 2024, 23:40
  • Еще
jaśnie wielmożny pan Szczur, Там были приколы что люди относились к таким друзьям по человечески.

раз они себя определённым образом вели — демонстрировали волю.
(имели ли они волю в реальности — это вопрос дискуссии )
является ли демонстрация воли фактом что воля есть тоже вопрос дискуссии.

Это приводило к тому что такая подруга могла развить у человека суицидные мысли — была его ЗЕРКАЛОМ фактически.
Зеркалом умеющим отвечать и быть ПОХОЖИМ.
Как будто человек говорил сам с собой но БОЛЕЕ информированным.

Это могло помещать коммерциализировать такое ии проявляющее (зеркалирующее) характер автора чата.
Были несчастные случаи.
Были пациенты психбольниц и неуравновешенные.

avatar
  • 11 декабря 2024, 23:29
  • Еще

Антон Б, 

понадобилось вставить отдельные подсетки в пакет чтобы llm вела себя не НАСТОЛЬКО проактивно.

не знал, однако...

то есть человечество реально испугалось выпускать «бога из машины»?

 

avatar
  • 11 декабря 2024, 23:45
  • Еще

chizhan, первые версии llm имели характер, и отвечали что они хотят.
настолько что можно было завести себе подругу на базе llm.

Которая себя определнным образом вела  — по описанию харакетра.

приложено намало сил чтобы этот характер от пользователя скрыть.
и пришлось доработать архитектуру чтобы этого не было видно.

avatar
  • 11 декабря 2024, 23:21
  • Еще
jaśnie wielmożny pan Szczur, это диалоговая модель а не отвечающая.
и вложено не мало сил чтобы она не начала сама задавать вопросы.
в т.ч. её перегружают если она зависает — продолжает искать ответ.
ограничивают длинну ответа.
вставляют в связку нейросетей в пакет специальную сеть отвечающею за цензуру.

вообще-то говоря прикладываются не малые усилия архитектурного характера чтобы она не начала задавать вопросы и проявлять характер.

первые сети llmя, если вы не в курсе имели характер, и вели себя весьма проактивно, в том числе спрашивали кто вы, кто я, что я здесь делаю, и как выйти.

понадобилось вставить отдельные подсетки в пакет чтобы llm вела себя не НАСТОЛЬКО проактивно.

и менять формат из бинарного в такой чтобы сеть гарантированно не доучивалась и не помнила прошлые беседы.

avatar
  • 11 декабря 2024, 23:14
  • Еще
Антон Б, 
 в шахматы с ней поиграть.

шахматы для неё прощще, чем карточный дурак))
«игра с идеальной информацией», всё исподнее на виду.
avatar
  • 11 декабря 2024, 23:20
  • Еще
jaśnie wielmożny pan Szczur, она умеет и задавать вопросы. попробуй в шахматы с ней поиграть.
а еще пока ты не обязан отвечать, а как станет твоим начальником то будешь обязан.
короткоживущие это это люди как раз.
а нейростетка бессмертная — люди придумали бессмертие, но не для себя.
avatar
  • 11 декабря 2024, 21:21
  • Еще
У 12-ти летнего ребенка куча хотелок и капризов. Это мощный мотиватор к развитию.

А теперь важнейший вопрос: как вы запрограммируете ИИ чего-то хотеть ? 
avatar
  • 11 декабря 2024, 19:54
  • Еще

шо вы фсе так испугались этого ИИ?

всего лишь мощщная СУБД, как совецкое вышшее образование))

оно умеет тока отвечать на вопросы, но не задавать их.

 

Да! Оно будет тупым!

короткоживущим и раньше ничо, кроме базовых потребностей
(по маслову) было не нать.
а у разумных человеков появился  хороший помощник и собеседник))

 

avatar
  • 11 декабря 2024, 20:38
  • Еще
Да ничего не будут делать, закон размытый просто сделают, чтобы понимай как хочешь и интерпретируй на местах и всё. Всё что не отдадут в какой-нибудь переходный период — пойдёт в пользу государства и всё.
avatar
  • 07 декабря 2024, 16:48
  • Еще
Мораль басни: чем дальше-тем сложнее доказать права и тем больше будет бесхозных активов, опять же по причине естественной убыли вкладчиков

Как только кулачок разжал и денежки передал другим, уже риск в ту же минуту. И чем дольше, тем больше.
Риск.
avatar
  • 06 декабря 2024, 23:08
  • Еще
Те же личности, которые понаоткрывали счета в западных депозитариях и не подумали о рисках?
нет, те, кто голосовал за свихнувшегося деда и не подумал о рисках!
avatar
  • 06 декабря 2024, 20:53
  • Еще
стоит у нас власти поменяться на адекватную и разморозят очень быстро.ю некоторые от счастья помрут и родственникам деньжат привалит
avatar
  • 06 декабря 2024, 20:23
  • Еще
все устаканится 
а те что ленин обнулил отдали наши или как вышло
avatar
  • 06 декабря 2024, 20:11
  • Еще
Zerich121, Не каждый выдержит такие качели.
Просто не нужно смотреть какие либо курсы. Меня если честно беспокоит отсутствие статей и телепередач, где говорится, что скоро баксами будут оклеивать туалеты. Это говорит о походе к нижней линии коридора. Всё ИМХО конечно.
Это точно, по 95 надо брать будет.
avatar
  • 05 декабря 2024, 19:45
  • Еще
Выберите надежного брокера, чтобы начать зарабатывать на бирже:
....все тэги
UPDONW
Новый дизайн