Блог им. AleksandrBaryshnikov

Галлюцинации ChatGPT

    • 22 ноября 2023, 14:03
    • |
    • bascomo
  • Еще
Пока я продумываю архитектуру адаптивных торговых систем, изучаю разные источники, экспериментирую, решил поинтересоваться и у самой нашумевшей технологии, что она думает по поводу всего этого.

Галлюцинации ChatGPT



Эта штука (Bing GPT Chat и Chat GPT) рассказала мне удивительные вещи.

Вот, например:

Галлюцинации ChatGPT

Но таких индикаторов не существует в природе!

Дальше — больше.
Я спросил у ChatGPT о заведомо несуществующем индикаторе.
«Я спросил у Ясеня...»:

Галлюцинации ChatGPT

Это бомба. Если не проверять, то можно поверить в сказки, ведь они довольно правдоподобны.
Будьте осторожны, эта технология легко может вас нае... ввести в заблуждение.

Я взломал ChatGPT :)
★1
14 комментариев
Это обычная история, когда спрашивают про что-то не существующее.
Но самое интересное впереди! Эти модели обучались еще на нормальных человеческих текстах и картинках. Сейчас интернет заполнят сгенерированный контентом и следующие модели будут учиться, в том числе, на таких вот глюках своих предшественников. Что они будут выдавать вообще не известно.


avatar
Vkt, я слышал, что пробовали обучать модели при помощи уже обученных языковых моделей. и эти модели след поколения сильно тупели при этом — результат был сильно хуже, чем у первой. ссылку не найду
avatar
Все так. Было где-то обсуждение, ей кто-то заказал ей работу по географии, она очень красиво все расписала, если не проверять. Вникнув, оказалось, что она половину названий рек и озер выдумала несуществующих в природе. И она не признается, если чего-то не знает. Загоняет пургу с умным видом. Короче ChatGPT — это абсолютный гуманитарий, с хорошо поставленной речью ) 
avatar
OlgaB, из ChatGPT выйдет отличный депутат!)
avatar
вот и доверяй им свои деньги после такого :)
я не спец в ML, но мне было интересно — если gpt модели вместо слов скормить рыночные данные — как можно более полные тиковые данные — даст это какой-либо интересный результат?
avatar
OrinokoA, сильно сомневаюсь. Тут был один носатый, писал посты, как он прикрутил чат жпт к трейдингу, скармливая ему последние рыночные данные, правда, после этого поста он резко пропал. Возможно, всё слил и за ним пришли Ынвесторы :)

Почему сомневаюсь? Потому что ChatGPT это LSTM, которая предсказывает последовательности токенов (если проще — слов). Это совсем не тики.
avatar
ChatGPT должен писать красиво и складно, «придумывать» но правдоподобно, а не искать правду и истину.
avatar
22022022, он не утверждает, что индикатор существует, он просто по моей просьбе его описал :)
avatar
Но таких индикаторов не существует в природе!   
Значит ты должен их изобрести, слышишь Конор!
Главком Главком, доверим это ChatGPT.
avatar
Может, есть такой индикатор) придумал кто-то

Вспомнился анекдот про перекличку в армии:
— Иванов
— Я
— Петров

— Череззаборногузадерищенский
— Я
— Ни фига себе фамилия
— Я
Я спросил у ChatGPT о заведомо несуществующем индикаторе.

Почему несуществующем? Есть, как минимум, адаптивный стохастик Тушара Чанде 
(ГПТ, судя по всему, описывает именно его)
Гугл подсказывает, что есть ещё адаптивный стохастик Элерса, но я про него хз.
avatar
Я местным специалистам по ИИ дважды в комментариях писал про галлюцинации, но они даже не поняли о чем речь.
avatar
Ничего странного. ИИ приводится к среднему знаменателю. С учетом того что в интернете 90% мусора. Он просто имитирует интеллект и сознание, не обладая ими.
avatar

теги блога bascomo

....все тэги



UPDONW
Новый дизайн