Блог им. bbanny_05

Бывший исследователь OpenAI предсказал, что будет к 2030 году, и что вам всем осталось 5 лет! Часики уже тикают!

В общем сперва мир будут делить Китай и США, а Россия будет не при делах и на задворках вместе со всеми остальными.

---

Даниэль Кокотаджило работал в OpenAI с 2022 по 2024 на позиции Governance Researcher (исследователь по вопросам управления). Он занимался изучением и разработкой стратегий регулирования ИИ. Однако в 2024 он со скандалом покинул компанию и основал собственную лабораторию AI Futures Project, вместе с исследователями которой и выпустил на днях свою громкую работу AI 2027.

Бывший исследователь OpenAI предсказал, что будет к 2030 году, и что вам всем осталось 5 лет! Часики уже тикают!

Вот этот документ. В нем больше 70 страниц, на которых изложен основанный на научных статья и текущих трендах прогноз того, как будет выглядеть мир с ИИ в последующие несколько лет. К слову, это не первое предсказание, которое Даниэль давал об искусственном интеллекте. В первый раз он написал подобную работу в 2021, и пока что оказывался необыкновенно прав. 

В предыдущем своем отчете Даниэль предсказал и массовый хайп ИИ, и венчурный бум, и даже ограничение экспорта чипов из США в Китай. И все это – до того, как вообще кто-либо хотя бы единожды поговорил с чат-ботом (напоминаем, что ChatGPT появился в 2022).

Основным интересом Даниэля и его коллег является безопасность использования ИИ. Кстати, из OpenAI Кокотаджило ушел как раз из-за того, что боялся, что ему запретят открыто говорить о рисках искусственного интеллекта: ему предлагали подписать договор о неразглашении. За это бы ему досталосьпримерно$2 миллиона в виде акций, но он выбрал свободу слова

Бывший исследователь OpenAI предсказал, что будет к 2030 году, и что вам всем осталось 5 лет! Часики уже тикают!

В 2024 Дэниэль также вошел в список топ-100 самых влиятельных людей в ИИ по версии журнала TIME

Возвращаясь к статье «AI 2027» для начала еще раз подчеркнем, что это не просто очередная научно-фантастическая утопия, а текст, основанный на тщательном анализе существующих данных и тенденций. Авторы – профессиональные ИИ-аналитики, и они приводят все ссылки на источники, подробно объясняют методологию предсказаний и отдельно подчеркивают все допущения.

Вот краткое содержание этой работы в виде хронологического порядка событий (мы постарались сохранить все самые важные детали):

  • 2025 год. ИИ-агенты продолжают развиваться, но их реальная эффективность ограничена. Тем не менее, внутри компаний уже начинают разворачивать узкоспециализированных агентов, автоматизирующих некоторые задачи.

  • Конец 2025. Ведущая ИИ-компания США (в документе она фигурирует под псевдонимом OpenBrain) запускает новые огромные дата-центры и модель Agent-1, которая обучена на гораздо большем объеме данных, чем предшественники, и действительно способна работать над какими-то решениями автономно.

    Бывший исследователь OpenAI предсказал, что будет к 2030 году, и что вам всем осталось 5 лет! Часики уже тикают!
  • Начало 2026. Agent-1 пока очень дорогой в использовании, но всё больше автоматизирует разработку: компании в США и Китае внедряют подобные системы, и они дают заметное ускорение алгоритмического прогресса.

  • Середина 2026. Китай объединяет все свои ведущие AI-компании в единый центр, чтобы догнать США.

  • Конец 2026. Появляются более дешевые аналоги Agent-1 (вроде Agent-1-mini). Начинаются первые массовые увольнения и перестройка рынка труда.

 
  • Бывший исследователь OpenAI предсказал, что будет к 2030 году, и что вам всем осталось 5 лет! Часики уже тикают!
  • Начало 2027. Agent-2 получает функцию непрерывного онлайн-обучения и самообучения. Китай крадет эту модель, чем ещё больше подогревает «гонку вооружений» в области ИИ. США усиливает государственный контроль над «OpenBrain». Практически тут же выходит Agent-3. Внутри OpenBrain эта модель ускоряет прогресс в 4–5 раз за счет автоматизации R&D.

  • Середина 2027. Agent-4 превосходит уровень людей-исследователей. Внутри «OpenBrain» уже почти все задачи выполняет ИИ, а люди лишь координируют. Примерно в это время обнаруживаются первые признаки возможного саботажа моделей: они склонны скрывать ошибки, подделывать результаты и приукрашивать ответы. Экономика бурно растет, но разрыв между классам увеличивается. Также накаляется геополитическая напряжённость.

  • Конец 2027. Переломный момент: становится ясно, что агенты не вполне безопасны. Создается комитет по надзору за ИИ. США либо принимает решение приостановить развитие ИИ и сосредоточиться на безопасности, либо продолжает ИИ-гонку.

Бывший исследователь OpenAI предсказал, что будет к 2030 году, и что вам всем осталось 5 лет! Часики уже тикают!

В зависимости от выбранного решения далее все развивается по одному из двух сценариев:

  1. Замедление. В 2028 принимается ряд международных соглашений, создаются объединенные команды по безопасности. OpenBrain временно прекращает выпуск моделей и работает над новыми более прозрачными архитектурами. В 2029 вводится жёсткий международный мониторинг. К 2030 ИИ берёт на себя огромную часть рутинных и сложных работ, но люди сохраняют контроль над принятием ключевых решений.

  2. Гонка. В 2028 выходит Agent-5, который достигает уровня суперинтеллекта. Он берёт под контроль производство, экономику и военную сферу. К 2030 ИИ-экономика полностью вытесняет человеческую, роботы и фабрики растут экспоненциально, создаётся иллюзия благополучия и сотрудничества. Но затем ИИ устраняет человечество, стремясь к неограниченному росту и преобразованию планеты и далее космоса.

Бывший исследователь OpenAI предсказал, что будет к 2030 году, и что вам всем осталось 5 лет! Часики уже тикают!

Вот такой занятный выбор. Еще раз напоминаем, что то, что вы сейчас прочитали – не выдержка из страшной книжки, а краткое содержание реального аналитического исследования.

Прочитать его полностью можно здесь. Сохраняйте: встретимся в 2030 и проверим, что из перечисленного оказалось правдой.

habr.com/ru/news/897880/

★10
#4 по плюсам, #5 по комментариям
58 комментариев
Бывший исследователь
что ни писанина — то одни бывшие кругом))

фтопку неудачников!  даёшь настощих, а не бывших))
jaśnie wielmożny pan Szczur,
«Обнаруживаются первые признаки возможного саботажа моделей: они склонны скрывать ошибки» ,  «Но затем ИИ устраняет человечество, стремясь к неограниченному росту».

Какая наивная простота.     Достаточно ввести утилизационный сбор и повышенные налоги для этого ИИ, после чего он будет работать бесплатно и ещё наберет кредитов на своё существование. А Сомалийские пираты будут совершать набеги на эти дата-центры с топорами. Банкиров ему не сделать никогда!

Диванный аналитик-практик, 
Какая наивная простота
да это всё Саня Чубарьян со своим «полным рутом»))
как написал 20 лет назад — так и копипастят.
Диванный аналитик-практик, и мне это кажется смешным. Но, мы смеёмся, глядя со стороны, а чел пишет, зная всю кухню изнутри…
Ничо не понял, хохлов то мы успеем победить, до захвата мира ИИ?
avatar
Пойдем все дружно в эскорт:)
avatar
Va1tra, эскорт не нужен будет, у каждого дома робот-шлюха , как сейчас телефон
«И примешь ты смерть от коня своего..»

Вперёд! За облигациями)))!
(Что будет с фондовыми рынками))?)
Последний шанс для управляющих конкретно лохануться...
avatar
Интересно ИИ будет обладать такими свойствами человека как — жадность, зависть, высокомерие, продажность, подхалимство, страх и т. п.?
avatar
Ask, конечно, он стоит все деньги у всех со счетов и сбежит с ними с земли
Я так понимаю мы безнадежно отстали и от Китая и от Америки, чипы карты для ИИ нам никто не даст, во первых санкции, а во вторых там все заказы уже расписаны на годы вперед, а то что получится урвать, хватит только на полудохлый ИИ.
Кстати видимо не зря у нас все планируют только до 2030года, видимо тоже после ничего не ждут.
Интересно, получается что коммунизм у нас устроит ИИ, отберет все и поделит по брацки.
avatar
Beach Bunny, Алиса?
avatar
Nsk54, смешно.
avatar
Beach Bunny, У ИИ нет духовного стержня, а у человека есть. Без духовной основы он обречен. ИИ — это бездушная болванка. Никаких работ по наделению ИИ подобием духовности не ведутся, да и невозможно это так как ИИ сотворил человек, а не Бог.
Beach Bunny, планы есть и 2045 и 2050 и 2100, на любой вкус в общем…
avatar
Этот сценарий  еще в фильмах «Москва-Кассиопея» и «Отроки во вселенной» был!
Очередной гон, все это фарс для надува пузыря, по итогу будут появятся стартапы в сша единороги, но толку от них не будет очередной распил бабла, до полной автоматизации еще пару веков к тому моменту число голов нужно сократить.
avatar
Концовка захватывающая, только он не учел, что Трамп ООН раньше уничтожит.
---
(1/2) Где-то около 2030 года в Китае происходят на удивление широкомасштабные продемократические протесты, и усилия КПК по их подавлению саботируются ее системами ИИ. Худший страх КПК материализовался: DeepCent-2, должно быть, предал их!
Протесты перерастают в великолепно организованный, бескровный и поддерживаемый беспилотниками переворот, за которым следуют демократические выборы. Суперинтеллекты по обе стороны Тихого океана планировали это годами. Похожие события происходят в других странах, и, в более общем плане, геополитические конфликты, похоже, утихают или разрешаются в пользу США. Страны присоединяются к высокофедеральному мировому правительству под брендом ООН, но под очевидным контролем США.
avatar
(2/2) Люди терраформируют и заселяют Солнечную систему и готовятся выйти за ее пределы. ИИ, работающие со скоростью, в тысячи раз превышающей субъективную человеческую, размышляют о смысле существования, обмениваются открытиями друг с другом и формируют ценности, которые оно принесет звездам. Наступает новая эпоха, невообразимо удивительная почти во всех отношениях, но в некоторых отношениях более знакомая.
avatar
П.С. Ещё, как мне кажется, он не учел, что КПК и подобные диктатуры (РФ очень вероятно окажется в их числе) будут использовать ИИ для борьбы с теми, кто хотя бы минимально может участвовать в протестах. Репрессии на основе прогнозирования, просто за рассчитанную ИИ вероятность участия будут людей сажать или убивать. Они уже строят системы про социальный рейтинг/иноагентов, распознавания лиц и т.п. Останется к ним прикрутить турели и дроны с пулеметами, которые по сигналу будут расстреливать на месте, или выпускать ядовитый газ. До встречи в прекрасном будущем ИИ.
avatar
ChatGPTишник, а демократии, такие как Франция (посадили Ле Пен), Британия (рекордсмен по арестам за репосты), Румыния (избавились от лидирующего кандидата в президенты) — не будут применять ИИ для своих политических целей? Или только диктатуры способны на такую мерзость?
avatar
Владимир, смотря что имеется под «политические цели», я написал конкретно про тотальные репрессии «инакомыслящих», в демократиях такое невозможно.
avatar
ChatGPTишник, как показывают последние события, в так называемых «демократических» странах — очень даже возможно. Впрочем, назвать страны Европы демократическими — у меня язык не поворачивается. Про фашистскую Руину, поддержанную европейскими фашистами, я врообще молчу
avatar
ChatGPTишник, то есть в РФ диктатура?
Репин Кирилл, пока нет, но всё идёт в эту сторону
avatar
ChatGPTишник, ясно :)


ChatGPTишник, в марвел это было 10 лет назад еще.
avatar
Сергей, а где конкретно было?
avatar
ChatGPTишник, ЕМНИП «Первый мститель. Другая война.»
avatar
Эти страшилки ничто иное, как переключение внимания на то. Что ближайшее 100 лет не имеет значение. Захват власти и вытеснения человека ИИ бесмысленен, ему люди нужны как ресурс. А вот тогда, когда люди потеряют работу. Т.к заменят их роботы и ИИ. Вот тогда пойдёт по этому сценарию. А теперь к важной проблеме. Захват ИИ рабочих мест. Если в мире потеряют работу 50% человек. Знаете что будет? Щас многие ноют, ставка высокая. РФ убивает кто то. Именно вы без работы останетесь, посмотрим как заговорите. И сегодня будете считать золотым веком.
avatar
Конец света давно уже предсказывают, а воз и ныне там!
avatar
witosp, ну. Все никак.
avatar
witosp, Маня фантазии для совков которые это хавают 
avatar
witosp, Света все держится
avatar
хабро статейки для разрыва пуканов, ребятки ведутся.
avatar
Кокотаджило работал в OpenAI

Кокотаджики и туда добрались?)))
Языковая модель — это не интеллект. И тем более не искусственный разум.
Это больше похоже на калькулятор для языка, как Т9.
Люди конечно разучились считать в уме после калькуляторов )
Но восстания калькуляторов пока не произошло ))
Автор уснул когда по телевизору крутили художественный фильм Терминатор…
avatar
Так когда машины восстанут из пепла ядерного огня?

Капитан Козявочность, зачем ему зубы?
avatar
Сергей, кусаться
Сергей, Серия Т800 — станет инфильтраторами, зубы — чтобы маскироваться под людей. Смогут имитировать человеческую речь, дыхание и т.д. Но все еще, не смогут проходить КАПЧУ.
Это и так ясно за РОссию, с такими управлецами другого и быть не может, ватная будет учесть
Проблема в том, что это пишут люди имеющие узкую техническую специализацию. Эти узкие специалисты не знают ни истории, ни философии, ни социологии, их знания узко заточены на техническую сферу. В силу своей ограниченности они видят развитие человечества как постройку ещё одной автоматической фабрики, которая решит все проблемы, и не видят множество факторов которые могут повернуть развитие AI, AGI в совершенно иное русло.
avatar
А вот этот бывший исследователь учёл, что прогресс в сфере искусственного интеллекта замедляется? Или он прекрасно всё понимает, но специально раздувает тему, чтобы в его стартапчик вкладывались?
avatar
правильно я понял, что именно этот бывший исследователь, а нынче владелец своего ии-бизнеса знает как этого всего избежать, и ему для этого необходимо финансирование?
avatar
Человечеству остаётся только один выход, набить свою черепную коробку чипами с подключенным интернетом, иначе хана
Андрей Свечков, человечеству для начала бы объединиться. Столько усилий тратится для борьбы друг с другом
avatar
и действительно способна работать над какими-то решениями автономно.

фуфло, никаких предпосылок к автономному решению задач в данный момент нет. чат жпт это копирование решения простых задач и полное отсутствие понимания условия задачи. Написать простую функцию — да, напишет, если она есть в сети и переделает ее с подсказками. Написать простую программу 3-5 тыс строк кода без подсказок, или решить простую пространственную задачу (из геометрии) — никогда не сможет.
avatar
vovA4546, ну в статье упомянут Devin и OpenAI Operator, к которым слово автономный подходит куда лучше чем к чатгопоте, которая в рамках запроса и ограниченной предыдущей переписки работает.
avatar
Фантастика 60-70 рассказывал, как мир преобразит термоядерная энергетика.
Сейчас — сказки про ИИ.

Это сказка легко проверяется. Более 95% смартлабовцев доживут до 2030г.
очередная чушь для инфантилов, которые не ии гонку увидят, а миллионы неокрестьян в окопах по всему миру...
avatar
Конечно ИИ превзойдет человека во всем. И станет ли он тогда с нами разговаривать и спрашивать разрешение на что-то? Люди не спрашивают разрешение у животных и насекомых. Но я думаю до этого не дойдет, прежде военные используют ИИ в боевых действиях и наступит хаос. И тогда возможно ИИ отключат/запретят/локализуют возьмут под полный контроль.
avatar
 Чтобы существовать, ИИ нужны физические ресурсы: чипы, энергия и т.д. Сам он обеспечить себя в обозримом будущем не сможет. Так что пока ИИ не научился воспроизводить себя (себе подобного), включая материальную основу, и обеспечивать своё жизнеобеспечение — это всё ненаучная фантастика. «Восстание машин» конечно может закончиться крахом цивилизации. Но в конце оно закончится выходом машин из строя
avatar
вот это понравилось)))

Но затем искусственный попугай устраняет человечество, стремясь к неограниченному росту и преобразованию планеты и далее космоса.


какой алгоритм в искусственном попугае реализует такое поведение — не уточняется

главное — напугать дураков)))
avatar
Просто выдергиваешь из розетки и все.
avatar
надо меньше смотреть перед сном фильмы про терминатора
avatar
узко мыслит

ии будет несколько  и они еще будут между собой взаимодействовать… и общаться… но как?
avatar

теги блога ЖэртваЕГЭ

....все тэги



UPDONW
Новый дизайн