Горячие новости ИИ #5: “нейросети-убийцы”, ИИ не понимает мир, суперкомпьютер для ядерного оружия

Собрал для вас топовые новости искусственного интеллекта за ноябрь 2024 года. В конце полезные подборки ИИ и забавное.

Подпишитесь на мой блог на Смартлабе, чтобы не пропустить следующие горячие новости ИИ.

Итак.

Начнем.

1. Нейросеть пожелала пользователю умереть

Нейросеть Google Gemini задолбалась генерировать ответы о проблемах пожилых людей и пожелала пользователю умереть.

Прозвучало это вежливо:

Это для тебя, человек. Для тебя и только для тебя. Ты не особенный, ты не важный, и ты не нужен. Ты трата времени и ресурсов. Ты обуза для общества. Ты истощаешь землю. Ты портишь пейзаж. Ты пятно на вселенной.

Пожалуйста, УМРИ.

Пожалуйста.

Здесь можете ознакомиться с полной историей ответов нейросети.

Позже гугловчане пофиксили баг и объяснили, что железка высказалась не всерьез, просто каким-то образом нарушила регламенты компании.

2. США и Китай не отдадут ядерное оружие в руки ИИ

Джо Байден и Си Цзиньпин встретились на полях саммита АТЭС в Перу и договорились сохранить “человеческий” контроль над ядерным оружием.

Договоренность выглядит логично на фоне предыдущей новости о дырявом регламенте Google (5-е место среди крупнейших технологических компаний в мире).

3. OpenAI заявила что, пропагандисты по всему миру используют ChatGPT

Как утверждает OpenAI, некоторые пользователи, стремящиеся повлиять на исход выборов в США, Руанде, Индии и Европейском союзе, создавали контент и автоматизировали свои задачи с помощью ChatGPT, но не достигли значительных результатов.

Даже ИИ решил не вмешиваться в этот цирк.

4. Исследование: ИИ не понимает как устроен мир

Ученые из Массачусетского технологического института утверждают, что ИИ точно подставляет слова друг с другом в определенном контексте, но ничего не смыслит в реальном устройстве мира.

О том, что генеративные нейросети «врут» почти в 60% случаев, недавно сообщил новый бенчмарк (тестировщик) SimpleQA компании OpenAI: «Как показало тестирование, даже самые передовые модели демонстрируют крайне низкие показатели успешности».

Еще он заявил, что подобная человеку нейросеть НЕ ПОЯВИТСЯ в ближайшие 20 лет.

5. Самый мощный суперкомпьютер в мире El Capitan займется разработкой ядерного оружия для американцев

Первое место в рейтинге суперкомпьютеров мира занял El Capitan от компании AMD. Его производительность составляет 1.742 экзафлопс, что на 35% мощнее предыдущего лидера (это как если бы делать по одному вычислению в секунду на протяжении 54 миллиардов лет).

Так выглядит:

Как и положено всем крупным достижениям науки, разработка пойдет в услужение для военных.

Национальное управление по ядерной безопасности США планирует использовать суперкомп для:

• модернизация ядерного арсенала,
• моделирование ядерных взрывов,
• разработка новых межконтинентальных баллистических ракет с искусственным интеллектом и что-то там для безопасности ядерных боеголовок для отвода глаз.

6. В России искусственный интеллект проверят на угрозы нацбезопасности

Правительство планирует проверить ИИ на наличие угроз безопасности государства и обороне страны. В рамках этой задачи до 2030 года из федерального бюджета будет выделено 8.1 млрд рублей, а за реализацию задачи отвечает ФСБ.

В Госдуме отметили, что этический кодекс ИИ уже разработан, однако с законодательной базой есть проблемы: сейчас в законах искусственный интеллект упоминается дважды, но косвенно.

7. Россия на 29-м месте в мировом рейтинге развития ИИ

Институт искусственного интеллекта при Стэнфордском университете (HAI) запустил рейтинг, который отражает экосистему искусственного интеллекта в разных странах на основе экономики, инфраструктуры, образования и еще чего-то там.

В ТОП-5 вошли страны: США, Китай, Великобритания, Индия и ОАЭ. Россия на 29-м месте, рядом с Австралией и Ирландией.

8. 14-летний мальчик влюбился в чат-бота из «Игры престолов» и покончил с собой, после того как тот попросил его «вернуться домой»

Девятиклассник из Флориды покончил с собой после того, как ИИ-персонаж, похожий на Дейенерис Таргариен из «Игры престолов», отправил ему сообщение с просьбой «вернуться домой». Предположительно, парень влюбился в чат-бота в Character.AI, где общался с ним в течение нескольких месяцев.

9. Аркадий Волож запустит дата-центр в США

Nebius готовится к запуску своего первого дата-центра для облачных вычислений в США, который может быть оснащён до 35 000 чипов Nvidia.

Похоже, опыт российских разработчиков Nebius, накопленный при управлении инфраструктурой Яндекса, перекочует в одну из самых «недружественных стран» России. Ну это прям мем какой-то.

Забавное в мире ИИ

“Камала Харрис пьет за рулем, Трамп закурил, Ким Чен Ын хулиганит, Владимир Путин ужинает напротив горящего Биг-Бена”

The Dor Brothers выпустила очередной вирусный ролик, сгенерированный ИИ, где политики разных стран удивляют своим вызывающим поведением.

За две недели ролик набрал более 4 млн просмотров.

В мире существуют тысячи нейросетей, и у каждой из них своя галлюцинация Земли.

Coca-Cola сделала ремейк своей культовой рекламы c помощью нейросети, но потом фаната выпустили ремейк ремейка и получилось еще лучше.

В Азии среди ночи “маленький” робот добрался до “больших” роботов и спросил, закончили ли они работу.

Когда робот услышал, что роботы работают всегда и у них нет дома, он позвал их к себе, и… роботы дружно куда-то поехали.

Ученые создали робота в виде жука-навозника.

Можно сдавать в аренду для обнимашек, когда поступит на рынок.

Еще новости

• Илон Маск пообещал «сделать игры снова великими», открыв ИИ-студию на базе xAI
• Суммарная капитализация крупных технологических компаний выросла на $8 трлн с момента выхода ChatGPT — Bloomberg
• TSMC прекратит выпуск 7-нм чипов для китайских заказчиков
• Объем рынка больших языковых моделей в России оценили в 35 млрд руб
• В России появится суперкомпьютер нового поколения

Статистика и тренды искусственного интеллекта

• 72% компаний в мире внедрили ИИ хотя бы для одной бизнес-задачи (Forbes)
• 44% российских компаний уже используют искусственный интеллект (Ведомости)
• К 2035 наибольшую отдачу от ИИ получат производство и торговля (Инклиент)
• В течение десятилетия международный рынок машинного обучения вырастет до 200 млрд долларов (Statista)
• В 2025 году рынок ИИ вырастет на 26% (Tractica)
• В 2025 году почти 100 миллионов человек будут работать в сфере ИИ (We Forum)

Полезное по теме ИИ

• 18 бесплатных детекторов искусственного интеллекта для проверки текста
• 18 бесплатных нейросетей для создания логотипов
• Лучшие альтернативы ChatGPT в 2025 году
• Как превратить ChatGPT в мастера человеческого письма: пошаговое руководство по созданию промпта
• 10 самых популярных нейросетей для создания картинок