8 проблем от современных технологии.

Основных проблем восемь: 

девятый вал бесконечного контента, 

цифровая амнезия, 

уничтожение конкуренции, 

манипуляция выбором целого поколения, 

киберуязвимость, 

непримиримость государств в гонке ИИ-вооружений, 

исчезновение рабочих мест и 

невозможность контроля ИИ. 

Это наш, Homo sapiens, «багаж», без переосмысления которого в светлое будущее нам путь закрыт.

В жизни здорового человека отведено место примерно для 1000 книг. Всего 1000!!! 

Думаю, можно смело экстраполировать этот подход и на другие типы контента, но вы только вдумайтесь: 

количество новостей, книг и постов, которые вы можете прочитать — конечно. 

Могу предложить способ удачно вложиться? 

Читайте — начните с 80 лучших книг человечества (условно, «откатать для начала обязательную программу») — настоятельно рекомендую начать прямо сегодня, например с «Капитанской дочки» Пушкина.

В конце книги версию топ-80 книг всех времен и народов, пользуйтесь.

Контент, предлагаемый вам, — бесконечен. А вы — смертны и конечны. 

Девятый вал бесконечного контента грозит породить общество, лишенное мейнстрима. 

Но еще хуже, когда мейнстрим берутся формировать цифровые монополисты.

Поколения детей, рожденных в сети, запоминают не саму информацию, а «где искать, когда спросят». 

Условно, мозг современного ребенка работает примерно так же, как Google: 

индексирует информацию, запоминает примерные связи, но сами факты и непосредственные данные фиксировать не видит смысла, ибо интернет всегда доступен, всегда под рукой. 

Этот эффект получил название «цифровая амнезия».

Глубокие, сильные связи формируются именно постоянным подмешиванием информации в единый сплав. 

Когда человек запоминает, он получает больше шансов придумать то, чего раньше не было, — просто потому, что в определенный момент его знание 11 цифр после запятой в числе π, понимание и знание формул квантовой электродинамики и умение программировать замыкают контакты нейронной сети мозга определенным образом, что ведет к тому, что человек создает принципиально новый подход к искусственному интеллекту. 

Все ученые планеты сегодня — это люди, которые из головы могут достать огромное количество фактов, непосредственно информации. 

Чем меньше вы помните, тем выше шанс, что в эпоху ИИ вы бесполезны.

Если в сознании нет «стержня», некоего скелета знаний, фактов, данных, формул, то человек легко становится объектом манипуляций, ведь, не зная достаточно широкого круга фактов, он оказывается во власти эмоционально окрашенных аргументов, что сегодня массово и происходит во всех СМИ.

Главное правило — у каждого наглеца с безумной идеей должен быть шанс. И тысячи лет так и было.

Абсолютно несбалансированное развитие ИИ убивает конкуренцию, делает ее почти невозможной, ибо компания, раньше вырастившая свой ИИ-арсенал до определенного уровня, становится недостижимой не только для маленьких и молодых, но и всех остальных. 

В онлайн-ритейле ИИ Amazon потенциально способен уничтожить всех конкурентов кроме, пожалуй, eBay и Alibaba. 

Эти три компании для ритейла — то же самое, что для ИТ Apple, Google и Microsoft. 

И уничтожение конкурентов уже происходит. 

Огромное количество онлайн-магазинов закрылись из-за Amazon — владельцы просто влили свой ассортимент в витрину гиганта. 

Это как химическая реакция, которую нельзя остановить. Amazon зачастую даже не тратится на покупку, а, выведав у стартапов информацию под видом переговоров, выводит на рынок свой сервис или продукт.

Вы думаете, что у вас классная идея и вам повезет, в то время как рядом есть тот, кто лучше, — и играючи подрезает вас на повороте.

Если не верите — попробуйте сегодня сделать свой поисковик — конкурент Google или «Яндекс».

Программируемая контекстная реклама и рекомендательные системы работают на расширение зоны комфорта — человеку рекомендуют то, что ему понравится.

Но, конкретному человеку рекомендуют то, что понравилось именно агрегированной толпе, что совершенно явным образом притупляет собственный индивидуальный выбор человека. 

И весь бизнес строится на манипуляции выбором конкретных крох информации из всего многообразия доступных знаний.

Продается свежее, новое, модное — то, на чем можно получить оптимальную норму прибыли. 

А то, на чем заработать непросто, ибо авторские права полностью очищены и никому не принадлежат, маркетинг не интересует. 

Когда Вы видели в своих каналах соцсетей и поисковиках предложений купить по-настоящему великие книги?

 «Одиссею» Гомера, «Божественную комедию» Алигьери, «Воскресение» Толстого, Шекспира, Свифта, Чехова, Булгакова… 

Никому не рекомендуется музыка Шуберта, ведь на ней кто-то уже заработал, надо зарабатывать дальше. 

Проблемы тут две. 

Первая — в том, что креатив не масштабируем: 

гениальные произведения не появляются каждый день, книги уровня «Преступления и наказания» нам даются раз в поколение. 

Вторая — рекомендации меняют жизни 4,5 млрд человек по всему миру.

Люди в среднем становятся менее активными и в прямом смысле умными, ибо застревают в мейнстриме. 

А компании, которые продают то, что надо продать, растут ровно и уверенно. 

В этом бизнесе по манипуляции выбором целых поколений людей настоящий продукт — это не реклама или ИИ, продукт — это мы.

Отсутствие реальной альтернативы выбора — это признак диктатуры. 

Мы еще не пришли к полному воплощению сюжета, описанного Джорджем Оруэллом в «1984», но то, что мы быстро двигаемся в этом направлении.

Критичные для жизни нашего вида элементы среды оказались в частных руках.

А, условная глобальная социальная сеть с развитым ИИ должна управляться международным некоммерческим сообществом. 

Хакеры в большинстве своем сегодня — наемники, готовые помогать тем, кто больше платит.

Один из примеров: 

мексиканский наркокартель Zetas нанял в 2011-м группу хакеров, чтобы разыскать и уничтожить членов Anonymous, угрожавших руководителям картеля раскрытием их истинных личностей. 

Еще один пример, взлом системы управления автоматическими погрузочными кранами порта Антверпена. 

Система работает таким образом: роботизированный кран берет контейнер с корабля и, если ему нужна проверка пограничного контроля и таможни, ставит в зону досмотра, если нет (контейнер внутриевропейский) — сразу в чистую. 

Хакеры взломали и перепрограммировали систему, в результате чего контрабандисты смогли доставлять в Европу наркотики контейнерами без досмотра — нужные им грузы кран сразу перемещал в чистую зону, а все следы операций в системе уничтожались. 

Сегодня хакеры — это очень профессиональные, хорошо организованные и финансируемые организации с высочайшими стандартами обеспечения собственной безопасности. 

Все может быть взломано. 

И будет. 

Вопрос только в ресурсах и времени. 

В том числе могут быть куплены и украдены передовые разработки в области ИИ для того, чтобы перепродать их на черном рынке или перековать под другие задачи и использовать, например, в качестве кибероружия. 

Риск монополизации ИИ сопоставим по значению с риском владения атомным оружием только одной из стран.

Если бы в свое время не был достигнут ядерный паритет между США и СССР, мир был бы совершенно другим. 

И ученые, способствовавшие тому, чтобы у СССР атомное оружие появилось как можно скорее, это понимали. 

Осознания необходимости максимального объединения усилий человечества по безопасной разработке ИИ пока не наступило. 

Но, думаю, очередной Stuxnet году эдак в 2024-м нам обязательно откроет глаза на текущий уровень развития военизированного ИИ.

Если мы на секунду предполагаем, что узконаправленный ИИ (ANI) достигнет состояния общего ИИ (AGI) (к чему мы идем полным ходом), это неминуемо будет означать, что AGI умеет программировать не хуже лучшего из людей.

Ничто не остановит всемогущий ИИ. 

Потребуется тотальное отключение всего компьютерного оборудования и телекоммуникационных сетей на планете Земля, что теперь невозможно в принципе, а если гипотетически случится в силу какого-то природного катаклизма, отбросит человечество в каменный век 

P.S. Zen https://zen.yandex.ru/id/6228a9bdb2ff024222e4cab2 

Оставляйте, пожалуйста, комментарии в Дзен. Это сейчас, наверно, единственная платформа, которая платит авторам за активность аудитории.

Поддержать канал: https://boosty.to/kolesnikov

Telegram https://t.me/kudaidem2

VK https://vk.com/id170715284

Youtube https://www.youtube.com/channel/UCrTyPO-n1ccPnf2mjMsUaJA

Подпишитесь — будем на связи и в курсе происходящего.