Искусственный интеллект и геополитика. Отчет RAND Corporation

Как ИИ может повлиять на взлёт и падение наций?

Страны по всему миру могут испытать подъем или падение своего влияния в зависимости от того, как они используют и управляют развитием искусственного интеллекта (ИИ). Независимо от того, угрожает ли ИИ существованию человечества, правительствам потребуется разработать новые регулирующие рамки для идентификации, оценки и реагирования на разнообразные вызовы, которые могут возникнуть на основе ИИ.
С началом 2023 года, когда передовые формы ИИ стали доступны широкой публике, дебаты о государственной политике справедливо сосредоточились на таких проблемах, как усугубление неравенства, потеря рабочих мест и потенциальная угроза вымирания человечества, если ИИ будет продолжать развиваться без эффективных ограничений. Меньше внимания уделялось вопросам о том, как ИИ может повлиять на геополитику и кто может взять лидерство в будущем развитии ИИ или других передовых алгоритмов ИИ.

По мере развития ИИ геополитика может измениться до неузнаваемости. Люди, организованные в государства-нации, будут вынуждены работать с новым набором акторов — машинами с ИИ, обладающими равным или большим интеллектом и, потенциально, высокими разрушительными способностями. В эпоху геотехнополитики человеческая идентичность и восприятие наших ролей в мире будут кардинально отличаться; монументальные научные открытия произойдут таким образом, что люди могут не быть способны их понять. Следовательно, путь развития ИИ, который в конечном итоге сложится, будет иметь огромное значение для формы и контуров будущего мира.

Мы очертили несколько сценариев, которые иллюстрируют, как может развиваться ИИ в ближайшем будущем, в зависимости от того, кто будет управлять. Мы провели обсуждения с ведущими технологами, политиками и учеными из многих секторов, чтобы сформировать наши выводы и рекомендации. Мы представили эти сценарии экспертам в качестве базы для анализа, размышлений и критики. Мы стремились охарактеризовать текущую траекторию развития ИИ и определить наиболее важные факторы для управления эволюцией этой беспрецедентной технологии.


Американские компании лидируют в попытках контролировать развитие искусственного интеллекта.

Американское правительство продолжает позволять частным корпорациям разрабатывать ИИ, не вводя существенного регулирования технологии или не вмешиваясь таким образом, чтобы изменить поведение этих корпораций. Такой подход соответствует давней вере в Соединенных Штатах в то, что свободный рынок (и его стимулы, ориентированные на прибыль) является наиболее эффективным механизмом для быстрого продвижения технологий, подобных ИИ. В таком мире сотрудники американского правительства продолжают отставать от инженеров в технологическом секторе США как в понимании ИИ, так и в способности использовать его мощь. Частные корпорации направляют почти все финансирование на исследования и разработки для улучшения ИИ, и подавляющее большинство технических талантов США продолжает стремиться в Кремниевую долину. Правительство США стремится достичь своих политических целей, полагаясь на инноваторов страны в разработке новых изобретений, которые оно в конечном итоге могло бы приобрести. В таком мире будущие отношения между американским правительством и технологическим сектором выглядят почти так же, как и настоящее: компании занимаются агрессивным сбором данных потребителей, и социальные сети продолжают быть очагом для распространения дезинформации и раздора.
Прогресс в области искусственного интеллекта происходит с быстрыми темпами, и опасения относительно катастрофических последствий заставляют правительство США — потенциально в координации с единомышленниками-союзниками — взять под контроль разработку ИИ. Соединенные Штаты решают отказаться от своего традиционного сдержанного подхода к регулированию информационных технологий и разработки программного обеспечения и, вместо этого, приступают к масштабному регулированию и надзору. Это приводит к монополии правительства США и избранных партнеров (например, Великобритании) на ресурсы ИИ, данные центры, передовые алгоритмы и таланты через национализацию и всестороннее регулирование. Подобно прошлым инициативам правительства США, таким как Программа «Аполлон» и Манхэттенский проект, ИИ разрабатывается под эгидой государственных органов, а не частных компаний. В оборонном секторе это может привести к динамике гонки вооружений, поскольку другие правительства запускают собственные программы разработки ИИ из страха остаться позади в эру, управляемую ИИ. В целом, такая национализация может также изменить баланс между «имеющими» и «неимеющими», поскольку другие страны, не способные идти в ногу с переходом, увидят страдания своих экономик из-за неспособности разрабатывать ИИ и интегрировать его в свои трудовые ресурсы.


Китайский сюрприз

Подобно моменту запуска «Спутника», три китайские организации — Huawei, Baidu и Пекинская академия искусственного интеллекта (BAAI) — объявляют о значительном прорыве в области ИИ, заставляя весь мир удивиться. В этом мире прогресс ИИ в Китае первоначально упускается из виду и систематически преуменьшается политиками из развитых демократических экономик. Китайским компаниям, исследовательским институтам и ключевым государственным лабораториям удается обогнать зарубежных конкурентов, отчасти благодаря их улучшенной способности поглощать огромные объемы государственного финансирования. Кроме того, передовые модели ИИ также стабильно развиваются, используя конкурентное преимущество в данных, полученное благодаря массовой популяции страны. Наконец, военно-гражданское слияние в Китае позволяет крупным игрокам из промышленности, академической среды и правительства делиться ресурсами на общей инфраструктуре ИИ. BAAI извлекает выгоду из стратегических партнерств с лидерами отрасли и доступа к значительным вычислительным ресурсам, таким как Pengcheng Laboratory's Pengcheng Cloudbrain-II. Это сочетание ведущего в мире опыта и огромной вычислительной мощи позволяет Китаю масштабировать исследования в области ИИ с беспрецедентной скоростью, приводя к прорывам в трансформационных исследованиях ИИ, которые застают мир врасплох. Это вызывает серьезную озабоченность среди политических и военных лидеров США, опасающихся, что новые возможности Китая в области ИИ обеспечат ему асимметричное военное преимущество над Соединенными Штатами.


Консорциум «Великих Держав» с участием государства и частного сектора

По всему миру прочные партнерские отношения между правительством, мировой промышленностью, организациями гражданского общества, академическими кругами и исследовательскими институтами способствуют быстрому развитию и внедрению ИИ. Эти партнерства образуют консорциум, который осуществляет совместные проекты с участием множества заинтересованных сторон, получая доступ к масштабным вычислительным данным и ресурсам для обучения, вычислений и хранения. Благодаря финансированию со стороны множества правительств, консорциум разрабатывает совместные решения и усилия по бенчмаркингу для оценки, проверки и подтверждения надежности, надежности и устойчивости систем ИИ. Новые и существующие международные правительственные органы, включая Совет по ИИ Абу-Даби, полагаются на разнообразное участие и вклады для установления стандартов ответственного использования ИИ. Результатом является здоровый сектор ИИ, который поддерживает экономический рост, происходящий одновременно с разработкой и оценкой справедливых, безопасных и защищенных систем ИИ.


Чему мы научились?

— Страны и компании столкнутся с новыми вызовами, и ИИ может стать действующим лицом, а не просто фактором

Страны и корпорации давно соревнуются за власть. Крупные технологические компании оспаривают правительства во многих традиционных аспектах, одновременно внося новые подходы в эту борьбу. Подобно традиционным многонациональным корпорациям, такие компании действуют через национальные границы; однако крупные технологические компании также оказывают более всеобъемлющее и инвазивное влияние на местные сообщества, поскольку они взаимодействуют с жизнями потребителей и собирают данные о их местоположении, деятельности и привычках. Крупные технологические компании также влияют на национальные экономики, внутреннюю политику и местную политику новыми способами, поскольку они влияют на распространение информации (и дезинформации) и создают новые сообщества и субкультуры. Это способствовало поляризации населения в ряде стран и изменению режимов в других. Компании, специализирующиеся на ИИ, имеют доступ к огромным инвестиционным фондам и мощным вычислительным ресурсам, что дает им дополнительные преимущества.Хотя технологии часто влияли на геополитику, перспектива ИИ означает, что сама технология может стать геополитическим актором. ИИ может иметь мотивы и цели, существенно отличающиеся от тех, которые преследуют правительства и частные компании. Наша неспособность понять, как «думает» ИИ, и ограниченное понимание вторичных и третичных эффектов наших команд или запросов к ИИ также вызывают серьезное беспокойство. Людям и так достаточно сложно взаимодействовать друг с другом. Пока что остается неясным, как мы будем управлять нашими отношениями с одним или несколькими ИИ.


— Мы вступаем в эру просвещения и хаоса

Безграничный характер ИИ делает его трудным для контроля или регулирования. По мере расширения вычислительных мощностей, оптимизации моделей и созревания открытых программных платформ, способность создавать высокоэффективные приложения ИИ будет становиться всё более распространенной. В таком мире добронамеренные исследователи и инженеры будут использовать эту мощь для создания замечательных вещей, люди с плохими намерениями — для совершения ужасных поступков, а ИИ может совершать как замечательные, так и ужасные деяния. В итоге результат не будет ни безупречной эрой просвещения, ни полной катастрофой, а смесью обоих. Человечество научится пробираться сквозь туман и жить с этой игроизменяющей технологией, как мы уже делали это со многими другими трансформирующими технологиями в прошлом.


— Соединенные Штаты и Китай будут лидировать разными путями

Хотя американские политики часто беспокоятся о том, что Китай возглавит гонку за ИИ, консенсус среди экспертов, с которыми мы консультировались, заключается в том, что Китай вряд ли сможет произвести значительный новый прорыв в ИИ из-за превосходства США в стимулировании инноваций в частном секторе. Китай вряд ли сможет догнать или превзойти Соединенные Штаты в создании прорывов в области ИИ, но он может лидировать в других областях. Подтвержденный опыт Китая в усовершенствовании технологических возможностей, созданных в других местах, и предпочтительный подход Коммунистической партии Китая к общественным случаям использования означают, что Китай может добиться большего успеха в интеграции современных технологий в свои рабочие процессы, оружие и системы, в то время как Соединенные Штаты могут отстать в интеграции систем «от начала до конца».


— Технологические инновации будут продолжать опережать традиционное регулирование

Правительство США уже считается отстающим в понимании ИИ по сравнению с ведущими частными разработчиками. Это связано с несколькими факторами: относительная медлительность государственного политического процесса по сравнению с быстрым темпом развития технологий, неспособность правительства платить конкурентоспособные зарплаты за дефицитные таланты, отсутствие ясности относительно того, следует ли вообще регулировать ИИ и как это делать, среди прочего. Взгляд в будущее показывает, что эта динамика вряд ли изменится. Правительства будут продолжать пытаться догнать частный сектор, чтобы понять и реагировать на новейшие и наиболее совершенные разработки в области ИИ.Быстрый темп и распространение передовых технологий ИИ затруднят многостороннее регулирование. У ИИ нет контрольных точек, характерных для традиционных моделей нераспространения, таких как глобальный режим нераспространения ядерного оружия, что означает, что для правительств будет сравнительно сложно контролировать ИИ с помощью традиционных регулировочных методов.


Что должны делать политики правительства для защиты человечества?

Потенциальные опасности, которые представляет ИИ, многочисленны. В крайнем случае они включают в себя угрозу вымирания человечества, которое может произойти в результате катастрофы, обусловленной ИИ, например, хорошо разработанного вируса, который легко распространяется, уклоняется от обнаружения и уничтожает нашу цивилизацию. Менее катастрофичной, но значительно беспокоящей, является угроза демократическому управлению, если ИИ приобретет власть над людьми. Даже если ИИ не убьют людей или не свергнут демократию, авторитарные режимы, террористические группы и организованные преступные группировки могут использовать ИИ для нанесения великого ущерба, распространяя дезинформацию и манипулируя общественным мнением. Правительства должны рассматривать пейзаж ИИ как полигон для регулирования в подготовке к угрозам, которые представляют еще более продвинутые способности ИИ, включая потенциальное появление искусственного общего интеллекта.


— Правительства должны сосредоточиться на укреплении устойчивости к угрозам ИИ

Помимо более традиционных регуляторных практик, политика правительства в области ИИ должна сосредоточиться на стратегиях устойчивости для смягчения потенциальных угроз ИИ, поскольку стратегии, направленные исключительно на отрицание, не сработают. ИИ не может быть ограничен регулированием, поэтому лучшая политика будет направлена на минимизацию вреда, который ИИ может причинить. Это, вероятно, будет наиболее критично в области биобезопасности, но снижение вреда также включает противодействие кибербезопасности, укрепление демократической устойчивости и разработку вариантов реагирования на чрезвычайные ситуации для широкого спектра угроз со стороны государственных и подгосударственных, а также негосударственных акторов. Правительства либо должны будут принять совершенно новые способности для воплощения этой политики в действие, либо расширить существующие агентства, такие как Агентство кибербезопасности и защиты инфраструктуры. Правительства должны принять более комплексный подход к регулированию, который выходит за рамки контроля над оборудованием, который в долгосрочной перспективе будет недостаточен для смягчения вреда.


— Правительства должны искать пути влияния на развитие ИИ, выходящие за рамки традиционных регуляторных техник

В отличие от других потенциально опасных технологий, ИИ не имеет очевидных входов, которые можно было бы регулировать и контролировать. Данные и вычислительная мощность широко доступны как для крупных, так и для малых компаний, и ни одна организация не может надежно предсказать, откуда может возникнуть следующий революционный прорыв в области ИИ. Следовательно, правительства должны рассмотреть возможность расширения своих инструментов за пределы традиционных регуляторных техник. Две творческие механизмы могли бы заключаться в том, чтобы правительства инвестировали в создание надежных, принадлежащих обществу наборов данных для исследования ИИ или предоставляли гранты на вызов, которые стимулировали бы социально полезные применения ИИ. Новые техники также могут включать создание единых правил ответственности для уточнения случаев, когда разработчики будут нести ответственность за ущерб, связанный с ИИ, требования к оценке ИИ и контроль за распространением определенных высокоспособных моделей. В конечном итоге, правительства могли бы купить место за столом, предоставляя экономические стимулы компаниям в обмен на большее влияние в обеспечении использования ИИ на благо всех.


— Правительства должны продолжать поддерживать инновации

Превосходство США в области ИИ во многом является результатом их превосходства в инновациях. Чтобы сохранить это лидерство, правительство США должно продолжать поддерживать инновации, финансируя национальные ресурсы ИИ. Хотя разработка ИИ на переднем крае ведется компаниями частного сектора с огромными вычислительными ресурсами, среди экспертов существует мнение, что следующий прорыв в ИИ может произойти благодаря меньшим моделям с новыми архитектурами. Академические учреждения возглавляли многие теоретические разработки, которые сделали возможным существующее поколение ИИ. Стимулирование академического сообщества скромными ресурсами может опираться на это наследие и привести к значительным улучшениям в ИИ.


— Правительства должны сотрудничать с частным сектором для улучшения оценки рисков

Учитывая вероятное широкое распространение передовых возможностей ИИ среди частного и публичного секторов, а также ресурсно обеспеченных индивидуумов, правительства должны тесно сотрудничать с ведущими субъектами частного сектора для разработки передовых инструментов прогнозирования, военных игр и стратегических планов для решения того, что эксперты ожидают будет широким спектром непредвиденных катастрофических событий, вызванных ИИ.

RAND Corporation Research
https://doi.org/10.7249/PEA3034-1
2023