Странно, что у одного меня вызывает горький смех термин «ИИ» — искусственный ИНТЕЛЛЕКТ. Интеллект — свойство мозга, которое, собственно,  толком не определено и не отделено от десятков других свойств. Если совсем грубо, то это умение решать задачи определенного типа.

Ловушка в том, что мозг одновременно решает еще миллион задач. Например, прямо сейчас, печатая текст, я попутно думаю, налить ли еще чаю или наоборот, сходить в туалет, накинуть рубашку (прохладно) или закрыть окно. Или вообще завязывать бездельничать и заняться делом. Нахамить с риском получить бан или быть вежливым в расчете на лайки, которые мне на хер не нужны, но почему-то приятны итд итп. Все это завязано на тело а тело, фактически, сформировано эволюцией ради одного: передать гены дальше. 

У того, что называют ИИ нет генов, нет тела, он не чувствует удовольствия или дискомфорта. У него нет стимула длить свою жизнь (согреться, наесться), привлекать самок, доминировать над соперниками итд. Это просто самообучающаяся программа, решающая очень узкий круг задач (тексты, картинки, музыка), похожая на интеллект не больше, чем как карта местности похожа на местность. Причем даже тест Тьюринга, насколько я знаю, еще не пройден, а это минимум миниморум. Но все, как оглашенные, несут чушь про какой-то «интеллект», который вот-вот то ли войну начнет, то ли поработит всех, то ли, наоборот, работу отберет.