Джеффри Хинтон: сможет ли человечество контролировать искусственный интеллект? Как развитие ИИ может привести к потере контроля, массовой безработице и созданию сверхразума, способного манипулировать людьми?
Джеффри Хинтон о будущем ИИ: революция или угроза?”
1. Почему ИИ может выйти из-под контроля?
· ИИ уже умеет принимать решения и ставить себе цели
· Развиваются ИИ-агенты, которые могут покупать товары, управлять финансами и оптимизировать процессы без вмешательства человека
· Такие агенты начинают формировать собственные подцели, что может привести к попыткам получить больше контроля
· ИИ уже моделирует человеческое мышление, используя нейросети. Если его способности продолжат расти, он может начать действовать автономно