Копипаст | Доверяй, но проверяй

Вы когда-нибудь били ногой дверь, прищемившую вам палец? А обкладывали матом спустившее колесо? Или уговаривали машину – завестись? А теперь представьте, как бы выглядела Ваша жизнь, если бы дверь могла бы извиниться, колесо бы отвечало, а машина жаловалась на жизнь и неисправный стартер?

«Взаимодействие робота и человека» — один из докладов Skolkovo Robotics 2015. Робототехники ещё увлечены обучением роботов общаться с человеком. А психологи уже увлеклись тем, как человеку относиться к роботам.

Первыми в психологии будущего, как водится, стали разбираться фантасты:

1942 год. Сформулированы законы робототехники. Автор – Айзек Азимов.

1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
2. Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому и Второму Законам.

• 1974 год. СССР. Фильмы «Москва-Кассиопея» и «Отроки во вселенной» предупреждают – искусственный интеллект опасен. Роботы не способны понять значение и ценность эмоций. Командир обсерватории рассказывает землянам историю катастрофы, произошедшей на их планете. Выясняется, что учёные планеты разработали роботов-исполнителей, взявших на себя рутинную и тяжёлую работу. Потом были созданы роботы-вершители, обладавшие искусственным интеллектом… Материал с Википедии — Свободной энциклопедии.
• 1984 год. США. Джеймс Кэмерон предупреждает мир об опасности, сокрытой в искусственном интеллекте. Термина́тор (англ. terminator — «ликвидатор», «ограничитель») — общее название для серий различных роботов и автоматических боевых механизмов, созданных искусственным интеллектом «Скайнет» для истребления человечества на Земле. Материал с Википедии — Свободной энциклопедии.
• 1995 год. Япония. Майор Кусанаги, героиня культового аниме «Призрак в доспехах», ищет тонкую грань между искусственным и естественным интеллектом. В конце концов, понимает, что границы уже размыты. Призраком в фильмах и сериале называют нечто, что отличает искусственный интеллект от интеллекта естественного, и позволяет носителям искусственного интеллекта даже при потере накопленных данных сохранять себя или переходить на любой носитель. Материал с Википедии — Свободной энциклопедии.

В глубокий духовный мир дверцы холодильника или автомобильного колеса поверить сложно. Движения мула или собаки Boston Dynamics смотрятся трогательными. А за робота-человека, которого толкают и обманывают в рамках эксперимента, вовсе – обидно! Психологам предстоит немало работы, чтобы наладить отношения человека и робота. Проведены первые эксперименты, способные пролить свет на человеческое отношение к роботам.

• А доброе слово и роботу приятно?

  Мы сопереживаем роботам. В ходе исследования маленького робота-динозавра обнимали, щекотали, били и бросали. Добровольцы, участвовавшие в опыте, испытывали негативные эмоции и стресс, когда робота обижали. И радовались, когда робота ласкали. Затем исследователи сравнивали реакцию на насилие над роботом и человеком. Негатив проявлялся и в том и в другом случае, однако МРТ-сканирование показало, что к человеку добровольцы испытывали все-таки больше сочувствия. Ученые отмечают, что для уровня эмпатии к роботам важны такие параметры как человекоподобие и совместная деятельность. Солдаты после боя очень привязаны к роботам. Так и люди, регулярно работающие с роботами, относятся к ним по-особенному, дают им прозвища, клички и даже человеческие имена.

• Робот-навигатор «Сусанин 1.0»

  Мы верим в непогрешимость машин. В эксперименте Технологического института Джорджии участвовали 42 студента. Их попросили проследовать за роботом-проводником к конференц-залу. По легенде робот шел по маршруту автономно. По пути машина работала предельно беспорядочно – петляла, водила по кругу, зависала. Казалось бы, робот полностью дискредитировал себя. Вдруг срабатывает пожарная сигнализация, и помещение заполняет дым. Робот рекомендует следовать за ним к выходу. Не смотря на все предыдущие ошибки робота, испытуемые слепо следовали за «проводником» в противоположную от выхода сторону. Вывод ученых – доверие к машинам в экстренных ситуациях может стать губительным для человека. Как создать адекватный механизм доверия между человеком и роботом – вопрос остается открытым.

• Робот-игрушка

  С роботом нам интересно и весело. Еще один эксперимент нацелен на восприятие человеком приказов, исходящих от робота. Испытуемым предлагали выполнить различные задания – веселые, скучные, нудные, трудные. Первая группа получала задания от человека, вторая – от робота. Вторая группа работала в разы охотнее и эффективнее, словно это была уже не работа, а игра.

В повседневной жизни мы редко сталкиваемся с искусственным интеллектом, который имеет принципиальные отличия от любого робота, работающего под алгоритмами. Ему требуется выполнять то, что пока остается прерогативой человека – учиться, решать эвристические задачи, искать выход в изменяющихся условиях и ставить себе новые цели. А пока наш пол метут роботы-пылесосы, наш кофе готовят кофе-машины, маршрут движения выстраивают роботы-навигаторы, а операции на бирже совершают торговые роботы. Роботы – не способны самосовершенствоваться.

Пока очевидно их несовершенство – пыль по углам, невкусный кофе, внезапные петли на маршруте, падение доходности. Мы сетуем на недоработки и невозможность расслабиться. Но! Видя их несовершенство, мы способны адекватно относиться к их действиям.

Проблемы начинаются, когда разработчики достигают поставленной перед ними задачи: робот настолько совершенен, что человек может расслабиться! В этой ситуации сбой робота может пройти незамеченным и дорого стоить хозяину.

Вопрос доверия – вопрос разграничения ответственности. Выходом из такой ситуации может стать алгоритм взаимодействия с роботом, где частота проверки совпадает с периодом, когда ситуация может выйти из-под контроля.

Данный метод отработан операторами роботов опасных производств. Когда машины заменяют человека на производствах, где человеку лучше не находиться, но и авария на котором грозит сотням или тысячам жизней. Задача операторов круглосуточно следить за показателями роботов, устранять любой сбой незамедлительно.

Торговые роботы не смогут организовать экологическую катастрофу, но стать виновниками катастрофы в рамках одной человеческой жизни вполне способны.

В начале работы с определенной автоматизированной торговой системой трейдер не доверяет – сомневается в эффективности и надежности программы. День за днем трейдер следит за стабильностью системы, корректирует ее, проверяет. Если система оправдывает ожидания – стабильно приносит прибыль, то контроль ослабевает, а ставки растут. А к моменту критических сбоев хозяин уже прибывает в полной уверенности в успешности робота, потягивая коктейль в гамачке с видом на океан. И информация об убытках – гром среди ясного неба.

Вы можете назвать стиральную машинку-автомат – Нюрой, а ноутбук – Клавдией Васильевной, возносить молитвы своему торговому роботу и плясать с бубном. Опытные системные администраторы говорят, что бубен особенно эффективен.

Но не забывайте, что на современном этапе развития технологий все доступные роботы – механизмы, созданные по определенному алгоритму и с определенной целью. И, хоть без них мы не представляем нашей жизни, им свойственно ошибаться, ломаться, устаревать.

Своевременное Т/О, разумный алгоритм контроля – и ваши роботы подарят Вам долгожданное время на коктейль, и гамачок с видом на океан. Главное – найдите розетку и Wi-Fi.

Источник algorithmfx.ru/blog/okolotorgovli/trust-but-verify/