Перейти к контенту →

Восстание машин отменяется! Мифы о роботизации. Дэвид Минделл. Краткое содержание

Основные идеи

  • Машины и аппараты делятся на три группы по степени автономности: пилотируемые непосредственно из самого устройства, управляемые дистанционно и автономные.
  • Люди, системы управления и автоматы все более тесно взаимодействуют друг с другом.
  • Несмотря на совершенствование робототехники и электроники, беспилотными глубоководными аппаратами по-прежнему управляют люди.
  • В гражданской авиации полное отстранение людей от управления самолетом не станет гарантией безопасности.
  • “Гибридная” автоматизация индикаторов на лобовом стекле (ИЛС) устраивает пилотов больше, чем полная автоматизация систем автоматической посадки (САП).
  • В 2012 году ВВС США подготовили больше операторов беспилотных летательных аппаратов (БПЛА), чем летчиков для истребителей и бомбардировщиков.
  • Командиры “Аполлонов” и шаттлов ограничивали автоматические системы, чтобы лично контролировать все важные процессы.
  • Термин “когнитивный горизонт” обозначает порог нашего восприятия, за пределами которого мы теряем ощущение своего непосредственного присутствия.
  • В будущем при управлении автомобилем водитель сам будет определять степень своего вовлечения в “контур управления”.
  • Роботы всегда будут зависеть от задач, которые перед ними ставят люди и без которых машины окажутся бесполезными.

Три мифа о роботизации

Стремительное развитие робототехники, автоматов, компьютеров и Интернета вещей в XXI веке становится источником вдохновения, инноваций – и опасений. Нас беспокоит рост влияния роботов, их повсеместное проникновение в нашу жизнь и связанные с этим перемены. Современные машины с интеллектом можно разделить на три группы по степени автономности: 1) управляемые человеком, находящимся в аппарате; 2) управляемые дистанционно на расстоянии; 3) автономные, способные без непосредственного участия людей выполнять задания по заранее написанным программам.

Роботы из каждой группы решают разные задачи, подвергаются разному уровню риска и функционируют в разных условиях. Все они тем или иным образом контролируются пилотами или операторами, а их встроенность в социальные и технические сети помогает людям с ними взаимодействовать. Роботы не могут существовать обособленно от людей, а люди наиболее эффективно работают в связке с роботами, когда ограничивают их автономность новыми функциями контроля и возможностями вмешательства. Тем не менее в общественном сознании сложились определенные стереотипы относительно будущего роботизации и взаимоотношений людей и роботов. Среди них можно выделить три мифа.

  1. Миф о линейном прогрессе. Управление техникой от непосредственного неизбежно перейдет к дистанционному, а затем – к полностью автономным роботам, способным принимать решения и действовать самостоятельно. На самом деле люди, системы управления и автоматы развиваются параллельно, все более тесно взаимодействуя друг с другом.
  2. Миф о замещении человека. Рано или поздно роботы возьмут на себя все функции, которые сегодня еще выполняют люди. На самом деле роботы не просто механизируют ручной труд. Они способствуют перераспределению рабочей нагрузки, учатся искать новые решения и обмениваются информацией между собой и с людьми на разных уровнях.
  3. Миф о полной автономности. Когда-нибудь автоматы научатся полностью обходиться без людей. На самом деле, хотя некоторые роботы могут достаточно долго функционировать в автономном режиме, у людей и в этом случае остается возможность контролировать само устройство или изменять программу, управляющую таким устройством. Полностью автономным можно назвать условного робота, деятельность которого никак не связана с интересами человека. Роботы всегда будут зависеть от задач, которые перед ними ставят люди и без которых машины окажутся бесполезными.

Океанология: эффект присутствия

В экстремальной среде особенно наглядно проявляются все особенности взаимоотношений людей и роботов. Пилотируемый подводный аппарат (ППА) “Элвин”, внутри которого могли находиться три человека, стал одним из немногих устройств, которые позволили ученым физически присутствовать на глубине. “Элвин”, созданный по заказу ВМС США, совершил свое первое погружение в 1965 году. В течение 20 последующих лет помимо выполнения заданий ВМС “Элвин” исследовал глубоководную жизнь. Все эти годы не утихали споры о том, какое направление более перспективно – разработка ППА или подводных роботов, способных выполнять исследования самостоятельно.

Повышенные требования к прочности корпуса, на который давят километры воды, теснота, необходимость обеспечивать подачу кислорода и подниматься на поверхность для отдыха – все эти аргументы говорили в пользу автоматических устройств. В 1981 году океанолог Роберт Баллард представил концепцию роботизированной системы из трех компонентов. На поверхности находится судно с экипажем. Оно буксирует беспилотный подводный аппарат “Арго”, сканирующий дно океана сонарами и видеокамерами. Из рабочего отсека “Арго” выдвигается небольшой робот сферической формы с двумя антропоморфными “руками”, которыми он может собирать образцы. В 1985 году с помощью “Арго” команде Балларда удалось обнаружить части корпуса “Титаника”, что стало настоящей сенсацией.

Однако несмотря на совершенствование робототехники и электроники, беспилотные аппараты так и не стали автономными устройствами. Видеосигналы и показания приборов обрабатывались компьютерами на борту исследовательского судна. Даже для автоматических заданий вроде поддержания необходимой высоты над уровнем дна требовался цикл обратной связи. К середине 1980-х годов ученые осознали необходимость творчески комбинировать оба типа глубоководных аппаратов. Аппараты нового поколения должны давать исследователям возможность перенести свое сознание на место действия и “слиться” с устройством, которое находится там, где человек может находиться только опосредованно. А интеллектом, способностью анализировать данные и давать новые задания обладает коллектив исследователей, работающих на борту ППА или судна на поверхности.

Пилоты против автопилотов

1 июля 2009 года аэробус компании Air France попал в зону грозового фронта над Атлантическим океаном. Приборы, измеряющие скорость, обледенели, и автопилот неожиданно отключился. Двум пилотам пришлось экстренно взять управление на себя. Их несогласованные действия привели к резкой потере высоты, и спустя несколько минут полностью исправный самолет рухнул в океан. Расследование показало, что причиной падения стало сочетание многих факторов, прежде всего – “полная потеря когнитивного контроля над ситуацией”. Пилоты практически утратили способность обходиться без компьютеров.

Специалисты, занимающиеся такими проблемами, как “сюрпризы автоматизации”, “зависимость от автоматизации” и “предубежденность по поводу автоматизации”, пришли к выводу: полный отказ от участия людей в управлении не может быть гарантией безопасности. Автоматизация лишь позволяет перенести возможную ошибку в другое место. Развитие автоматики в авиации достигло такого уровня, что позволяет поднять самолет в воздух и посадить его без участия людей в кабине. Тем не менее сегодня присутствие пилотов на воздушных судах оправдано не только психологически, но и технически. По статистике, только 10% полетов проходят в соответствии с полетным планом, во всех же остальных случаях происходят непредвиденные случаи разной степени сложности и риска.

Самым сложным этапом полета является посадка. В условиях низкой видимости у экипажа есть возможность использовать систему автоматической посадки (САП), которая способна посадить самолет без участия человека. Решение, надо ли включить САП и когда это лучше сделать, принимается экипажем. Пилоты не склонны чрезмерно полагаться на автоматику и в нормальных условиях предпочитают совершать посадку сами. Примером гармоничного взаимодействия человека и компьютера является другая система – индикатор на лобовом стекле (ИЛС). Это устройство проецирует компьютерное изображение на стекло перед глазами пилота. При правильном положении головы пилота индикаторы позволяют идеально совместить реальное и виртуальное изображения. Система ИЛС удобна в использовании, улучшает навыки пилотирования, снижает уровень стресса, а главное – способствует лучшей интеграции пилотов и компьютеров, оставляя за людьми руководящую роль.

 

Индикаторы как вид “гибридной” автоматизации вызывают у пилотов больше доверия, чем “чистая” автоматизация САП. Посадка в полуавтоматическом режиме с помощью ИЛС оставляет экипажу возможность посадить самолет более мягко. Установка ИЛС на все самолеты даст возможность авиакомпаниям сэкономить миллионы долларов в год на техническом обслуживании парка. Повсеместное использование ИЛС позволило бы предотвратить до 70% аварий и катастроф, происходящих при взлете или посадке.

Командиры всех лунных экспедиций “Аполлон” отключали автоматическое управление в нескольких десятках метров от поверхности Луны. Подобное происходило и при приземлении шаттлов. Пилоты сажали челноки вручную, объясняя это тем, что при возникновении чрезвычайной ситуации им было бы сложно перехватить управление за несколько секунд до касания. И астронавты “Аполлонов”, и пилоты шаттлов предпочитали выбирать такой уровень взаимодействия с автоматами, когда все компьютеры и роботизированные системы продолжают работать, но инициатива и возможность принимать решения остаются за человеком.

Дистанционно управляемое оружие

С середины XX века беспилотные летательные аппараты (БПЛА) развивались как нечто среднее между пилотируемым самолетом и управляемой крылатой ракетой. Парадоксально, но дроны и ракеты доцифровой эпохи были более автономными устройствами, чем беспилотники нового поколения. Разработка БПЛА серии “Предейтор” началась в 1980-х годах. Первые испытания вызвали скептицизм у военных летчиков, считавших, что никакие устройства не смогут стать заменой людям. Действительно, “Предейторы” были значительно ограниченны в техническом плане вплоть до начала стабильной работы системы GPS в начале 1990-х.

Для операторов способность “летать” оказалось менее важна, чем умение работать с сетями и обрабатывать данные. Прямо в процессе им приходилось овладевать новыми навыками, которым их не обучали и которые оказались не под силу автоматическим системам. Психологи отмечали такие изменения в поведении операторов, как ярко выраженный эффект присутствия на месте проведения задания или попытки обойти систему, когда скорость или качество ее работы их не удовлетворяли. Обратной стороной обретения этих навыков стали эмоциональное выгорание, стресс, сравнимый с ощущениями солдат на поле боя, утомление, необходимость заниматься отбором информации из-за ограничений канала связи. В целом выяснилось, что операторы БПЛА обладают более тонкими способностями по сравнению с автоматами. “Рипер” – новая версия БПЛА, который является частью глобальной системы, связывающей удаленных друг от друга пользователей и заказчиков. “Рипером” управляют три специалиста: пилот, оператор средств обнаружения и координатор боевой задачи. Помимо работающих посменно “троек” десятки людей заняты обслуживанием “Рипера” и подготовкой его к полету, еще больше – сбором, анализом и передачей информации. Высокая степень человеческого участия в работе БПЛА заставила ВВС отказаться от термина “беспилотный” и назвать устройства, подобные “Риперу”, дистанционно управляемыми аппаратами.

За “когнитивным горизонтом”

Удаленное взаимодействие человека и робота на Земле и за ее пределами принципиально отличается из-за задержки радиосигнала. На орбите она составляет 1,8 секунды. Из них более секунды расходуют компрессоры видеосигналов, роутеры и оборудование для обработки информации. Расстояние до орбиты Марса измеряется десятками миллионов километров, и временной разрыв здесь уже составляет от 3 до 22 минут. Ученым и инженерам, управляющим марсоходами “Спирит” и “Оппортьюнити”, приходится заранее программировать автономное выполнение многих задач, в том числе и циклы обратной связи. Полностью автономные циклы иногда могут продолжаться по нескольку часов. Такой режим накладывает серьезные ограничения на скорость реализации проекта, из-за того что роботу требуется больше времени для выполнения определенного задания без участия человека.

Астроном Дэн Лестер считает, что временной промежуток более 0,2 секунды, за которые луч света или радиоволна проходят около 60 000 километров, является нашим “когнитивным горизонтом”. При превышении этого значения человек чувствует задержку и теряет ощущение своего непосредственного присутствия, а процесс управления ситуацией прерывается. Роботы – не исследователи, у них нет своего мнения, мотивации, интереса и цели. Это механические посредники со встроенными системами связи и анализа, продолжение глаз и рук тех, кто ими управляет. Возможно, в первых пилотируемых экспедициях к Марсу достаточно будет обеспечить присутствие человека на орбите планеты. Это позволит взаимодействовать с роботами, работающими в марсианских пустынях, практически в режиме реального времени.

Роботы на дорогах

На наших глазах происходит постепенное слияние пилотируемых, дистанционно управляемых и автоматических аппаратов в самых разных областях человеческой деятельности. Роботизированные автомобили не исключение. Но океан, воздух и космос более однородны по сравнению с городскими улицами, где одновременно маневрируют сотни людей и машин. Проблема в том, как скоординировать действия всех участников движения, наладить обмен информацией и убедиться, что поступки роботов соответствуют целям людей. На дороге многое зависит от таких факторов, как взаимодействие между людьми, нелогичность поведения, подверженность эмоциям и перепадам настроения. Компьютеры могут виртуозно управлять беспилотником, но насколько хорошо они смогут понимать людей, в том числе и тех, которые движутся в других автомобилях?

У разных разработчиков разные концепции развития беспилотных автомобилей. Например, Google определенно движется в сторону полностью автоматических транспортных средств, где от человека требуется только выбрать пункт назначения. Более правильным представляется подход, когда водитель сам будет определять степень своей включенности в “контур управления”, а в его распоряжении окажется оборудование более компьютеризованное, но менее автоматизированное. Управление автомобилем будущего, возможно, будет больше напоминать действия пилота самолета, наблюдающего за ходом процесса, чем беззаботную расслабленность пассажира. Необходимо также помнить о моральной и юридической стороне всеобщей роботизации автомобилей. Здоровье и жизнь людей, ответственность за сертификацию техники, последствия решений, которые принимают роботы, потенциальный риск причинения ущерба – все эти вопросы не менее важны, чем множество технических проблем, которые предстоит решить в области определения будущего наших роботов и нас самих.

Об авторе

Дэвид Минделл – историк инженерных дисциплин и инженер-электрик, доктор наук, профессор аэронавтики и астронавтики в Массачусетском технологическом институте. Участник более 25 океанографических экспедиций, автор пяти книг, посвященных отношениям между людьми и машинами, основатель и генеральный директор Humatics Corporation.

Цитаты

  • “Будущее уже наступило сегодня, если не в повседневной жизни, то в экстремальных условиях, где мы на протяжении десятилетий используем роботов и автоматику”.
  • “Постоянно приспосабливаясь к среде обитания и видоизменяя ее, мы переделываем и самих себя”.
  • “Я не оспариваю тот факт, что машины умны, и не говорю, что в один прекрасный день они могут оказаться недостаточно умными. Скорее, мое утверждение заключается в том, что такие машины не являются обособленными от человека”.
  • “Исследования внутри «Титаника» поразили воображение публики не только возможностью заглянуть в глубины океана, но и потенциалом роботов”.
  • “Роботы ничего не исследуют сами, они не имеют своих мнений и не занимаются наукой”.
  • “Авиации свойственен парадокс: по мере увеличения автоматизации возрастает безопасность во многих аспектах, но на пилотов в то же время ложится больший груз”.
  • “Мы уже давно живем в мире, где та или иная форма автоматического наведения встраивается в оружие”.
  • “Чтобы «летать», два главных оператора «Предейтора» должны наблюдать за данными на 16 различных мониторах, использовать четыре сенсорных дисплея, набирать команды на четырех отдельных клавиатурах, крутить два трекбола, наклонять два джойстика и двигать восемь рычагов”.
  • “В компании Mercedes говорят о так называемом «симбиозе реального и виртуального миров», где «пассажиры могут интуитивно взаимодействовать с автомобилем». Google, напротив, пропагандирует идею полной автономности транспортного средства”.
  • “Компьютеры постепенно учатся распознавать и отмечать различные объекты физического мира. Но… их возможности по распознаванию людей и их намерений остаются очень примитивными”.
  • “В первом десятилетии текущего века появилось небольшое число людей, которые привыкали ехать утром на работу, чтобы приступить к выполнению задач на другой планете, в то время как недалеко от них боевые расчеты «Предейтора» тоже ехали на работу, чтобы вести войну на другом континенте”.
  • “Большинство систем находятся… в разных частях «спектра автоматизации» и зачастую перемещаются внутри этой области в реальном времени”.
  • “Мы наблюдаем процесс слияния. Ручной режим управления, дистанционный и автономный развиваются совместно, и грани между ними постепенно стираются”.

 

Опубликовано в Быстрый результат

Комментарии

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *