Когда я впервые прокатилась в беспилотнике в 2007 г., я думала, что умру. Либо меня стошнит. Или и то и другое. Так что, когда в 2016 г. до меня дошли слухи, что скоро на рынке появятся автономные машины и что Tesla создала программу под названием Autopilot, а Uber тестирует самоуправляемые такси в Питтсбурге, я подумала: «А что же изменилось? Неужели авантюрным разработчикам, с которыми я познакомилась в 2007 г., удалось каким-то образом внедрить систему этического принятия решений в двухтонную “машину-убийцу”»?
В итоге оказалось, что перемен произошло даже меньше, чем я ожидала. История о соревновании по созданию автопилотируемой машины – это история о фундаментальных ограничениях вычислительной техники. Оглядываясь назад и наблюдая за тем, что сработало и что не сработало в первую декаду бытования беспилотных транспортных средств, мы сталкиваемся с предостерегающей историей о том, как техношовинизм может привести к буквально магическому мышлению в случаях, когда технология способна стать угрозой здоровью членов общества.
Моя первая поездка случилась на тестовом треке для беспилотных машин: по-воскресному пустой стоянке завода Boeing в Южной Филадельфии. Ben Franklin Racing Team, команда инженеров из Университета Пенсильвании, в то время разрабатывала автономный автомобиль для участия в соревновании. Я встретила членов команды в кампусе на рассвете в воскресенье и последовала за ними по шоссе, чтобы попробовать прокатиться на автопилотируемой машине.
Им приходилось экспериментировать тогда, когда на улицах никого не было. Вообще-то, их автомобиль, кастомная Toyota Prius, по закону не допускался к эксплуатации. Существует ряд правил, которым должен соответствовать автомобиль, например у него должно быть рулевое колесо. Короче, они могли тестировать беспилотник на парковке или на территории университета, но вот поездка от гаража в Западной Филадельфии по шоссе 1–95 до тренировочной площадки в Саус-Билли была достаточно рискованной. Вероятнее всего, их бы остановили полицейские, патрулирующие шоссе. Университетские юристы как раз работали над получением разрешения на уровне штата на то, чтобы беспилотные автомобили могли сами собой управлять. До тех пор команде приходилось тренироваться в «нечеловеческое» время и надеяться на лучшее.
Я остановилась на стоянке позади беспилотника, которого они назвали «Малыш Бен». В салоне сидели разработчики: студент инженерной механики Талли Фут за рулем, на заднем сиденье были аспирант электронной и системной инженерии Пол Верназа и докторант электротехнического проектирования Алекс Стюарт. Рядом с водителем, одетый в черно-желтую куртку команды, находился Хитин Чокси, сотрудник Lockheed Martin и недавний выпускник кафедры теории вычислительных систем Дрексельского университета. Как только машина неспешно подкатилась, Фут вышел, открыл багажник и стал рыться и наводить порядок в проводах, свисающих над задним сиденьем и с потолка. Напичканная всевозможными сенсорами и с непонятными устройствами на крыше, машина выглядела так, будто участвовала в съемках постапокалиптического фильма. Студенты вырезали часть пластиковой консоли, прикрывающей приборную доску. Оттуда торчал моток проводов, тянущихся к внушительному ноутбуку. Пол багажника был частично покрыт плексигласом, а на рулевой колонке виднелись провода и коробочки. Фут ввел команду через сенсорный монитор, установленный в бардачке, и вскоре перед нами предстал вид парковки – прямо со спутника. Все три пассажира оставались пристегнутыми в машине, сгорбившись над ноутбуками. Испытание началось.
В рамках соревнований Grand Challenge 2007 года «Малышу Бену» предстояло самостоятельно проехать по пустому «городу», построенному на месте бывшей военной базы. Никакого удаленного управления и запрограммированных путей следования по городу: только 85 беспилотных автомобилей, кружащих по улицам. Спонсор, Управление перспективных исследований Министерства обороны (DARPA), обещал $2 млн команде, разработавшей автомобиль, который дойдет до финиша первым, $1 млн и $500 000 тем, кто займет второе и третье место.
Технологии робомобилей помогают водителям с 2007 г. Тогда, например, Lexus выпустила машину, способную выполнять параллельную парковку – при определенных условиях. «Сегодня во всех машинах есть такие функции, как адаптивный круиз-контроль или парковочный ассистент. Вождение становится все более автоматизированным, – пояснил Дэн Ли, доцент инженерно-технического проектирования и советник команды. – Однако для полной автоматизации процесса необходимо, чтобы автомобиль был в курсе всего происходящего вокруг. Вот это по-настоящему сложные проблемы робототехники: компьютерное зрение, научить компьютер “слышать” звуки, понимать, что происходит вокруг, – отличное место для проверки всего этого».
Для того чтобы «Малышу Бену» удалось «увидеть» и объехать препятствие, необходима правильная работа системы GPS-навигации, а лазерные сенсоры на крыше должны правильно идентифицировать объект. Затем ему нужно идентифицировать объект как препятствие и разработать путь объезда. Одна из задач сегодняшнего испытания состояла в том, чтобы поработать над подпрограммой, которая в итоге позволит «Малышу Бену» объезжать другие машины.
«Система настолько сложна, может случиться куча всего неожиданного, – сказал Фут. – Если что-то будет работать слишком медленно, то это может привести к краху системы. Работа программиста такова, что три четверти времени ты проводишь, исправляя ошибки системы. А в проекте вроде этого все девять десятых времени уходит на исправление ошибок».
Испытание 2007 г. было куда сложнее, чем предыдущие. Например, в 2005 г. нужно было создать робота, который сможет проследовать 281 км через пустыню менее чем за 10 часов и без единого человеческого вмешательства. 9 октября 2005 г. команда Stanford Racing и их автомобиль Stanley выиграли это соревнование (и $2 млн за то, что автомобиль проехал 212 км по пустыне Мохаве). Stanley ехал со средней скоростью 30 км/ч и добрался за 6 часов и 55 минут. В пустыне «на самом деле было не важно, был ли препятствием камень или куст, потому что можно было просто его объехать», говорил Себастиан Тран, тогда бывший доцент теории вычислительной техники Стэнфорда[102]. В городских условиях машинам необходимо определить очередность проезда и учитывать правила дорожного движения. «По сути, испытание заключается в том, чтобы перейти от простого восприятия машиной окружающего мира к его пониманию», – продолжил Тран. В испытании 2007 г. от Стэнфорда участвовал Junior, автомобиль на базе Volkswagen Passat 2006 г., главный конкурент «Малыша Бена». Как и Boss – Chevy Tahoe 2007 г. от команды Университета Карнеги – Меллона. В 2005 г. от этого университета участвовало две машины – Sandstorm и H1ghlander, пришедшие второй и третьей соответственно. Соперничество роботов университетов Карнеги – Меллона и Стэнфорда сродни баскетбольной битве команд университетов Северной Каролины и Дьюка. В 2003 г. Стэнфорд переманил к себе Трана, бывшего профессора Университета Карнеги – Меллона и звезду робототехники.
Возвращаемся на парковку. Старший специалист инженерной электроники Алекс Кушлеев подъехал на новенькой Nissan Altima. Алекс отлучался, чтобы купить пульт радиоуправления, такой же, что используется для игрушечных машинок: он предназначался для экстренной остановки. Кажется, у каждого робота есть большая, мультяшная красная кнопка. Две дополнительные кнопки были приклеены на клейкую ленту на задней панели машины и подключены к серверу блока Mac Mini, который служил электронными «мозгами» автомобиля. К этому моменту для Пенсильванской лаборатории общей робототехники, автоматизации и восприятия (GRASP) стоимость этого проекта приближалась к $100 000. Проект также спонсировался Лабораториями продвинутых технологий Lockheed Martin из Черри-Хилл, Нью-Джерси и Thales Communications из Мэриленда.
«Prius дает нам больше маневренности и поскольку это гибридная машина, то еще и хорошие аккумуляторы на борту. А нам нужна дополнительная энергия, ведь помимо самого автомобиля там запитана куча компьютеров, сенсоров и моторчиков», – прокомментировал Ли. Электрические моторы управляют системой подачи топлива, тормозами и управлением «Малыша Бена»; всем этим – от систем подачи сигналов до дворников – можно управлять с панели над рычагом коробки передач, как в машинах для людей с физическими ограничениями, которые управляют машиной при помощи рук, а не ног. Машиной можно управлять обычным образом, а можно с компьютера. Они уверяли, что в управлении не будет нужды вовсе, когда в автомобиле появится автопилот.
Я наблюдала за тем, как машина рывками передвигается по парковке. Страхующий водитель сидел на пассажирском сиденье, его рука находилась на кнопке экстренной остановки. Было страшновато, но волнительно приятно – видеть двигающуюся машину с рулевым колесом, вращающимся перед пустым водительским сиденьем.
Как только аккумулятор разрядился, Кушлеев взялся за руль и проехал по парковке со скоростью 25 км/ч. Сегодняшней целью было отрепетировать объезд препятствий на парковке. Во время соревнования «Малышу Бену» придется пересекать перекрестки, объезжать бордюры и реагировать на сигналы остановки, другие машины и бездомных собак на максимальной скорости 50 км/ч.
Наконец настала моя очередь занять место за рулем. Я села на водительское сиденье. Странным образом оно ощущалось пустым. Кушлеев включил механизм автоматического вождения, и машина проехала несколько метров, затем повернула круто влево, потом направо и сошла с траектории. «Бери управление!» – крикнул с заднего сиденья Стюарт. Машина ехала аккурат в фонарный столб. По мере приближения к бетонному основанию фонаря машина ускорялась. Мы стремительно приближались к столбу. Я ударила ногой туда, где предположительно должен был находиться тормоз, и обнаружила, что педали были переоборудованы во что-то мне непонятное. «Эта штука случайно не должна притормозить?!» – крикнула я в панике. Я закрыла глаза, уверенная в скором столкновении, и приготовилась кричать.
С заднего сиденья доносились бормотания и яростный стук по клавиатуре. Кушлеев переключился на ручное управление и задействовал тормоза. Машина резко остановилась в нескольких сантиметрах от бетонного столба. Я чувствовала себя так, будто мой желудок остался где-то на несколько метров позади.
Я повернулась, чтобы взглянуть на парня с ноутбуком на заднем сиденье. «Должно быть, какой-то баг программы, – отозвался он. – Это случается».
«Спас только GPS», – радостно провозгласил Стюарт. Они еще долго спорили о проблеме с поворотом: машина сделала широкий поворот там, где должна была сделать небольшой. Лазеры сканировали местность вокруг машины, но программа почему-то не регистрировала фонарный столб в качестве препятствия. Очевидно, это повлияло на управление, заставляя машину резко рвануть, вместо того чтобы медленно поворачивать.
Фут и Стюарт переговаривались между собой. Они были ветеранами разработки беспилотных машин, принимали участие в двух Grand Challenges в качестве выпускников Калифорнийского технологического университета. Последней их разработкой был Alice, беспилотник на базе Ford E350, подготовленный для соревнований 2005 г. Во время гонки в пустыне Alice самостоятельно проехал около 11 км, прежде чем направиться в сторону барьера, отделявшего журналистов от трека. Судьи выключили Alice до того, как автомобиль успел попасть в новостные заголовки.
Рулевое колесо «Малыша Бена» еще раз дернулось; Стюарт и Верназа управляли им с заднего сиденья. Проблема с программой решена. Кушлеев пригнал машину на парковочное место и снова включил автопилот. Колесо дернулось вновь, затем автомобиль направился к снегоуборочной машине на краю парковки, со стороны двигателя послышался скрежет.
– Проклятье! – выругался Стюарт.
– Может, это Sheep? – произнес Верназа, имея в виду одну из программ, управляющих машиной.
– Как раз она в списке проблем на сегодня, которые я не собирался решать. – отозвался Стюарт.
Тогда я подумала (но не написала) о том, что этот опыт не вселяет уверенность в технологии. Находясь в машине, я ощущала опасность – будто ей управлял пьяный малыш. И если такие люди занимаются созданием беспилотных автомобилей, их неосторожность по отношению к моей собственной жизни не предвещает ничего хорошего. Я не могла представить, что я доверяю своего ребенка такой машине, построенной этими детьми. Мне не нравилась сама идея присутствия этого беспилотника на дороге; это казалось общественной угрозой. Я написала статью и понадеялась, что разработка потерпит неудачу или перерастет в другой проект, исчезнув в технологическом мраке вместе с видео RealPlayer, программой Macromedia Director и портативными жесткими дисками Jaz. Вскоре я забыла об этой истории и о машине-роботе Пенсильванского университета.
Меж тем «Малышу Бену» предстояла гонка. Утром 3 октября, в день DARPA Grand Challenge, все транспортные средства стали на линии старта. Их цель состояла в том, чтобы пересечь улицы резервной военно-воздушной базы Джорджа в Неваде. Там были дороги, знаки и сопровождающие автомобили. Разношерстная масса кастомных автомобилей выстроилась на линии старта. Им предстояло проехать 96 км по военной базе, соблюдая предписания знаков и избегая столкновений с другими автомобилями.
За неделю до этого посредством тестового заезда определили очередность. Первым был Boss, автомобиль Университета Карнеги – Меллона, который сочли наиболее перспективным. За ним через определенные промежутки времени должны были следовать остальные машины-роботы участников и за ними автомобили, управляемые людьми. Команда Boss на линии старта была готова – но не сам Boss. Не работала GPS. Нарастала суета. Пока стартовали другие участники, члены команды Университета Карнеги толпились у машины. Наконец источник неполадки был найден: радиопомехи от большого телеэкрана, находившегося рядом со стартом. Экран создавал помехи сигналам GPS. Кто-то выключил его.
Boss стартовал десятым, 20 минутами позже автомобиля, разработанного стэнфордской командой. Это не было скоростной гонкой: путь в 88 км Boss намеревался проделать на скорости 22 км/ч. «Boss держался отлично, – говорил Крис Урмсон, директор команды. – Все шло ровно. Он двигался быстро. Он хорошо взаимодействовал с потоком. Делал то, что требовалось».
Boss приехал первым, команда Стэнфорда заняла второе место спустя 20 минут. «Малыш Бен» финишировал не на призовом месте, команды Корнелла и МТИ финишировали, не уложившись в шестичасовой регламент гонки. Стало очевидно, что в разработке робототехнических транспортных средств лидируют Питтсбург и Пало-Альто.
Подход пенсильванской команды разительно отличался от тактики команды Стэнфорда или Университета Карнеги – Меллона. Он основывался на знаниях. Команда пыталась создать машину, которая бы смогла решать, что делать на дороге, опираясь на запрограммированный «опыт». И такой подход был одним из двух основных в разработке ИИ. Гоночная команда Университета им. Бена Франклина опиралась на подход общего ИИ. Он не сработал.
«Малыш Бен» старался «увидеть» препятствия глазами человека. За распознавание объектов отвечал LIDAR, лазерный радар, установленный на крыше. Затем «мозг» идентифицировал объект, основываясь на критериях: форма, цвет и размер. Следом, используя метод древа принятия решений, предстояло выбрать, что делать: замедлиться, если это живое существо вроде человека или собаки, или, если это живое существо – птица, то можно продолжить движение, поскольку она, скорее всего, улетит. «Малышу Бену» нужно было хранить огромное количество информации об объектах реального мира. Например, о дорожном конусе. В стоячем положении их легко различать по треугольной форме и квадратной основе. Обычно они не больше метра высотой. Мы можем написать примерное правило:
[102] “Robot Car ‘Stanley’ designed by Stanford Racing Team.”