Полноценный автопилот, не требующий контроля со стороны человека, обещает в корне изменить автомобильную промышленность. Крупные автоконцерны, IT-компании и десятки стартапов вкладывают в его разработку огромные деньги, но никто из них сегодня не может сказать, когда, собственно, конечные потребители, то есть мы с вами, сможем воспользоваться плодами их труда. За последние пять лет автопилот превратился из почти реализованной бизнес-идеи в утопию или в лучшем случае в не поддающийся расчетам проект-долгострой. Давайте попробуем понять, как же так вышло.
Начнем с главного — с денег. Почему автопилот так привлекает разработчиков и инвесторов? Дело в том, что в случае его успешной реализации, то есть коммерческого запуска, деньги можно будет «грести лопатой». Автомобиль, не требующий ручного управления, становится полноценным проводником мультимедийного контента: на протяжении всей поездки в нем можно будет работать, играть в современные игры и стримить, смотреть фильмы и рекламу, совершать онлайн-покупки — для IT-гигантов это огромный потенциальный источник дохода, особенно если беспилотники интегрируют в так называемые метавселенные и виртуальная реальность будет накладываться через окна машины прямо на окружающий пейзаж.
Далее: беспилотники целиком и сразу реформируют рынок такси и коммерческих грузоперевозок. Таксисты-водители станут не нужны, человеческий фактор больше не будет влиять на качество услуг извоза, поездки станут безопаснее и дешевле, свободных машин хватит на всех в любой час пик и при любой погоде. Почему? Да потому что многие владельцы машин (и частники, и юрлица) захотят, чтобы они приносили им пассивный доход и в свободное от хозяина время возили людей и/или грузы.
При огромном количестве свободных машин, готовых в любой момент за умеренную плату довезти вас куда угодно, покупка автомобиля для большинства людей, особенно проживающих в больших городах, потеряет всякий смысл. Если сегодня автомобиль — это независимость, символ статуса и отчасти удовольствие от вождения, то в мире автономного управления это будет всего лишь функция, что-то вроде стиральной или посудомоечной машины, которая должна просто хорошо делать свою работу. Дизайн и комфорт будут по-прежнему важны, но в гораздо меньшей степени, чем сегодня, тем более что для разных поездок можно заказывать различные машины.
Автопроизводители в итоге будут продавать не автомобили, а услуги, то есть машины-терминалы с доступом к безграничному цифровому миру. По сути, произойдет сращивание автоконцернов с IT-гигантами и компаниями-агрегаторами типа Uber. Доход от самих поездок будет незначительным по сравнению с доходом от продаж персональных данных пользователей — их привычек, слабостей, страхов, желаний и прочих чувствительных сведений, утаить которые с каждым днем становится все труднее. Привязав пользователя к конкретной метавселенной, можно «доить» его всю жизнь, с рождения до смерти. Да, примерно как в «Матрице».
Таковы в общих чертах мечты капиталистов-футурологов. Компания Google одной из первых почуяла, куда ветер дует, и в 2009 году начала разработку собственной системы автономного вождения. В 2014 году на американские дороги вышли знаменитые «гугл-кары» — маленькие тихоходные двухместные электромобили с округлым лупоглазым кузовом, внутри которого не было руля и педалей. Эти машины время от времени попадали в ДТП, стали героями анекдотов и одновременно катализатором беспилотного бума в автоиндустрии. В середине прошлого десятилетия стратегам и менеджерами корпораций казалось, что беспилотное будущее — вот оно, рукой подать, нужно лишь поднажать и выйти на перспективный рынок раньше остальных.
Тогда — в середине прошлого десятилетия — в беспилотную гонку ввязались все крупные автопроизводители. Даже всегда осторожная Toyota открыла в американской Кремниевой долине собственный центр разработки искусственного интеллекта для беспилотников, а компания Ford опрометчиво пообещала выпустить серийный беспилотный автомобиль четвертого уровня (о градациях мы поговорим чуть ниже) в 2021 году.
Еще одно знаковое событие: в 2015 году собственное беспилотное подразделение запускает компания Uber. Свои беспилотные тестовые прототипы Uber сделала на базе кроссоверов Volvo XC90. В марте 2018 года в штате Аризона одна из таких машин насмерть сбила человека (сидевший за рулем для подстраховки водитель-испытатель не следил за дорогой и не смог предотвратить ДТП), что стало первым тревожным звонком в отношении скорых и радужных перспектив машин-беспилотников. Летом 2019 года Uber и Volvo представили серийную версию беспилотного кроссовера XC90, но его производство так и не началось. В конце 2020 года Uber продала свое беспилотное подразделение, поняв, наконец, что до коммерческого запуска машин без водителей — как до Луны пешком.
И еще несколько характерных примеров фиаско беспилотных проектов. В 2017 году Bosch и Daimler объявили о совместной работе над беспилотниками четвертого и пятого уровней, в августе 2021 года это сотрудничество прекращено ввиду отсутствия перспектив.
В феврале 2019 года BMW и Daimler заявили о желании совместно разрабатывать системы автономного вождения, но уже в июне 2020 года этот альянс распался.
В начале 2019 года компания Ford признает, что погорячилась по поводу полноценного беспилотника к 2021 году, и решает сосредоточиться на системах попроще, максимум третьего уровня.
Audi в 2017 году представила четвертое поколение флагманского седана A8, оснащенного всем необходимым оборудованием для работы автопилота третьего уровня. Система, получившая название Audi AI traffic jam pilot, должна была активироваться кнопкой на центральной консоли и работать на дорогах с разделенными встречными потоками на скоростях до 60 км/ч. На момент дебюта модели клавиша с надписью Audi AI не функционировала, но разработчики надеялись, что сумеют быстро легализовать свою систему. Не смогли, и в рестайлинговом Audi A8, что увидел свет в ноябре 2021 года, кнопки Audi AI уже не было — ее заменили кнопкой активации парковочного ассистента.
Теперь самое время сделать отступление и рассказать/напомнить классификацию систем автономного вождения, придуманную SAE (Ассоциация автомобильных инженеров).
Первый уровень: вспомогательная система (чаще всего это адаптивный круиз-контроль), требующая постоянного внимания и контроля со стороны водителя. Система может сама управлять динамикой, поддерживать нужную скорость и дистанцию до впереди едущего автомобиля, корректировать траекторию, но руки водителя всегда должны быть на руле (за исключением парковочного ассистента — при его работе руль можно отпускать).
Второй уровень: система, позволяющая водителю при благоприятных условиях отпускать руль, но при этом сохраняется необходимость все время следить за дорогой, то есть смотреть на нее. За водителем в таких системах, как правило, следит специальная камера, и если тот не смотрит на дорогу, автопилот отключается.
Третий уровень: система, позволяющая водителю при благоприятных условиях не смотреть на дорогу, но при этом водитель должен быть готов в любой момент по требованию системы взять управление на себя. То есть он в дороге может читать книгу, смотреть фильм, играть в игру, но спать за рулем нельзя.
Четвертый уровень: по сути, полноценный автопилот, способный справиться с подавляющим большинством дорожных сценариев. Водитель в дороге может лечь спать, в том числе на заднем сиденье, быстрая реакция на сложную ситуацию, в которой система не знает, как поступить, не требуется. В случае возникновения такой ситуации и отсутствия реакции со стороны водителя система обязана сама безопасно припарковать автомобиль и ждать дальнейших указаний.
Пятый уровень: совершенный автопилот, способный ездить всегда и везде без участия водителя и вообще без людей в салоне. Органы управления в таких машинах не требуются, но могут присутствовать факультативно, в качестве развлечения. В беспилотниках пятого уровня можно будет не только вздремнуть, но и пить алкоголь в любых количествах — мечта многих автомобилистов.
Добавим, что Euro NCAP — организация, проводящая независимые краш-тесты и испытания систем активной безопасности, — против употребления слова «автопилот» в отношении систем автономного управления первого и второго уровней. В 2020 году Euro NCAP представил собственную программу испытаний таких систем (первого и второго уровней), в которой при выставлении оценок учитывается, как производители их называют и не вводят ли названия и описания подобных систем потребителя в заблуждение. Несложно догадаться, что компания Tesla и ее седан Model 3 были раскритикованы в первой же сессии этих испытаний за использование слова Autopilot для обозначения системы второго уровня. Еще хуже то, что в одном из тестов при попытке объехать внезапно обнаруженное на дороге препятствие эксперты выяснили, что автопилот Tesla борется с водителем и мешает ему совершить маневр уклонения — это опасно и недопустимо, потому что на первом и втором уровнях автономности за безопасность всегда отвечает человек, и он должен всегда иметь возможность полностью контролировать автомобиль.
Tesla справедливо считается пионером внедрения автопилота, систему второго уровня (тот самый Autopilot) она предлагает своим клиентам с 2015 года, но она же несет и самые большие издержки на беспилотном фронте, причем не столько материальные, сколько моральные. В 2016 году в электромобиле Tesla со включенным автопилотом в результате аварии погиб первый человек, затем случились другие ДТП с участием автопилота, в которых погибли по меньшей мере десять человек, причем большинство аварий происходило по очень схожему сценарию, что ставит под сомнение самообучаемость системы на основе нейросети.
Летом 2021 года американское Национальное управление безопасностью дорожного движения (NHTSA) под давлением общественности начало, наконец, официальное расследование аварий с участием самоуправляемых электромобилей Tesla, но когда и чем оно закончится, пока можно только гадать.
Между тем в октябре 2020 года Tesla запустила клиентское бета-тестирование автопилота нового поколения, получившего амбициозное название Full Self-Driving (FSD), что переводится на русский как «полностью автономное вождение». Система FSD, в отличие о системы предыдущего поколения, работает не только на автомагистралях, а почти везде: она способна проезжать сложные перекрестки, в том числе с круговым движением, совершать обгоны и пропускать встречный транспорт на узких улочках с припаркованными на них машинами — в общем, в состоянии самостоятельно проехать сложный маршрут от двери до двери.
По своему функционалу FSD соответствует четвертому уровню автономности, но формально это по-прежнему система второго уровня, требующая постоянного контроля со стороны водителя, потому что ни в одной стране мира законодательство не предусматривает переноса ответственности за безопасность на дороге с человека на машину. Небольшие исключения в отдельных странах сделаны для систем третьего уровня, о чем мы еще поговорим ниже.
Коммерческий запуск FSD должен был состояться до конца 2021 года, но этого не случилось, система FSD на момент выхода нашей статьи еще не вышла из режима бета-тестирования. Зато Илон Маск, глава компании Tesla, подчеркивает, что ни одного серьезного инцидента с участием FSD пока не зафиксировано — мол, прогресс огромный, искусственный интеллект (ИИ) творит чудеса.
Прогресс FSD действительно впечатляет: на YouTube есть немало роликов, в которых видно, как ловко Tesla c FSD справляется со сложными ситуациями на дороге, хотя порой не обходится без курьезов, когда, например, искусственный интеллект принимает луну за желтый сигнал светофора. При этом Tesla считает алгоритм работы FSD уже настолько совершенным, что в прошлом году решила больше не оснащать свои машины радарами (лидаров на Теслах никогда не было), и теперь FSD ориентируется в пространстве только на основе картинок с камер, ультразвуковых датчиков и координат спутниковой навигации. В августе прошлого года на мероприятии Tesla AI Day были показаны кадры, в которых система FSD успешно справляется с такими сложными сценариями, как выезд на встречную полосу ночью и езда в снежном облаке за фурой. То есть для корректной работы FSD даже в условиях ограниченной видимости радары, по мнению специалистов Tesla, не нужны.
Так что же мешает компании Tesla выпустить коммерческий релиз FSD, пусть даже как системы всего лишь второго уровня? Об этом Илон Маск не говорит, но, полагаем, все дело в больших рисках возникновения нештатных ситуаций с непредсказуемыми последствиями. Причем речь не только о человеческом факторе (например, попытках взлома системы), но и о рисках «нездорового» поведения искусственного интеллекта.
Илон Маск известен своими опасениями по поводу неконтролируемого развития ИИ с печальным итогом в духе фильма «Терминатор», когда ИИ оказывается врагом человечества. В риторике современных ученых-футурологов — это один из возможных негативных сценариев так называемой технологической сингулярности, которая может случиться уже в текущем десятилетии и полностью изменить нашу жизнь. В 2015 году на волне общей эйфории по поводу беспилотников Маск стал одним из основателей международного гуманитарного проекта Open AI: он занимается разработкой «доброго» ИИ, который в случае чего защитит человечество от «злого» ИИ, разрабатываемого корыстными IT-гигантами и авторитарными государствами ради тотального контроля за людьми. Не факт, что «добрый» Open AI сработает как надо и внезапно не окажется «злым», но попытка не пытка.
Но вернемся от тревожных предсказаний к уже свершившимся скромным достижениям в области систем автономного вождения. В марте 2021 года компания Honda первой в мире представила серийный беспилотник третьего уровня, сделанный на базе седана Legend. Система, получившая название Traffic Jam Pilot (да-да, такое же, как у Audi), позволяет водителю при благоприятных условиях в вялотекущих пробках отпускать руль и не следить за дорогой. Для легализации этой модели Министерство земли, инфраструктуры, транспорта и туризма Японии внесло изменения в законодательство с массой ограничений и оговорок: скорость не более 50 км/ч, защита от взлома, «черный ящик», специальная маркировка, мониторинг состояния водителя. Сам седан при этом для решения простейших беспилотных задач снабжен аж пятью лидарами — мягко говоря, избыточное и слишком дорогое оборудование, но с учетом того, что Honda выпустила всего сотню таких машин, это не так уж важно. Ни одна другая модель Honda автопилот третьего уровня собственной разработки не получила, а в дальнейшем Honda, скорее всего, переключится на систему Ultra Cruise корпорации General Motors, с которой состоит в альянсе с 2020 года.
В декабре 2021 года компания Mercedes-Benz гордо рапортовала о том, что получила одобрение на запуск автопилота третьего уровня в Германии. Система, именуемая Drive Pilot, будет предложена в первой половине текущего года на флагманских моделях — седанах S-класса и электрических лифтбеках EQS. Работает Drive Pilot примерно так же, как Traffic Jam Pilot от Honda, только скоростной лимит повыше (60 км/ч) и лидар всего один — на передке. Drive Pilot может вести машину только в рамках одной полосы и только на определенных трассах, отвечающих условиям безопасности (в Германии это 13 191 км дорог). В случае ДТП ответственность может понести как водитель, так и производитель — решение будет приниматься по результатам расшифровки «черного ящика».
По сравнению с Tesla FSD автопилоты Honda и Mercedes-Benz с их очень ограниченным функционалом — это детский лепет, зато они с полным правом относятся к третьему уровню и водитель в них может хотя бы иногда не следить за дорогой. Расслабиться вряд ли получится, так как нужно быть готовым в любой момент взять управление на себя, но заняться своими делами в плотном ползущем трафике можно.
Компания Mercedes-Benz сделала, по сути, то же самое, что и Audi, только на пять лет позже. Audi не захотела реанимировать свой автопилот под созревшее немецкое законодательство — вероятно, потому что этот автопилот и модель-носитель уже морально устарели, тратиться на апгрейд смысла нет, экономическая польза от пробочного автопилота невысока, но в следующем поколении Audi A8 автопилот третьего уровня вполне может появиться.
А что автопилоты четвертого и пятого уровней? Когда ждать? Для их легализации нужно сделать невозможное — прописать в законодательстве все сценарии взаимодействия автомобиля, управляемого искусственным интеллектом, с окружающим миром и предусмотреть ответственность (административную и уголовную) во всех возможных сценариях ДТП. Ни один парламент, ни одна межведомственная комиссия и ни один межотраслевой союз такую работу не потянут. И не потому, что это долго и сложно, а потому что при разборе тысяч возможных скриптов нужно заранее решить, как будет вести себя ИИ, кем будет жертвовать в ситуациях, когда избежать жертв невозможно. В идеальном мире, где по дорогам ездят только беспилотники, таких ситуаций не должно возникать в принципе, но в мире, в котором беспилотники соседствуют на дорогах с машинами, управляемыми людьми, не всегда предсказуемыми пешеходами и совсем непредсказуемыми животными, может произойти что угодно.
Помнится, в 2015 году российская инжиниринговая компания Cognitive Technologies, помогавшая КАМАЗу разрабатывать собственную систему автономного вождения, запустила в интернете опрос для всех желающих с просьбой помочь ей решить некоторые этические задачи — кем жертвовать в аварийных ситуациях, в которых жертвы неизбежны. Почти половина респондентов тогда предложила выбирать потенциальных жертв ДТП на основе социального рейтинга, составляемого с учетом пола, возраста, семейного положения, профилей в соцсетях, поисковых запросов в интернете и вообще морального облика. Итог понятен: у старых одиноких лузеров с криминальным прошлым шансов выжить в аварии с беспилотником будет намного меньше, чем у молодой беременной женщины с хорошей репутацией, у которой к тому же уже есть другие дети.
А если разница между потенциальными жертвами состоит лишь в незначительных нюансах? Да и вообще, как можно заранее определить, кому жить, а кому умереть? Кто возьмет на себя роль бога и по какому праву? Эти вопросы относятся к категории этически неразрешимых, поэтому невозможно предсказать, когда, где и при каких условиях будет легализован первый беспилотник четвертого уровня. По мнению автора, это случится в изолированных средах — в городах или отдельных районах, где не будет машин, управляемых людьми, а будут только беспилотники, причем движение будет организовано таким образом, чтобы ни один пешеход, велосипедист или домашнее животное не смогли оказаться там, где им не положено — например, на автостраде.
В свете вышесказанного вы поймете, сколь бессмысленны новости вроде «Яндекс запустит в Москве беспилотное такси» или «Сбербанк представил беспилотный шаттл». Такси будет ездить с водителем-испытателем, сидящим за рулем для подстраховки, а шаттл Сбер Флип, не имеющий руля и педалей, на дорогах общего пользования в обозримом будущем вообще не появится. Подобных шаттлов мы видели уже десятки, в том числе в России (НАМИ ШАТЛ, «Матрешка»), и все они никуда пока не едут — ну разве что по технопарку «Сколково» и закрытым территориям выставочных комплексов могут иногда с черепашьей скоростью кататься. О массовой коммерческой эксплуатации беспилотных шаттлов никто ничего внятного сказать пока не может, даже если речь идет о таких серьезных компаниях, как General Motors (представила якобы серийный беспилотный шаттл Cruise Origin в начале 2020 года) и Amazon (показала беспилотный шаттл Zoox в конце 2020 года).
Все сильно упрощается, если мы убираем из беспилотного уравнения человека. Так, калифорнийский стартап Nuro Inc. в 2020 году первым получил от американских властей разрешение вывести на дороги общего пользования свои тихоходные автономные шаттлы для доставки грузов, а тот же Яндекс с прошлого года более-менее успешно эксплуатирует своих маленьких роботов-курьеров, что колесят по тротуарам и смешно застревают в сугробах. С грузом никаких этических терзаний нет — в случае неизбежного ДТП грузом, каким бы ценным он ни был, всегда можно пожертвовать в пользу человека.
Ну а полноценные перевозки людей на беспилотниках, судя по всему, отложены надолго — возможно, вплоть до той самой таинственной технологической сингулярности, заглянуть за которую так же сложно, как за черную дыру — да и страшно вдобавок.