V007793 Эссе Этическая проблема автопилота на дороге

Сегодня перед человечеством встал вопрос: как же будет выглядеть «светлое будущее», «светлое завтра».  Вопрос может быть перефразирован: доверим ли мы все процессы, связанные с жизнью роботам? Иными словами, сможет ли искусственный интеллект реагировать на происходящие вокруг него события и принимать решения, свойственные обычному человеку? Кроме того, возникает вопрос, кто будет нести ответственность за действия автопилота, если их последствия окажутся плачевными.

7-го мая этого года в городе Уиллистон, штат Флорида произошел инцидент. Находясь в машине с автопилотом, один из энтузиастов, проводивший испытания автопилота на дорогах общего пользования, равно как и система, «не заметил светлую фуру на фоне ярко освещенного неба, которая совершала поворот налево, перпендикулярно направлению движения энтузиаста» . Ценой этой ошибки стала человеческая жизнь: именно так нас покинул 40-летний Джошуа Браун.

О трагедии стало известно из блога компании-производителя данного автомобиля (Tesla Model S 2015-го года разработки). Стоит отметить, что и до инцидента машины на автопилоте уже попадали в ДТП, но это – первое со смертельным исходом. К тому же, «Компания подчёркивает, что впервые человек погиб за более чем 210 млн км, которые проехали автомобили Tesla Model S в режиме автопилота.»

Причины инцидента до сих пор не весьма ясны и вот почему. Есть версия, «слишком низко расположенные сенсоры Model S не среагировали из-за большого дорожного просвета фуры.»  Возможно, если бы удар пришелся на заднюю или переднюю часть трейлера, то встроенная система безопасности предотвратила бы серьезные травмы водителя, что уже происходило ранее в подобных случаях. Кроме того, пока автопилот находится на стадии разработки, по умолчанию он отключен, однако, водитель может под свою ответственность его включить, но для этого ему необходимо держать руки на руле и самостоятельно контролировать ситуацию, иначе раздастся звуковой сигнал, и машина постепенно остановиться. Вопрос в том, работал ли автопилот 7-го мая в штатном режиме, - это вторая версия причины трагедии.

Так или иначе, но событие имеет место быть. Однако, этот случай заставляет задуматься: «хорошо, в этот раз это была фура, по сути лист металла, которому придали определенную форму, он, в конце концов не чувствует, но что, если перед машиной с автопилотом совершенно неожиданно как для системы, так и для «водителя», появится живой объект, к примеру, белка, собака или даже человек. Как тогда должен будет поступить автопилот?» «"Беспилотный автомобиль: кого он должен спасать?" - под таким заголовком на сайте Массачусетского технологического института рассказывается о недавнем исследовании, опубликованном в журнале «Science».» , пишет «Кот Шрёдингера». В статье опубликован ответ на события 7-го мая руководителя департамента беспилотных транспортных средств российской компании «Cognitive Technologies» Юрия Минкина: «Конечно, производители продумали ещё не всё. Недавно был громкий случай: автомобиль Tesla столкнулся с фурой, не различив белый прицеп на фоне неба. Погиб человек. Однако баг скоро устранят - клиенты получат исправленную прошивку (у машин этой компании программное обеспечение обновляется так же, как в смартфонах), и проблема будет решена. Можно сказать, что жертва принесена не напрасно: больше в этой ситуации никто не пострадает.»

Кроме того, эксперт отметил: «Один из главных ожидаемых результатов внедрения беспилотников состоит в уменьшении аварий и жертв буквально на порядки. Сейчас на российских дорогах гибнут десятки тысяч человек, с распространением беспилотного транспорта их число снизится до сотен, а потом и до единиц. В этом смысле самоуправляемый автомобиль априори морален. Он всегда сосредоточен на дороге, у него есть исчерпывающая информация, он может получать данные от других транспортных средств и элементов дорожной инфраструктуры. Создание таких автомашин - перспектива ближайших десятилетий.» Однако, сложно согласиться с подобным мнением. Конечно, системе, лишенной соблазнов вроде ответить на звонок мобильного телефона или посмотреть на рядом сидящего пассажира, значительно проще постоянно оставаться сконцентрированной на дороге. С другой стороны, дорожная ситуация меняется на столько быстро, что для системы датчиков, камер и анализаторов задача оказывается значительно сложнее, чем для человека. С третьей стороны, как определить, чья жизнь ценнее?

Так называемая «проблема вагонетки» - это мысленный эксперимент, используемый психологами с 1960-х годов. Суть эксперимента заключается в том, что неуправляемая тяжелая вагонетка несется по рельсам, к которым привязаны пять человек. У респондента есть возможность перевести стрелку так, чтобы направить вагонетку по запасному пути, однако, там к рельсам так же привязан человек.