Одной из сложнейших задач в развитии самоуправляемого транспорта является корректное определение реальных угроз (пешеходов, других авто, крупных посторонних объектов на дороге) и умение отличить их от безопасных вещей — таких как пластиковые пакеты или мусорные баки на обочине. Существуют и аномалии сенсоров, при которых ПО «видит» несуществующие объекты.

По словам журналиста The Information Амира Ефрати, настройки безопасности самоуправляемых Uber были занижены для того, чтобы сделать поездки более удобными для пассажирова. В противном случае им пришлось бы мириться с частым «бесполезным» торможением. Одной из причин для занижения безопасности было стремление достичь нужных результатов до поставленного внутри компании дедлайна (запустить полностью автономные перевозки в Фениксе к концу года) .

Результатом такого решения стало столкновение с пешеходом: автопилот своевременно заметил угрозу, но принял решение продолжить решение, посчитав, что имело место ложное срабатывание.

Представители Uber не комментируют информацию, ссылаясь на требования конфиденциальности. По информации Reuters, гигант принял на работу бывшего высокопоставленного транспортного чиновника для консультаций по безопасности автопилота. Кроме этого, компания проводит полную проверку безопасности ПО.

Читайте также: За $245 млн и извинения Uber: «дочка» Google согласилась прекратить дело о краже технологий автопилота