Беспилотные авто обучают реагировать на «неадекватов» на дороге

Именно для этого исследователи разработали специальный механизм «вежливости». Алгоритм анализирует затраты на определённое действие для себя и для другого водителя, а также итоговое вознаграждение. При этом учитывается, что сделал бы человек, если бы робота в той ситуации не было, если бы робот подстроился под человека и если бы действовал, не обращая внимания на человека. Таким образом исследователи обучают ИИ не просто идти напролом или бездействовать, а быть гибкими с учётом конкретной ситуации.

Автопилот Tesla не распознал огромный грузовик, потому что тот двигался в непривычном для программы направлении и был окрашен в белый цвет. Но человек вряд ли допустил бы такую ошибку. Поэтому возникает необходимость научить ПО не только водить машину лучше человека, но и реагировать на иногда неадекватное поведение на дороге. Исследователи из Калифорнийского университета в Беркли считают, что для этого нужно изменить «мотивацию» автомобилей.

По их мнению, абсолютно эгоистичных роботов нужно заставить думать и о других участниках движения, так как люди не всегда рациональны и на их действия может повлиять «агрессивность» роботизированных авто. Исследователи предлагают научить автопилот сводить к минимуму неудобства, которые он может доставить другому водителю.

Решением проблемы могла бы стать установка вроде законов Азимова. Например, всегда уступать дорогу человеку. Но люди эгоистичны, и сразу начали бы эксплуатировать такой закон в свою пользу, и в результате скорость и эффективность беспилотников существенно снизились бы.

Как пишут исследователи, обычно роботы учатся предсказывать поведение человека и подстраиваться под него. Сегодня же они становятся более агрессивными: игнорируют людей или выезжают дальше на перекрёстках, чтобы стартовать раньше, что не всегда хорошо. Также роботы пытаются постоянно максимизировать «поощрение», которое получают за выполнение задач, и поэтому, как и люди, по мере накопления водительского опыта и знаний будут становиться всё более смелыми.