DeepMind и 160 других компаний обязались не создавать автономное ИИ-оружие

Участники конференции из 90 стран также призвали правительства на законодательном уровне запретить опасные технологии на базе ИИ. Среди подписавших — сооснователи DeepMind Демис Хассабис, Шейн Легг и Мустафа Сулейман, глава Tesla и SpaceX Илон Маск, Фонд поддержки революционных инноваций X-Prize.

Поводом к подписанию обещания стала отрицательная реакция общественности на технологии некоторых компаний и тот факт, что их разработки попадают в руки правительственных и правоохранительных органов. Так, Google (родительская компания DeepMind) в рамках инициативы Project Maven предоставляет искусственный интеллект для дронов Пентагону, Amazon позволила использовать свою технологию распознавания лиц правоохранителям, а Microsoft сотрудничает с Иммиграционной и таможенной полицией США.

Как сказано в документе, тысячи разработчиков искусственного интеллекта считают, что смертельное автономное оружие может привести к жестокости и притеснениям, особенно если применяется вместе с системами видеонаблюдения и информационными системами. Решение о жизни человека нельзя позволить принимать машине. Искусственный интеллект — мощная технология, которая может изменить мир к лучшему, если не допустить злоупотребление ею, уверены авторы документа.