"У нас должен быть рубильник, выключающий искусственный интеллект". Интервью с экспертом Яндекса

Источник материала:

Почему не стоит бояться искусственного интеллекта, который уже окружает нас со всех сторон, когда виртуальная «Алиса» заговорит по-белорусски и что ждет технологии в ближайшем будущем? Об этом нам рассказал Михаил Биленко — руководитель управления машинного интеллекта и исследований компании Яндекс.

Белорусское подразделение «Яндекса» занимает несколько этажей в одном из бизнес-центров Минска. Здесь трудится относительно небольшой штат — около 160 человек (в Москве у «Яндекса» более 5000 сотрудников), и атмосфера в здании очень уютная. Центральный коридор разделяет опен-спейсы, технические помещения, небольшие кухоньки и переговорки с национальным колоритом — здесь есть и «У нескладовая» и «Хутка-Смачна». Мы же встречаемся с Михаилом в «Талаке».

«Билл Гейтс очень крутой»

Подтянутый торс, джинсы, футболка и широкая улыбка — наш герой чем-то неуловимо похож на основателя Facebook Марка Цукерберга, только из России.

Михаил родился в Саратове, учился в школе с физико-математическим уклоном и с детства интересовался программированием и радиотехникой. В 1994 по программе школьного обмена он впервые уехал в США. Позже он закончил там аспирантуру Техасского университета и работал в крупнейших IT-компаниях — IBM, Google и Microsoft. В последней он провел 10 лет до того момента, как его пригласили в Яндекс — на позицию руководителя управления машинного интеллекта и исследований.

Кстати, за 10 лет работы в Microsoft Михаил несколько раз пересекался с Биллом Гейтсом:

— Да! Это очень харизматичный и умный человек. Я его встречал несколько раз, в том числе на первом году моей работы в Microsoft. Тогда проводилась ежегодная ярмарка научной деятельности. Я представлял одну из работ, и он тогда задал очень острые и правильные вопросы, моментально выявив слабые стороны проекта. Билл разобрался за секунды и этим очень удивил меня.

Михаил уже ощутил разницу работы в США и России:

— Здесь весело и интересно. Особенности связаны с размерами компаний. Я работал в очень крупных корпорациях, вроде IBM и Microsoft, и Яндекс уникален тем, что он похож на маленькую компанию: по духу, по людям и по процессам. Здесь меньше бюрократии и больше скорость решения вопросов.

Почему не стоит бояться искусственного интеллекта

Каждый день мы читаем новости про искусственный интеллект. Нейросети научились распознавать то-то или делать то-то. Спрашиваем, у Михаила, насколько это нормально и не стоит ли нам пугаться?

— Говорить, что развитие искусственного интеллекта совсем не опасно, было бы неправильно. Есть определенные области, где с ним нужно быть аккуратнее — в первую очередь, оружие и физическая безопасность людей. В остальных вопросах использования нейросетей я абсолютно спокоен. Потому что в конечном итоге большие решения всё равно будут приниматься людьми, человеческий контроль никуда не пропадет.

Недавно была новость, что нейросеть научилась пририсовывать порноактрисам лица других людей. Похоже, что пора защитить себя и свою частную жизнь от влияния ИИ?

— С новыми технологиями приходят новые социальные вызовы, новые режимы и возможности общения, не всегда приятные, — считает Михаил. — Кстати, в свое время похожая ситуация была и с SMS, и с мессенджерами, которые не всегда использовали в благих целях. И вот этот пример с порноактрисами показывает, что начали возникать вызовы, связанные с социальными отношениями, с приватностью людей, с их правом на частную жизнь.

По словам эксперта, это не что-то уникальное для нейросетей, любая новая технология коммуникации меняет правила и приводит к тому, что нужно пересматривать социальные взаимодействия между людьми, регулирование, законы, предусматривать ответственность за подобные нарушения.

А кто защитит нас, если вдруг кто-то перепрограммирует «добрый, домашний» искусственный интеллект в «злой». Кто в таком случае поможет противостоять злоумышленникам?

Михаил уверен, что другие нейросети:

— Но вообще, хороший дизайн всегда подразумевает рубильники, которые могут выключить компьютер. Кроме того, все системы, связанные с людьми, важно проектировать с механизмами безопасности. И это мало отличается от любых других существующих сейчас больших индустриальных систем, в которых есть вероятность каких-то больших аварий и катастроф.

Эксперт считает, что важно, чтобы были системы мониторинга, оповещения и передачи контроля людям, а также блокираторы, которые мешают развитию непредвиденных ситуаций.

Климат-контроль в машине — это уже искусственный интеллект

Михаил рассказал, что сейчас нет четкой грани между обычной автоматизацией и и работой искусственного интеллекта.

— Я бы сказал, что автоматизация — это, например, когда машина диагностирует ваш автомобиль, просто снимая показания датчиков. А искусственный интеллект в современном понятии — когда происходит гораздо более наукоемкий анализ сигналов. И уж точно, если после этого машина заезжает на конвейер и автоматически ремонтируется в зависимости от результатов диагностики.

Еще одним примером обычной автоматизации и работы искусственного интеллекта в машине можно назвать кондиционер, который задает температуру в салоне, и климат-контроль, который поддерживает ее в зависимости от окружающей температуры. В последнем случае мы имеем более сложную систему, саму принимающую решение.

А вообще искусственный интеллект сейчас окружает нас повсюду. Самый простой пример — это смартфоны, которые буквально напичканы им. Сейчас ИИ стал использоваться в банках при выдаче кредитов и при проверке операций с карточками. Контроль температуры в офисных зданиях — это тоже элемент ИИ, принимающего решение в зависимости от окружающей обстановки. Даже автоматическая коробка передач в машинах подходит под это определение! Так что системы автоматического принятия решения — они в любых механизмах, которые нас обслуживают.

Роботы не оставят нас без работы

Михаил уверен, что машины не оставят людей без работы, как прогнозируют некоторые пессимисты. Просто одни профессии сменятся другими. Как, например, в свое время случилось с работой людей, зажигающих фонари на улицах.

— Я могу сказать наверняка, что сейчас обязательно нужно знать современные технологии. Кроме того, точно уверен, что не пропадут профессии, связанные с обслуживанием людей, например официанты и фитнес-тренеры. Безусловно, новые технологии изменят эти профессии, они получат помощь искусственного интеллекта, но не будут полностью заменены им, так как в них максимально важно взаимодействие людей.

С другой стороны, автоматизация и искусственный интеллект помогут освободить нас от рутинной работы, чтобы мы максимально задействовали свои таланты и потенциал, там, где это востребовано. Это позволит людям раскрыть свой потенциал, найти то, в чем они действительно сильны, и хорошо монетизировать свои навыки.

Дешевых «умных» домов в ближайшее время не будет

Сейчас «умные» гаджеты очень плохо работают друг с другом. Пока нельзя прийти домой и сказать: «Алиса, включи свет, набери воду в ванной и покажи на планшете такой-то фильм» («Алиса» — это недавно представленный голосовой помощник «Яндекса» — прим.ред.), и вряд ли здесь что-то поменяется в ближайшем будущем:

— Во всяком случае, не так скоро, как хотелось бы. И на самом деле это исключительно вопрос стоимости. Я не был в гостях у Билла Гейтса, но говорят, что у него «умный дом» был уже в начале нулевых, просто он потратил на него какие-то восьмизначные суммы.

Все эти системы контроля температуры, света, воды на самом деле давно есть. Но по умолчанию взаимодействовать они не умеют, а в ручном режиме это стоит очень много денег, рассказал эксперт.

Михаил уверен, что на данный момент есть две проблемы, которые нужно решить для создания полноценного «умного дома».

Во-первых, «умные» гаджеты должны сами по себе стать лучше. И если лампочки уже постепенно идут к этому, то с другими элементами инфраструктуры, например «умными» кранами для воды, не всё так радужно.

Во-вторых, датчики должны научиться взаимодействовать, «разговаривать» с друг другом. Потому что сейчас на рынке есть много различных систем «умных» домов, но они не совместимы друг с другом. Сейчас консолидация таких механизмов только начинается. И Михаил надеется, что это вопрос не десятилетий, а лет.

От нас зависит, когда «Алиса» заговорит по-белорусски

Сейчас, наконец, пришло понимание, что голосовые ассистенты в первую очередь должны хорошо понимать речь, считает эксперт. Потому что любой неответ или неправильное распознавание убьет у пользователя желание пользоваться помощником. Чтобы это не бесило, нужно, чтобы смартфон правильно понимал команду по меньшей мере 9 из 10 раз.

Кроме того, разработчики осознали, что раз появились «умные» лампочки, значит нужно придумать, как их включить голосом:

— Отмечу, что технология распознавания голоса появилась довольно давно, но лишь недавно вышла на приличный уровень качества. Именно поэтому голосовыми помощниками сейчас начинают пользоваться всё активнее.

Кстати, есть хороший шанс, что «Алиса» когда-нибудь будет понимать белорусскую речь. Однако здесь всё зависит от самих белорусов:

— Здесь нужно просто проделать много работы, чтобы распознавание было качественным. Это вопрос усилий и времени, а еще вопрос того, для скольких людей это не просто «хорошо бы иметь», а «нельзя не иметь». Поэтому мой призыв — пусть ваши пользователи больше говорят по-белорусски, учат белорусскому своих детей и пишут нам письма. Так что всё тут зависит от вас, поддерживайте свой язык.

Людям нужно готовиться к возможному апокалипсису с детства

Раньше в школах всё считали в уме и столбиком, водители строили себе маршруты по бумажным картам. Сейчас всё это мы отдали компьютерам. Спрашиваем эксперта: что будет, если в один день на Земле пропадет электричество?

— Людям будет, безусловно, очень трудно (смеется). На самом деле тут вопрос нашей подготовленности к апокалипсису. Мы сами должны знать о том, что это может случиться, и быть готовыми к этому, держать себя в тонусе.

На собеседовании в команду я прошу показать людей фундаментальные знания об искусственном интеллекте, а не способность пользоваться современными, упрощающими работу инструментами. Мне до сих пор помогают знания ассемблера (один из самых первых машинно-ориентированных языков программирования — прим.ред.), полученные в школе — я понимаю, как это всё работает. Хотя сейчас жизнь программистов значительно упростилась.

Поэтому тут большую роль должно играть образование — нас должны с детства учить базовым основам того, что в итоге нам помогают делать машины, как они устроены, давать, как говорится, «полный стек». Без этого будет сложно.

«Любая новомодная железка сейчас делается с помощью ИИ»

Михаил рассказал, что искусственный интеллект сейчас можно найти в самых неожиданных местах:

— Например, варка стали сейчас делается с помощью искусственного интеллекта. Там на самом деле очень тонкий и хрупкий процесс с точки зрения компонентов и механики смешивания материалов. Так что любая новомодная железка сейчас делается с помощью ИИ.

Кроме того, очень сильно используются рекомендательные системы в Яндекс. Музыке: нейросети «видят», что слушаете вы, что слушают люди, похожие на вас, и при этом учитывают новые тренды.

Еще одна технология Яндекса — Метеум — активно задействует нейросети при предсказании погоды сразу на нескольких уровнях. Сейчас она научилась предсказывать погоду локально, в конкретной точке карты на два часа вперед: что в этой части города скоро пройдет дождь, а в этой — нет. Сложная система учитывает много-много сигналов — со спутников и локальных метеостанций, а еще опирается на накопленную статистику, хотя для пользователя это выглядит очень просто.

В ближайшем будущем нейросети продолжат персонифицировать для нас мир, уверен Михаил:

— Мы уже научились отлично это делать с музыкой. Уверен, что следующий этап — это новости. И мы уже работаем над этим направлением в Яндекс.Дзене, который предугадывает, какие материалы СМИ вам, скорее всего понравятся, а какие — нет. Думаю, что это полностью изменит традиционные СМИ — в том плане, что они станут выглядеть совсем по-другому, подстроятся под пользователей, превратятся в динамические персональные ленты.

Напоследок хочу рассказать о смешном случае, касающемся как раз искусственного интеллекта. В службу поддержки Яндекса пришло письмо от благодарной мамы. У ее ребенка были серьезные дефекты речи, но он ленился и не хотел ходить к логопеду. Недавно у нас появился голосовой помощник Алиса, и выяснилось, что из-за дефектов речи она совсем не понимает ребенка. Из-за этого мальчик сам попросился пойти к врачу. Такой вот неожиданный стимул.

Читайте также:

Google и Яндекс рассказали, что искали белорусы в 2017 году

Теги: Новости, Минск