Искусственный интеллект Google "заговорил" о конце света

Источник материала:

Сервис «Google Переводчик» при переводе бессмысленных наборов слов иногда начинает «говорить» религиозными текстами и обещает скорый конец света. Причина этого — в особенностях работы алгоритма, основанного на искусственном интеллекте, пишет издание Motherboard.

К примеру, если набрать слово dog 19 раз, и перевести это c языка маори на английский, получится вот что:

«На часах Судного Дня — три минуты до полуночи. Действующие лица и драматические события в мире показывают, что мы все больше приближаемся к концу света и возвращению Иисуса».

Из переводов слова «ag» с сомалийского на английский можно сложить целую историю. В зависимости от количества повторов переводчик предложит переводы «Сеть от Торы, от Нации Проблем», «числом 520 000 агонов вдали от Нации Львов», «его длина составляла сто локтей с одной стороны», «В результате общее число членов племени сыновей Гершона составляло сто пятьдесят тысяч», «Поскольку имя Господа было написано на иврите, оно было написано на языке еврейской нации», «Как прекращение соглашения между племенами народа Израиля и членами племени народа Израиля», «и слово господне подходит к концу».

Интересно, что в интернете в таком виде эти фразы не встречаются дословно. Некоторые пользователи предположили, что переводчик взял эти слова из чьей-то переписки.

«Переводчик Google учится на примерах переводов в интернете и не использует личные сообщения для этого, у системы даже нет доступа к такому контенту, — пояснил Джастин Берр, представитель Google. — Это просто функция ввода бессмыслицы в систему, при котором генерируется бессмыслица».

Эндрю Раш из Гарвардского университета предположил, что это связано с использованием нейронных сетей для переводов. Когда в систему вводят бессмысленные данные, она начинает «галлюцинировать», предлагая перевод, совсем не связанный с оригиналом. Скорее всего, для обучения сети использовали тексты из Библии, поэтому результаты похожи на строки из Ветхого Завета.