Появился бот, который ищет харассмент в рабочих чатах

Источник материала:

Тема харассмента в мировом сообществе набирает обороты. Так появился бот, который ищет признаки домогательств в электронных письмах и рабочих чатах. Его разработала чикагская фирма AI NexLP, и бота уже тестируют в 50 компаниях, пишет The Guardian. 

Как это работает 

Имя бота – #MeTooBots, его назвали в честь движения по борьбе с сексуальными домогательствами. Его алгоритм позволяет находить в электронных переписках признаки харассмента – если бот их находит, он отправляет отчет юристу или HR-менеджеру.

Узнать, что именно бот считывает как харассмент, нельзя – разработчики решили засекретить «опорные» фразы, чтобы никто не смог обмануть алгоритм. Единственное, что уточнили разработчики, – бот проверяет не только текст, но и считает количество отправленных сообщений и проверяет изображения. 

Разработчики решили быть честны со СМИ, сказали, что их бот пока не идеален и требует доработки. Объяснили это тем, что язык постоянно меняется. Например, на какие-то сообщения алгоритм может не отреагировать, а может найти харассмент там, где его на самом деле нет. Ну и вторая проблема, которую может вызвать этот бот, – утечка конфиденциальных данных. Руководители некоторых фирм опасаются, что при помощи этого алгоритма конкуренты будут вмешиваться в частную жизнь персонала. Пока что единственное решение – информирование сотрудников о применении такого алгоритма в работе.

Читайте по теме: «Отчим проиграл меня в карты». Как выжить после изнасилования и наказать преступника