Последовав примеру владельцев социальной сети Twitter, создатели популярного мессенджера Discord решили внедрить в свой проект новый инструмент, который очистит чаты от оскорбительных сообщений и заблокирует недобросовестных пользователей.
IT-компания Sentropy в течение длительного времени эффективно использует передовые технологии собственной разработки для борьбы с кибербуллингом на разных платформах в интернет-пространстве. Подобное приобретение является наглядным доказательством того, что владельцы Discord крайне негативно относятся к оскорбительному контенту на своей площадке. Компания готова пойти на решительные шаги ради искоренения данной проблемы на всех каналах и серверах мессенджера.
На данный момент в службе безопасности мессенджера (Trust and Safety) работает около 15% сотрудников компании. При этом владельцы приложения собираются значительно расширить штат модераторов за счет привлечения волонтеров и дополнительных администраторов для мониторинга отдельных наиболее проблемных серверов. В свою очередь, новые алгоритмы ИИ, интегрированные в мессенджер, позволят быстро распознавать негативную лексику по контексту комментариев, а также предоставлять администраторам данные на рассмотрение для фильтрации и блокировки.
Разработчики уверены, что подобные нововведения принесут необходимый результат и помогут сделать площадку номер один для общения игроков и стримеров более комфортной и безопасной.
