Отзыв о сайте

Discord будет бороться с оскорблениями и травлей при помощи искусственного интеллекта

Для этой цели разработчики купили сервис Sentropy, использующий ИИ нового поколения для модерации контента в сети.

Последовав примеру владельцев социальной сети Twitter, создатели популярного мессенджера Discord решили внедрить в свой проект новый инструмент, который очистит чаты от оскорбительных сообщений и заблокирует недобросовестных пользователей.

Discord будет бороться с кибербуллингом при помощи искусственного интеллекта

IT-компания Sentropy в течение длительного времени эффективно использует передовые технологии собственной разработки для борьбы с кибербуллингом на разных платформах в интернет-пространстве. Подобное приобретение является наглядным доказательством того, что владельцы Discord крайне негативно относятся к оскорбительному контенту на своей площадке. Компания готова пойти на решительные шаги ради искоренения данной проблемы на всех каналах и серверах мессенджера.

На данный момент в службе безопасности мессенджера (Trust and Safety) работает около 15% сотрудников компании. При этом владельцы приложения собираются значительно расширить штат модераторов за счет привлечения волонтеров и дополнительных администраторов для мониторинга отдельных наиболее проблемных серверов. В свою очередь, новые алгоритмы ИИ, интегрированные в мессенджер, позволят быстро распознавать негативную лексику по контексту комментариев, а также предоставлять администраторам данные на рассмотрение для фильтрации и блокировки.

Разработчики уверены, что подобные нововведения принесут необходимый результат и помогут сделать площадку номер один для общения игроков и стримеров более комфортной и безопасной.

Обсуждение