ПЗЖ "ВКонтакте" разрабатывает нейросеть для автоматического распознавания враждебных высказываний в соцс

Тема в разделе "Новости и события", создана пользователем Roulette_Exploiter, 31 авг 2020.

Просматривают тему (Пользователей: 0, Гостей: 0)

  1. Roulette_Exploiter
    Оффлайн

    Сообщения:
    10.148
    Симпатии:
    1.411
    Репутация:
    244
    Социальная сеть "ВКонтакте" работает над искусственным интеллектом для автоматического распознавания материалов с враждебными высказываниями.

    "Новая нейросеть поможет быстрее находить материалы с враждебными высказываниями, а также публикации, которые провоцируют аудиторию проявлять агрессию. Нейросеть учится определять самые разные категории оскорблений и угроз. Среди них - проявления ксенофобии, расизма, гомофобии, сексизма и других предрассудков, а также оскорбления на почве религиозной принадлежности, возраста, внешности или наличия заболеваний", - говорится в сообщении.

    Как рассказали в компании, для улучшения качества модерации и обучения нейросети разработчики "ВКонтакте" добавили новую категорию жалоб ("Враждебные высказывания"). Этот пункт можно выбрать в меню, нажав кнопку "Пожаловаться" возле публикации, которая, по мнению пользователя, нарушает правила соцсети.

    "Модераторы "ВКонтакте" ежедневно обрабатывают огромный объем контента, в том числе с использованием искусственного интеллекта - большинство опасных материалов удаляются еще до того, как их кто-то увидит. Если же вы заметили оскорбительную публикацию, пожалуйтесь на нее. С проявлениями нетерпимости эффективнее бороться вместе - и мы призываем пользователей присоединяться к нам в этой борьбе", - заявил глава команды модерации соцсети Иван Корнеев.

    В компании также сообщили, что в январе-июне этого года из соцсети было удалено 520 тыс. единиц контента, разжигающего вражду. Кроме того, было заблокировано 1340 профилей и 2470 сообществ, распространяющих враждебные высказывания.
     
    #1
  2. Загрузка...


Поделиться этой страницей