NNSwearFilter

Как NNSwearFilter проверяет чат

Вместо простого поиска точных совпадений NNSwearFilter последовательно передает сообщение в нейронную сеть и рассматривает сочетания символов. Если последовательность похожа на запрещенное слово, реплику не видят остальные участники сервера, а отправитель получает предупреждение. Подход рассчитан и на случаи, когда игрок меняет написание, растягивает слово повторяющимися знаками или вставляет разделители.

Для администрации это автоматическая реакция прямо во время общения. При этом подтвержденное поведение текущей версии ограничено блокировкой сообщения и уведомлением автора. Поэтому плагин разумно использовать как узкий фильтр, а правила наказаний и разбор спорных случаев организовать отдельно.

Практические особенности

• Анализ похожих написаний. Ориентация на текстовые шаблоны усложняет обход простой подменой или добавлением символов.
• Скрытие нежелательной реплики. Сообщение, которое система сочла руганью, не попадает в общий чат.
• Обратная связь. Отправитель узнает, почему его текст не был показан.
• Управляемая телеметрия. bStats передает архитектуру системы, версию сервера и плагина; сбор отключается параметром enableStats.

Нейросетевое распознавание не следует считать безошибочным. Автор отмечает возможность ложной реакции на случайные наборы символов и предлагает сообщать о таких примерах для обучающих исправлений. Перед запуском полезно проверить NNSwearFilter на лексике сообщества, именах игроков и принятых сокращениях. Одинаковое качество работы для разных языков официально не заявлено.

Сравнение с чат-фильтрами

ChatFilter решает более широкую задачу: использует регулярные выражения, проверяет слова, IP-адреса и URL, а также охватывает команды, таблички, книги и наковальни. NNSwearFilter уже по назначению, зато выделяется поиском похожих символьных шаблонов нейронной сетью. ChatFilter удобнее для набора правил в разных каналах ввода, а NNSwearFilter интересен как специализированный способ распознавания измененной ругани именно в чате.

Кому подойдет NNSwearFilter

Плагин адресован владельцам Bukkit-серверов старых поколений, которым нужен автоматический барьер против токсичных сообщений без большого комплекса управления чатом. Последний релиз вышел в 2017 году, поэтому совместимость с конкретной сборкой следует проверять отдельно. NNSwearFilter может стать первым слоем модерации, но решения о спорных фразах лучше оставлять человеку.