Антиспам в Telegram: как защитить группу без капчи и ложных срабатываний

За последние 5 лет объемы спама в публичных группах увеличились в разы.

Если раньше это были одиночные сообщения, с которыми можно было бороться руками, то сегодня это многомиллионная индустрия по отъему денег у населения.

Единственный надёжный способ защиты — включить капчу на входе.

Действительно, капча снижает количество ботов.

Но у неё есть очевидный побочный эффект — она отпугивает легитимных участников.

Разберёмся, какие способы защиты от спама существуют и почему ни один из них в не является идеальным.

Ручная модерация

Самый точный и самый трудозатратный способ — ручная модерация.

Позволяет полностью очистить группу от спама, но имеет и недостатки:

Необходимо, чтобы модератор был постоянно онлайн;
А так же, чтобы он реагировал быстро, менее чем за пару секунд.

У спамеров нет рабочего времени: даже если модерация организована хорошо, спам может появиться глубокой ночью или рано утром, когда все спят.

Так же, живой модератор не может реагировать мгновенно, в течение первых миллисекунда — спам будет доходить до участников.

Такой способ сегодня почти не используется: его сложно организовать и он плохо масштабируется.

Вход по приглашениям

Телеграм позволяет включить одобрение новых участников в группах.

Хорошее, на первый взгляд, решение.

Но на практике есть недостатки.

Если одобрение ручное, та же проблема актуальна: нужен модератор, который постоянно онлайн.

Если одобрение автоматическое, гарантий всё равно нет: аккаунт может быть новым и просто не успеть попасть в спам-базы, поэтому этот метод часто комбинируют с прохождением каптчи.

Но и тут есть недостатки:

Если спам целевой — направлен именно на вашу группу, то можно найти способ обойти любую каптчуапчу;
А легитимным участникам с порога приходится доказывать, что они «не верблюд».

Этот способ снижает конверсию в участника и ухудшает первое впечатление.

Боты-модераторы

Сегодня, основной инструмент борьбы со спамом — автоматическая модерация.

Как правило, антиспам-боты применяют два способа фильтрации:

Первый шаг: проверка по спам-базам

Существуют публичные базы извесных спамеров.

Бот-модератор сверяется с этими базами и блокирует их прямо с порога.

Несмотря на высокую надежность такого метода, у него так же есть и недостаток: новые аккаунты могут не успеть попасть в такую базу, прежде чем наспамить у вас в группе.

Следнующий шаг: анализ содержимого сообщений

Здесь используется несколько подходов:

Технические метрики

Такие характеристики, как длина сообщения, количество эмоджи, наличие ссылок, картинок, и т.п. позволяют с некоторой точностью верно определить спам.

Однако, спам быстро адаптируется:

Как правило, спам-компании живут пару месяцев, после чего креативы меняются, из за чего спам постоянно адаптируется к существующим фильтрам.

Списки ключевых слов

Модератор может добавить некоторые слова, которые запрещены в его группе.

Это может быть мат, оскорбления, или спам-словечки.

Спам адаптируется и к этому, применяя все более и более изощренные способы:

Использование букв из другого алфавита
Эмоджи виде букв
Добавление пробелов между буквами
Невидимые символы юникода

Таким образом, список ключевых слов постоянно теряет эффективность со временем

Нейросети

Отличная идея, но практика показывает:

Общедоступные нейросети пропускают много спама;
Медленно реагируют;
Это дорого на большом объеме.

Что делает @titus_antispam_bot по-другому

Вместо использования каптчи и общедоступных нейросетей, мы используем собственную быструю ML-модель, натренированную на образцах спама за несколько лет.

Эта модель показывает себя очень хорошо уже более 3 лет, за это время, удалив тысячи спам-сообщений.

При этом, процент ложных срабатываний невероятно низкий, а сама модель хорошо адаптируется к новым образцам спама.

Как это работает на практике

Для начала, новый участник проверяется по публичным базам спамеров и блокируется сразу на входе.

Если проверка пройдена, это может означать одну из двух вещей:

Перед нами легитимный пользователь;
Перед нами новый аккаунт.

Дальше, сообщение прогоняется через ML-модель и если оно не проходит проверку, то удаляется.

При этом, пользователь не блокируется, а имеет возможность послать еще одно сообщение.

Если мы случайно удалили сообщение легитимного пользователя, обычно вторым сообщением он не повторяется, а начинает возмущаться.

Спамеры же в этом случае просто повторяют оригинальное сообщение, тем самым, попадают под фильтр.

Как защитить свою группу?

Если вы администрируете публичную группу и:

Не хотите использовать каптчу на входе, которая отпугивает нормальных участников;
Не хотите ложных срабатываний и случайных банов;
Устали от ручной модерации и постоянного контроля чата,

есть простой следующий шаг:

Добавьте @titus_antispam_bot в вашу группу, выдайте ему права администратора и следующие права:

удаление сообщений;
блокировка пользователей.

На этом настройка заканчивается.

Бот начнёт работать сразу: он удаляет подозрительный спам, не мешает легитимным участникам и со временем сам адаптируется к поведению вашей группы.

Бот не отправляет никаких сообщений и абсолютно бесплатен.