Google описал SAFE — систему ИИ-агентов против сетей сгенерированного контента
Дата публикации
28.09.2026
Семеро исследователей Google опубликовали описание SAFE (Scaled Abuse Forensics Examiner). Это система из нескольких ИИ-агентов, которая расследует сети аккаунтов, массово публикующих сгенерированный контент. По словам авторов, систему уже запустили, и на раннем этапе она сократила время расследований по сравнению с работой аналитиков. Однако цифр, которые бы это подтверждали, в документе нет.
Search Engine Journal связал публикацию со спам-обновлением Google, которое стартовало 24 сентября. Сам документ такой связи не подтверждает. SAFE анализирует группы каналов с синтетическим видео, а о веб-страницах или поисковой выдаче в нем ничего не сказано.
Три страницы описания и ни одного результата тестов
занимает три страницы. Авторы описывают проблему «AI slop», то есть дешевого сгенерированного контента, который производят потоком. Сети аккаунтов распространяют его во множестве слегка измененных вариантов. Точных дубликатов нет, поэтому статические классификаторы такие материалы пропускают. Ручное расследование за этой скоростью не успевает. Время между появлением новой схемы злоупотреблений и ответом на нее исследователи называют «синтетическим разрывом».
Раздел об оценке системы содержит лишь перечень метрик, которые команда собирается использовать. Это совпадение вердикта SAFE с решением аналитика, количество новых злоупотреблений, которые раньше оставались незамеченными, и сокращение среднего времени на рассмотрение одной группы каналов. Значений этих метрик нет, так что ускорение расследований пока подтверждает только слово авторов.
Четыре агента делят между собой одно расследование
На вход SAFE получает подозрительную группу каналов. Дальше работу распределяют так:
- Главный агент раздает задания остальным, проверяет их выводы и принимает окончательное решение: это скоординированная атака либо обычная активность.
- Агент анализа контента работает с двумя моделями. Первая дообучена методом LoRA (экономный способ подстроить большую языковую модель под узкую задачу) и ищет известные нарушения. Вторая обучается на нескольких примерах и отслеживает материалы, которые формально правил не нарушают, но противоречат их замыслу. Агент также ищет повторяющиеся шаблоны сценариев и визуальные несоответствия, типичные для автоматической генерации.
- Агент анализа поведения проверяет инфраструктуру и время публикаций: номера сетей провайдеров, «отпечатки» устройств, синхронные загрузки и внезапные всплески активности. В документе есть пример такого вывода: все каналы в группе работают на одинаковой версии ОС и загружают видео в пределах одних и тех же 5 секунд.
- Агент анализа связей строит граф отношений между каналами. Благодаря этому расследование охватывает всю сеть, даже те аккаунты, которые по отдельности подозрений не вызывают.
Самая заметная идея документа касается второй модели в агенте анализа контента. Классические классификаторы ловят то, что уже описано правилами. SAFE пытается оценить, соответствует ли контент духу этих правил. Авторы также планируют научить агента самостоятельно отслеживать изменения в правилах платформы.
Связь SAFE со спам-обновлением поиска документы не подтверждают
Спам-обновление Google началось 24 сентября. Оно действует глобально для всех языков, а на развертывание компания отвела до двух недель. Это четвертое такое обновление в 2026 году после марта, июня и августа. Предыдущие три завершались быстрее: от 19,5 часа до 2 дней и 16 часов. Против чего направлено сентябрьское обновление, Google не уточнил.
Search Engine Journal предполагает, что SAFE может быть частью этого обновления. Аргумент издания: это уже вторая в этом году система Google против ИИ-спама. Первой была S-CTS (Scalable Cluster Termination System), которую исследователи компании описали в июне.
этот аргумент скорее ослабляет. Уже в аннотации авторы пишут, что систему создали для онлайн-видеоплатформ. S-CTS объединяет в группы аккаунты, которыми, скорее всего, управляет один и тот же человек или один и тот же скрипт. Для этого система анализирует инфраструктурные сигналы и поведение, в том числе темп загрузок. Затем языковая модель оценивает сами видео: кадры, звук, расшифровки, названия и описания. Если в группе достаточно каналов с признаками массовой генерации, система блокирует весь кластер.
В отличие от SAFE, здесь есть цифры. Авторы сравнили систему с работой аналитиков: среднее время проверки кластера сократилось на 32%, а проверки контента — на 50%. Для оценки использовали шестимесячную базу, но ее даты и методику документ не раскрывает. Пороги автоматической блокировки настроены на точность 92–95%. То есть из 100 каналов, которые система признала нарушителями, ошибочно заблокированных должно быть не больше 5–8. По словам авторов, отменяют менее 1% ее решений.
Оба документа подписал один и тот же исследователь — Абхинав Матур. Тема у них тоже общая: сети каналов, которые заполняют видеоплатформу сгенерированным контентом. S-CTS автоматизирует блокировку, а SAFE — расследование, которое ей предшествует. О поисковой выдаче либо веб-сайтах не говорится ни в одном из документов. Текст S-CTS анализирует только как часть видео: расшифровки, названия и описания. SEJ и сам признавал, что S-CTS ориентирована на видео, а ее применение к поиску рассматривал лишь как предположение.
Что из этого стоит взять владельцам сайтов
Обе системы оценивают сеть целиком: кто публикует, когда, с какой инфраструктуры и как аккаунты связаны между собой. Сгенерированный контент для них лишь один из сигналов. Авторы S-CTS отдельно объясняют, зачем нужно требование кластера: система должна наказывать скоординированное массовое производство контента. Отдельных авторов, которые экспериментируют с ИИ-инструментами, такой подход должен защищать от ошибочных санкций.
В поиске действуют отдельные правила Google в отношении спама, и сайты там уже наказывали за тонкий контент, в том числе сгенерированный. Показательный случай — 20-летний форум, который после санкций удалил 3 139 ИИ-статей. Если вы наполняете сайт контентом с помощью ИИ, ориентируйтесь именно на эти правила. Предположения о SAFE или S-CTS здесь ничего не добавляют.
По поводу текущего обновления Google дает стандартный совет: если позиции изменились, проверьте, соответствует ли сайт правилам в отношении спама. По словам компании, исправления могут дать эффект, но только через несколько месяцев, когда автоматические системы убедятся, что сайт соблюдает правила.
Обновление еще не завершилось. Если трафик просел после 24 сентября, дождитесь конца развертывания и только потом сравнивайте данные в Search Console по группам страниц. Определять причину падения в разгар обновления рано. Списывать ее на SAFE тоже нет оснований.
Комментарии