Google описав SAFE — систему ШІ-агентів проти мереж згенерованого контенту
Дата публікації
28.09.2026
Семеро дослідників Google оприлюднили опис SAFE (Scaled Abuse Forensics Examiner). Це система з кількох ШІ-агентів, яка розслідує мережі облікових записів, що масово публікують згенерований контент. За словами авторів, систему вже запустили, і на ранньому етапі вона скоротила час розслідувань порівняно з роботою аналітиків. Однак цифр, які б це підтверджували, у документі немає.
Search Engine Journal пов’язав публікацію зі спам-оновленням Google, яке стартувало 24 вересня. Сам документ такого зв’язку не підтверджує. SAFE аналізує групи каналів із синтетичним відео, а про вебсторінки чи пошукову видачу в ньому нічого не сказано.
Три сторінки опису та жодного результату тестів
займає три сторінки. Автори описують проблему «AI slop», тобто дешевого згенерованого контенту, який виробляють потоком. Мережі облікових записів поширюють його в багатьох злегка змінених варіантах. Точних дублікатів немає, тому статичні класифікатори такі матеріали пропускають. Ручне розслідування за цією швидкістю не встигає. Час між появою нової схеми зловживань і відповіддю на неї дослідники називають «синтетичним розривом».
Розділ про оцінку системи містить лише перелік метрик, які команда збирається використовувати. Це збіг вердикту SAFE з рішенням аналітика, кількість нових зловживань, які раніше лишалися непоміченими, і скорочення середнього часу на розгляд однієї групи каналів. Значень цих метрик немає, тож пришвидшення розслідувань поки підтверджує лише слово авторів.
Чотири агенти ділять між собою одне розслідування
На вхід SAFE отримує підозрілу групу каналів. Далі роботу розподіляють так:
- Головний агент роздає завдання іншим, перевіряє їхні висновки й ухвалює остаточне рішення: це скоординована атака чи звичайна активність.
- Агент аналізу контенту працює з двома моделями. Перша донавчена методом LoRA (економний спосіб підлаштувати велику мовну модель під вузьке завдання) та шукає відомі порушення. Друга навчається на кількох прикладах і відстежує матеріали, які формально правил не порушують, але суперечать їхньому задуму. Агент також шукає повторювані шаблони сценаріїв і візуальні неузгодженості, типові для автоматичної генерації.
- Агент аналізу поведінки перевіряє інфраструктуру та час публікацій: номери мереж провайдерів, «відбитки» пристроїв, синхронні завантаження та раптові сплески активності. У документі є приклад такого висновку: усі канали в групі працюють на однаковій версії ОС і завантажують відео в межах тих самих 5 секунд.
- Агент аналізу зв’язків будує граф відносин між каналами. Завдяки цьому розслідування охоплює всю мережу, навіть ті облікові записи, які окремо підозри не викликають.
Найпомітніша ідея документа стосується другої моделі в агенті аналізу контенту. Класичні класифікатори ловлять те, що вже описано правилами. SAFE намагається оцінити, чи відповідає контент духу цих правил. Автори також планують навчити агента самостійно відстежувати зміни в правилах платформи.
Зв'язку SAFE зі спам-оновленням пошуку документи не підтверджують
Спам-оновлення Google почалося 24 вересня. Воно діє глобально для всіх мов, а на розгортання компанія відвела до двох тижнів. Це четверте таке оновлення у 2026 році після березня, червня та серпня. Попередні три завершувалися швидше: від 19,5 години до 2 днів і 16 годин. Проти чого спрямоване вересневе оновлення, Google не уточнив.
Search Engine Journal припускає, що SAFE може бути частиною цього оновлення. Аргумент видання: це вже друга цього року система Google проти ШІ-спаму. Першою була S-CTS (Scalable Cluster Termination System), яку дослідники компанії описали в червні.
цей аргумент радше послаблює. Уже в анотації автори пишуть, що систему створили для онлайн-відеоплатформ. S-CTS об’єднує в групи облікові записи, якими, найімовірніше, керує та сама людина чи той самий скрипт. Для цього система аналізує інфраструктурні сигнали й поведінку, зокрема темп завантажень. Потім мовна модель оцінює самі відео: кадри, звук, розшифровки, назви й описи. Якщо в групі достатньо каналів з ознаками масової генерації, система блокує весь кластер.
На відміну від SAFE, тут є цифри. Автори порівняли систему з роботою аналітиків: середній час перевірки кластера скоротився на 32%, а перевірки контенту — на 50%. Для оцінювання використали шестимісячну базу, але її дат і методики документ не розкриває. Пороги автоматичного блокування налаштовані на точність 92–95%. Тобто серед 100 каналів, які система визнала порушниками, помилково заблокованих має бути не більше 5–8. За словами авторів, скасовують менше ніж 1% її рішень.
Обидва документи підписав той самий дослідник — Абхінав Матур. Тема в них теж спільна: мережі каналів, які заповнюють відеоплатформу згенерованим контентом. S-CTS автоматизує блокування, а SAFE — розслідування, що йому передує. Про пошукову видачу чи вебсайти не йдеться в жодному з документів. Текст S-CTS аналізує лише як частину відео: розшифровки, назви й описи. SEJ і сам визнавав, що S-CTS орієнтована на відео, а її застосування до пошуку розглядав лише як припущення.
Що з цього варто взяти власникам сайтів
Обидві системи оцінюють мережу загалом: хто публікує, коли, з якої інфраструктури та як облікові записи пов’язані між собою. Згенерований контент для них лише один із сигналів. Автори S-CTS окремо пояснюють, навіщо потрібна вимога кластера: система має карати скоординоване масове виробництво контенту. Окремих авторів, які експериментують з ШІ-інструментами, такий підхід має захищати від помилкових санкцій.
У пошуку діють окремі правила Google щодо спаму, і сайти там уже карали за тонкий контент, зокрема згенерований. Показовий випадок — 20-річний форум, який після санкцій видалив 3 139 ШІ-статей. Якщо ви наповнюєте сайт контентом з допомогою ШІ, орієнтуйтеся саме на ці правила. Припущення про SAFE або S-CTS тут нічого не додають.
Щодо поточного оновлення Google дає стандартну пораду: якщо позиції змінилися, перегляньте свій сайт на відповідність правилам щодо спаму. За словами компанії, виправлення можуть дати ефект, але лише через кілька місяців, коли автоматичні системи переконаються, що сайт правил дотримується.
Оновлення ще не завершилося. Якщо трафік просів після 24 вересня, дочекайтеся кінця розгортання й лише тоді порівнюйте дані в Search Console за групами сторінок. Визначати причину падіння в розпал оновлення зарано. Списувати її на SAFE підстав теж немає.
Комментарии