SAFE : Google décrit un détecteur de « AI slop » fondé sur des agents IA

L’essentiel

• SAFE répartit l’enquête entre quatre agents : un orchestrateur et trois spécialistes (contenu, comportement, liens entre chaînes).
• Le papier vise des réseaux de chaînes qui publient de la vidéo synthétique en masse. Il ne parle ni de pages web ni de classement dans Google Search.
• Google évoque des « premiers résultats de déploiement » sans publier un seul chiffre.
• Les quatre métriques d’évaluation sont annoncées au futur.

Trois pages signées par sept chercheurs de Google

Le document s’intitule « The Synthetic Gap: Automating Forensic Investigation of “AI Slop” with the Scaled Abuse Forensics Examiner (SAFE) ». Ses auteurs sont Abhinav Mathur, Crystal Zhao, Geethik Narayana Kamineni, Longling Wang, Lucas Liu, Utkarsh Chaudhary et Vahid Jalali, tous rattachés à Google. Search Engine Journal l’a repéré et présenté le 25 septembre 2026.

Tout part de ce que les auteurs appellent le « synthetic gap » (l’écart synthétique) : le temps qui s’écoule entre l’apparition d’une nouvelle technique d’abus par IA générative et la mise en place d’une parade. Le constat est le suivant. Des réseaux coordonnés déversent sur les plateformes du « AI slop », des médias synthétiques de faible qualité fabriqués en série, et en publient des déclinaisons légèrement différentes. Ces vidéos ne se ressemblent pas assez pour être regroupées comme des doublons, si bien que les filtres classiques passent à côté. Les comptes, eux, trahissent des comportements communs. Les auteurs proposent donc d’automatiser l’enquête qu’un analyste mène aujourd’hui à la main, faute de pouvoir suivre le rythme.

Quatre agents pour reproduire le raisonnement d’un analyste

Le Root Agent reçoit en entrée un groupe de chaînes suspectes. Il répartit le travail entre les sous-agents, contrôle leurs conclusions, puis tranche : attaque synthétique coordonnée ou activité organique. Dès l’introduction, le papier précise que SAFE ne se contente pas d’un score de probabilité comme un classificateur classique. Il doit expliquer son verdict.

Le Content Understanding Agent se charge des contenus. Un LLM adapté par LoRA détecte les infractions aux règles en vigueur. Un second LLM, entraîné en few-shot (à partir de quelques exemples), vise les contenus qui respectent la lettre des règles mais pas leur « esprit » et qui échappent ainsi aux classificateurs. L’agent cherche aussi les « slop scripts » répétés d’une chaîne à l’autre et les incohérences visuelles propres à une production automatisée. Il conclut par un verdict, authentique ou synthétique, et nomme le type d’abus (l’usurpation d’identité synthétique, par exemple).

Le Behavior Understanding Agent s’intéresse à l’infrastructure (numéros de système autonome, empreintes d’appareils) et au rythme de publication : horodatages synchronisés, mises en ligne en rafale. Le papier illustre le type de synthèse attendue : « 100 % des chaînes utilisent la même version de système d’exploitation et publient dans un même intervalle de 5 secondes » (traduction). Le Channel Cluster Understanding Agent, enfin, interroge un service de graphe pour reconstituer les liens entre chaînes. Le but est de remonter tout le réseau plutôt que quelques comptes isolés.

Déployé, selon le papier, mais sans périmètre ni résultats

Le déploiement tient en une phrase du résumé. Les premiers retours montreraient que SAFE repère beaucoup plus vite les nouvelles menaces synthétiques et raccourcit les enquêtes par rapport au traitement actuel, qui mobilise des analystes humains. Aucun produit n’est nommé. Le vocabulaire (chaînes, vidéos, mises en ligne) évoque une plateforme vidéo, et YouTube n’apparaît qu’une fois, dans l’état de l’art, à propos d’une étude sur l’engagement artificiel de chaînes YouTube. Le lien avec YouTube reste donc une déduction. Search Engine Journal relève d’ailleurs que le texte ne présente jamais SAFE comme un outil réservé à la vidéo.

La section consacrée à l’évaluation annonce quatre indicateurs : l’accord entre le verdict de l’agent et celui d’un analyste humain, les tendances abusives découvertes alors qu’elles auraient échappé aux classificateurs, la baisse du temps moyen de traitement d’un groupe de chaînes, et le temps gagné même quand l’agent ne parvient pas à un verdict ferme. La phrase qui les introduit est au futur (« nous utiliserons »). Aucune valeur n’est donnée, ce que Search Engine Journal qualifie de très inhabituel pour un article de recherche.

Le lien avec la spam update de septembre reste une hypothèse

Search Engine Journal avance que SAFE et S-CTS (Scalable Cluster Termination System), un autre système anti-spam décrit par Google plus tôt en 2026, pourraient faire partie de la September 2026 spam update. Google a lancé cette mise à jour le 24 septembre, d’après son tableau de bord Google Search Status. Le média formule cette piste au conditionnel, et le papier ne l’appuie en rien : il ne dit pas un mot des sites web, des résultats de recherche, du classement ou de SpamBrain.

Pour rappel, Google Search a posé sa doctrine le 8 février 2023 : un contenu n’est pas pénalisé du seul fait qu’il a été produit par IA, mais automatiser la production dans le but principal de manipuler le classement enfreint les règles anti-spam. Les règles anti-spam visent la génération de pages en masse sans valeur pour l’internaute, quelle que soit la façon dont elles sont créées.

Ce que j’en retiens

SAFE n’a rien d’un détecteur qui lirait un texte pour deviner s’il sort d’une machine. Il croise le contenu, le rythme de publication, l’infrastructure et les liens entre comptes, à la manière d’une cellule d’enquête. Rien ne permet aujourd’hui de dire qu’il s’applique à Google Search, et je ne lui attribuerais pas une baisse de trafic constatée cette semaine.

La méthode, elle, est instructive. Un réseau se trahit moins par chaque page que par ce que ses pages ont en commun. Si vous gérez plusieurs sites ou publiez des pages en volume, regardez vos gabarits répétés et vos publications groupées, ou le maillage entre vos propres domaines. Côté spam update, gardez en tête qu’elle est algorithmique : elle ne laisse aucune trace dans le rapport Actions manuelles. C’est le rapport Performances de la Search Console, en comparant les jours qui suivent le 24 septembre à la période précédente, qui dira si un site est touché.