Écosystème d'algorithmes

L'exigence de ce projet est double : réaliste et pas mensonger. Aucun de ces algorithmes n'est de la magie. Ce sont des heuristiques transparentes, plus un seul modèle de classification utilisé en assistance. On peut expliquer chaque décision, et on ne prétend jamais que le système comprend un contexte qu'il ne comprend pas.

Classement du fil

Ce qu'il fait. Ordonne le fil de façon chronologique inverse par défaut, avec un fil de découverte fondé sur des signaux transparents comme la récence et un engagement sain.

Ce qu'il ne fait pas. Aucune boîte noire de recommandation, aucun signal de modération détourné en levier de visibilité par des tiers.

Limites. Un fil purement chronologique passe moins bien à l'échelle qu'un fil recommandé, mais il reste lisible et prévisible.

Coût. Faible. Une requête indexée sur le graphe de suivi, plus une pagination par curseur.

Pondération des signalements

Ce qu'il fait. Attribue à chaque signalement un poids qui dépend de la fiabilité et de l'indépendance du signaleur, pas du nombre. Inspiré du bridging de Community Notes, il fait remonter un signal jugé fiable par des personnes qui d'ordinaire ne convergent pas.

Ce qu'il ne fait pas. Il ne compte pas les signalements comme des voix, donc une meute coordonnée ne peut pas condamner par le volume.

Limites. Il a besoin d'un historique de comportement pour estimer la fiabilité, il est donc moins précis sur les comptes très récents.

Coût. Moyen. Une brique testée existe déjà dans packages/core sous le nom reportPriority, qui amortit le volume de façon logarithmique.

Détection d'acharnement

Ce qu'il fait. Calcule, sur une fenêtre glissante, un score d'acharnement pour une cible à partir d'un afflux anormal d'interactions négatives et de la corrélation entre les comptes sources (ancienneté, arrivée simultanée, liens).

Ce qu'il ne fait pas. Il ne sanctionne personne. Il déclenche une protection de la cible et une revue humaine prioritaire.

Limites. C'est une heuristique, pas une preuve. Elle peut se tromper, d'où la revue humaine systématique derrière.

Coût. Moyen à élevé. Elle tourne dans un worker, pas dans la requête web.

Classification de toxicité

Ce qu'il fait. Attribue un score de toxicité à un texte, pour aider à trier et prioriser la file de modération.

Ce qu'il ne fait pas. Il ne juge jamais seul et ne déclenche aucune sanction. Il assiste un humain, rien de plus.

Limites. Faillible, sensible au contexte, à l'ironie et à la langue. C'est précisément pour cela qu'il reste en assistance.

Coût. Variable. Un modèle local via un runtime d'inférence, ou une API externe, selon les moyens.

Réputation et niveau de confiance

Ce qu'il fait. Dérive un niveau de confiance d'un compte à partir de son ancienneté, de son comportement et de la fiabilité passée de ses signalements.

Ce qu'il ne fait pas. Il ne classe pas les personnes, il conditionne des limites d'anti-abus.

Limites. Un nouveau compte légitime démarre bridé, le temps de gagner en confiance. C'est un compromis assumé contre les fermes de comptes.

Coût. Faible. Une brique testée existe déjà dans packages/core sous le nom trustRank.

Limitation de débit adaptative

Ce qu'il fait. Restreint le nombre d'actions par période, par IP et par compte, avec des limites plus strictes pour les comptes récents.

Ce qu'il ne fait pas. Il ne bloque pas définitivement, il ralentit.

Limites. Un réglage trop strict gêne les utilisateurs de bonne foi, un réglage trop souple laisse passer les abus. L'équilibre se cale dans le temps.

Coût. Faible. Des compteurs par fenêtre, stockés en base puis en cache quand le volume l'exige.

Dé-duplication média et matching

Ce qu'il fait. Calcule une empreinte perceptuelle (phash) des médias pour repérer les doublons, et confronte les médias au scanner de contenus pédocriminels du CDN avant toute diffusion.

Ce qu'il ne fait pas. Il ne lit pas le contenu au sens sémantique, il compare des empreintes.

Limites. Le phash repère le similaire, pas l'identique au bit près, et peut manquer une transformation agressive.

Coût. Faible pour le phash, externalisé pour le scan pédocriminel.

Protection de la cible

Ce qu'il fait. Quand le score d'acharnement se déclenche, ralentit les interactions entrantes des comptes récents ou non liés et masque temporairement leurs réponses à la cible.

Ce qu'il ne fait pas. Il ne supprime rien et ne punit personne. Les mesures sont réversibles et proportionnées.

Limites. Elle gagne du temps pour la revue humaine, elle ne tranche pas le fond.

Coût. Faible côté application, une fois le score d'acharnement disponible.

Le principe qui les relie

La classification automatique trie et priorise. L'humain juge le fond. Le mécanisme communautaire de bridging neutralise la meute. Jamais un score seul ne sanctionne. C'est cette séparation stricte qui fait la différence entre Vantablvck et une plateforme qui supprime un contenu parce qu'un compteur a franchi un seuil.