La feuille de route Produit

Le besoin

Les plateformes de participation citoyenne en ligne mises en place par des acteurs publics sont de plus en plus la cible d’acteurs malintentionnés qui créent des comptes spams et publient parfois des messages indésirables sur leur plateforme.

La solution

Notre équipe technique a développé un programme qui utilise un algorithme d’apprentissage automatique et qui réalise des pondérations sur les informations du profil afin de déterminer s’il peut s’agir d’un compte spam. 

Après une phase d’entraînement du modèle avec des données anonymisées, nous sommes maintenant capables d’attribuer une probabilité de spam à un compte créé sur Decidim en nous basant sur les informations renseignées et son activité.

En parallèle, nous avons développé une tâche automatisée sur Decidim qui chaque jour communique avec l’algorithme et permet automatiquement de signaler tous les comptes dont la probabilité est supérieure à 70% et de les bloquer quand elle est supérieure à 99%.

De cette façon, non seulement nous empêchons les comptes spam de publier sur votre plateforme mais ils n’apparaissent plus sur votre plateforme. 

L’administrateur est notifié chaque jour du nombre de comptes signalés et bloqués, il peut alors se rendre dans le back-office pour traiter les comptes signalés. Quand ils sont bloqués, les utilisateurs reçoivent une notification email. Un email de contact leur est communiqué en cas d’erreur, l’administrateur peut alors rétablir leur compte à tout moment.

Cette technologie a été déployée sur les plateformes les plus affectées par les comptes spams et nous avons pu constater des résultats plus que satisfaisants. 

• Elle a permis de bloquer des milliers de comptes spams qui parasitaient par leur présence et leur contributions les instances Decidim de nos clients. 
• Ces dernières bénéficient maintenant d’une protection permanente contre les comptes spams puisque notre tâche automatique effectue une vérification journalière.

• Filtrer les résultats de la catégorie : Modération et spamModération et spam