O Facebook publicou um esboço de um novo sistema  que foi desenvolvido que o ajudará a melhorar a detecção de contas falsas e desinformação, aumentando suas abordagens existentes e refinando seu esforço geral para eliminar os malfeitores de suas plataformas.

Mas é bastante técnico - neste post, vou fornecer uma visão geral simplificada da nova pesquisa Temporal Interaction EmbeddingS (TIES) do Facebook , que diz que irá fornecer melhorias incrementais ao seu processo de detecção e pode ter um impacto significativo sobre isso ao longo do tempo.

Tradicionalmente, diz o Facebook, as abordagens para detectar contas falsas e outras atividades maliciosas se baseiam no que chama de comportamento 'estático', que não reflete necessariamente a forma como as pessoas interagem:

"As entidades na plataforma, como contas, postagens, páginas e grupos, não são estáticas. Elas interagem umas com as outras ao longo do tempo, o que pode revelar muito sobre sua natureza. Por exemplo, contas falsas e postagens de desinformação geram diferentes tipos de reações de outras contas além de contas e postagens normais / benignas. "

Isso poderia ser verdade? Existe uma diferença distinta na maneira como as pessoas interagem com contas falsas ou desinformação que poderia ajudar a identificá-las, mesmo sem relatórios de usuários?

Essa é a base do sistema TIES do Facebook - monitorando todas as várias atividades e interações com cada postagem, TIES é capaz de destacar comportamentos comuns que estão vinculados a entidades não autênticas.

"Entidades nas redes sociais (contas, postagens, histórias, grupos, páginas, etc.) geram inúmeras interações de outras entidades ao longo do tempo. Por exemplo, postagens recebem curtidas, compartilhamentos, comentários, etc. de usuários ou contas enviam ou rejeitam amigo solicitações, enviar ou bloquear mensagens, etc. de outras contas "

Em grande escala, o novo sistema do Facebook agora é capaz de combinar melhor esses comportamentos com sinais claros, que podem então sinalizá-los para uma análise mais aprofundada.

Nesta imagem de interações gerais, por exemplo, o Facebook diz que os pontos amarelos são indicativos de atividade maliciosa. Como você pode ver, as interações com essas postagens são significativamente diferentes das ações regulares (roxas) do usuário.

Exemplo de TIES