O Facebook divulgou na terça-feira (12) uma iniciativa para detectar “memes de ódio”, utilizando inteligência artificial e apoiada pelo crowdsourcing. A rede social informou que já havia criado um banco de dados com 10.000 memes para intensificar os esforços contra discursos mal-intencionados.

Os dados estavam sendo compartilhados com pesquisadores no “desafio dos memes de ódio”, um incentivo ao desenvolvimento de algoritmos capazes de detectar estes tipos de mensagens, com um prêmio total de US$ 100.000.

“Esse desafio deve estimular pesquisadores em Inteligência Artificial a testar novos métodos, comparar seus trabalhos e resultados e acelerar a identificação de discursos de ódio multimodal”, comunicou o site ao divulgar a iniciativa.

O objetivo da ação é filtrar conteúdos que podem escapar do controle de parte dos moderadores humanos durante a pandemia do novo coronavírus e espelhar mensagens de ódio pela plataforma, que já sofre com disseminação de fake news.

Seu relatório trimestral de transparência indicou que o Facebook removeu cerca de 9,6 milhões de postagens que violavam a política contra “discurso de ódio” apenas nos três primeiros meses deste ano, incluindo 4,7 milhões de peças de conteúdo “ligadas ao ódio organizado”.

O Facebook anunciou que a filtragem por IA foi se aprimorando à medida que a rede social recorreu mais às máquinas em consequência dos bloqueios pela pandemia. De acordo com Guy Rosen, vice-presidente de integridade do Facebook, a IA auxilia na busca por mais conteúdo, o que permite que sejam detectadas quase 90% das mensagens. “As removemos antes que alguém as tenha reportado para nós”, explica o executivo.

O Facebook disse que se comprometeu a “interromper” o comportamento de ódio organizado há um ano, após os ataques mortais à mesquita na Nova Zelândia, que provocaram um “chamado à ação” dos governos para conter a disseminação do extremismo online.

Combate ao bullying e fake news
O Instagram, que faz parte do Facebook, começou a bloquear conteúdos falsos que são disseminados na sua plataforma. Um dos bloqueios recentes que mais chamou atenção foi ao presidente Jair Bolsonaro, na segunda (11), quando ele publicou nos Stories uma informação falsa a respeito do novo coronavírus.

O post dizia, sem provas, que o estado do Ceará teria tido menos mortes causadas por doenças respiratórias entre 16 de março e 10 de maio de 2020 em comparação com o mesmo período do ano passado. O presidente chegou a escrever que havia “algo muito estranho no ar”, mas logo a publicação foi bloqueada com a checagem feita pela Agência Lupa.

“Falso. É falso que, no Ceará, o número de mortes por doenças respiratórias diminuiu em 2020”.

A plataforma também desenvolveu e está testando ferramentas para impedir o bullying e os comentários com teor de ódio. Entre as ferramentas, estão o gerenciamento de interações indesejadas, destaque de comentários positivos e escolha de marcações e menções.

Em “Gerenciando interações indesejadas”, é possível excluir comentários de uma vez só, além de bloquear ou restringir várias contas que postarem comentários negativos. Além disso, a rede social começará a testar os Comentários Fixados, que darão a possibilidade de definir o tom das publicações, fixando um número específico de mensagens.

No gerenciamento de marcações e menções o usuário pode escolher se deseja que todos, apenas as pessoas que segue ou ninguém possa marcar ou mencioná-lo em um comentário, legenda ou Stories.