Pesquisa Pesquisa

Voltar

Pesquisa desenvolvida na UFPE propõe sistema para detecção de discurso de ódio em redes sociais

Proposta que seleciona e combina várias representações e máquinas de aprendizagem é fruto da dissertação de Woshington Sousa

A violação dos direitos humanos é um problema social crônico, com raízes profundas e que atinge todas as sociedades contemporâneas, tendo o discurso de ódio como a sua face mais aparente. Com o advento das redes sociais, essas manifestações ganharam maior alcance, especialmente em contextos de acirramento político. Para avaliar como esse discurso está presente em tais mídias, a pesquisa desenvolvida por Woshington Sousa durante o seu mestrado profissional no Centro de Informática (CIn) da UFPE, concluído em 2020, sob orientação do professor George Darmiton, elaborou um sistema que seleciona e combina várias representações e máquinas de aprendizagem. Grande parte dos achados dessa investigação foram compilados no artigo “Selecting and combining complementary feature representations and classifiers for hate speech detection”, disponível agora na 28ª edição da revista científica Online Social Networks and Media. O artigo contou ainda com a contribuição do professor Rafael Menelau Cruz, da École de Technologie Supérieure (ÉTS), do Canadá.

A jurista Samanta Meyer-Pflug define o discurso de ódio como uma manifestação de ideias que tenham como elemento central a incitação a discriminação racial, social ou religiosa em determinados grupos. De acordo com a SaferNet, é uma ação de complexa identificação, que muitas vezes está localizada na linha tênue entre uma pretensa liberdade de expressão e a defesa da dignidade humana. Segundo dados da organização, que atua nacionalmente com foco na promoção e defesa dos direitos humanos na internet brasileira, desde a sua fundação, em 2006, já foram recebidas mais de 2,5 milhões de denúncias relacionadas a crimes de ódio. Desse número, 68% das vítimas são mulheres e 23% das queixas estão relacionadas ao racismo. Um estudo encomendado pela instituição britânica Ditch the Label, que analisou 263 milhões de conversas nos EUA e Reino Unido, verificou que o discurso de ódio online cresceu 20% desde o início da pandemia.

O sistema desenvolvido por Woshington utiliza um modelo de seleção de classificadores para aplicar técnicas de combinação, por meio da exploração visual e da análise da base de dados do Oracle na detecção automática do discurso de ódio. O pesquisador defende em sua dissertação que a qualificação do discurso, como sendo de ódio ou não, é o primeiro passo para a criação de medidas efetivas de combate a esse tipo de violação, e que o método proposto substituiria a moderação manual realizada por diversas empresas de mídias sociais, promovendo ganhos em termos de sustentabilidade, escalabilidade e custo temporal.

Data da última modificação: 12/05/2022, 16:04