Aplicativo faz varredura e identificação de mensagens de ódio e intolerância na internet
Em fase de testes, o aplicativo Monitor dos Direitos Humanos faz varredura de palavras-chave relacionadas a minorias, como negros, LGBT, indígenas e mulheres, identificando mensagens de ódio, preconceito e intolerância reproduzidas nas redes sociais em tempo real.
Financiado pelo Ministério das Mulheres, Igualdade Racial e Direitos Humanos, o aplicativo é uma ferramenta para usuários e gestores público do panorama das violações sofridas por grupos minoritários.
“Para além da lógica da perseguição ao agressor, o objetivo primordial é resguardar os agredidos desse tipo de comportamento. Os pesquisadores conseguem verificar quais são as pessoas ou grupos em risco, e os gestores públicos podem acompanhar as principais temáticas em evidência”, afirma Fabio Goveia, um dos desenvolvedores do aplicativo e coordenador do Laboratório de Estudos sobre Imagem e Cibercultura (Labic) da Universidade Federal do Espírito Santo.
“Aplicativo dá poder a vítimas de ofensas virtuais”
Monitor dos Direitos Humanos” faz varredura de palavras-chave relacionadas a minorias e consegue identificar mensagens de ódio e intolerância. Em entrevista à DW, um dos criadores explica o conceito do projeto.
“Racismo”, “linda” e “vítima” são algumas das palavras mais usadas nas redes sociais nesta semana em comentários sobre o episódio de preconceito virtual contra a atriz Taís Araújo. O teor, quantidade e localização das discussões são rastreados por um aplicativo de internet pioneiro desenvolvido pela Universidade Federal do Espírito Santo (Ufes), e que deve ser lançado ainda neste mês.
Em fase de testes, o Monitor dos Direitos Humanos faz uma varredura de palavras-chave relacionadas a negros, população LGBT, indígenas e mulheres, e consegue identificar, em tempo real, mensagens de ódio, preconceito e intolerância reproduzidas no Twitter, Facebook e Instagram.
O projeto financiado pelo Ministério das Mulheres, Igualdade Racial e Direitos Humanos permite que os usuários e gestores públicos tenham um panorama das violações sofridas por “grupos minoritários” na internet, diz Fabio Goveia, um dos desenvolvedores do aplicativo.
“É um monitor permanente e em tempo real. Para além da lógica da perseguição ao agressor, o objetivo primordial é resguardar os agredidos desse tipo de comportamento. Os pesquisadores conseguem verificar quais são as pessoas ou grupos em risco, e os gestores públicos podem acompanhar as principais temáticas em evidência”, explica Goveia, que é um dos coordenadores do Laboratório de Estudos sobre Imagem e Cibercultura (Labic) da Ufes, referência internacional em pesquisas sobre redes sociais.
O aplicativo, elaborado com tecnologia aberta por uma equipe de cerca de 30 pesquisadores, pode ser acessado por qualquer computador ou dispositivo móvel. A ferramenta permite que o usuário acompanhe a evolução das publicações nos últimos 15 minutos, nas últimas 24 horas ou nos últimos sete ou 15 dias.
Em entrevista à DW Brasil, o especialista rejeita críticas sobre um possível “vigilantismo” e ressalta que a finalidade não é identificar os autores das ofensas: “Queremos empoderar as vítimas.”
DW: Como o Monitor de Direitos Humanos vai rastrear mensagens ofensivas nas redes sociais?
Fabio Goveia:O monitor permite que os usuários acompanhem em tempo real quais são as principais temáticas ligadas aos direitos humanos que estão circulando nas redes sociais. Ele funciona a partir das publicações feitas pelos usuários nas principais redes sociais: Twitter, Facebook e Instagram. Ao longo de um ano de pesquisa no laboratório, acompanhamos as temáticas estabelecidas pelo governo – violação de direitos humanos ligados a mulheres, indígenas, população LGBT e negros – e formamos um léxico com as principais palavras-chave relacionadas a esses temas. Esse material alimenta um sistema computacional complexo, formado por 15 softwares desenvolvidos na universidade, que filtra as discussões. O aplicativo varre as redes sociais automaticamente e localiza essas palavras. O mapa tem a lógica do georreferenciamento, então, é possível saber de qual estado estão partindo comentários ofensivos ou de apoio e qual é a intensidade deles.
Quais são as principais palavras-chave?
São algumas milhares. As básicas, que vão servir para uma primeira captura, são as mais elementares. Na temática “negros”, por exemplo, temos “racismo”, “preto”, “preconceito”. Em “mulheres”, temos “machismo”, “feminino”, “feminazi”, que evolui para outros termos como “empoderamento”, “agressão”, “ódio”. Acompanhamos, por exemplo, o caso da blogueira feminista Lola Aronovich, que repetidamente recebe ameaças. Ela acabou aparecendo no nosso monitor. Conforme os pesquisadores acompanham as temáticas em evidência, eles adicionam novas palavras para que o filtro fique ainda mais refinado. Chamamos esse processo de modelagem humano-computacional. É uma iniciativa que, se não pioneira, é uma das mais avançadas de que temos notícia com esse grau de precisão.
Nuvem de palavras do Labic mostra termos mais tuitados sobre o #ENEM2015
O aplicativo permite que os autores dos comentários ofensivos sejam identificados?
Trabalhamos com o princípio da anonimização. Identificar os autores não é uma atribuição da nossa ferramenta. O foco principal é preservar as vítimas que são alvos de ofensas nas redes. Para além da lógica da perseguição ao agressor, o objetivo primordial é resguardar os agredidos desse tipo de comportamento. A partir da ferramenta, os pesquisadores conseguem verificar quais são as pessoas ou grupos em risco, e os gestores públicos podem acompanhar quais são as principais temáticas em evidência. O monitor não está inserido na lógica policialesca ou punitiva. É, pelo contrário, uma ferramenta de empoderamento das vítimas. Na página, há um link para o site do Ministério das Mulheres, Igualdade Racial e Direitos Humanos, que possui um mecanismo online de denúncias.
O governo pode ter acesso aos dados dos agressores virtuais?
O governo pode usar o dispositivo como um complemento para poder tomar decisões de maneira mais rápida e precisa. Nossa preocupação essencial é contribuir para a construção de uma cultura de maior tolerância nas redes sociais. Esperamos que o convênio com o governo seja estendido para ampliar o escopo de cobertura, porque também há outros grupos em risco. Um dos primeiros temas que investigamos é ligado à cultura da violência. Em agosto, quando ocorreram as chacinas na Grande São Paulo, por exemplo, a temperatura dos comentários no mapa do aplicativo dizia que algo estava ocorrendo naquela região.
Qual é a previsão de lançamento?
A gente espera que toda a sociedade tenha acesso. Ainda são necessários alguns ajustes com o governo, por causa das mudanças no ministério. Aguardamos um sinal verde sobre se e como a ferramenta será disponibilizada. O convênio prevê a entrega até o fim de novembro, e vamos cumprir o prazo. Mas quem fará a divulgação oficial será o ministério.
Houve críticas ao projeto devido à parceria com o governo?
Essa não é uma proposta oportunista. Acabamos sendo alvo nas redes sociais de grupos que enxergam nesse projeto uma ameaça. É uma ferramenta para a sociedade, para proteger todos aqueles que circulam nas redes sociais. O projeto foi pensado antes mesmo da reeleição da presidente Dilma Rousseff. Até celebridades nos criticaram dizendo que isso segue uma lógica vigilantista. A cultura de ódio, racismo e desconstrução das pessoas continua existindo. Esperamos contribuir para modificar esse panorama.
Fonte: Jornal GGN
