Algoritmos e redes de ódio nos ataques em escolas

Raphaela Ribeiro – Pesquisa da Unicamp mostra: 71% dos ataques no Brasil contém indícios de radicalização pela busca de notoriedade online. Pouca moderação de conteúdos nas redes potencializa onda de violência, envolta na ideia de racismo, poder e masculinidade.

O Brasil teve ao menos 11 ataques registrados em escolas este ano. No ano passado, foram 10. Apenas em outubro, dois ataques em escolas deixaram dois estudantes mortos e outras seis pessoas feridas. Na última segunda-feira (23), um estudante do Ensino Médio de 16 anos entrou na Escola Estadual Sapopemba, na Zona Leste de São Paulo, e atirou contra alunos e funcionários. Uma adolescente de 17 anos morreu e outros três ficaram feridos. O autor dos disparos foi detido no local.

No último dia 10, no Colégio Dom Bosco, em Poços de Caldas (MG), um ex-aluno, ainda menor de idade, matou um estudante de 14 anos e feriu outros três a facadas.

A onda de violência em instituições educacionais começou em 2001, mas se intensificou após o massacre escolar de Realengo, em 2011, no Rio de Janeiro, quando 12 pessoas foram mortas, segundo estudo elaborado por pesquisadores do Gepem (Grupo de Estudos e Pesquisas em Educação Moral), vinculado à Unicamp (Universidade Estadual de Campinas) e à Unesp (Universidade Estadual Paulista).

A pesquisa analisou 36 ataques violentos ocorridos em escolas brasileiras nos últimos 22 anos, até outubro de 2023. A maioria dos casos aconteceu em escolas públicas. Todos os autores eram do sexo masculino, predominantemente brancos. Em sua maioria, os autores usaram armas de fogo.

Telma Vinha, professora da Unicamp e coordenadora do estudo, explica que esses ataques “não são eventos isolados e tem características que se repetem”. Ela alerta para os hábitos online dos autores e interações em comunidades virtuais que promovem discursos de ódio. O primeiro ataque com evidências de influência online, segundo Vinha, foi o de Realengo, em 2011. Desde então, em 71,8% dos casos foram encontrados sinais de radicalização online, como buscas na internet sobre instruções para cometer massacres.

Segundo a pesquisadora, os autores dos ataques às escolas, em sua maioria, possuíam relações sociais limitadas e não eram vistos como “populares”, mas buscavam reconhecimento e valorização em grupos on-line. Ela aponta para o papel dos algoritmos das plataformas digitais na radicalização dos jovens, porque funcionam sugerindo conteúdos similares aos já visualizados, ou seja, potencializando a exposição a discursos violentos.

De acordo com a pesquisadora, nas interações realizadas on-line, como nos chats de jogos, pode proliferar incitação à violência e discursos de ódio. Em entrevista à Agência Pública, Vinha alertou para a pouca moderação de conteúdos das plataformas como um dos fatores que contribui para o aumento de ataques violentos nas escolas. Leia a entrevista completa:

Telma Vinha, professora da Unicamp e coordenadora do estudo sobre ataques violentos em escolas Foto: Antoninho Perri/Unicamp
No estudo, afirma-se que a escolha de escolas como alvo de violência não é aleatória. Qual é o motivo?

Esses estudantes têm uma ligação significativa com a escola; ela faz parte de sua identidade, de quem eles são. Quando têm experiências nesse local, muitas vezes generalizam a visão que um grupo tem sobre ele. Por exemplo, alguns acham o ambiente escolar babaca, consideram-no inadequado ou bobo e, então, generalizam isso como se todos o vissem dessa forma. E quando o estudante sofre ou acredita ser visto dessa maneira e retorna àquela escola, ele pode ter um ato extremo, um limite, para que, com esse ato violento, seja visto de outra forma.

É como se ele dissesse: “minha identidade vai mudar com isso. Eu até abro mão do meu futuro, mas para mostrar quem eu sou, o meu valor”. Então, tem a ver com o significado de identidade, uma mudança na maneira como eles acreditam que as pessoas os veem, além da ideia de ressentimento.

E por que os ataques não podem ser vistos de maneira isolada?

Porque envolvem algum tipo de planejamento, eles estão relacionados à ideia de masculinidade e poder. Sei que há meninas envolvidas em casos assim, mas predomina a ideia da violência como solução. Todos têm um sentimento negativo em relação à escola, e alguns fazem parte de grupos extremistas. São isolados, mas possuem características que refletem essa percepção de um fenômeno. Essa ideia de “vocês vão ouvir falar de mim” é marcante. A busca por notoriedade é outra característica presente. E a questão da idade, são muito jovens; mais de 70% são adolescentes, e isso é muito sério.

Dos 36 ataques em 22 anos, 21 ocorreram entre fevereiro de 2022 e outubro de 2023 (58,33%). A que se atribui esse aumento?

Há diversos elementos que compõem o que chamamos de ecossistema de violência, que nos últimos anos tem se intensificado, não só no Brasil. Líderes políticos, religiosos e redes sociais têm incentivado fortemente uma ideia de violência, ódio e divisão. Por exemplo, quando vemos o pastor Valadão falando sobre os homossexuais, ele não apenas fala, mas incita a violência. Isso é interpretado por muitos como uma autorização para agir violentamente, substituindo o diálogo.

Nos Estados Unidos, durante o governo Trump, a média de ataques saltou de 12-15 por ano para 45-47. O ambiente influencia. Além disso, temos a influência das redes sociais, plataformas onde eles [autores] se relacionam com o mundo inteiro, e onde você tem grupos que incentivam claramente o conteúdo de violência.

A pandemia teve algum impacto?

A pandemia também teve seu impacto, isolando ainda mais jovens que já tinham relações restritas, levando-os a uma imersão on-line. O pertencimento a grupos é vital para a saúde mental dos jovens. Durante a pandemia, muitos perderam essas conexões, enfraquecendo seus laços sociais, o que resultou em solidão, ressentimento e adoecimento. Com o retorno das aulas, observamos um aumento da violência escolar, do adoecimento mental e da vulnerabilidade social. Houve um ataque forte às escolas, no sentido de discutir políticas, discutir histórias, e as escolas se ressentem, porque não querem aparecer na mídia, não querem aparecer em redes sociais, e deixam de discutir questões importantes. Aí você tem inúmeros adolescentes questionando se o nazismo matou mesmo judeus ou não… e eles discutem com quem? Com grupos sociais de amigos, discutem muitas vezes com a família, quando discutem.

O acesso facilitado a armas é outro fator importante. Você vê que todos eles [autores] gostam, de alguma maneira, de mostrar a arma da violência. Então, quando você soma tudo isso, é um caldeirão pedindo para que aconteçam mais ataques.

Você diz que o massacre de Realengo foi o primeiro com evidências de influência on-line. Pode explicar melhor?

O ataque de Realengo marca a radicalização online. Até então, o acesso a conteúdos e grupos violentos era restrito à Deep Web. No entanto, a Deep Web é mais difícil de acessar, pois exige um navegador específico. Com o passar do tempo, esse tipo de conteúdo foi se tornando mais acessível na internet, especialmente nos últimos anos. E à medida que o acesso se expande para a superfície da internet, essa exposição aumenta consideravelmente.

Mesmo com a mídia regulando a cobertura do ataque de Poços de Caldas, no qual ocorreu uma morte, percebe-se que, apesar de ter sido veiculado, a abordagem foi diferente. As reportagens foram reduzidas, mas as redes sociais tiveram grande repercussão. Vimos tudo sobre o jovem envolvido, quem ele era, como foi contido, entre outros detalhes. As redes sociais, que se proliferam rapidamente, são um prato cheio para aqueles com tendência à imitação. No entanto, mais do que simples competição, há também um sentimento de ressentimento. O objetivo não é apenas esse. A situação piorou muito, porque antes era muito mais difícil ter acesso a tudo isso.

Segundo a pesquisa, 23 dos ataques efetuados têm indícios de radicalização online. Como os algoritmos das redes sociais contribuem para a propagação e perpetuação da cultura do ódio? E qual o papel delas no combate a esse tipo de radicalização?

Primeiro, elas [as redes sociais] têm muito mais dinheiro do que muitos países e possuem uma força muito grande nesse sentido. Nenhuma saída é única; existem diversas formas de abordagem. A colaboração das próprias plataformas é fundamental, mas não é suficiente. Por exemplo, hoje em dia, se você coloca TCC (True Crime Community) no Twitter, isso é removido. Coloque uma imagem de um peito no Twitter e veja se não é retirada. Se isso é removido, por que outras formas de violência, como cortes, não são? Eles têm mecanismos para isso.

As plataformas mais fechadas são mais desafiadoras porque as interações ocorrem online, em tempo real. O que se propõe é que os próprios administradores dos servidores sejam mais responsáveis. Eles poderiam investir muito mais em moderadores em tempo real e em inteligência para isso, mas não o fazem porque não é do interesse deles.

Na Alemanha, por exemplo, eles têm um prazo, muitas vezes, de duas horas para remover conteúdos nazistas, e o fazem. Mas não basta apenas remover; é preciso agir preventivamente. Não se deve agir apenas com base em denúncias; é necessário determinar tipos de conteúdos que podem ser analisados e, posteriormente, devolvidos ou não. Além disso, na Inglaterra, devido ao aumento dos casos de problemas mentais e ao crescimento do suicídio entre jovens, foi aprovada uma lei que exige registro de identidade para acessar sites pornográficos. A mesma responsabilidade se aplica a quem cria servidores e promove conteúdos violentos; a plataforma tem um prazo para remover, e a lei é rigorosa. Por outro lado, defensores da liberdade argumentam, com razão, que o anonimato é muitas vezes necessário para resistir, seja contra um governo ou em contextos políticos.

Enfrentamos um dilema como sociedade, e não existem soluções simples. Mas é essencial tentar proteger ao máximo nossas crianças e jovens. As plataformas têm o poder de fazer isso, mas não o fazem. O Telegram, por exemplo, é um absurdo em nome da “liberdade de expressão”. Com todo o dinheiro que o Telegram possui, ele não tem representação no Brasil. Portanto, não há relatórios sobre as ações que estão sendo tomadas contra isso, etc. O Discord coopera mais, mas ainda é muito complicado. Eles poderiam, por exemplo, manter a gravação das conversas no Discord por um período. Existem mecanismos que podem ser implementados. No entanto, no Brasil, o lobby foi muito forte, e, junto com as fake news, isso estagnou. Estamos pagando um preço alto por isso.

A principal arma usada nos episódios de violência extrema foram armas de fogo, seguida de faca e coquetel molotov. Você avalia que essa facilidade de acesso a armas letais contribui para o aumento de casos de violência?

O uso da arma depende muito do que a pessoa conseguiu acessar. Ainda bem que não era tão fácil para elas acessarem. As comunidades on-line que têm líderes, que são idolatrados, aqueles que são os chamados nesses espaços de sanctus (referência a santo, divino), incentivam o uso de armas com alto poder de letalidade, bombas e revólveres. No entanto, nem sempre conseguem obter esses itens.

Mesmo os ataques frustrados, muitas vezes, envolviam espingardas ou outras armas. Por isso, o fácil acesso a esses itens significa aumentar a letalidade e o número de vítimas. Muitos afirmam que queriam uma arma, mas não conseguiram.

Cinco dos autores de ataques violentos registrados pela sua pesquisa faziam parte de comunidades de TCCs (True Crime Community, comunidades online que discutem crimes reais). Quais estratégias são empregadas nas redes sociais para atrair e cooptar os jovens para essas comunidades? É possível associar esse comportamento on-line à radicalização dos jovens ou é mais complexo do que isso?

O “true crime” é um tema complexo. Há o “true crime” que muitos adoram acompanhar, mostrando interesse no assunto. Não sei se você gosta, mas minha filha, que tem entre 12 anos, sabe tudo sobre o tema. O problema é que, embora o “true crime” não incentive diretamente o crime, ele fornece muitas informações. Quando há um imitador, ele se aprofunda muito mais para entender os detalhes, como foi feito e quem são as figuras que admira. Ao mesmo tempo em que temos o “true crime” sendo discutido abertamente, existem perfis e comunidades que incentivam a violência e glorificam os criminosos. Isso é ainda mais preocupante, pois muitos se sentem comprometidos com essas comunidades e, ao se sentirem parte delas, desejam ser admirados e idolatrados.

A cooptação pode ocorrer simplesmente ao descobrir a existência dessas comunidades e querer participar. Isso é visível em plataformas como o Twitter, onde as pessoas pedem links para entrar em determinadas comunidades. Há também diversas manifestações na cultura juvenil, como memes que, através do humor, abordam a violência. Em algumas comunidades, a coesão se dá pelo ódio comum a algo ou alguém. Em jogos, por exemplo, pode começar com xingamentos e evoluir para outros níveis de interação.

No Brasil, a comunidade gamer ainda é bastante misógina e preconceituosa. Não é que incentivem ataques diretamente, mas é nas interações que as cooptações ocorrem. A cooptação não é simplesmente “te levar para o mal”, pois muitos realmente acreditam naquilo como uma causa ou valor. Para um adolescente ressentido, angustiado e com sofrimento mental, ser reconhecido e ouvido, mesmo que por teorias conspiratórias., ele passa a se sentir valorizado.

Além desses aspectos que já falamos, quais outros pontos no perfil dos ataques violentos em escolas mais lhe chamam a atenção?

O que chama a atenção é a questão das concepções opressoras, que são muito fortes. Racismo, nazismo, misoginia: isso é muito forte. E chama a atenção porque as respostas de segurança não atuarão nisso. E nós temos que atuar nisso, enquanto sociedade. Chama a atenção também o acesso muito fácil a conteúdos que fomentam essa violência. E chama a atenção, principalmente pelo trabalho do nosso grupo, a questão de todos sofrerem na escola, sem exceção. E não estou culpabilizando a escola.

No Brasil, não temos políticas públicas de convivência que ajudem os professores. Por exemplo, eles têm que trabalhar, às vezes, 40, 50 horas com 20, 30 turmas. Esperar que eles escutem os alunos é algo até desumano. Passa necessariamente pela valorização dos professores e profissionais da escola. Mas a escola como lugar de sofrimento, e pensar que muitas vezes um manual, cartilha ou curso massivo vai mudar, não vai. Ou nós, enquanto país, encaramos com muita seriedade o papel da escola como formadora de cidadania, de pertencimento, de cuidado, ou não.

A regulação dessas plataformas é crucial também, pois elas têm uma influência muito maior sobre os jovens do que os adultos. E, ao mesmo tempo, é necessário um trabalho muito sério com as questões do ódio, do discurso do ódio, focando em gênero, raça e história. Os ataques são apenas a ponta do iceberg de um fenômeno que envolve muitos jovens adoecendo e interagindo com conteúdo violento. Então, discutir isso é discutir o futuro do país.

O que mais estamos esperando para encarar isso com seriedade? É nesse sentido que precisamos formar pessoas diferentes do que temos feito até agora. Isso chama muito a atenção e, ao mesmo tempo, gera um sentimento de certa impotência. Como cooperamos enquanto sociedade? Olhamos muito para isso. Ministério Público, Secretaria de Educação, Secretaria de Segurança: todos tentam atuar, mas é preciso mais direcionamento nesse sentido.

Fonte da matéria: Algoritmos e redes de ódio nos ataques em escolas – Outras Palavras – https://outraspalavras.net/outrasmidias/os-algoritimos-de-odio-por-tras-dos-ataques-nas-escolas/