Sem controle, plataformas digitais amplificam discursos da extrema direita

Numa sociedade imersa em tecnologia, quais as implicações de aceitarmos que as redes sociais decidam que padrão devem ter as “bolhas digitais” em que vivemos?

17/03/2022
  • Español
  • English
  • Français
  • Deutsch
  • Português
  • Entrevista
220225221323-dia-2-guerra-ucrania-asedio-rusia-full-169-2.jpg
-A +A

Em entrevista à Fundação Heinrich Böll, o sociólogo Sérgio Amadeu, membro do Comitê Gestor da Internet no Brasil, doutor em Ciência Política e professor da Universidade Federal do ABC, fala sobre os possíveis rumos das plataformas digitais e das redes sociais neste ano eleitoral. O também criador, editor e apresentador do podcast Tecnopolíticavai além e discorre sobre a dualidade e as implicações do uso de Inteligência Artificial e as previsões sobre o Metaverso e a realidade virtual, e seus impactos atuais e futuros sobre o cotidiano real.

 

Nos últimos anos, as discussões em espaços digitais tomaram proporções tanto gigantescas como graves, ocasionando até mesmo manifestações em massa no mundo real, como as de julho de 2013 no Brasil. Assim, essas manifestações foram amplamente acordadas em espaços como Facebook e acabariam por ser o ovo da serpente no surgimento da extrema direita no Brasil. Como consequência, o processo culminou no impeachment da presidenta eleita Dilma Rousseff, em 2016. E além disso, na eleição de Jair Bolsonaro dois anos depois.

 

Junto a isso, cresceu a disseminação de teorias conspiratórias internet afora, no qual as chamadas big techs controlam como e quando o fluxo de informações chega aos usuários. Contudo, esse controle serve muitas vezes como fonte de desinformação em massa.
 

“A extrema direita mundial decidiu romper com a democracia e com o debate racional baseado em fatos. Por isso, a desinformação é uma estratégia global do novo fascismo. Assim, atacam a ciência e as universidades, como temos visto atualmente no enfrentamento da pandemia”, explica Amadeu.

 

É nesse contexto que redes sociais como WhatsApp e YouTube tiveram papel fundamental na disseminação de ideais ultraconservadoras e fundamentalistas. De lá para cá, é possível ver uma piora no cenário. Por exemplo, com a pandemia, o negacionismo e as teorias conspiratórias causam estragos severos por todo o mundo. “As plataformas são gerenciadas por sistemas algorítmicos que são inteiramente opacos. Não podemos dar mais poder às plataformas. Elas se colocam como espaços de debate público, por isso, devem seguir os princípios democráticos e não autocráticos”, avalia o sociólogo.

 

Por fim, ele avalia que situação é grave, mas que é preciso que a sociedade civil esteja a par destas ações e participar ativamente destes debates, garantindo, no mínimo, uma participação e que outros atores sejam ouvidos.

 

Confira os principais trechos da entrevista

 

Estamos em ano de eleições e o uso das plataformas de redes sociais, aplicativos e utilização de big data nas campanhas têm ganhado cada vez mais espaço no cenário eleitoral. As eleições brasileiras de 2018 foram marcadas pelos disparos em massa por meio do Whatsapp e a disseminação de desinformação. O que podemos esperar deste ano? As plataformas têm atualizado suas políticas de moderação de conteúdo. Mas elas estão mais preparadas para a enxurrada de desinformação?

 

O atual fenômeno da desinformação tem diferenças significativas dos boatos e mentiras tradicionais nas disputas políticas. Primeiro, as redes digitais permitem uma distribuição massiva e, simultaneamente, microssegmentada, ou seja, é possível atingir pessoas específicas e estimular medos e receios desses grupos sociais. Segundo, a extrema direita mundial decidiu romper com a democracia e com o debate racional baseado em fatos.

 

Por isso, a desinformação é uma estratégia global do novo fascismo. Assim, atacam a ciência e as universidades, como temos visto atualmente no enfrentamento da pandemia. As plataformas, por sua vez, ganham muito dinheiro com a espetacularização da vida. Não são principalmente os discursos radicais que mais ganham acesso nas redes de relacionamento online, são discursos espetaculares, mesmo que infundados, desinformativos.


As plataformas são gerenciadas por sistemas algorítmicos que são inteiramente opacos. Em uma recente pesquisa realizada no Twitter denominada ‘Examining algorithmic amplification of political content on Twitter’ foi constatado que os algoritmos do Twitter amplificam mais os discursos dos políticos e dos sites de direita se comparados com outras perspectivas ideológicas.

 

Sem dúvida, as plataformas devem moderar conteúdos conforme seus termos de uso, entretanto, elas precisam estar sob supervisão pública. Não podemos dar mais poder às plataformas. Elas se colocam como espaços de debate público, por isso, devem seguir os princípios democráticos e não autocráticos. Não podemos aceitar que elas estejam acima da nossa Constituição democrática.

 

As tecnologias que utilizam inteligência artificial têm sido cada vez mais usadas no Brasil. Quais são os riscos e oportunidades que você enxerga para este cenário? Qual sua opinião sobre a necessidade de regulação do uso dessas tecnologias?

 

A Inteligência Artificial (IA) é uma expressão genérica para uma série de tecnologias. Atualmente, o aprendizado de máquina e o aprendizado profundo são as soluções de IA mais utilizadas. Elas se baseiam em dados que alimentam sistemas estatísticos de probabilidade. Temos um gigantesco armazenamento e tratamento de dados com a finalidade de extrair padrões e realizar predições.

Porém, a IA é ambivalente. Está sendo utilizada para melhorar diagnósticos médicos, encontrar os melhores trajetos para distribuição de mercadorias, mas também para vigiar com biometria facial as chamadas “classes perigosas” e os segmentos mais fragilizados das populações.

 

Mas até que ponto, isso pode virar uma mercadoria nas mãos dos processadores de dados? Acho que precisamos ter uma agência independente, composta pelos representantes dos poderes do Estado e da sociedade civil, com técnicos capazes de fazer valer a democracia e os direitos individuais e coletivos quando pensamos em IA. A atual Agência Brasileira de Proteção de Dados está subordinada ao presidente da República e capturada pelos interesses econômicos. Precisamos alterar sua composição e suas vinculações.

 

A IA precisa estar sob o controle democrático da sociedade. Devemos banir ou, no mínimo, obter uma moratória das tecnologias de IA empregadas de modo a perpetuar e ampliar a discriminação racial, tal como a biometria facial. Devemos proibir o uso de biometria de voz para que o marketing identifique o estado emocional das pessoas. Por outro lado, soluções de detecção de enfermidades pela voz estão sendo empregadas e podem ser úteis para realizar prevenção.


 

Recentemente, Mark Zuckerberg (criador e presidente mundial do Facebook) anunciou o novo rumo para suas redes sociais, o Metaverso. Um espaço digital onde, através de avatares e realidade virtual, diversas interações sociais seriam possíveis, desde uma ida ao supermercado até reuniões de trabalho ou com amigos. Qual a sua perspectiva sobre o tema?

 

O metaverso é uma gigantesca operação de marketing que visa o reposicionamento do Facebook que está sob pressão de diversas agências estatais, devido às práticas algorítmicas antiéticas e antidemocráticas.

Sem dúvida alguma, existem diversos empreendimentos que visam encontrar caminhos atrativos com simuladores virtuais e espaços de interação digital profunda. Existe desde 2003, o espaço virtual 3D chamado Second Life. Não empolgou.

 

Existem diversos games e plataformas a explorar como universos virtuais. Por exemplo, no Minecraft, os usuários exploram um mundo tridimensional pixelizado, construído por blocos, com milhares de possibilidades de criação. Existe ainda o VRChat, o Roblox, entre outros espaços baseados na simulação da realidade.

 

Quanto mais aumente a capacidade de processamento computacional, melhorem as placas de vídeo, avancem as tecnologias holográficas, mais teremos experimentos de 3D. Por enquanto, temos um discurso que vem junto com promessas absurdas e com a ideia de criar mundos digitais mais proprietários do que na nossa realidade.

 

O sonho de Zuckeberg é trazer todos os viventes para dentro de um espaço em que seus sistemas algorítmicos tenham total controle. A humanidade é muito maior do que o sonho totalitário do dono do Facebook e de seus acionistas majoritários.

https://www.alainet.org/en/node/215143
Subscribe to America Latina en Movimiento - RSS