Cultura digital, gestão algorítmica e repressão política

Com a centralização da informação nas mãos de um grupo restrito de big techs, tem-se como consequência que governos e corporações estão ficando muito mais poderosos do que nós.

12/08/2021
  • Español
  • English
  • Français
  • Deutsch
  • Português
  • Análisis
digital-colonialism_-_zoran_svilar.jpg
Digital colonialism.
Illustration: Zoran Svilar
-A +A

Um dos aspectos basilares da revolução digital é a conversão de inúmeros acontecimentos e fenômenos do dia a dia – eventos, sons, imagens, documentos e por aí vai – à linguagem binária, de 0 e 1, dos computadores, que podem assim analisar, medir, comparar e gerar previsões ou apreender padrões e relações entre as coisas do mundo que por vezes se mostram estranhos ao senso comum.

 

Neste processo, emerge uma nova ambientação cultural, marcada por uma ruptura radical em relação às formas de vida precedentes. Basta olharmos, por exemplo, para nossos smartphones, esses aparelhos compactos e poderosos, que nos acompanham da hora de acordar à hora de dormir, e que tornam obsoletas experiências que até pouco tempo atrás compunham a tessitura da nossa vida cotidiana, sobrepujadas agora pelo ritmo frenético da transformação digital.

 

Quem ainda hoje sai de casa com carteiras cheias de documentos, se o que compete às nossas vidas privadas está sendo devidamente empacotado e comprimido nos bits de informação de nossos aparelhos eletrônicos? Quem se lembra da última vez que levantou a mão para pedir um táxi, em uma espera talvez angustiante, tendo em vista que o mercado de transportes privados está sendo dominado cada vez mais pelas plataformas digitais? Qual será o destino das notas e moedas (e também dos porquinhos de dinheiro com que costumávamos adornar nossos lares) ou mesmo dos mapas físicos, se nossas transações financeiras e meios de orientação espacial estão integrados diretamente nos nossos smarts?

 

Desmaterializando e subsumindo as coisas em único objeto, os smartphones retratam a subordinação da cadência da mudança de nossos hábitos e convenções à dinâmica da inovação digital. Mais do que isso, esses artefatos, verdadeiras sínteses das conquistas técnicas recentes, denunciam, a partir do embaralhamento das esferas do trabalho e do tempo livre ao ponto da indistinção (o que é uma rede social senão uma mistura de lazer e entretenimento com espaço para anúncios profissionais e propaganda?), como esses mesmos hábitos e comportamentos ordinários estão inscritos nos arranjos financeiros, técnicos, legais e operacionais que sustentam e balizam o universo digital. Como há óbvios desequilíbrios de poder quanto à capacidade e à iniciativa para moldá-lo, o mundo que nos é mostrado nas telas não é um retrato neutro. Ele é arquitetado segundo os interesses daquelas empresas e instituições que controlam os nossos dados. Embora estejamos cientes de que ao adentrar esse universo renunciamos a nossa privacidade e intimidade, os termos da barganha nem sempre são claros. A implicação disso é que para operarmos competentemente no dia a dia dependemos de um conjunto de atores técnicos que não conhecemos, os dirigentes de um universo cuja lógica de funcionamento nos é opaca, e cujas consequências para nossa subjetividade mal começamos a tomar consciência.

 

Nem sempre foi assim… Como atesta o blogueiro e ativista iraniano Hossein Derakhshan (2015), hoje vivenciamos a morte do hyperlink. A palavra inglesa link dá a ideia de caminho, atalho, ligação. O tempo do hyperlink era um tempo em que a world wide web prezava pela descentralização, pela quebra de hierarquias, performando um grande sistema navegável de nós e redes. Era a época de ouro dos blogs pessoais, “janelas para vidas das quais pouco sabíamos, pontes que conectavam diferentes existências umas às outras e, portanto, as transformavam” (Derakhshan, 2015). Já não é mais o caso.

 

No mundo pós-crise de 2008, a infraestrutura do ecossistema digital ocidental é operada e dominada por cinco grandes companhias situadas na Costa Oeste dos Estados Unidos: Alphabet/Google, Facebook, Amazon, Apple e, em menor medida, Microsoft. O núcleo desse sistema é corporativo (Dijck, Poell e Waal, 2018). Os propalados ideais da “ideologia californiana” do Vale do Silício que, numa curiosa mistura de rebeldia e transgressão à la New Left com empreendedorismo high tech, apregoavam os valores de abertura e compartilhamento (Barbrook e Cameron, 2015), não passam de cantilena ante à agressividade com que essas big techs expandem seus negócios na rede, comprando startups e fazendo parcerias, bloqueando o caminho de outras plataformas e obrigando-as, ao preço de sua sobrevivência, a se ligarem, de uma forma ou de outra, a elas. Sabe-se que seu principal ativo – sobretudo no caso da Alphabet/Google, do Facebook e da Amazon – são os dados fornecidos pelos usuários. Com eles, essas empresas podem extrair conhecimento necessário para vender a terceiros anúncios personalizados que atingem com precisão milimétrica os alvos pretendidos.

 

Por isso, elas lutam, antes de tudo, por atrair nossa atenção, recurso cada vez mais escasso na sociedade excitada repleta de telas da contemporaneidade (Türcke, 2010) e que por ser intransferível se torna cada vez mais valioso. Para gerar valor, para produzir as informações imprescindíveis à expansão de seus negócios, é de vital importância para essas big techs que nos mantenhamos o maior tempo possível presos a suas plataformas – daí o lamento de Derakhshan (2015) de que as redes sociais, ao contrário dos blogs de outrora, têm um caráter fechado, autorreferente, já que elas tendem a tratar textos e imagens nativos, diretamente publicados em seus domínios, com muito mais respeito do que aqueles hospedados fora deles. E as técnicas de persuasão de que se valem constituem um “ponto de virada” nas estratégias de marketing, fazendo os dispositivos ideológicos da “indústria cultural clássica”, a que Adorno e Horkheimer (1985) chamam a atenção, parecerem brincadeiras de criança.

 

Ao longo do século XX, as estratégias de marketing buscavam sobretudo criar uma identificação do consumidor com os produtos: os cigarros Marlboro encaixavam muito bem com uma personalidade altiva e independente; a margarina era o alimento ideal para um ambiente familiar próspero e harmonioso. Atualmente, combinando computação avançada e Big Data com os conhecimentos da behavioral economics e das ciências cognitivo-comportamentais, essas grandes empresas não só buscam gerar insights valiosos sobre nós, mas, de modo muito mais decisivo, transformar quem somos, incidir sobre nossa personalidade, para que nos tornemos pessoas muito mais previsíveis, presas fáceis dos intrincados mecanismos de sua gestão algorítmica (Bentes, 2019).

 

Confinados nas bolhas digitais, tornamo-nos muito mais radicais politicamente, incapazes de apreender as múltiplas visões e os diferentes pontos de vista sobre determinado assunto. Fisgados por essa superindústria do imaginário, nos termos de Eugênio Bucci (2021), em cujas técnicas de dominação reside todo o léxico da psicologia de matiz behaviorista  – condicionamento, gatilho, recompensas variáveis, arquitetura de decisões, etc – somos moldados em nossos comportamentos, sugados por essas engrenagens de vício, de modo que muitas vezes nos vemos em intermináveis movimentos de tapping e scrolling no YouTube, Facebook ou Instagram, que nos seduzem com uma força arrebatadora.

 

Aqui, o decisivo é menos o conteúdo do que a forma; ou como nos lembra o estudioso da mídia McLuhan (1967), o meio é a mensagem. O padrão comunicacional introduzido pelas redes, que apela ao inconsciente e às emoções, é um fator revolucionário na paisagem cultural contemporânea. De acordo com estudos da neurociência, nosso cérebro é plástico e maleável, sua rede de sinapses é moldada pelos nossos hábitos. Assim, sob o ponto de vista da história intelectual, a internet é uma força que mudou nossas mentes (Carr, 2010). Na multiplicidade de seus estímulos, ela promove o pensamento distraído e superficial, que, atrelado às pressões de desempenho do capitalismo neoliberal, enseja diversas patologias psíquicas ligadas ao multitasking, ao cansaço e ao déficit de atenção (Han, 2017). Nesse sistema ultrarrápido de entregas e recompensas, que encoraja a repetição de ações físicas e mentais, nossa mente é consumida no meio. Daí, não só as tecnologias são nossas extensões, como também nos tornamos extensões das tecnologias.

 

Desse entrecruzamento de cultura, economia e técnica, deve-se questionar a vigência daquele indivíduo racional e bem-informado com que a teoria liberal sempre pensou a sociedade e a política. Qual é o lugar das escolhas ponderadas e refletidas, quando estamos imersos em um ambiente propício à propagação de fake news e teorias conspiratórias, sem sabermos ao certo, em meio a uma profusão de informações que circulam velozmente, onde buscar a “verdade” dos fatos? Como falar de “sujeito autônomo” quando nos convertemos em partículas situadas numa teia algorítmica que tem a capacidade de condicionar nossos gostos e desejos e dirigir nossas ações?

 

Com a centralização da informação nas mãos de um grupo restrito de big techs, tem-se como consequência que governos e corporações estão ficando muito mais poderosos do que nós. E em relação a isso, duas características da gestão algorítmica na era do Big Data e da inteligência artificial se afiguram fundamentais. Primeiro, convém ressaltar que algoritmos nada mais são que conjuntos de instruções, uma série de passos que transformam determinadas entradas de dados (inputs) em algum resultado pretendido (outputs). Algo corriqueiro, como uma receita de bolo de chocolate, por exemplo, pode ser pensado como um algoritmo. A receita consiste num conjunto de instruções que visam transformar determinadas entradas de dados, os ingredientes (ovos, farinha, fermento, etc.), em um produto acabado, o bolo quentinho pronto para ser devorado. Grosso modo, a peculiaridade dos sistemas de inteligência artificial é que se fornece a eles as entradas e as saídas dos dados, e os algoritmos buscam os melhores meios – o melhor conjunto de passos – para se alcançar o objetivo proposto. (No caso trivial do bolo, é como se, defrontado com os ingredientes e o bolo já pronto, o algoritmo buscasse os melhores métodos para a consecução da tarefa, em termos de aproveitamento de ingredientes, otimização dos custos, economia de tempo, etc.)

 

Portanto, alimentados com grandes bases de dados e turbinados pelo poder de processamento computacional de hoje, esses sistemas têm uma capacidade descomunal de eficácia, isto é, de encontrar os caminhos ótimos e apropriados entre meios e fins, sejam eles quais forem, a tal ponto que neles reside uma possibilidade um tanto irracional e distópica – sobejamente aproveitada pelas séries e romances de ficção científica – de ultrapassar ou sobrepujar os “fins” para os quais foram, a princípio, programados.

 

O AlphaGo, software de inteligência artificial desenvolvido pela Alphabet/Google para derrotar o campeão mundial de Go (um jogo de tabuleiro muito mais complexo que o xadrez), Lee Sedol, não só venceu o mestre sul-coreano, fazendo jogadas aparentemente absurdas, como também, pouco tempo depois, foi derrotado por sua nova versão, o AlphaGoZero. A novidade do AlphaGoZero em relação a seu antecessor é que ele aprendeu muitos dos truques e técnicas dos grandes jogadores de Go jogando milhões de partidas contra si mesmo, recebendo somente o tabuleiro em branco e as regras do jogo. Essa técnica de aprendizado na qual a máquina dispensa exemplos do mundo real, aprendendo a resolver problemas complexos de forma autônoma, representa sem dúvida um grande passo rumo ao desconhecido de suas faculdades cognitivas (Knight, 2017). E recursos como esse poderão ser empregados em diversos setores da sociedade, o que nos leva à segunda característica elencada aqui: a facilidade com que determinadas aplicações de inteligência artificial podem ser transpostas de um contexto para outro, descolando-se de sua utilização original.

 

O aplicativo FindFace, desenvolvido por Alexander Kabakov, permitia que os usuários fizessem o upload de fotos de pessoas desconhecidas e as comparassem com todas as imagens compartilhadas na rede social russa Vkontakte, vasculhando bilhões delas em menos de um segundo. Quando empacotado e posto à disposição do público, o app já estava sendo usado por um fotógrafo para identificar desconhecidos no metrô de Moscou e também por um grupo de sexistas misóginos para assediar e molestar trabalhadoras da indústria do sexo. Kabakov acabou firmando um contrato com a municipalidade de Moscou para que seu algoritmo de reconhecimento facial fosse utilizado em 150.000 câmeras de vigilância espalhadas pela cidade (Greenfield, 2017).

 

De fato, aplicações de inteligência artificial como o FindFace de Kabakov têm se mostrado muito eficazes em servir ao autoritarismo ao redor do mundo. Sua grande vantagem em relação aos meios tradicionais de coerção e intimidação é que elas são silenciosas e por isso mesmo possibilitam um tipo de dominação muito mais ampla e sistemática. Se um governo autoritário deseja reprimir a oposição, já não é mais necessário mobilizar um grande contingente de forças policiais armadas até os dentes. Além dos custos e riscos envolvidos, a efetividade desses meios esbarra nos limites biológicos do corpo humano – embora, como lembra Crary (2014), ultrapassá-los seja um dos desígnios do capitalismo neoliberal 24/7.

 

Seres humanos têm fome e sede: suas reservas de energia são finitas. Sistemas automatizados de inteligência artificial são incansáveis e onipresentes, produzindo uma mudança no comportamento e criando um efeito inibitório importante mesmo na ausência da violência física. Aplicada às grandes cidades, a linguagem dos algoritmos é a da vigilância, do controle preventivo e da detecção de anomalias escaláveis. Sabendo que estão sendo observados, sabendo que algoritmos de detecção de agrupamentos em tempo real – que determinam quando um grupo maior de pessoas se formou – estão sendo utilizados pelos governos ou mesmo que bots de inteligência artificial vasculham suas informações em busca de mensagens críticas ao regime, as pessoas se sentirão fortemente compelidas a se conformar (Feldstein, 2019).

 

O papel das novas tecnologias na vigilância estatal já vem sendo objeto de debate há algum tempo, pelo menos desde que Edward Snowden revelou, em 2013, os mecanismos de vigilância global empregados pela NSA (National Security Agency) norte-americana. Sabe-se também como as redes sociais como o Facebook e o Twitter têm contribuído para a escalada do autoritarismo e para emergência dos novos populismos de direita ao redor mundo, de que é testemunho a atuação da Cambridge Analytica no Brexit e na eleição de Donald Trump em 2016. Embora existam mecanismos legais com que as democracias liberais ocidentais possam enfrentar tais abusos, impondo regulamentações e multas às grandes plataformas ou aprovando leis de proteção de dados pessoais, não é difícil imaginar, apesar dos discursos em contrário, governos democráticos cedendo à tentação de utilizar tecnologias de inteligência artificial para violar o direito dos cidadãos. E, embora tenham implantado “mecanismos de transparência”, como a checagem de notícias, é difícil acreditar que as plataformas digitais e as redes sociais deem uma guinada radical em direção à democracia, uma vez que o modelo de vigilância e extração de dados é o núcleo e razão de ser de seus negócios.

 

Além disso, há aqui um componente geopolítico relevante, que será fundamental para ditar os rumos da tecnologia nos anos vindouros. Na China – segunda maior potência econômica do mundo e líder mundial na revolução do 5G – o uso da inteligência artificial faz parte de um sistema de controle mais amplo que sustenta o Partido Comunista Chinês. Lá, a união das grandes corporações de tecnologia – Alibaba, Tencent e Baidu, as big techs dominantes no gigante asiático, únicas a rivalizarem com as companhias do Vale do Silício – com o Estado é de tal magnitude que não encontra paralelo no mundo ocidental. Além dos métodos “mais tradicionais” de coação e vigilância digital, utilizados, por exemplo, para reprimir a minoria muçulmana uigur na província de Xinjiang – circuitos fechados de TV com câmeras dotadas de reconhecimento facial atrelados a farejadores Wi-fi, que vasculham contatos, e-mails e fotos e vídeos em redes sociais – a China está instaurando um sistema nacional de crédito social verdadeiramente orwelliano, em que a reputação das pessoas é pontuada e quem não “andar na linha” (fofocar, atravessar a rua errado ou mesmo ter um jardim bagunçado) pode ver suas chances de conseguir emprego ou mesmo ir a uma boa escola prejudicadas. Tendo em vista o grandioso projeto da Nova Rota da Seda, símbolo de sua ambição de desafiar a ordem liberal ocidental, a China deverá alargar seu raio de influência, exportando seus modelos de governança a outros países; e, de fato, esses já são usados em locais diversos como Zimbábue, Malásia ou Singapura (Feldstein, 2019).

 

- André Campos Rocha é doutorando em ciências sociais na PUC-MG.

 

Referências

 

ADORNO, Theodor; HORKHEIMER, Max. Dialética do Esclarecimento: fragmentos filosóficos. Rio de Janeiro: Jorge Zahar, 1985.

BARBROOK, Richard; CAMERON, Andy. The Californian Ideology. 1995. Disponível em: http://www.comune.torino.it/gioart/big/bigguest/riflessioni/californian_engl.pdf.

BENTES, Anna. A gestão algorítmica da atenção: enganchar, conhecer e persuadir. Em: POLIDO, Fabrício; ANJOS, Lucas; BRANDÃO, Luíza (orgs.). Política, Internet e Sociedade. Belo Horizonte: Instituto de Referência em Internet e Sociedade, 2019.

BUCCI, Eugênio. A Superindústria do Imaginário: como o capital transformou o olhar em trabalho e se apropriou de tudo o que é visível. Belo Horizonte: Autêntica, 2021

CARR, Nicholas. The shallows: what the Internet is doing to our brains. New York: W.W Norton & Company, 2010.

CRARY, Jonathan. Capitalismo tardio e os fins do sono. São Paulo: Cosac Naify, 2014.

DERAKHSHAN, Hossein. Salve a internet. PISEAGRAMA, Belo Horizonte, número 08, página 52 – 55, 2015.

DIJCK, José van; POELL, Thomas; WAAL, Martijn de. The platform society. New York: Oxford University Press, 2018.

HAN, Byung-Chul. Sociedade do cansaço. Petrópolis, RJ: Vozes, 2017.

GREENFIELD, Adam. Radical technologies: the design of everyday life. London: Verso Books, 2017.

FELDSTEIN, Steven. Como a inteligência artificial está transformando a repressão. 2019.  Disponível em: https://medium.com/funda%C3%A7%C3%A3o-fhc/como-a-intelig%C3%AAncia-artificial-est%C3%A1-transformando-a-repress%C3%A3o-c1bdba0bbacf.

KNIGHT, Will. AlphaGo Zero shows machines can become superhuman without any help. 2017. Disponível em: https://www.technologyreview.com/2017/10/18/148511/alphago-zero-shows-machines-can-become-superhuman-without-any-help/.

McLUHAN, Marshall. The medium is the message. An inventory of effects. New York: Bantam Books, 1967.

TÜRCKE, Christoph. Sociedade excitada: filosofia da sensação. Campinas, Sp: Editora da Unicamp, 2010.

 

12/08/2021

https://aterraeredonda.com.br/cultura-digital-gestao-algoritmica-e-repressao-politica/

 

https://www.alainet.org/pt/articulo/213429?language=es
Subscrever America Latina en Movimiento - RSS