O lado obscuro da realidade virtual
- Opinión
“POR QUE estou parecendo o Justin Timberlake?”
O CEO do Facebook, Mark Zuckerberg, estava no palco usando um óculos virtual, fingindo estar surpreso com a simulação de um desenho animado que parecia imitar todos os seus gestos perfeitamente.
A plateia riu. Zuckerberg estava no meio do que disse ser a primeira demonstração ao vivo em Realidade Virtual, manipulando seu avatar digital para mostrar os novos recursos sociais dos Oculus Rift da subsidiária do Facebook Oculus. O evento ocorreu em uma conferência de desenvolvedores da Oculus, no segundo semestre do ano passado em São José, Califórnia. Poucos instantes depois, Zuckerberg e dois funcionários da Oculus foram transportados para o escritório-aquário de Zuckerberg e, depois, para sua casa extremamente isolada em Palo Alto. Usando o Rift e os recém-lançados controles de mão Touch, seus avatares faziam gestos e expressões em tempo real, acenando para o cachorro Puli de Zuckerberg, com expressões faciais dinâmicas e sincronizadas com o tom de voz de seus donos, tirando fotos com um pau de selfie virtual – é claro, para postar no Facebook.
A demonstração apresentou a visão utópica do Facebook para a Realidade Virtual social, sugerida incialmente há dois anos, quando a empresa adquiriu a Oculus e seus Oculus Rift de realidade virtual que angariou US$ 2 bilhões por crowdfunding. Assim como em 2014, Zuckerberg declarou com confiança que a Realidade Virtual seria “a próxima grande plataforma computacional”, alterando a forma como nos conectamos, socializamos e trabalhamos.
“Avatares serão a base de nossa identidade na Realidade Virtual”, contou a gerente de produtos da plataforma Oculus após a demonstração. “É a primeira vez que a tecnologia possibilita esse nível de presença.”
Mas à medida que o setor de tecnologia continua a desenvolver o futuro social da Realidade Virtual, os mesmos sistemas que permitem uma experiência envolvente já estão estabelecendo novas formas de vigilância extremamente íntimas. Uma vez desenvolvidas, alertam os pesquisadores, os aspectos psicológicos da encarnação digital – combinados com a enorme quantidade de dados que os produtos de Realidade Virtual podem extrair livremente de nossos corpos, como movimentos da cabeça e expressões faciais – darão a governos e corporações poder e conhecimento sem precedentes sobre nossas emoções e comportamento físico.
AREALIDADE VIRTUAL como plataforma ainda está em seu estágio inicial, mas o tipo de dados que coleta é há muito tempo o cálice sagrado de marketeiros e empresas que capitalizam em cima de dados, como o Facebook. Usando cookies, beacons e outros métodos de rastreamento, os marketeiros online já registram os hábitos de usuários usando uma ampla gama de métricas, desde os sites visitados até o tempo gasto lendo, realçando ou passando com o mouse sobre partes específicas do texto. Gigantes da internet, como Google, também podem rastrear e-mails e bate-papos privados em busca de informações que possam “personalizar” a experiência do usuário na Web – fundamentalmente, exibindo anúncios relevantes ao usuário.
Mas essas métricas são primitivas se comparadas com os complexos retratos de comportamento físico de usuários que podem ser construídos usando dados coletados nos ambientes virtuais, por meio de sensores e técnicas de vigilância que já foram experimentadas de forma controversa no mundo real.
“As informações que marqueteiros podem usar no momento para gerar anúncios personalizados é limitada aos dispositivos de entrada que usamos: teclado, mouse, tela sensível ao toque”, diz Michael Madary, pesquisador da Johannes Gutenberg University e coautor do primeiro código de ética de RV, publicado no começo de 2016 em parceria com Thomas Metzinge. “A análise de RV oferece uma nova forma de capturar muito mais informações sobre os interesses e hábitos de usuários, informações que podem revelar muito sobre o que se passa em suas cabeças”.
É óbvio que a coleta de dados comportamentais e fisiológicos é muito valiosa para empresas do Vale do Silício, como Facebook, cujos cientistas de dados, em 2012, conduziram um infame estudo entitulado “Evidência experimental de contágio emocional em grande escala através de redes sociais“, no qual modificaram de forma secretas os feeds de usuários incluindo conteúdo negativo ou positivo, afetando assim o estado emocional de suas publicações. Conforme um cientista chefe da área de dados de uma empresa não revelada do Vale do Silício declarou para o professor de Harvard Shoshanna Zuboff: “O objetivo final em tudo o que fazemos é alterar o comportamento real das pessoas em grande escala. (…) Podemos coletar seus comportamentos, identificar comportamentos positivos ou negativos, e desenvolver novas formas de recompensar os positivos e punir os negativos”.
OS MOVIMENTOS DA CABEÇA são a métrica mais usada pelas poucas empresas que fazem parte da recém-formada indústria da RV. Ao registrar os dados do sensor giroscópico da tela que fica na cabeça do usuário, softwares de análise comercial, como o SceneExplorer, criado por uma empresa de Vancouver chamada CognitiveVR, são usados para reconstruir “mapas de calor” de todos os pontos para onde o usuário olha na RV.
Produtos de RV como os Oculus Rift também estão bem posicionados para serem usados em um campo em expansão chamado detecção de emoções, em especial, quando associados a sensores usados para mapear movimentos corporais reais no mundo virtual. A Yotta Technologies, empresa de RV baseada em Baton Rouge, Louisiana, defende que sua plataforma pode detectar o estado emocional de um usuário por meio de de diversos sensores instalados em um óculos de RV, registrando microexpressões através do mapeamento do movimento dos olhos e de músculos faciais. Isso beneficiará os usuários finais pois permitirá que essas informações sejam usadas para permitir expressões faciais para seus avatares de RV que reproduzam suas próprias expressões. Em conversa com a Fusion, o fundador da empresa disse que o objetivo principal é “revelar as emoções humanas”. Tal objetivo também é compartilhado pela Afectiva, uma subsidiária do MIT que oferece “detecção de emoções como serviço”, permitindo que clientes coletem imagens e vídeos de câmeras de Web para obter dados emocionais que revelam como os rostos reagem sutilmente a certos estímulos.
Eventualmente, os sistemas de RV para clientes serão capazes de capturar uma ampla variedade de movimentos do corpo humano, formando aquilo que Madary e Metzinger chamam de “impressão digital cinemática”. Assim como os recursos de reconhecimento de movimento experimentais que alguns sistemas de monitoramento baseados em câmera de vídeo, a impressão digital cinemática pode ser usada para identificar e analisar uma pessoa com base nos movimentos em sua postura corporal, ambos dentro e fora da RV. Os sensores de RV, como os Óculos Touch e o LeapMotion, também mostram que o rastreamento de mãos e gestos já estão se tornando uma tecnologia padrão na RV, permitindo que usuários manipulem objetos virtuais e gesticulem para enfatizar a oratória.
Anunciantes estão especialmente animados com a medição e a análise desses movimentos. Em um relatório do setor de setembro de 2016 produzido pelo Gabinete de Propagandas Interativas (Interactive Advertising Bureau), o diretor de RV de uma empresa de anúncios para dispositivos móveis diz que a coleta desse tipo de dados já está “ajudando a elucidar o comportamento de usuários e seu envolvimento com as marcas para nossos anunciantes”. Além disso, ele prevê que a RV “trará um valor e recursos de medição inigualáveis”. Ainda que a adoção da RV tenha sido relativamente lenta devido aos altos custos de hardware e a outros fatores, o investimento na área aumentou consideravelmente neste ano, sugerindo que as empresas de anúncio esperam tirar proveito desses recursos de rastreamento físico num futuro próximo.
POR ENQUANTO, grande parte dos softwares comerciais de terceiros que registram movimentos reais dentro da RV estão sendo elaborados quase que exclusivamente para desenvolvedores de RV, que usam dados para identificar quais partes de seus mundos virtuais são mais visitadas e quais partes precisam de ajustes. Isso reduz o custo em desenvolvimento, permitindo que os designers vejam com facilidade como usuários reagem a diferentes elementos em tempo real.
Sistemas de rastreamento semelhantes têm sido usados para estudar o potencial terapêutico da RV. Um estudo recente realizado por pesquisadores das Universidades de Cornell e Stanford descobriu que os movimentos da cabeça de uma pessoa podem ser utilizados para determinar seu nível de ansiedade em uma sala de aula virtual. Há algum tempo, pesquisadores também descobriram que ambientes virtuais projetados cuidadosamente podem ajudar no tratamento de estresse pós-traumático, depressão, ansiedade e outras condições.
O que mudou é que essas análises não são mais limitadas a um laboratório de testes. Com a proliferação de produtos de RV com uma seleção cada vez mais sofisticada de sensores, uma grande quantidade de dados de vigilância física pode ser disponibilizada para anunciantes, empresas privadas e, talvez inevitavelmente, para a polícia e órgãos do governo.
“Acho interessante refletir se as pessoas se importarão mais com o rastreamento de seus dados fisiológicos do que parecem se importar com o monitoramento do resto de suas vidas online”, disse Andrea Stevenson Won, PhD do Laboratório de Interações Virtuais Humanas de Stanford e principal autora do estudo das universidades de Cornell e Stanford. “Sou bem cuidadosa com a maioria dos meus dados, portanto prefiro que não sejam coletados mais dados do que o necessário.”
Os experimentos iniciais sugerem que o uso destes dados para manipular o comportamento de usuários está ao alcance de quem controla as plataformas de realidade aumentada e virtual. Pesquisadores demonstraram que usuários de RV podem ser influenciados de diversas maneiras — desde se tornar mais respeitosos com o meio ambiente até afetar os resultados de testes sobre questões raciais. Mas, sem leis restringindo os tipos de dados comportamentais que podem ser coletados e como podem ser usados por empresas de RV, há uma brecha para um uso mais desonesto com foco no lucro.
Por exemplo, em um artigo de 2014 sobre a convergência entre a RV e as redes sociais, como Facebook, pesquisadores da Universidade da Cidade de Dublin propuseram que avatares controlados por inteligência artificial pudessem ser usados para “induzir” o usuário a aceitar certas ideias ou pontos de vista. “Um avatar pode responder com um sorriso caso perguntado sobre uma ideia política ou religiosa e franzir a testa quando discutir outra”, diz o artigo. “Avatares artificiais se tornariam mais eficazes se pudessem acessar dados sobre as reações emocionais do usuário por meio do rastreamento olhos ou da captura de emoções.”
ATÉ O MOMENTO, não foi feita nenhuma proposta legislativa nos EUA buscando limitar essas novas formas de vigilância. Uma das estratégias que defensores da privacidade estão levantando é a de criação de novas leis baseadas na Lei de Privacidade de Informação Biométrica de Illinois, a mais dura das leis de privacidade biométrica existente nos EUA, além de estar sendo usada em uma ação judicial coletiva contra Facebook, Google, Snapchat e outras empresas que coletam dados de reconhecimento de face. O problema é o uso de “sugestões de marcações” automáticas e outros recursos que violam a lei de Illinois ao extrair dados biométricos das fotos de usuários sem consentimento explícito.
Fred Jennings, advogado do escritório de advocacia focado em direitos digitais Tor Ekeland, diz que, se os requerentes no caso de privacidade biométrica de Illinois saírem vitoriosos, isso poderia criar jurisprudência em favor de esforços futuros para limitar a quantidade de dados íntimos coletados por plataformas de RV e RA. Mas, diferentemente de dados biométricos tradicionais, como impressões digitais e DNS, a definição legal obscura de dados que registram movimentos físicos voluntários e involuntários dificulta a criação de legislação sobre o que pode e o que não pode ser feito com os dados coletados.
“O problema é que isso cai numa categoria obscura entre dados médicos, que são muito bem discutidos e protegidos legalmente, e dados de comunicação”, afirma Jennings.
A transparência também é parte crucial de qualquer regulamentação, diz Jennings, já que, em muitos casos, não fica claro em que medida as plataformas de análise comportamental já foram integradas a produtos e aplicativos para RV. Facebook, CognitiveVR e Yotta Technologies não responderam às perguntas feitas sobre como as plataformas de análise de RV estão sendo implementadas e como os dados coletados estão sendo usados.
A política de privacidade do Oculus declara de forma específica que coleta ”movimentos e dimensões físicas” dos usuários para “personalizar suas experiências de acordo com suas atividades online” e “customizar anúncios para você”. A empresa também alega ter o o direito de compartilhar essas informações com terceiros, incluindo o próprio Facebook, além de acessar e armazená-las para “detectar, prevenir e remediar fraudes ou outras atividades ilegais”, entre outros. Em abril de 2016, essa abordagem excessivamente ampla levou o senador dos EUA Al Franken a enviar uma carta aberta para a Oculus mostrando preocupação quanto à privacidade dos usuários dos Oculus Rift.
O representante da Oculus não respondeu diretamente a diversas perguntas da coleta de dados da empresa e sobre a utilização de dados de movimento físico e comportamentais. Em vez disso, indicou sua resposta de 13 de maio para a carta do Senador Franken. Na resposta, o conselheiro-geral da Oculus, Jordan McCollum, disse que a empresa precisa coletar “movimentos e dimensões físicas” e compartilhar esses dados com seus desenvolvedores “para que possam criar experiências que reajam melhor aos movimentos físicos dos usuários, o que é um ponto essencial de uma experiência de RV agradável”. Ao ser perguntado se a Oculus usaria os dados especificamente para manipular comportamento ou emoções de usuários, como no experimento de contágio emocional do Facebook, o representante respondeu que “não”.
“Há muito tempo, era muito fácil detectar anúncios, mas isso não é mais assim”, afirma Jennings. “O caso de informações biométricas do Facebook é um excelente exemplo de como esse uso de informações do usuário se tornou delicado e como pode ser difícil detectar formas indevidas de usar essas informações”.
Em um evento recente da Oculus, em São José, Califórnia, o cientista chefe da Oculus Michael Abrash admitiu que algumas dessas tecnologias de rastreamento ainda não são confiáveis o bastante para serem totalmente integradas ao hardware de RV. O rastreamento de retina é especialmente complicado, contou, “precisaríamos de um novo tipo de tecnologia de rastreamento de olhos” para ser usado com captura e resposta em tempo real.
“A tecnologia está mudando muito rápido. Mas não acho que haja barreiras tecnológicas para o tipo de manipulação que preocupa”, afirma Madary. “No momento, não tenho conhecimento de ambientes virtuais que são alterados com base nos dados coletados sobre cada usuário. Mas não vejo por que esse tipo de ambiente virtual dinâmico e personalizado não possa ser desenvolvido e vendido (ou dado) para o público.”
Pesquisa adicional: Jeremiah Johnson
Translation: Inacio Vieira.
5 de Janeiro de 2017
Del mismo autor
- O lado obscuro da realidade virtual 06/01/2017
Clasificado en
Clasificado en:
Comunicación
- Jorge Majfud 29/03/2022
- Sergio Ferrari 21/03/2022
- Sergio Ferrari 21/03/2022
- Vijay Prashad 03/03/2022
- Anish R M 02/02/2022
Vigilancia
- André Campos Rocha 12/08/2021
- Verónica Sforzin 14/07/2021
- José Goulão 08/07/2021
- Evgeny Morozov 27/05/2021
- Joelle Palmieri 25/11/2020
![Suscribirse a America Latina en Movimiento - RSS](https://www.alainet.org/misc/feed.png)