Imagine poder entrar em um shopping para inserir milhares de eletrodos microscopicamente finos em seu cérebro, implantados de forma tão rápida e eficiente quanto uma cirurgia ocular a laser, projetados para turbinar seu cérebro através de um simples aplicativo de celular.

Até semana passada, isso era coisa de ficção científica. Mas, em um evento de lançamento, em meados deste mês, a empresa Neuralink — fundada por Elon Musk — afirmou estar no caminho para alcançar tal feito e muitos outros nos próximos anos.

A interface da tecnologia cérebro-máquina do Neuralink é impressionante. Usando o agora conhecido modelo de Musk para juntar novos talentos de várias áreas para acelerar o ritmo de inovação tecnológica, a empresa deu um grande salto em suas possibilidades. Mas apesar da promessa técnica de interfaces cérebro-máquina sem fio de leitura e escrita, empresas como a Neuralink correm o risco de se envolver tanto no que conseguem fazer que acabam perdendo de vista a ética por trás do que deveriam fazer.

Em meu livro de 2018, Films from the Future (“Filmes do futuro”, em tradução livre, sem edição no Brasil), escrevi sobre o que sabíamos até então sobre a criação de um laço neural por Musk , um termo que vem da ficção científica de Ian M. Banks e descreve uma interface de um computador-cérebro do futuro. Mas agora que o futuro está um pouquinho mais próximo, tenho algumas novas considerações sobre os riscos potenciais e questões éticas em torno do Neuralink. Apesar de estarmos ainda descobrindo a importância de como cada parte do nosso corpo influencia em quem somos, ainda pensamos que nosso cérebro é o órgão que, em última análise, nos define. Aí estão as raízes do senso que cada um tem de si e da própria identidade, onde recebemos e processamos dados, onde nosso intelecto e razão se acomodam e onde nossos sentimentos e aspirações mais profundos habitam.

Isso é, em parte, por que a ética é muito importante no desenvolvimento de neurotecnologias responsáveis. Mas essas tecnologias também vêm com riscos sociais, o que complica ainda mais. Quando uma nova tecnologia tem o potencial de mudar o comportamento coletivo, romper com as normas sociais ou debilitar valores estabelecidos, há questões éticas mais amplas em torno dos limites entre o que “podemos” e o que “devemos” fazer.

Até o começo deste mês, essas eram questões majoritariamente teóricas. Neurotecnologias básicas estão por aí há algum tempo — incluindo implantes cocleares, estimulação cerebral profunda e interfaces computador-cérebro mais complicadas. São básicas o suficiente para permitir espaço de respiro para conversas em torno da ética de seu uso e desenvolvimento.

Mas com o evento de lançamento da Neuralink e o paper que o acompanhou em sua tecnologia subjacente, essas mesmas e maiores questões éticas assumiram um novo nível de urgência.

O que faz dos avanços da Neuralink algo potencialmente perturbador é sua viabilidade tecnológica. Não se trata de vaporware, um produto que é anunciado muito antes de seu lançamento — a tecnologia na qual a empresa está trabalhando parece estar fundamentada em ciência e engenharia sólidas. Enquanto a atual tecnologia de ponta permite números limitados de eletrodos brutos que podem ser instalados em partes críticas do cérebro, a Neuralink está desenvolvendo soluções integradas, nas quais dezenas de milhares de eletrodos de leitura-escrita ultrafinos e flexíveis podem ser precisamente inseridos no cérebro. Eles são colocados usando tecnologia robótica de precisão avançada e vão, afinal, ser controlados sem fio por um aplicativo do celular para combater problemas neurológicos.

Isso, no entanto, é só uma degustação do que está por vir. Usando as plataformas desenvolvidas por eles, os objetivos de longo prazo da Neuralink são de engrandecer o funcionamento de nossos cérebros, ao adicionar uma terceira camada de processamento artificial a eles, uma cirurgia simples que poderia levar apenas algumas horas. Baseado no progresso atual, essa ambição está bem dentro dos limites de possibilidade.

No entanto, como o falecido Stan Lee bem observou, com grandes poderes, vem grande responsabilidade. E é por isso que a Neuralink e outras empresas desse campo precisam exercitar seu pensamento crítico sobre como inovar tanto com responsabilidade e ética.

Como sempre, há um perigo de paralisia pela análise sempre que alguém levanta a questão da ética em tecnologias avançadas como interfaces cérebro-máquina. Podemos todos especular sobre os danos psicológicos potenciais dessas tecnologias ou os perigos de hackeamento ou manipulação do cérebro. E é fácil imaginar visões distópicas de um futuro onde o comportamento social é controlado por máquinas, em que sacrificamos nossa autonomia pela conveniência do laço neural.

Por outro lado, esse tipo de especulação raramente nos ajuda na tentativa analisar o cenário entre uma capacidade tecnológica poderosa e seu desenvolvimento ética e socialmente responsável. Ao invés disso, apesar da tentação de cair em sensacionalismos e até criar uma ficção sobre os riscos potenciais, há uma necessidade urgente de pensamento informado sobre questões plausíveis, e como agir com elas. No caso do Neuralink, isso significa lutar em três áreas específicas da ética e responsabilidade na inovação.

Em primeiro lugar, existem os potenciais impactos fisiológicos agudos e crônicos associados com a inserção de milhares de eletrodos no cérebro. Garantir a segurança dessa técnica está longe de ser trivial. Ainda assim, estou razoavelmente confiante que reguladores, pesquisadores e desenvolvedores serão capazes de identificar e direcionar os desafios principais. Por terem trabalhado por muitos anos para descobrir os potenciais riscos à saúde de novos materiais, incluindo nanopartículas, tenho muito respeito pelos cientistas e reguladores que irão trabalhar para garantir que o aparato médico neurológico, desenvolvido pela Neuralink, produza o mínimo de danos possível. Mas, ao mesmo tempo, eles deverão estar abertos para novas ideias, já que a tecnologia abre novos caminhos.

A segunda área é mais complicada e aborda os impactos potencialmente psicológicos e comportamentais. Onde quer que a tecnologia seja usada para propósitos médicos, haverá compensações entre os benefícios das interfaces neurais e como elas podem afetar o estado mental e o comportamento de uma pessoa. Mas, à medida que a tecnologia deixa de servir apenas para remediar e passa a também a ser de aprimoramento, potenciais mudanças no comportamento e no humor vão demandar um exame minucioso.

Por exemplo, haverá a possibilidade de mudanças de personalidade ou comportamentos aditivos, ou mesmo a emergência de distúrbios psicológicos crônicos, à medida que as pessoas comecem a usar esses dispositivos? Há o risco de que longos intervalos de tempo entre o uso disseminado da tecnologia e a emergência de problemas psicológicos possam complicar ainda mais as coisas. Isso poderia significar um desastre se pessoas se tornarem dependentes da tecnologia antes que os impactos de longo prazo possam ser totalmente compreendidos.

E, por último, há uma terceira área de preocupações éticas sobre os impactos sociais potencialmente mais amplos da tecnologia.

Enquanto a Neuralink está, atualmente, focada em usar sua tecnologia para tratar condições médicas, o objetivo a longo prazo da empresa é criar uma sobreposição artificial ligada à internet no cérebro que possibilite aos usuários interagirem com futuras máquinas inteligentes. É uma meta audaciosa, mas abertamente destinada a mudar a sociedade. E, por causa disso, levanta dúvidas sobre a ética e a responsabilidade que devem ser mantidas enquanto ainda há oportunidade para conduzir a tecnologia em uma direção mais responsável.

Por exemplo, se, em algum ponto no futuro, você faça um implante do Neuralink para aumentar suas habilidades mentais, ou para propósitos recreativos, a quem pertence esse implante e quem tem acesso a seus dados e funções? Baseado na lei atual, é quase certo não é você.

Isso poderia ser tranquilo, mas a empresa que possui o dispositivo poderia ameaça-lo caso você não pague pelas atualizações ou, então, deixá-lo vulnerável a hackers porque você não comprou o plano de upgrade. A questão sobre quem é o dono do aparelho também levanta questões sobre a quem pertence seus sinais cerebrais e mesmo sobre quem tem o direito de gravar dados em seu cérebro. Podemos estar olhando para um futuro no qual auto-atualizações obrigatórias reescrevem seu hardware assim como sua mente física.

Essa capacidade de “escrita” neural da tecnologia da Neuralink levanta um grande número de outras questões. É uma capacidade que é essencial para aplicativos médicos planejados. Mas é fácil imaginar que as pessoas queiram usar a tecnologia para aprimoramento — para aumentar habilidade cognitiva, destreza física, percepções, humor e até personalidade.

Imagine ser capaz de deixar sua mente mais afiada ou aumentar a retenção de memória com um aplicativo em seu celular, ou mudar seu humor no toque de um interruptor. Você poderia integrar o Neuralink em sistemas de jogos, para que possa sentir visceralmente a ação enquanto a observa. Um implante neural poderia também ser usado para amplificar emoções na tela enquanto assistimos filmes.

Essas capacidades provavelmente se tornarão viáveis num futuro de médio prazo, mas há potenciais lados ruins. Imagine propagandas que desencadeiam uma resposta emocional, feeds de notícia que possam manipular seus sentimentos, ou aplicativos que permitam que outros alterem a maneira com que você se comporta com um texto simples. E, acima de tudo isso, o perigo de ter seu smartphone roubado ou hackeado toma uma outra dimensão.

Agora, estamos andando sobre um território especulativo. E, para ser justo, Musk deixou claro que é contra a ideia de fundir implantes neurais com anúncios neurais. Ainda assim, ao que a tecnologia amadurece, essas são possibilidades que precisam ser exploradas, se o Neuralink é feito para ser desenvolvido e usado com ética e responsabilidade.

Suponhamos que nenhum dos lados negativos citados acima venha a acontecer. Há ainda a questão de quem tem o acesso à tecnologia e quem não tem. Se interações cérebro-computador realmente tem a habilidade de substancialmente melhorar o que um usuário pode alcançar, haveria o risco de criar uma sociedade dividida, onde os privilegiados conseguem os melhores empregos, ganham mais, e tem uma qualidade de vida mais alta, comparados àqueles que são pobres demais ou muito “desprezíveis” nos olhos da sociedade para ter acesso à tecnologia?

Já há desigualdade social em torno de quem se beneficia de novas tecnologias que aumentam a divisão entre os privilegiados e os marginalizados na sociedade. Devemos considerar a possibilidade de que os implantes neurais possam ampliar excessivamente esse precipício.

Se questões éticas como essas não forem tratadas agora, olharemos para um futuro no qual a interação cérebro-computador criará mais problemas do que soluções, ou um no qual a Neuralink faliu porque não levou os cuidados sociais e éticos a sério o suficiente desde o começo.

A boa notícia é que ainda há tempo para que a Neuralink e outras iniciativas semelhantes desenvolvam uma estratégia robusta para inovação ética e responsável. Há recursos para ajudar — o Acelerador de Inovações de Risco, que é parte do meu Laboratório de Inovações de Risco, é apenas um deles. Mas a não ser que comecemos conversas mais amplas, mais profundas e mais informadas, a visão de futuro de Musk não parece tão cor de rosa quanto ele espera.

- Andrew Maynard é diretor do Laboratório de Inovação de Risco e autor do livro "Films from the Future: The Tecnology and Morality of Sci-Fi Movies", sem tradução no Brasil.

Tradução: Gabriela Leite

29/07/2019

https://outraspalavras.net/tecnologiaemdisputa/a-potencia-e-a-ameaca-das-redes-neurais/