Pensar a evolução da tecnologia foi obra de ficção desde que começamos a escrever livros e a produzir filmes. Na atualidade, falamos sobre como as coisas serão daqui a décadas, mas o assunto principal é no que está próximo, no que estamos quase alcançando, nas tendências dos próximos anos.

Talvez seja assim porque, finalmente, chegamos ao século XXI. Agora, pensar nos efeitos das tecnologias mais avançadas que cogitamos é se preocupar com nosso futuro próximo.

Mas com evoluções tão rápidas, que acontecem quase diariamente, existe a possibilidade de perdemos o controle do caminho que estamos trilhando?

O risco de perder o controle não é uma ideia nova

Talvez você não saiba, mas o filósofo Sócrates era contra o uso da escrita para registrar o conhecimento. Ele acreditava que devíamos transmiti-lo oralmente, pois tinha receio que perdêssemos o controle sobre ele. Tudo que sabemos do pensamento socrático foi escrito por Platão, que era seu discípulo e desenvolveu uma visão contemporânea a de seu mestre.

De certo modo, isso ocorreu. Nenhum de nós conhece sobre tudo e, ao mesmo tempo, não teríamos desenvolvido as tecnologias atuais sem nos especializarmos em áreas diferentes e, desse modo, permitir um crescimento orgânico do conhecimento.

O dilema que vivemos hoje é parecido com o idealizador da ideia de que “tudo o que sei é que nada sei”. A tecnologia evolui rapidamente, e com o processamento dos computadores conquistamos grandes avanços em períodos cada vez mais curtos.

Com a inteligência artificial e o machine learning, daremos um salto exponencial na velocidade que produzimos conhecimento e, se a escrita já foi motivo de receio na Grécia antiga, o que dizer dessa nova realidade?

O problema do novo mundo

Acreditamos que tudo pode ser resolvido com a aplicação de novas tecnologias. Mas elas não são neutras, pois incorporam nossas políticas e preconceitos, estendem-se além dos limites das nações e jurisdições legais e excedem cada vez mais a compreensão, até mesmo a de seus criadores. Como resultado, entendemos cada vez menos sobre o mundo, pois essas tecnologias poderosas assumem mais controle sobre nossas vidas cotidianas.

Através das ciências e da sociedade, na política e na educação, na guerra e no comércio, as novas tecnologias não estão apenas aumentando nossas habilidades, elas estão moldando-as e direcionando-as para melhor e para pior.

Isso foi objeto de inspiração para vários livros e filmes, do “Exterminador do Futuro” até “Gattaca – A experiência Genética”. Em decorrência de abordarmos tanto o assunto, ele faz parte dos receios de muitos de nós — ao mesmo tempo em que nos empolgamos com os benefícios da tecnologia.

A realidade presente

Em outubro de 2016, os algoritmos reagiram às manchetes negativas sobre as negociações do Brexit com sugestões de compra e venda que provocaram uma queda de 6% da libra em relação ao dólar. Tudo isso em menos de dois minutos. Em seguida, como mágica, a moeda se recuperou quase imediatamente. Saber qual algoritmo específico causou a falha é quase impossível.

Em abril de 2013, a Associated Press enviou um tweet aos seus 2 milhões de seguidores informando duas explosões na Casa Branca que, supostamente, haviam ferido o presidente Obama. A mensagem foi resultado da ação de um hacker que, posteriormente, foi assumida pelo Exército Eletrônico Sírio.

Logo outros jornalistas inundaram o site com alertas de que a mensagem era falsa. Os algoritmos que seguem as notícias de última hora não tinham esse discernimento, o que ocasionou uma queda expressiva na bolsa de valores estadunidense. Antes que a maioria dos espectadores tivesse visto a mensagem, o índice caiu 150 pontos em menos de dois minutos — antes de retornar ao seu valor anterior.

Quando nossos meios de comunicação e toda a economia global está nas mãos da tecnologia, estamos propensos a enfrentar riscos que cada vez mais fogem de nossas mãos.

A dimensão da questão

Obviamente, estamos falando de sistemas que estão na adolescência de seu desenvolvimento. Mas embora possamos esperar uma rápida evolução desses algoritmos com a evolução da inteligência artificial e do aprendizado por máquina, sua aplicação também tende a aumentar de abrangência e potencializar o problema.

O reconhecimento facial aliado à inteligência das máquinas logo vai permitir que elas identifiquem e aprendam com as mais sutis alterações de expressão nos rostos humanos e, desse modo, elas poderão avaliar como reagimos às emoções. Isso é fantástico, pois esse conhecimento será absorvido por nós e poderemos aprender a reagir melhor.

Ao mesmo tempo, os registros das emoções de todos os humanos estarão armazenados em bancos de dados. Não é assustador pensar que as máquinas terão dados precisos e detalhados sobre as questões mais íntimas de cada um de nós? E que outros humanos terão acesso a isso?

Logo, nossos movimentos, respiração, batimentos cardíacos, outros dados de diagnósticos e recursos médicos poderão ser monitorados o tempo todo para serem analisados por inteligência artificial, filtrados e enviados para especialistas espalhados pelo mundo.

Até mesmo dados sobre nossos sonhos, nossos terrores noturnos, nossas madrugadas suadas e a quantidade de litros de leite que guardamos na geladeira estarão entre os dados usados para compreender as nossas necessidades e sugerir soluções para os mais variados problemas. Tudo processado por esses mesmos algoritmos que promoveram quedas na bolsa.

O que esperar do futuro?

Os sistemas computacionais enfatizam um dos aspectos mais poderosos da humanidade: nossa capacidade de agir efetivamente no mundo e moldá-lo aos nossos desejos. Ao mesmo tempo, a perfeição nunca foi uma qualidade humana. A tecnologia pode nos ajudar a chegar a ela, mas depende de nossa capacidade de projetá-las para alcançar esse objetivo.

Nesse trajeto, precisaremos, mais uma vez, nos arriscar rumo ao desconhecido — como se negou Sócrates e se aventurou Platão. Curiosamente, parece que os computadores não estão aqui para nos dar respostas, mas para nos ajudar a fazer as perguntas certas. Segundo alguns filósofos, é essa a função da filosofia: se esforçar mais para formular melhor as questões do que propriamente respondê-las.

Desse ponto de vista, a falta de controle pode não ser uma limitação da evolução da tecnologia, mas da racionalidade humana. E, a partir deste ponto, ser vista como uma oportunidade: a internet surgiu como uma ferramenta do Departamento de Defesa dos EUA para conectar militares a cientistas em plena Guerra Fria. As coisas perderam “um pouco” o controle quando ela foi aberta ao público em 1987 e, hoje, nossa vida é baseada nela.

A moral da história é que nem sempre perder o controle significa algo ruim – principalmente em uma era onda as máquinas podem ir muito além da imaginação humana. Criar futuros antes inimagináveis pode ser uma simples questão de aproveitar oportunidades, em vez de buscar o controle total.

Algumas respostas sobre nós e o universo estão distantes, outras inacessíveis e outras absurdamente claras. Embora busquemos a tranquilidade e o conforto de manter o controle sobre as coisas, nunca estivemos nem perto dele — nem tão próximos.

Se as tecnologias que estão por vir já são intrigantes, o que dizer do futuro que já chegou? Confira como essa evolução tem afetado o mercado de trabalho atual no artigo “Vaga aberta: o impacto das novas tecnologias no mercado de trabalho“.