Quem tem medo da inteligência artificial?

O médico, psicoterapeuta e escritor Humberto Mariotti é um pesquisador independente da teoria da complexidade e as suas aplicações, e um dos fundadores da MZ Complexity Thinking. No artigo a seguir, ele propõe reflexões sobre abordagens e análises de avanços tecnológicos, especialmente no campo da inteligência artificial, indo dos extremos ao centro e sem evitar pontuar a incapacidade humana no que tange a aproveitar o potencial destes avanços na efetiva solução dos problemas sociais. Confira abaixo:

 

Quem tem medo da inteligência artificial?

Humberto Mariotti

Em relação à inteligência artificial, em particular, e à tecnologia, em geral, muitas pessoas se colocam em extremos. 

Há pessoas que não têm medo da tecnologia mas deveriam ter; são aquelas que a cultuam de um modo ignorante e incondicional. O exagero dessa abordagem deu origem a uma espécie de tecnofilia distorcida.

Há pessoas que têm medo da tecnologia mas não deveriam ter, e lutam contra ela de uma forma ignorante e incondicional. São os neoluditas. O exagero dessa atitude fez surgir um tipo de tecnofobia que é apenas parcialmente justificável. Como se sabe, os luditas eram operários têxteis ingleses que, no início do século 19, destruíam peças de maquinário têxtil, na suposição de que sua introdução levaria à perda de seus empregos.

É claro que entre esses dois extremos há um espectro de nuanças. Entre elas estão pessoas que estudam as tecnologias e suas interfaces com os seres humanos com profundidade e pragmatismo. Isso é especialmente verdadeiro em relação à inteligência artificial.

Essas visões extremistas estão erradas, porque seu radicalismo às leva a não considerar que a tecnologia deve servir às pessoas e mesmo entrar em uma espécie de “simbiose” com elas – e não o contrário. Essa é uma afirmação óbvia, mas precisamente por essa razão tão difícil de perceber e entender. 

Além disso, não devemos perder de vista o descompasso entre nossa grande habilidade para criar novas tecnologias e nossa também grande inabilidade para resolver nossos problemas sociais e ambientais. Como se sabe, essa inabilidade leva à inacessibilidade de grande parte da população mundial aos benefícios dessas tecnologias, o que em muitos casos leva à exacerbação desses mesmos problemas sociais.

Esse é um problema ainda não resolvido e, como mostra a experiência acumulada, dificilmente será, não importa o quão sofisticados sejam as inteligências e tecnologias atualmente disponíveis, sejam elas naturais ou artificiais.

Estas considerações iniciais estão estreitamente ligadas a alguns pontos que serão examinados a seguir.

Progressões para “finais decisivos”. Hegel está entre os pensadores que mais habilmente usaram a noção de progressão. A seu ver, nossa história inclui o que ele chamou de “os grandes momentos do futuro dialético da realidade”: a Ideia, a Natureza e finalmente o Espírito.

Esse conceito ainda é amplamente adotado sob a forma de grandes narrativas sobre sequências que se dirigem a um suposto “ponto final”, no sentido triunfalista, ameaçador ou mesmo apocalíptico. Essas narrativas sempre falam sobre o fim de algum “período” ou “era” e o começo de outro. Vejamos dois exemplos bem conhecidos.

Na visão determinista de Marx, a história evoluiria de acordo com uma progressão que começaria com uma revolução necessariamente violenta, destinada a destruir o capitalismo e instituir a chamada “ditadura do proletariado”. Em seguida as classes sociais, o Estado e a propriedade privada desapareceriam; por fim, a sequência terminaria com o triunfo do “comunismo utópico”. Por incrível que pareça (e milhões de mortes depois), legiões de pessoas ainda acreditam nessa fantástica história da carochinha.

Na visão determinista e mística de Teilhard de Chardin, o universo evoluiria do caos primordial até o surgimento da consciência humana. A seguir viria a integração de todo o pensamento humano em uma única rede inteligente (a noosfera). Todo esse processo seria impulsionado por uma força e terminaria em um ponto de convergência: o Ponto Ômega.

Em geral essas sequências se referem a um futuro que jamais chega, mas que é sempre adiado por meio de racionalizações várias. Estas têm muitos pontos de contato com as múltiplas manifestações da ideia de progresso.

Já falei repetidamente sobre a ideia de progresso em textos anteriores. Uma de suas variantes mas conhecidas é a “visão Whiggish da história”, cujo nome veio do Whig, o tradicional partido político britânico. Segundo esse ponto de vista, a história progride inevitavelmente na direção de uma sociedade mais liberal, mais científica e mais democrática. Os grandes homens são classificados de uma forma dicotômica/maniqueísta: de um lado estão os heróis, que lutam pela causa do progresso; do outro estão os vilões, que se opõem a ele.

No que se refere à condição humana, a visão Whiggish de progresso afirma que no futuro seremos capazes de e entender tudo o que há para ser entendido; só depende de nossos esforços. A inteligência artificial nos capacitará a entender aquilo que nossos cérebros não conseguirem.

Segundo o historiador Ian Beacock, a indústria tecnológica conta uma história Whiggish sobre o progresso tecnológico da humanidade: tudo será “medido e ‘engenheirado’ até um estado de perfeita eficiência” – exatamente como na falecida fantasia taylorista.

É espantoso verificar que, em meio a tudo isso, os seres humanos o mundo natural são frequentemente vistos como detalhes incômodos. O mesmo vale para as guerras, as alterações climáticas, a escassez de água, a violência crescente e problemas correlatos como as imensas migrações de refugiados. Também é espantoso perceber que tantas pessoas ainda acreditam que as mudanças são sempre para melhor.

“Pós-humanismo”. A proposta do movimento “pós-humanista” é melhorar o atual status da condição humana. Ao contrário do que parece, não se trata de retomar a eugenia para produzir uma raça humana “melhorada” ou “mais pura”, como no projeto nazista. O objetivo agora é produzir, por meio de uma série de tecnologias, seres humanos mais fortes, mais saudáveis, mais poderosos e virtualmente imortais.

O projeto “pós-humanista” é um tipo de visão Whiggish de progresso, que levaria a uma “sociedade pós-humana” permeada por coisas como transporte autônomo, máquinas “inteligentes”, Internet de tudo, conteúdos “imersivos”, reconhecimento de voz, nanotecnologia, comunicação global, realidade virtual, próteses internas e externas (membros artificiais, válvulas cardíacas, lentes de contato, pacemakers, lentes intraoculares, manipulação genética, vida artificial e assim por diante). Muitos desses dispositivos e práticas já estão em uso.

Por outro lado nós, humanos, somos cada vez mais vistos como não importantes em termos pragmáticos – mas não em termos retóricos, pois esses progressos são sempre apresentados como projetados em nosso benefício. Na prática diária, contudo, somos cada vez mais vistos como consumidores (nos melhores cenários) ou, nos piores cenários, como números a serem inscritos nas planilhas de gestão de risco.

Por favor não me entendam mal; as coisas não são tão esquemáticas assim. Há duas vertentes principais do “pós-humanismo”. A primeira, sobre a qual acabei de falar, tem entre suas fontes de inspiração algumas das ideias mais insólitas da filosofia de Nietzsche, e segue o modelo clássico das progressões triunfalistas. Vimos que de acordo com elas as tecnologias prometem, entre muitas outras coisas, a “cura” para a velhice e uma expectativa de vida virtualmente ilimitada.

Esses desenvolvimentos seguem a visão dionisíaca de Nietzsche, complementada pela ideia de progresso: força, eterna juventude e um conjunto de “superpoderes”, tudo isso implantado em nossos corpos ou de alguma maneira a eles conectados. Essa sequência de estágios culminaria com a “condição pós-humana”, uma espécie de arremedo do super-homem nietzschiano. O preço a pagar seria a sujeição à tecnologia.

Essa vertente é um movimento fragmentado e em alguns aspectos delirante, destinado a ultrapassar a condição humana. Seu projeto pretende submeter-nos a uma espécie de “tecnocracia benevolente”, seja lá o que essa expressão possa significar. Minha crítica é dirigida contra essas ideias.

Tudo parece indicar que o movimento pós-humanista/mecanicista pretende transformar-nos em indivíduos cercados e permeados por melhorias tecnocomputacionais, muitas das quais são claramente necessárias mas também claramente insuficientes. Nossos problemas sociais e ambientais, por exemplo, não fazem parte de sua agenda. Além disso, a chamada “tecnocracia benevolente” parece estar em vias de ser contaminada por várias tendências místicas/religiosas, que por sinal são inerentes à natureza humana.

Em consequência corremos o risco de chegar a uma “tecno-teocracia” que, como acontece com as manifestações de poder, inscreverá seus códigos em nossos corpos. Para citar apenas dois exemplos, Michel Foucault já havia estudado esse fenômeno em seu livro Vigiar e punir. Bem antes dele, Franz Kafka já havia feito o mesmo no plano literário em suas histórias A metamorfose e Na colônia penal.

Parece que estamos caminhando para a imposição de uma espécie de nova ortodoxia mesclada com autoritarismo. Ela cria valor não por meio da produção de conhecimento mas pela colocação de novos produtos nos mercados, o que inclui corpos humanos vistos como commodities. É claro que, se implementada apenas dessa maneira, a tecnologia perderá muitos dos benefícios que já nos proporciona e proporcionará no futuro.

A outra vertente de “pós-humanismo”, acima mencionada, é reflexiva, crítica e portanto merece atenção. Inclui um bom número de autores importantes, alguns dos quais estão nas sugestões de leitura deste post. Espero falar sobre ela em um futuro próximo, dados os seus pontos de contato com a teoria da complexidade.

Na verdade, em minha opinião ela nem deveria se chamar de “pós-humanista” para não se contaminar com a abordagem “nietzschiana”. Sua proposta principal é examinar a “simbiose” entre biologia e tecnologia ou, em outras palavras, o crescente hibridismo entre seres humanos e estruturas mecânicas/computacionais. Em termos cognitivos, essa abordagem observa e estuda a superação da expansibilidade limitada do nosso crânio e a consequente expansão da mente para bem além dele. A Internet é um exemplo.

Portanto, trata-se de seres humanos tecnicamente “melhorados” por meio dos vários recursos tecno/computacionais/protéticos acima referidos – mas dessa vez com algum realismo em termos de perspectivas propostas. De acordo com alguns autores, o pós humanismo vê a época atual como o terceiro ciclo da evolução humana, e não como a realização de alguns delírios dionisíacos ou da vontade de poder. 

Modos coletivos de pensar. Dito isso, é tempo de decidir se devemos pensar com nossas próprias cabeças ou aceitar sem crítica ideias e políticas que vêm já prontas de fora. Precisamos saber até que ponto somos capazes de entender e praticar o que é bom para a maioria de nós – como propõem os filósofos utilitaristas –, ou se estamos condenados a fazer sempre as piores escolhas em termos políticos, científicos e sociais.

Isso depende muito do grupo do qual fazemos parte. O filósofo Félix Guattari propôs uma diferenciação micropolítica entre grupos sujeito e grupos sujeitados. Os grupos sujeito podem lidar com suas relações com determinações externas e com suas próprias dinâmicas internas; têm um grau significativo de autonomia para pensar e agir. Os grupos sujeitados tendem a ser manipulados por determinações externas e se deixam controlar por suas próprias dinâmicas internas (como acontece, por exemplo, com o groupthink).

Portanto, na medida em que a sociedade pós-humanista, influenciada por máquinas superinteligentes, pode colocar nosso lado não mecânico “fora da equação”, as sociedades humanas se transformam cada vez mais em grupos sujeitados. Como se sabe, em termos de governança (e não só neles) muitos de nossos atuais “superhomens” políticos e tecnológicos não passam de pesos-pena intelectuais.

Assim, a questão real não é saber se a tecnologia é virtuosa ou problemática, mas sim identificar e entender as consequências de nossas atitudes em relação a ela. A destrutividade que vem permeando o Antropoceno seria um bom ponto de partida para essa discussão, mas de modo algum o único.

Superinteligência. Como acontece com vários outros autores, o filósofo Nick Bostrom adverte que considerar a inteligência artificial com despreocupação é uma atitude temerária. Para ele, “ao contrário de outras tecnologias, as inteligências artificiais não são meras ferramentas. São agentes potencialmente inteligentes”. Vários outros discordam.

Como se sabe, o objetivo da inteligência artificial é imitar a natureza e superar as limitações do cérebro humano. Em outras palavras, há um consenso de que surgirão máquinas superinteligentes capazes de ultrapassar as capacidades cognitivas do homem; essa superinteligência transformará radicalmente o mundo. A ideia de que a inteligência artificial ampliará o crescimento tecnológico com imensa rapidez e profundidade tem sido chamada de “singularidade tecnológica”, ou simplesmente “singularidade”.

Tudo isso certamente trará benefícios para o lado quantitativo, mecânico e operacional de nossas vidas – mas, como já vimos, certamente não será tão benéfico para nossas necessidades sociais, afetivas e emocionais. Tudo indica que a tecnologia não será suficiente para proporcionar uma qualidade (e não só uma quantidade) de vida razoável para a maioria das pessoas.

Em outros termos, a esse respeito parece que a inteligência das máquinas, por mais sofisticada que seja, também não conseguirá o que a inteligência humana até agora não conseguiu. Por enquanto (e sempre em relação a esse aspecto específico), a superinteligência tecnológica parece ser um conjunto de promessas parcialmente cumpridas, apesar de toda a sua utilidade.

Portanto, a questão central é decidir o que devemos chamar de progresso: o humano/social ou o mecânico/tecnológico. É claro que o cenário ideal seria aquele em que ambos estivessem presentes e interatuantes.

Enquanto isso não ocorre, continuaremos a perder nossa capacidade de viver em paz uns com os outros e com o mundo natural. Isso implica a perda da maioria dos atributos que caracterizam a condição humana – e não por causa das máquinas, mas por nossas atitudes em relação a elas e a nós mesmos.

É importante saber disso, porque a experiência mostra que um grande número de pessoas (talvez a maioria) com muita frequência não estão conscientes do que acontece ao seu redor. É o que certa vez escreveu o cientista cognitivo Marvin Minsky: “Nenhum computador jamais teve consciência do que faz... mas, na maior parte do tempo, nós também não”. Ainda assim, sempre haverá quem tenha algo a perder.

É óbvio que a inteligência – humana ou artificial – não pode ser absoluta. Em termos relativos ela sempre inclui um certo grau de estupidez, que é o ponto de comparação a partir do qual podemos chamá-la de inteligência.

Assim, não podemos esperar que a inteligência artificial possa algum dia superar completamente a inteligência humana, a menos que ela também possa superar completamente a estupidez humana. Nesse caso, seria concebível que muitas de nossas incapacidades desaparecessem.

No entanto, de acordo com muitas mentes sábias a estupidez humana é insuperável. Foi o que Albert Einstein certa vez disse a Fritz Perls: “Duas coisas são infinitas – o universo e a estupidez humana”. E ele não estava brincando, como se pode conformar pela leitura de vários de seus escritos.

Sabemos que muitos autores influentes questionam a plausibilidade de uma superinteligência gerada pela tecnologia. Mas nada nos impede de especular um pouco. Talvez algum dia as máquinas possam ser mais sensíveis do que nós, humanos (ao menos no caso de certos indivíduos isso não parece tão difícil assim). Seja como for, seria bom se os computadores pudessem a menos nos ensinar como mitigar as más consequências de nossos usos da tecnologia. Mas isso talvez seja esperar demais.

Para resumir, considero-me um admirador do progresso tecnológico. Mas não posso dizer o mesmo quando se trata do progresso humano, porque milênios de história mostram com clareza a nossa incapacidade de resolver nossos problemas sociais e ambientais – e é claro que não podemos culpar a tecnologia por isso.

Em outras palavras, a esse respeito ainda não somos humanos suficientemente inteligentes – nem muito menos pós-humanos superinteligentes.