IA promete utopia, mas pode nos roubar o controle sobre o mundo

Imagine que fosse oferecido aos americanos este acordo: apertem um grande botão vermelho e a China se tornará a primeira hiperpotência mundial. Ela ultrapassará rapidamente os Estados Unidos em sofisticação técnica, capacidade de produção e geração de riqueza.

A China se tornará tão tecnologicamente avançada, e sua força de trabalho humana e robótica tão imensa, que os americanos ficarão com apenas a mais vaga compreensão do que está acontecendo na fronteira econômica, científica e talvez até geopolítica.

Mas as recompensas por abrir mão do nosso próprio poder são magníficas. A economia global decola, e os americanos ficam mais ricos do que nunca. Recebemos novas curas, energia barata e entretenimentos maravilhosos.

Máquinas realizam nosso trabalho e drogas que melhoram o humor protegem nossas mentes. Não precisamos lutar —talvez nem precisemos trabalhar— para viver longas vidas de luxo e conforto.

Aí está, então, a troca: ceder o controle e muito do que lutamos para ter pode ser nosso. Mas o controle, uma vez perdido, não volta mais.

Você apertaria o botão?

O debate sobre a inteligência artificial se concentra na possibilidade de uma catástrofe. Eu quero centrar a questão no sucesso: e se a IA funcionar não como seus arquitetos temem, mas como seus inventores e investidores esperam?

Afaste-se do "p(doom)" do Vale do Silício —a abreviação deles para a probabilidade de a IA extinguir a raça humana— e você poderá notar que a sua "p(utopia)" também tem problemas. Eles imaginam algo como o mundo que esbocei acima, mas mais extremo, com a IA desempenhando o papel atribuído à Pequim.

Uma colisão curiosa dessas visões ocorreu quando Jacob Coxon, 27, delator da OpenAI e da Anthropic, deu uma entrevista a Jon Stewart no "The Daily Show".

Coxon estava lá para alertar que a IA poderia matar a todos nós, mas quando Stewart zombou casualmente da "utopia futura" dos arquitetos de IA, ele o interrompeu. "Bem, eu acredito na utopia futura", disse Coxon. Mas o que ele afirmou em seguida soou mais sombrio: "Então, ouvi você falando sobre empregos. Acho que não haverá empregos".

Lá Fora

Receba no seu email uma seleção semanal com o que de mais importante aconteceu no mundo

Coxon continuou a descrever "o mundo que está sendo imaginado pelas pessoas que constroem essa tecnologia" como um mundo de "nenhum emprego. Renda universal alta. Os dividendos da produção econômica totalmente automatizada podem ser distribuídos entre humanos reais".

Essa visão, ou alguma variante dela, é bastante comum nas empresas de IA. Já ouvi isso com frequência. Mas a maioria das pessoas, frente a frente com essa ideia, fica incrédula ao ouvir esse mundo —no qual praticamente todo o trabalho cognitivo avançado é feito pela IA— descrito como utópico. Stewart certamente ficou. "Então, nós todos vamos apenas atuar em uma peça?", perguntou ele.

Tendo a ser cético em relação ao futuro sem empregos. Os seres humanos são excelentes em encontrar o que fazer. (Quem teria imaginado, em nosso exaustivo passado agrário, que fazer podcasts poderia ser um trabalho em tempo integral?)

Mas acho fácil imaginar como o controle e a compreensão humanos de grande parte da sociedade poderiam ser entregues às máquinas. Alguns desenvolvimentos recentes —um refletindo o limite externo do que a IA avançada pode fazer e o outro refletindo sua utilidade crescente na vida diária— revelam as maneiras como isso já está acontecendo.

Algumas semanas atrás, a OpenAI lançou de uma só vez mais de 700 manuscritos propondo soluções para quase 400 problemas matemáticos avançados. Se você não é matemático e não tem proximidade com nenhum, isso pode ter passado despercebido. Dentro da matemática, foi um terremoto.

Não sou matemático, mas meu pai é. A área da matemática em que ele trabalhava tinha a ver com a forma como os elétrons se movem através de cristais desordenados.

No centro do seu campo de atuação havia dois problemas que eram mais do que apenas não resolvidos; eles estavam, diz meu pai, "totalmente fora de alcance, ninguém tinha ideia de como resolvê-los". Os sistemas da OpenAI os resolveram em uma tarde. "É o fim da matemática como a conhecemos", ele me enviou por mensagem de texto. "É a primeira vez que fico feliz por ter me aposentado."

A recém-formada Associação de Matemática Humana, que tem cerca de mil membros, divulgou rapidamente um comunicado: "Os matemáticos não pediram que esse trabalho fosse feito". É uma frase interessante.

Deveriam os matemáticos poder decidir quais problemas de matemática são ou não resolvidos? Como pesamos os benefícios e custos de um mundo onde a fronteira da matemática avança rapidamente, mas os humanos não a compreendem mais?

Imagine o processo da OpenAI sendo executado repetidamente, ao longo de anos: enxames de IA resolvendo problemas que nenhum humano resolveu, em seguida, usando essas soluções para propor novos problemas, que são resolvidos por outros enxames de IA que absorveram o trabalho feito por seus predecessores, o que permite a formulação de ainda mais problemas, e assim por diante.

É muita matemática nova para os humanos compreenderem, mas as IAs podem absorvê-la facilmente, e de fato o fazem, impulsionando avanços nas ciências dos materiais e na produção de energia. Os humanos não entendem toda essa nova ciência, mas se beneficiam dela.

Esse mundo é tão diferente do qual habitamos agora? Poucos de nós entendem muito sobre as fronteiras do conhecimento humano. Não consigo compreender remotamente a matemática que meu pai fazia. Quão diferente é se nenhum de nós conseguir entender a matemática que a IA faz?

E ainda assim, um mundo onde a fronteira mais distante do conhecimento e do progresso reside em sistemas algorítmicos, em vez de em mentes humanas, de fato me parece diferente. O controle humano —que é, a meu ver, inseparável da compreensão humana— vale alguma coisa, não vale?

As histórias mais sombrias sobre a IA muitas vezes se concentram em um único momento no qual a superinteligência foge do nosso controle e começa a planejar a nossa destruição. Mas o cenário que considero mais provável e mais irresistível é chamado de "desempoderamento gradual".

Nessa narrativa, não há um momento único em que a humanidade perde o controle. Em vez disso, há uma progressão de pequenos momentos em que nós, voluntariamente, cedemos o controle porque é a coisa racional a se fazer.

As empresas transferem primeiro mais do seu trabalho e depois mais das suas tomadas de decisão para IAs avançadas porque isso lhes dá uma vantagem competitiva.

Os governos entregam mais decisões de campo de batalha à IA porque isso torna suas forças mais rápidas e letais. As empresas de IA recorrem ao autoaperfeiçoamento recursivo —onde a IA cria autonomamente o próximo modelo de IA— porque isso as coloca à frente dos concorrentes.

A chave para esse processo é a pressão competitiva. Empresas, governos e laboratórios de IA que resistem são superados por pares que dão às máquinas mais controle e autonomia.

Os avanços nos sistemas de IA —e, futuramente, em drones e robótica controlados por IA— continuam expandindo a quantidade de trabalho que as IAs podem fazer melhor que os humanos. Mesmo presumindo que elas permaneçam úteis e dóceis, cada vez mais o funcionamento básico da sociedade escapa do alcance humano.

Já vimos isso antes. Houve um tempo em que podíamos resistir ao uso de email ou smartphones, mas, para a maioria de nós, esse tempo já passou. É uma desvantagem grande demais na sociedade moderna para a maioria de nós abrir mão dessas tecnologias, mesmo que lamentemos suas consequências em nossas vidas. O mesmo provavelmente se provará verdadeiro com a IA.

Talvez seja apenas assim que sempre foi. A história da sociedade moderna não é a de humanos trocando a compreensão e o controle de seu mundo pelo avanço tecnológico e econômico? Eu não trocaria de lugar com meus ancestrais, embora a sociedade seja menos legível para mim do que era para eles.

O fato de o ar-condicionado ou as máquinas de ressonância magnética funcionarem é suficiente. Eu não preciso saber, em um nível fundamental, como eles funcionam. Mas essa história tem sido, até agora, uma história fundamentalmente humana. Esse dia pode estar chegando ao fim.

É muito fácil responder à pergunta se queremos uma IA que mate todos nós. Não queremos. Mas queremos uma IA que enriqueça a todos nós, se o custo for o nosso controle e compreensão sobre o mundo em que vivemos?

Qual é o valor para os humanos de manter a primazia sobre a nossa própria luta, e como a pesamos contra o alívio dessa mesma luta? Eu quero as curas e os teoremas e até, em algum nível, os assistentes digitais capacitados. E também acredito que a luta pelo progresso humano é essencial para a história humana, e até mesmo para a alma humana.

Não acho essas perguntas fáceis de responder. Nem mesmo as acho fáceis de formular com clareza. Mas, neste exato momento, estamos em um caminho de permitir que sejam respondidas por nós, em incontáveis pequenos e na maioria despercebidos momentos, quando fará sentido competitivo, pessoal ou político, para os humanos darem um passo atrás e deixarem as máquinas darem um passo à frente.

Em seu muito mal compreendido livro "O Fim da História e o Último Homem", Francis Fukuyama levantou uma questão semelhante. Parecia improvável, pensava Fukuyama, que qualquer sistema político ou econômico superasse o capitalismo e a democracia liberal em impulsionar a prosperidade material. A questão era se existiam impulsos humanos que a democracia liberal não apenas falharia em satisfazer, mas trairia fundamentalmente.

Fukuyama achava que existiam: o homem não queria apenas um contracheque e um apartamento, ele queria reconhecimento e luta. Ele queria ser visto não apenas como igual a outros homens em algum sentido espiritual ou político, mas como melhor que os outros homens.

A luta por reconhecimento é um impulso humano fundamental. E a incapacidade das sociedades tecnocráticas e liberais até mesmo de compreender esse anseio poderia desestabilizá-las.

"Nós, habitantes de países democráticos, estamos tão acostumados a relatos que reduzem a motivação a causas econômicas, tão burgueses em nossas percepções, que nos surpreendemos ao descobrir quão totalmente não econômica é a maior parte da vida política", escreveu Fukuyama. "De fato, não temos sequer um vocabulário comum para falar sobre o lado orgulhoso da natureza humana que é responsável por impulsionar a maioria das guerras e conflitos políticos."

A IA parece, para mim, colocar a questão de Fukuyama de uma forma ainda mais aguda. Se ela se desenrolar como seus defensores esperam, promete níveis de prosperidade e possibilidades que os sistemas políticos convencionais nunca imaginaram.

Mas o faz à custa de trair o impulso humano por reconhecimento e luta. Fukuyama se preocupava com a democracia liberal porque sua promessa de igualdade, mesmo quando a igualdade pudesse ser alcançada, não seria suficiente.

Ele via a democracia liberal como construída sobre uma concepção incompleta do que os humanos realmente querem. Mas a IA vai além: ela promete a inferioridade como condição para a prosperidade.

Stewart percebeu esse problema imediatamente. "Se me permite apontar uma falha nessa utopia", disse ele a Coxon, "eu acho que, na maior parte, mesmo quando estamos fazendo trabalhos dos quais não gostamos particularmente, os humanos gostam de se sentir relevantes... Quando pessoas da minha idade se aposentam, elas muitas vezes morrem, porque não estão mais conectadas a um propósito."

Coxon, para seu crédito, não se esquivou da questão. Muitas pessoas odeiam seus empregos, disse ele. E eu acrescentaria: muitas pessoas amam a aposentadoria, embora detestem o desemprego. Mas não creio que o problema aqui seja mais bem compreendido como empregos, ou pelo menos não unicamente como empregos.

Há muito que os humanos preferirão fazer uns pelos outros e uns com os outros, mesmo que as IAs possam fazê-lo melhor. O fato de que uma máquina pode vencer um grande mestre de xadrez não significou o fim dos humanos jogando xadrez. Mas o senso de propósito, controle e primazia da humanidade é algo mais difícil e inefável de substituir.

As democracias liberais estão ameaçadas hoje não porque falharam em entregar a prosperidade que era inimaginável aos nossos predecessores, mas porque permitiram que tanta desigualdade, alienação e impotência se agravassem em meio a essa prosperidade.

Queremos riqueza, mas a queremos em parte porque ela promete nos conceder dignidade. Você pode ver, na fúria dos ricos politicamente radicalizados, o quão insuficiente é a riqueza quando separada do reconhecimento que eles acreditavam que ela lhes concederia.

Não estou dizendo que a IA vai, ou mesmo que pode, criar esse mundo. Mas é o mundo que muitos de seus arquitetos vislumbram.

A visão deles para a IA não é meramente que ela substitua o trabalho de colarinho branco, mas que corra à frente de nossas mentes mais brilhantes; e, a cada dia que passa, a cada novo modelo que é lançado, a cada nova evidência de que a IA pode resolver problemas que não conseguimos, isso se torna um pouco mais plausível.

As pessoas que constroem a IA, disse Stewart, "não parecem particularmente ter uma compreensão da condição humana". Se lhes dessem a chance, quase todos eles apertariam o botão. Você apertaria?

LINK PRESENTE: Gostou deste texto? Assinante pode liberar sete acessos gratuitos de qualquer link por dia. Basta clicar no F azul abaixo.