Ao refletir sobre como os avanços na inteligência artificial
provavelmente mudarão a sociedade nos próximos anos, as pessoas tendem a sofrer
de duas falhas de imaginação. Ou não conseguem compreender o quão
transformadora essa tecnologia será, ou representam mal a natureza dessa
transformação, antropomorfizando a tecnologia e tratando a IA avançada como uma
espécie alienígena que ameaçará a sobrevivência humana.
É muito possível que os impactos mais significativos da IA
não virão de agentes superinteligentes que ameacem a sobrevivência humana,
mas sim de ferramentas superinteligentes que sirvam aos interesses humanos em
excesso.
Grande parte do discurso popular e acadêmico sobre IA e seus
perigos se concentra em como ela pode exacerbar riscos e preocupações já
existentes: por exemplo, em relação à desinformação, à privacidade ou a como os
sistemas de tomada de decisão perpetuam preconceitos contra grupos
marginalizados. Essas são discussões importantes que merecem atenção séria.
Mas, se forem as únicas discussões, serão excessivamente conservadoras. Elas
tratam a IA como uma tecnologia que ficará confinada às estruturas sociais
existentes, talvez agravando os problemas atuais, mas sem transformar
fundamentalmente a realidade.
Mas a IA não é, e nunca foi, apenas mais uma tecnologia.
Desde seus primórdios como um projeto sério de ciência e engenharia em meados
do século XX, ela sempre teve um objetivo revolucionário: construir máquinas
que não sejam apenas tão inteligentes quanto os seres humanos mais inteligentes
— que possam igualar todas as nossas habilidades intelectuais e comportamentais
mais impressionantes —, mas que sejam muito mais inteligentes.
No entanto, mesmo essa abordagem subestima a natureza
revolucionária deste projeto, pois considera a mente humana como o parâmetro de
comparação. Mas os humanos são apenas uma espécie de primata africano. O leque
de inteligências possíveis é inimaginavelmente vasto, muitas delas associadas a
capacidades que nem sequer conseguimos imaginar. Mal começamos a explorar esse
espaço.
Algumas pessoas duvidam da possibilidade de máquinas
superinteligentes. Elas acreditam que existe algo de especial na inteligência
humana que não poderia ser replicado em máquinas, ou que o desafio de
engenharia é simplesmente muito grande. Outras estão abertas à possibilidade em
princípio, mas pensam que ela está tão distante em nosso futuro, daqui a
séculos ou milênios, que não precisamos pensar ou nos preocupar com isso agora.
Discordo completamente. Uma vez que se aceita que não há
nada de mágico ou sobrenatural na origem da inteligência humana, que nossos
cérebros são apenas máquinas complexas de processamento de informações, a
possibilidade de uma IA superinteligente surge muito rapidamente. É por isso
que pioneiros da IA como Alan Turing e John von Neumann previram isso assim
que ficou claro que podíamos construir computadores digitais.
Naquela época, o ceticismo poderia ter sido razoável. Mas,
em cerca de setenta e cinco anos, passamos de calculadoras do tamanho de uma
sala para dispositivos de bolso acessíveis que podem manter conversas,
pesquisar na internet, escrever códigos complexos, produzir relatórios de
pesquisa detalhados sobre qualquer assunto, criar imagens, vídeos e áudios
hiper-realistas e superar a maioria dos humanos em muitas tarefas cognitivas.
Se você acha que o progresso vai parar por aqui, está desatento.
Estima-se que só este ano, as empresas de tecnologia gastarão cerca de 400
bilhões de dólares na construção de infraestrutura de IA. Para se ter uma
ideia, isso é quase o PIB anual da Dinamarca.
Ao mesmo tempo, muitas das mentes mais brilhantes do mundo
estão atualmente ganhando salários astronômicos para que isso aconteça. E as
forças armadas mais poderosas do mundo estão investindo pesadamente.
Existe uma questão pertinente sobre quando alcançaremos a
inteligência artificial superinteligente e se nosso paradigma dominante de IA
generativa e aprendizado profundo poderá nos levar até lá. Mas se você acha que
nunca a alcançaremos, ou que isso ainda está a séculos de distância, o ônus da
prova agora recai sobre você para justificar essa suposição.
A principal preocupação aqui é que estejamos criando uma
espécie alienígena superinteligente que será tão difícil de controlar e alinhar
aos nossos interesses que ameaçará a sobrevivência humana, escravizando-nos ou
eliminando-nos. Algumas pessoas descartam esses cenários por parecerem
"ficção científica". Essa objeção é equivocada. Um mundo com
inteligência artificial superinteligente será tão estranho que os cenários
deveriam soar como ficção científica. Seria questionável se não soassem. O
verdadeiro problema é que os cenários não são suficientemente estranhos.
Isso não significa negar que alinhar a IA seja um desafio
genuíno de engenharia. Mas o fato é que os sistemas de IA que implementamos até
agora estão extremamente bem alinhados com os interesses de seus criadores. O
foco obsessivo da mídia em raras exceções nos impede de enxergar o todo. E o
fato de ser desafiador treinar sistemas de IA para fazer exatamente o que
queremos não significa que, de alguma forma, acabaremos treinando-os para fazer
exatamente o oposto do que desejamos.
Stephen Hawking disse que "o surgimento de uma IA
poderosa será a melhor ou a pior coisa que já aconteceu à humanidade".
Existe uma tentação popular de pensar que, se evitarmos o
pior cenário possível — o de uma superinteligência catastrófica e desalinhada
—, alcançaremos a utopia. Mas isso é um equívoco. Um mundo com
superinteligências bem alinhadas geraria problemas profundos por si só. O risco
mais óbvio reside em sistemas superinteligentes sob o controle de indivíduos ou
facções que perseguem objetivos egoístas ou nefastos. Se o acesso aos melhores
sistemas for distribuído de forma desigual, isso concederia poderes inéditos e
sem precedentes a alguns indivíduos. O principal risco aqui não são sistemas de
IA desalinhados, mas sim sistemas de IA bem alinhados com os objetivos de agentes
mal-intencionados. Se você acha que as pessoas não explorariam essas
oportunidades, você sabe pouco sobre a natureza humana ou sobre a história.
Do nascimento à morte, os seres humanos são e sempre foram
dependentes de outros seres humanos para sobreviver e prosperar. Dependemos uns
dos outros para obter recursos, trabalho, proteção, conhecimento, arte,
cultura, sexo, amor, companhia e muito mais.
Essa interdependência não é incidental à condição humana.
Ela é, em parte, constitutiva dela. É uma das forças mais importantes que
moldaram a evolução da nossa espécie. É também o elo que mantém unida a
solidariedade e a cooperação humanas. É em grande parte porque dependemos uns
dos outros que somos forçados a nos importar com eles e com o que eles pensam
de nós . Mesmo as elites mais sociopatas e exploradoras são limitadas por sua
dependência da cooperação alheia. Em outras palavras, a interdependência
resolve o problema do alinhamento humano . É assim que alinhamos os interesses
humanos.
O que acontece com essa interdependência em um mundo de
máquinas superinteligentes? Quando existem máquinas que trabalham de forma
muito mais eficaz e eficiente do que as pessoas — que não faltam ao trabalho
por doença, não reclamam do chefe nem formam um sindicato? Quando as máquinas
podem expandir as fronteiras do conhecimento e da inovação humana sem viés
humano? Quando elas podem proporcionar sexo e companhia sem as complexidades,
os conflitos e as concessões irritantes que caracterizam os relacionamentos
humanos?
Este seria um mundo em que muitas pessoas, sejam
capitalistas ricos ou consumidores comuns, dependeriam cada vez mais de
máquinas e cada vez menos de outras pessoas. Seria um mundo onde o elo que
mantém a solidariedade e a cooperação humanas unidas se dissolveria
gradualmente.
Esse processo ameaçaria a sobrevivência humana, não porque
perderíamos o controle de máquinas superinteligentes, mas porque nossa
capacidade de controlá-las corroeria uma das principais características que nos
tornam humanos.