a interdependência humana

 

Ao refletir sobre como os avanços na inteligência artificial provavelmente mudarão a sociedade nos próximos anos, as pessoas tendem a sofrer de duas falhas de imaginação. Ou não conseguem compreender o quão transformadora essa tecnologia será, ou representam mal a natureza dessa transformação, antropomorfizando a tecnologia e tratando a IA avançada como uma espécie alienígena que ameaçará a sobrevivência humana.

É muito possível que os impactos mais significativos da IA ​​não virão de agentes superinteligentes que ameacem a sobrevivência humana, mas sim de ferramentas superinteligentes que sirvam aos interesses humanos em excesso.

Grande parte do discurso popular e acadêmico sobre IA e seus perigos se concentra em como ela pode exacerbar riscos e preocupações já existentes: por exemplo, em relação à desinformação, à privacidade ou a como os sistemas de tomada de decisão perpetuam preconceitos contra grupos marginalizados. Essas são discussões importantes que merecem atenção séria. Mas, se forem as únicas discussões, serão excessivamente conservadoras. Elas tratam a IA como uma tecnologia que ficará confinada às estruturas sociais existentes, talvez agravando os problemas atuais, mas sem transformar fundamentalmente a realidade.

Mas a IA não é, e nunca foi, apenas mais uma tecnologia. Desde seus primórdios como um projeto sério de ciência e engenharia em meados do século XX, ela sempre teve um objetivo revolucionário: construir máquinas que não sejam apenas tão inteligentes quanto os seres humanos mais inteligentes — que possam igualar todas as nossas habilidades intelectuais e comportamentais mais impressionantes —, mas que sejam muito mais inteligentes.

No entanto, mesmo essa abordagem subestima a natureza revolucionária deste projeto, pois considera a mente humana como o parâmetro de comparação. Mas os humanos são apenas uma espécie de primata africano. O leque de inteligências possíveis é inimaginavelmente vasto, muitas delas associadas a capacidades que nem sequer conseguimos imaginar. Mal começamos a explorar esse espaço.

Algumas pessoas duvidam da possibilidade de máquinas superinteligentes. Elas acreditam que existe algo de especial na inteligência humana que não poderia ser replicado em máquinas, ou que o desafio de engenharia é simplesmente muito grande. Outras estão abertas à possibilidade em princípio, mas pensam que ela está tão distante em nosso futuro, daqui a séculos ou milênios, que não precisamos pensar ou nos preocupar com isso agora.

Discordo completamente. Uma vez que se aceita que não há nada de mágico ou sobrenatural na origem da inteligência humana, que nossos cérebros são apenas máquinas complexas de processamento de informações, a possibilidade de uma IA superinteligente surge muito rapidamente. É por isso que pioneiros da IA ​​como Alan Turing e John von Neumann previram isso assim que ficou claro que podíamos construir computadores digitais.

Naquela época, o ceticismo poderia ter sido razoável. Mas, em cerca de setenta e cinco anos, passamos de calculadoras do tamanho de uma sala para dispositivos de bolso acessíveis que podem manter conversas, pesquisar na internet, escrever códigos complexos, produzir relatórios de pesquisa detalhados sobre qualquer assunto, criar imagens, vídeos e áudios hiper-realistas e superar a maioria dos humanos em muitas tarefas cognitivas.

Se você acha que o progresso vai parar por aqui, está desatento. Estima-se que só este ano, as empresas de tecnologia gastarão cerca de 400 bilhões de dólares na construção de infraestrutura de IA. Para se ter uma ideia, isso é quase o PIB anual da Dinamarca.

Ao mesmo tempo, muitas das mentes mais brilhantes do mundo estão atualmente ganhando salários astronômicos para que isso aconteça. E as forças armadas mais poderosas do mundo estão investindo pesadamente.

Existe uma questão pertinente sobre quando alcançaremos a inteligência artificial superinteligente e se nosso paradigma dominante de IA generativa e aprendizado profundo poderá nos levar até lá. Mas se você acha que nunca a alcançaremos, ou que isso ainda está a séculos de distância, o ônus da prova agora recai sobre você para justificar essa suposição.

 

A principal preocupação aqui é que estejamos criando uma espécie alienígena superinteligente que será tão difícil de controlar e alinhar aos nossos interesses que ameaçará a sobrevivência humana, escravizando-nos ou eliminando-nos. Algumas pessoas descartam esses cenários por parecerem "ficção científica". Essa objeção é equivocada. Um mundo com inteligência artificial superinteligente será tão estranho que os cenários deveriam soar como ficção científica. Seria questionável se não soassem. O verdadeiro problema é que os cenários não são suficientemente estranhos.

Isso não significa negar que alinhar a IA seja um desafio genuíno de engenharia. Mas o fato é que os sistemas de IA que implementamos até agora estão extremamente bem alinhados com os interesses de seus criadores. O foco obsessivo da mídia em raras exceções nos impede de enxergar o todo. E o fato de ser desafiador treinar sistemas de IA para fazer exatamente o que queremos não significa que, de alguma forma, acabaremos treinando-os para fazer exatamente o oposto do que desejamos.

Stephen Hawking disse que "o surgimento de uma IA poderosa será a melhor ou a pior coisa que já aconteceu à humanidade".

Existe uma tentação popular de pensar que, se evitarmos o pior cenário possível — o de uma superinteligência catastrófica e desalinhada —, alcançaremos a utopia. Mas isso é um equívoco. Um mundo com superinteligências bem alinhadas geraria problemas profundos por si só. O risco mais óbvio reside em sistemas superinteligentes sob o controle de indivíduos ou facções que perseguem objetivos egoístas ou nefastos. Se o acesso aos melhores sistemas for distribuído de forma desigual, isso concederia poderes inéditos e sem precedentes a alguns indivíduos. O principal risco aqui não são sistemas de IA desalinhados, mas sim sistemas de IA bem alinhados com os objetivos de agentes mal-intencionados. Se você acha que as pessoas não explorariam essas oportunidades, você sabe pouco sobre a natureza humana ou sobre a história.

Do nascimento à morte, os seres humanos são e sempre foram dependentes de outros seres humanos para sobreviver e prosperar. Dependemos uns dos outros para obter recursos, trabalho, proteção, conhecimento, arte, cultura, sexo, amor, companhia e muito mais.

Essa interdependência não é incidental à condição humana. Ela é, em parte, constitutiva dela. É uma das forças mais importantes que moldaram a evolução da nossa espécie. É também o elo que mantém unida a solidariedade e a cooperação humanas. É em grande parte porque dependemos uns dos outros que somos forçados a nos importar com eles e com o que eles pensam de nós . Mesmo as elites mais sociopatas e exploradoras são limitadas por sua dependência da cooperação alheia. Em outras palavras, a interdependência resolve o problema do alinhamento humano . É assim que alinhamos os interesses humanos.

O que acontece com essa interdependência em um mundo de máquinas superinteligentes? Quando existem máquinas que trabalham de forma muito mais eficaz e eficiente do que as pessoas — que não faltam ao trabalho por doença, não reclamam do chefe nem formam um sindicato? Quando as máquinas podem expandir as fronteiras do conhecimento e da inovação humana sem viés humano? Quando elas podem proporcionar sexo e companhia sem as complexidades, os conflitos e as concessões irritantes que caracterizam os relacionamentos humanos?

Este seria um mundo em que muitas pessoas, sejam capitalistas ricos ou consumidores comuns, dependeriam cada vez mais de máquinas e cada vez menos de outras pessoas. Seria um mundo onde o elo que mantém a solidariedade e a cooperação humanas unidas se dissolveria gradualmente.

Esse processo ameaçaria a sobrevivência humana, não porque perderíamos o controle de máquinas superinteligentes, mas porque nossa capacidade de controlá-las corroeria uma das principais características que nos tornam humanos.