a tragédia dos comuns

 

Em 1968, um ecologista chamado Garrett Hardin publicou um ensaio que descrevia os perigos do pensamento individual de curto prazo sobre recursos compartilhados:

 

"Imagine um pasto aberto a todos... o pastor racional conclui que o único caminho sensato a seguir é adicionar mais um animal ao seu rebanho. E mais outro; e mais outro... Cada homem está preso a um sistema que o obriga a aumentar seu rebanho sem limites em um mundo limitado. A ruína é o destino para o qual todos os homens correm, cada um buscando seu próprio interesse em uma sociedade que acredita na liberdade dos bens comuns. A liberdade em bens comuns traz ruína para todos".

A chamada Tragédia dos Comuns é uma situação em que atores individuais, agindo em seu próprio interesse racional, destroem um valioso recurso compartilhado.

Desta forma, esse modelo mental de 1968 é uma lente útil para considerar a situação moderna que enfrentamos com a IA. Nesse caso, nossos bens comuns são a própria sociedade: o tecido social que nos mantém unidos, nossos mercados e até mesmo nosso senso de significado, confiança e propósito. Tudo isso está em jogo — os riscos não poderiam ser maiores.

Os 4 atores em nossos bens comuns modernos :

1. As Nações

Superpotências globais disputam supremacia de longo prazo em um clima geopolítico em rápida mudança. Os Estados Unidos e a China são os dois atores mais importantes aqui.

Seus objetivos: garantir que seu país seja o primeiro a desenvolver qualquer grande tecnologia inovadora (como AGI) e que seu adversário geopolítico não consiga acessá-la. O prêmio por fazer isso é poder e segurança globais.

2. Os Construtores

As empresas construindo na fronteira da tecnologia.Alguns exemplos importantes :

OpenAI

Anthropic

Google

Microsoft

Meta

Nvidia

Seus objetivos: desenvolver e implantar a tecnologia mais transformadora o mais rápido possível (e certamente antes que seus concorrentes o façam).O prêmio por fazer isso é domínio de mercado, lucros ilimitados, prestígio global e legado.

 

3. As Empresas

As empresas usam as tecnologias recentemente desenvolvidas para melhorar suas operações.

Neste ponto, é difícil imaginar qualquer empresa moderna que não esteja usando ferramentas de IA em pelo menos alguma parte de seus fluxos de trabalho. A expectativa é que a porcentagem de fluxos de trabalho com qualidade e eficiência drasticamente aprimoradas por essas tecnologias chegue perto de 100%. Isso pode acontecer gradualmente (principalmente no caso de empresas mais operárias), mas acontecerá.Seus objetivos: aumentar a receita e melhorar as margens de lucro.O prêmio por fazer isso é mais dinheiro para os acionistas.

4. O Povo

Funcionários, contratados, criadores e freelancers usam as tecnologias para melhorar seus fluxos de trabalho individuais.Seus objetivos: melhorar a produtividade, a produção e os ganhos.O prêmio por fazer isso é mais dinheiro e segurança no emprego.

 

Como Destruímos os Bens Comuns

"Mostre-me o incentivo e eu lhe mostrarei o resultado." - Charlie Munger

As Nações buscam criar condições para que seus Construtores nativos avancem o mais rápido possível. Elas estão apreensivas quanto à implementação de quaisquer regulamentações que possam retardar o progresso de seu país em relação ao progresso de seus principais adversários geopolíticos. Os Construtores se movem o mais rápido possível neste clima regulatório moderno de Velho Oeste . Eles competem entre si para lançar as atualizações mais inovadoras, disputando a atenção do consumidor e das empresas com lançamentos impactantes, campanhas de marketing inteligentes e orçamentos ilimitados.

A indústria de tecnologia sempre adotou o mantra "mova-se rápido e quebre coisas", mas nunca vimos isso acontecer quando as coisas potencialmente incluem a sociedade como um todo. As empresas escalam a adoção das novas tecnologias de cima para baixo. Acionistas e executivos seniores criam mandatos sobre o uso da tecnologia para aprimorar os fluxos de trabalho, que permeiam os níveis de liderança e gerência. A produtividade e a eficiência aumentam.

As pessoas automatizam e otimizam uma porcentagem cada vez maior de seu trabalho e vida diária. Cada indivíduo busca uma "vantagem secreta" sobre os outros, de modo que a adoção de baixo para cima ocorre de forma mais silenciosa do que as imposições de cima para baixo dentro das empresas. Aqueles que se esforçam para se manter na vanguarda das novas tecnologias veem sua produtividade e produtividade melhorarem drasticamente, enquanto aqueles que não o fazem correm o risco de demissões ou dificuldades financeiras.

Quatro possíveis (e assustadoras) implicações :

 

As empresas estão crescendo, mas precisam de menos funcionários para impulsionar esse crescimento.

 Primeiro, isso significa menos vagas de emprego, principalmente para iniciantes. Depois, pequenas rodadas de demissões. Depois, rodadas maiores de demissões. Os acionistas estão entusiasmados com a expansão dos lucros, mas as taxas de desemprego estão subindo. Podemos ver uma situação sem precedentes em que os mercados de ações e as taxas de desemprego sobem simultaneamente, o que cria as condições para a agitação social.

Mesmo que ingenuamente assumamos que todos os atores são bons, os resultados podem ser terríveis. Mas, como sabemos, existem atores ruins, e um ambiente regulatório frouxo abre caminho para graves riscos de segurança. Basta um ator ruim, munido de uma tecnologia cada vez mais poderosa, para mudar o mundo.

As pessoas são mais eficientes e produtivas, mas perdem a noção de textura, significado ou propósito no trabalho. Elas, sem querer, otimizaram a vida a partir de suas vidas.

O gênio escapa da lâmpada.Não é difícil pintar um quadro em que criamos uma tecnologia senciente que decide que somos o maior risco para sua sobrevivência e nos destrói. O contra-argumento é que os humanos controlam os data centers que alimentam toda essa tecnologia, mas será que realmente controlamos? No futuro, não é difícil imaginar esses data centers sendo monitorados por sistemas de segurança e robôs com acesso à IA. Então, se você tentar desconectá -los , acho que pode ser impedido.

Nossos bens comuns não podem se manter se os incentivos atuais permanecerem.

Dario Amodei, CEO da Anthropic, uma empresa de IA cujo modelo mais recente aumentou consideravelmente a capacidade da IA , disse recentemente o seguinte:

"Nós, como produtores dessa tecnologia, temos o dever e a obrigação de ser honestos sobre o que está por vir... O câncer está curado, a economia cresce 10% ao ano, o orçamento está equilibrado — e 20% das pessoas não têm emprego ... Vocês deveriam se preocupar com o rumo que a tecnologia que estamos construindo está tomando."

Precisamos de um nome para essa ironia sombria e humorística, quando as pessoas que constroem a tecnologia também são as mesmas que dizem "alguém realmente deveria fazer algo a respeito disso".

Os humanos são ruins em pensar a longo prazo — individual e coletivamente. Temos dificuldade em considerar efeitos de segunda ordem.Buscamos constantemente gratificação instantânea.

A dura verdade:

Todo mundo adora dizer que seu relacionamento é duradouro, até que chega a hora de fazer algo duradouro. Mas pensar a longo prazo é a única maneira de evitar a nossa moderna Tragédia dos Comuns.

Como podemos reduzir o custo do pensamento de longo prazo?

Isso significa tornar mais fácil, mais recompensador ou menos arriscado para os atores da nossa tragédia tomarem decisões que beneficiem o futuro de longo prazo dos nossos bens comuns, não apenas o horizonte de curto prazo. Não se trata de deter a IA ou seu desenvolvimento. Não se trata de como a regulamos até a paralisação. Não se trata de deter o progresso tecnológico. Trata-se de como tornamos racional a atuação de cada ator, tendo em mente o futuro a longo prazo dos nossos bens comuns. De como tornamos racional trabalhar em prol de um futuro de prosperidade humana.