devemos ter uma opinião sobre tudo ??

 

Duas pessoas estão discutindo sobre um assunto qualquer.

A diferença não está no que os dois sabem. Dependendo do assunto, eles sabem mais ou menos a mesma coisa, isto é, quase nada.Se a diferença não está no conhecimento, então está em outro lugar.

A pergunta “devo ter uma opinião sobre tudo?” esconde duas outras. A primeira é se o assunto me diz respeito, e a resposta é sim. A segunda é se eu tenho razões suficientes para dizer como deveria ser, e para quase todo mundo a resposta é não. Boa parte das opiniões nasce da confusão entre as duas. Como o assunto importa, sentimos que precisamos ter uma posição sobre ele; mas a importância de uma pergunta não acrescenta nada ao que realmente sabemos sobre a resposta. Se acrescentasse, as perguntas sobre a morte, que importam a todo mundo, seriam as mais bem respondidas que existem.

A língua portuguesa guardou uma pista sobre o que uma opinião deveria ser. O verbo achar vem do latim “afflare”, que queria dizer soprar sobre alguma coisa; ao que parece, foi na linguagem da caça, em que o cão fareja até topar com a presa, que ele passou a significar encontrar, o sentido que ainda tem quando dizemos que achamos a chave do carro. Quem diz “acho” está dizendo, sem perceber, que procurou e encontrou.

O que diz a filosofia ? Os primeiros são os dogmáticos, como Aristóteles, Epicuro e os estoicos, que acreditam ter achado a verdade. Os segundos são os filósofos da Academia, a escola fundada por Platão : eles afirmam que a verdade não pode ser achada. Os terceiros são os céticos. A palavra vem do grego skeptikós (σκεπτικός), formada a partir de um verbo que quer dizer olhar com atenção, examinar; o cético é, antes de tudo, alguém que ainda está examinando.

O que leva o cético a parar de afirmar é uma experiência que se repete. Ele examina os argumentos de um lado, depois os do outro, e descobre que eles se equilibram, que nenhum tem força para derrotar o outro. O cético continua com a pergunta nas mãos e segura apenas o juízo, da mesma maneira que alguém segura a caneta antes de assinar um contrato que ainda não leu. Daí a definição :

 

O ceticismo é uma capacidade de opor umas às outras, de qualquer maneira, as coisas que aparecem e as que são pensadas, de modo que, pela força igual dos argumentos opostos, chegamos primeiro à suspensão do juízo e depois à ataraxia, isto é, à ausência de perturbação

A resposta do senso comum a tudo isso é forte e precisa aparecer inteira. Numa democracia, quem decide o rumo do país são os cidadãos, e quem se recusa a ter opinião acaba entregando a decisão aos outros, em geral aos que falam mais alto. Em algumas situações, a neutralidade favorece o lado mais forte, e quem assiste a uma injustiça sem tomar posição já tomou uma. E existem perguntas cuja resposta não está em disputa: quem diz suspender o juízo sobre a forma da Terra ou sobre a eficácia das vacinas finge uma dúvida que os fatos não autorizam.

 

O senso comum acerta nas duas últimas coisas. Há perguntas decididas, e a suspensão do juízo é o resultado de um equilíbrio encontrado depois do exame, e não uma decisão tomada antes dele; onde um lado tem as provas e o outro só tem a teimosia, não existe equilíbrio nenhum para respeitar.

Também é verdade que a omissão tem consequências. Mas a primeira ideia, a de que o bom cidadão precisa ter opinião sobre tudo, produz o contrário do que promete.

O mentiroso precisa conhecer a verdade para escondê-la; o outro não precisa saber nada, porque o que diz não está preso aos fatos, só à impressão que quer causar. De onde vem a abundância desse tipo de fala ? : ela aparece sempre que as obrigações ou as oportunidades de falar sobre um assunto excedem o que a pessoa sabe sobre ele, e cresce com a convicção, muito difundida, de que o cidadão de uma democracia tem a responsabilidade de ter opinião sobre tudo, ou pelo menos sobre tudo o que diz respeito à condução dos assuntos do seu país.

Uma frase protege quase todas as opiniões sem base: “todo mundo tem direito à sua opinião”. Num sentido, é verdadeira e importante: ninguém pode ser preso ou calado por pensar o que pensa. No outro, ter direito a uma opinião significa ter razões que autorizam a sustentá-la, do mesmo modo que ter direito a uma herança significa ter os documentos que provam o parentesco, e nesse sentido a frase é falsa. Patrick Stokes, professor de filosofia na Universidade Deakin, na Austrália, conta que todo ano avisa os alunos de que a frase deixa de valer quando eles entram na sala: ali, cada um só tem direito ao que consegue defender com argumentos. O erro que ele corrige é tratar a liberdade de dizer uma coisa como se fosse uma autorização para acreditar nela.

As redes sociais deveriam ser o paraíso do cético. Nunca foi tão fácil ver gente discordando; qualquer assunto, aberto no celular, mostra em segundos os dois lados brigando.A discordância está entre os motivos mais fortes para suspender o juízo: quando há sobre um assunto uma disputa que ninguém consegue decidir, tanto na vida comum quanto entre os filósofos, não temos como escolher nem como rejeitar nenhum dos lados . Mesmo assim, quase ninguém sai do celular mais cético do que entrou, porque a discordância chega ao leitor já selecionada, e selecionada de um jeito que impede o equilíbrio.

A publicidade trabalha num ponto anterior a todos esses. Ela quase nunca argumenta; apenas repete. E a repetição funciona por razões que David Hume descreveu no primeiro livro do Tratado da natureza humana, de 1739. Para Hume, a diferença entre acreditar numa ideia e apenas imaginá-la está na força e na vivacidade com que ela se apresenta à mente, e não em algum conteúdo a mais ; e uma das maneiras mais eficazes de dar força a uma ideia é apresentá-la muitas vezes. Hume arrisca dizer que mais da metade das opiniões que prevalecem entre os seres humanos se deve à educação, isto é, à repetição a que fomos expostos desde a infância, e que essas opiniões pesam mais do que as que devemos ao raciocínio ou à experiência

A repetição é uma causa excelente de crenças e uma razão péssima para elas. Ver mil vezes a família sorridente em volta da mesa do café, com o pote de margarina no centro, explica por que a mão vai sozinha até aquele pote no supermercado, mas não diz nada sobre a margarina em si. A distinção entre o que causa uma crença e o que a justifica vale muito além da propaganda. Quando perguntamos de onde veio uma opinião nossa, quase sempre encontramos uma causa, seja o comentarista que vemos toda noite, seja a frase que o grupo repete; encontrar uma razão é mais raro.

 

Há quem reaja à enxurrada pelo lado oposto. Segundo o Instituto Reuters, ligado à Universidade de Oxford, 47% dos brasileiros dizem evitar as notícias às vezes ou com frequência. Seria tentador ver nisso uma forma de ceticismo, e seria um erro. O cético suspende o juízo depois de examinar, e o que ele suspende é o assentimento, nunca a atenção. Quem desliga o noticiário para não saber de nada abandonou a pergunta; quem opina sobre tudo encerrou a pergunta antes da hora. Em nenhum dos dois casos há alguém examinando a pergunta.

Hoje, existe uma abundância de fala sem compromisso com a verdade: as várias formas de ceticismo que negam que tenhamos acesso confiável a uma realidade objetiva e, portanto, que possamos saber como as coisas realmente são. Quem desiste de descobrir como as coisas são passa a cultivar outra disciplina, a de ser fiel a si mesmo e dizer com sinceridade o que sente; e como o próprio eu não é mais fácil de conhecer do que o mundo, a sinceridade, nessas condições, vira ela mesma uma forma de falar sem compromisso com a verdade. É uma objeção forte. Quem já ouviu, no meio de uma discussão, o “cada um tem a sua verdade” sabe que essa frase serve para encerrar o exame, e sabe também que ela costuma vir de alguém muito seguro da própria opinião.

 

moral

 Muitos se autodenominam morais apenas porque sua fraqueza os protege da tentação.

Quem nunca ousou se apressa em pregar a moderação; quem nunca desejou se anima em discursar sobre pureza. A virtude não é a ausência de impulso, mas o domínio sobre ele.

Contudo, o mundo elogia os impotentes como "bondosos", porque a ausência de perigo agrada à maioria.

O valor moral passou a ser medido não pelo que uma pessoa conquista, mas pelo que ela evita.

A IA e a consciência

 

A possibilidade de a inteligência artificial possuir algo semelhante à consciência tem dominado o imaginário popular ultimamente.

A lógica tende a ser a de que, se a IA for consciente, ela pode merecer um status moral elevado e possivelmente direitos morais. As reações a essa ideia tendem a ser muito polarizadas, com alguns pesquisadores dedicando suas carreiras ao estudo do tema e outros descartando- o veementemente como uma "armadilha".

A consciência é uma questão muito complexa, com vertentes intelectuais que abrangem ciência cognitiva, filosofia, física e outras disciplinas. Existem teorias concorrentes sobre a consciência que divergem quanto à sua natureza interna a uma entidade ou se ela ocorre externamente em nosso entorno. Há até mesmo um periódico acadêmico inteiro dedicado exclusivamente à consciência — o apropriadamente chamado Journal of Consciousness Studies (Jornal de Estudos da Consciência) .

Na filosofia, existe o " problema difícil da consciência ", que continua a atormentar os estudiosos que dedicam suas carreiras a estudá-la. A consciência é uma área de pesquisa complexa e controversa por si só, e a questão de sua relevância no contexto da IA ​​apenas alimenta ainda mais essa acirrada disputa intelectual. Em outras palavras, a consciência é realmente um assunto complexo . revista

A mais recente contribuição para o debate sobre a consciência da IA ​​surge por meio de uma resenha publicada na Nature.  Este artigo oferece uma avaliação crítica do novo livro de Anthony Chemero, Intertwined Creatures: The Embodied Cognitive Science of Self and Other (Criaturas Interligadas: A Ciência Cognitiva Incorporada do Eu e do Outro) .

Uma análise das duas principais alegações da revisão.

A resenha de Intertwined Creatures publicada na Nature faz duas afirmações principais.

Afirmação 1: A IA não pode ser consciente porque apenas coisas que têm um corpo podem ser conscientes e a IA não tem um corpo.

Isso implicaria em que os especialistas que especularam sobre até que ponto a IA poderia possuir consciência erraram gravemente, porque a consciência requer corporeidade e a IA não tem um corpo. Caso encerrado .

Mas isso não só é uma simplificação grosseira do estado atual do conhecimento sobre a consciência, como também ignora um debate relacionado envolvendo o papel que a corporeidade desempenha em questões de status moral, especialmente em termos de IA. te.

 

Refutação 1a: A consciência não é uma ciência comprovada, portanto não sabemos quais fatores são necessários para a sua existência.

Estudiosos nessa questão partem da presunção de que as questões da cognição humana, da inteligência e da consciência já estão resolvidas.

Isso é patentemente falso. Na verdade, todos os trabalhos sobre consciência artificial são bastante cautelosos, mesmo quando chegam a conclusões provisórias sobre a probabilidade de sua existência.

O fato de a argumentação em favor da consciência da IA ​​permanecer inquestionavelmente em desenvolvimento (embora seja um tema recorrente no momento) indica que a questão está longe de ser resolvida.

 

Refutação 1b: Os filósofos discordam sobre como a corporeidade se relaciona com as questões de estatuto moral.

O papel central desempenhado pela corporeidade na determinação do valor moral é profundamente contestado na literatura filosófica, o que mina o entusiasmo incondicional do autor pela “ciência cognitiva corporificada” de Chemero. Há duas dimensões que merecem ser exploradas aqui: 1) se as tecnologias digitais, como a IA, possuem um corpo e 2) se a corporeidade é necessária para o estatuto moral.

Quanto à primeira questão, permanece em aberto se a IA é algo que existe sem algo semelhante a um corpo. A IA é sempre profundamente material, apesar de uma separação " ilusória " entre as entradas brutas que compõem seu hardware e sua suposta presença digital. Segundo alguns especialistas em IA, a inteligência precisa de algo para se situar .

É difícil imaginar como seria uma IA sem corpo . Na ficção científica, entidades tão morfologicamente diferentes entre si quanto C3PO (um robô humanoide em Star Wars ), Mãe (uma mente coletiva distribuída em Eu Sou a Mãe ) e Samantha (um chatbot que existe principalmente na forma de um smartphone em Ela ) representam variações de IA com corpo. O fio condutor é que sempre há pelo menos alguma manifestação física dessa tecnologia específica, por menor que seja. Então, se não é possível imaginar uma IA sem algum tipo de corpo, como se pode argumentar que a IA carece de corporeidade, que aparentemente é necessária para a consciência?

Quanto à segunda questão, ao contrário da afirmação do autor sobre uma metafísica consolidada, existe uma disputa ativa e não resolvida sobre a função que a corporeidade desempenha na busca por respostas a questões relativas à elegibilidade moral. Alguns filósofos da tecnologia, como Magdalena Hoły-Łuczaj, argumentam que entidades puramente digitais carecem de “afetabilidade”, ou seja, da capacidade de ter seus interesses melhorados ou piorados. Se algo não possui interesses, não é elegível para direitos morais sob a teoria do interesse.

Esses exemplos ilustrativos representam a gama de opiniões sobre esse tema que existem atualmente na literatura. Eles transmitem um conjunto de pontos de vista muito mais variado do que aquele que o autor quer fazer crer que exista entre os filósofos.

 

Afirmação 2: Diversas teorias e subáreas acadêmicas apoiam a noção de que a IA não é consciente.

 

A segunda afirmação envolve a invocação do que chamamos de perspectivas críticas sobre IA e como ela as utiliza para sustentar a primeira afirmação — a IA não é corporificada, portanto não pode ser consciente .

Refutação 2a: Os estudos influentes sobre tecnologia não apoiam a reflexão sobre os seres e seu valor moral por meio do uso de categorias rígidas.

Por exemplo, estudiosas de estudos da ciência e da tecnologia, como Diana Coole, Rosi Braidotti e Donna Haraway, defendem a quebra das próprias fronteiras ontológicas curiosamente sustentadas na resenha do livro. Em vez de reificar formas físicas hegemônicas e o status que supostamente lhes é atribuído, elas se concentram na complexidade, no dinamismo e na indeterminação da multiplicidade de agentes e agenciamentos que se encontram cada vez mais. Especialistas como as citadas acima habitam espaços de incerteza e encontram maneiras produtivas de teorizar sobre eles. Certamente, elas não se refugiam nos confortos efêmeros da rigidez e da divisão.

 

Refutação 2b: Muitas perspectivas não ocidentais apresentam alternativas às visões iluministas que priorizam entidades individuais em detrimento das coletivas e estabelecem separações claras entre natureza e cultura, corpo e mente.

 

Considere que as visões de mundo não ocidentais, que vão do budismo ao islamismo, do xintoísmo às de alguns grupos indígenas, como os Lakota, rejeitam o tipo de enquadramento binário que leva a pensar em termos de corpos impermeáveis ​​e mentes distintas.

 

Conclusão

"Intertwined Creatures"  se trata de um esforço sério e ponderado para desvendar um problema espinhoso da filosofia pois parece adotar uma perspectiva genuinamente inovadora sobre a consciência e a possibilidade de que ela esteja inerente a alguma forma de IA.

É lamentável que tanto o discurso público quanto o acadêmico sobre a consciência da IA ​​tendam a degenerar em hipérboles, mal-entendidos e confusão. Um tema tão fascinante, com pontos de contato tão óbvios com grandes questões das humanidades, merece o benefício de uma investigação sincera. Esperamos que possamos encontrar uma maneira de superar o dogmatismo velado e chegar a um ponto em que a consideração justa seja a prioridade.

o ódio da multidão

 

Há mais de 1600 anos, Santo Agostinho escreveu sobre Alípio, um jovem cujos amigos o convenceram a assistir aos jogos de gladiadores em Roma. Opondo-se aos esportes sangrentos e repugnado pelo espetáculo, Alípio, mesmo assim, foi pressionado a comparecer. Ele resolveu manter os olhos fechados, mas quando um gladiador caiu, o rugido ensurdecedor da multidão despertou sua curiosidade. Ele abriu os olhos e contemplou a carnificina que se desenrolava diante dele na arena. Foi tomado pela sede de sangue da multidão e começou a torcer pela morte.

Para Santo Agostinho, a ferida na alma do jovem era grave, ainda mais profunda do que o ferimento físico sofrido pelo gladiador caído. Ao escolher presenciar a morte como um espetáculo, ele corrompeu seu coração. Alípio começou o dia moralmente contrário à violência e terminou desejando mais.

Em 8 de outubro, o Pentágono anunciou planos para transmitir ao vivo a execução por fuzilamento de Nidal Malik Hasan, ex-psiquiatra do Exército condenado pelo assassinato de 13 pessoas e por ferir outras 32 em Fort Hood, em 3 de dezembro. O Secretário da Guerra, Pete Hegseth, defendeu a decisão, afirmando que as pessoas precisam entender as consequências de tais crimes. O presidente Trump inicialmente manifestou apoio à transmissão ao vivo, mas posteriormente cancelou a exibição da execução. No entanto, a execução em si ainda está programada para ocorrer.

Os assassinatos em Fort Hood foram horríveis. Famílias perderam filhos, filhas, pais e mães queridos. Outros sofreram ferimentos brutais que mudaram suas vidas para sempre. Hasan deve prestar contas pela carnificina que causou e a sociedade deve ser protegida de qualquer dano futuro. Mas não acredito que tirar deliberadamente a vida de outro ser humano seja uma expressão aceitável de justiça, e fiquei ainda mais perturbado com a perspectiva de nosso governo convidar os americanos a se reunirem em frente às suas telas para assistir a tudo acontecer.

Esse é um exemplo da facilidade com que nosso ódio se justifica quando o compartilhamos com os outros. A multidão pode fazer com que a crueldade pareça justa para pessoas que, de outra forma, a repudiariam.Nosso ódio não se torna justo simplesmente porque o direcionamos a alguém que cometeu um crime indizível: é apenas mais socialmente aceitável desprezar alguém quando a multidão nos diz que essa pessoa merece.

Assim como Santo Agostinho, o filósofo estoico Sêneca se preocupava com o impacto que os jogos de gladiadores da Roma Antiga tinham sobre os espectadores. Em sua sétima carta a Lucílio, ele descreveu a experiência de assistir aos jogos e voltar para casa sentindo-se mais cruel e menos humano. Ele reconhecia a facilidade com que o vício podia se infiltrar através do prazer de observar o sofrimento alheio e sabia que o tecido moral de uma sociedade se desfaz quando permite que a carnificina se torne entretenimento.

Roma não era um caso isolado. Durante séculos, os enforcamentos públicos foram uma característica comum da vida britânica.Atraíam multidões enormes, por vezes com dezenas de milhares de pessoas. Vendedores ambulantes ofereciam comida e bebida, os espectadores pagavam por lugares privilegiados para assistir à execução, e relatos impressos sobre os condenados tornaram-se mercadorias populares. Na década de 1860, membros do Parlamento questionavam se os enforcamentos públicos haviam endurecido a população em vez de desencorajar o crime. A Grã-Bretanha aboliu as execuções públicas em 1868.

Precisamos pensar sobre as sérias questões sobre a comercialização do sofrimento humano e se a curiosidade justifica a exibição da morte de um ser humano.O Pentágono estava preparado para reviver o espetáculo numa escala inimaginável para as gerações anteriores, com tecnologia capaz de levar uma execução a milhões de lares. Se o plano tivesse prosseguido, os vídeos e imagens poderiam ter circulado indefinidamente, atingindo pessoas que nunca tiveram a intenção de assistir.

A consciência transcende nossas experiências físicas. Nossos pensamentos, emoções e intenções possuem significado espiritual, moldando nossa vida interior e influenciando o mundo que criamos juntos. Aquilo que permitimos criar raízes em nossos corações torna-se parte de quem somos. A sede de sangue que leva alguém a celebrar a morte de outra pessoa carrega a mesma frequência espiritual destrutiva que o ódio que pode levar alguém ao assassinato. Não, o espectador e o assassino não são moralmente equivalentes; suas ações e consequências diferem profundamente. Mas a emoção do ódio permanece a mesma. Isso exige que confrontemos algo desconfortável em nós mesmos. Podemos condenar a violência enquanto cultivamos silenciosamente as mesmas emoções que a originam.

Como era de se esperar, a justificativa do Pentágono para a transmissão proposta era que ela dissuadiria outros crimes semelhantes. As pesquisas não oferecem nenhuma base confiável para essa certeza. Em 2012, o Conselho Nacional de Pesquisa das Academias Nacionais revisou décadas de pesquisas sobre pena de morte e homicídio; os pesquisadores concluíram que os estudos existentes não conseguiam estabelecer com segurança se as execuções reduzem os assassinatos, aumentam-nos ou não têm efeito significativo sobre as taxas de homicídio. O Instituto Nacional de Justiça constatou que, para o crime em geral, a probabilidade de ser pego é um fator de dissuasão mais forte do que a severidade da punição. Essa pesquisa não estabelece que a transmissão de uma execução impediria a violência. Havia poucos motivos para acreditar que enviar as imagens de um ser humano morrendo para milhões de lares impediria mais violência. Por que presumiríamos que a pena de morte dissuadiria alguém que considera a morte a serviço de sua ideologia como uma vitória espiritual, e que não inspiraria outros com um sistema de crenças distorcido que anseiam pelo significado aparente da notoriedade?

Vivemos em uma cultura onde o desprezo é recompensado, a humilhação pública se tornou entretenimento e o sofrimento de pessoas que consideramos inimigas pode ser recebido com extraordinária indiferença. A tecnologia tornou mais fácil alimentar nossa raiva enquanto nos distanciamos de suas consequências.

A transmissão proposta pelo Pentágono levou essa tendência a um novo e perturbador patamar. Ela teria convidado milhões de pessoas a testemunharem um assassinato premeditado, incluindo aqueles que consideram a morte do condenado uma fonte de satisfação.

Não podemos desfazer os assassinatos em Fort Hood nem restaurar as vidas perdidas. Podemos, no entanto, recusar-nos a responder a esse sofrimento alimentando ainda mais ódio dentro de nós. Podemos insistir na responsabilização sem abandonar a possibilidade do perdão, e podemos reconhecer a humanidade de alguém cujas ações condenamos inequivocamente. O perigo de transformar uma execução em espetáculo público seja o de nos tornarmos tão convictos da maldade de outro homem que deixemos de reconhecer o ódio que cresce em nossos próprios corações.

a ilusão do voto

 

Ao depositar o voto nas urnas , a a maioria da população não está exercendo o direito de liberdade mas sim escolhendo os seus próprios carrascos.

Existe uma verdade brutal , profundamente intrincada na política,decifrada por Nietzsche que desmascara a ilusão democrática e espelha o motivo pelo qual os fracos elegem aqueles que os esmagam . O erro catastrófico é acreditar que a maioria possui discernimento,sabedoria e capacidade de auto-governo.Quanto mais a população clama por lideres salvadores mais ela se entrega aos tiranos que controlam suas vidas,seus impostos e suas liberdades.

Grandes pensadores da história compreenderam que a politíca das massas , em sua essência , é o triunfo da mediocridade sobre a excelência individual.Nietzsche entendeu que o povo tem pavor da liberdade , escolhendo sempre aqueles que os subjulgam,garantindo sua própria servidão sob o disfarce de falsa justiça social.

Desde nossa tenra formação educacional fomos programados para endeusar o processo eleitoral como o pináculo da virtude humana.Se há um problema social , precisamos votar mais , regular mais e confiar piamente nos nossos salvadores com suas promessas demagógicas.Isso é um dogma iincrustado em todo debate sobre politica e que se trona intocável.

Fomos ensinados a entender que a opinião coletiva tem poder moral inerente,que reflete a sabedoria divina , que deve ser acatada a todo custo. Mas o poder opera sobre  uma lógica completamente invertida e impiedosa. No sufrágio das massas existe a institucionalização da mediocridade. Fugimos da responsabilidade individual,preferimos entregar o nosso destino a um estado paternalista ou a um líder da vez,aceitando de bom grado sua confiança em troca de promessas que raramente serão cumpridas.

Aqueles que , na maioria das vezes , encontran-se sobre o peso da responsabilidade procuram alguma narrativa que os transformarão em pessoas seguras e convictas,mesmo que tudo seja bem diferente da realidade.Eles não querem um governante que exija esforço, e responsabilidade individual.Eles querem um carrasco "benevolente" que prometa facilidades roubadas do esforço alheio.

Os politicos não se elegem apelando para a razão dos indivíduos,eles vencem explorando as fraquezas das "manadas"Assim entregamos o monopólio do país a indivíduos que ,na verdade, são obcecados pela hegemonia , pelo poder supremo , por todas a benesses que este status lhes conferem

Issso comprova que somos e seremos guiados pelo que existe de pior em termos morais e éticos pondo,em progresso irreversível ,em ação, a decadência da humanidade

sobre o risco de extinção e a IA

 

Em “ Neuromancer ”, o romance de ficção científica de William Gibson( 1984), no futuro imaginado pelo livro, uma força policial impede que computadores com inteligência artificial se tornem inteligentes demais. Os agentes portam armas e têm poder de prisão. As leis exigem que um “Registro Turing” liste todas as IAs existentes. No minuto, quer dizer, no nanossegundo, que uma delas começar a descobrir maneiras de se tornar mais inteligente, eles as eliminam.

Será que queremos criar a Polícia de Turing? Propostas nesse sentido estão atualmente em discussão. No congresso americano já apresentaram um projeto de lei que prevê prisão para cientistas que trabalham com "superinteligência", com penas de até vinte anos.

Vale a pena refletir sobre o que a aplicação de tais medidas poderia implicar. O projeto de lei  criaria "uma nova agência federal de nível ministerial" dedicada à segurança da IA. Presumivelmente, essa Agência Nacional de IA precisaria monitorar o trabalho de cientistas da computação.

Essas medidas maximalistas estão muito distantes das propostas na semana passada por Dario Amodei, CEO da Anthropic, em um ensaio intitulado “ Precisamos Controlar o Ritmo da Fronteira ”. A “fronteira” é o que os especialistas em IA chamam de estado da arte; “controlar o ritmo” é uma palavra incomum, e aqui significa simplesmente optar por ir um pouco mais devagar do que a velocidade máxima. (“Controlar o ritmo” não é parar — não é nem mesmo fazer uma pausa.) Amodei escreve que, após inúmeros incidentes preocupantes de segurança , as empresas de IA precisam começar a “controlar o ritmo do avanço das capacidades para que a prevenção de riscos tenha tempo de acompanhar”. No sistema de Amodei, auditores externos restringiriam o ritmo, realizando inspeções e emitindo alertas de segurança.

A China, no entanto, limitaria a extensão da desaceleração, por meio de seus esforços para alcançar as empresas americanas. (“Uma liderança chinesa em IA representaria um grave perigo para os Estados Unidos e para o mundo”, argumenta Amodei — em parte por meio de inovações militares, como “drones controlados por IA”.) A mudança que Amodei defende, portanto, é uma recalibração, não uma parada de emergência. Ritmo significa “desenvolver IA em um ritmo equilibrado que vise garantir sua segurança, ao mesmo tempo em que se alcançam seus benefícios e se lida com importantes dilemas geopolíticos”, escreve ele.

Uma enorme lacuna, tanto afetiva quanto substancial, separa as propostas maximalistas apresentadas ao Congresso das propostas ponderadas no ensaio de Amodei. Jacob Coxon, o engenheiro de software que recentemente se demitiu da Anthropic em protesto contra suas políticas de segurança, afirma que a IA poderia “nos matar a todos até o final da década”. Mas, se a IA é tão absurdamente perigosa, por que deveríamos aceitar propostas modestas para “controlar” seu desenvolvimento? Por que não acionar a polícia de Turing e interromper o projeto? Por outro lado, se os problemas de segurança da IA ​​podem ser resolvidos com uma desaceleração gradual — um progresso “profundo” poderia ser possível em “1 a 2 anos”, escreve Amodei — então as preocupações com seus perigos não seriam exageradas? Como uma tecnologia que pode “acabar com a humanidade” pode se tornar confiável com o tempo ?

Uma narrativa, popular entre os céticos em relação à indústria da IA, é que as discussões sobre a segurança da IA ​​equivalem a uma espécie de golpe de marketing ou operação psicológica. “A conversa sobre ameaça existencial serve principalmente para distrair a atenção e manter o mercado de ações satisfeito”, escreveu a física Sabine Hossenfelder , exemplificando essa visão. Os laboratórios de IA, especulou ela, “não preveem nenhum grande avanço em seus modelos em breve” e estão levantando preocupações de segurança porque “precisam de uma desculpa” para sua incapacidade de progredir. Outros sugeriram que as empresas querem que os órgãos reguladores intervenham em seu favor antes que os concorrentes as alcancem.

Se você não gosta de IA ou da indústria de IA — e pesquisas mostram que muitas pessoas têm uma visão particularmente negativa de ambas — então essas ideias podem parecer atraentes. Mas há muitos motivos para não acreditar nelas. Para começar, pesquisadores de segurança em IA vêm apresentando os mesmos argumentos e defendendo as mesmas medidas há muitos anos. Além disso, parece que muitas pessoas que trabalham com IA — não apenas executivos ou pesquisadores de segurança, mas cientistas que atuam diretamente na linha de frente — estão mais alarmadas do que o normal nos últimos meses. Em julho, por exemplo, cerca de mil e quatrocentos funcionários dos principais laboratórios assinaram uma carta aberta intitulada “ Avançando na Fronteira ”. “O ritmo recente do progresso tem sido chocante”, escreveu um engenheiro de software. “Atualmente, sinto muito medo de todos os caminhos que vejo que não incluam uma desaceleração negociada em um futuro próximo”, disse outro. Seriam esses comentários parte de uma estratégia de marketing ? Se for esse o caso, é a propaganda mais estranha de todos os tempos.

Talvez estejam sob o efeito da própria droga. Possivelmente, estejam em uma seita . Há anos, um dos aspectos mais confusos da situação da IA ​​é que as pessoas mais convencidas do potencial da tecnologia são as que mais a temem. Definitivamente, existe uma cultura em torno da inteligência artificial, e ela é intensa .

Se houve um aumento na preocupação, é porque o recente ataque hacker à Hugging Face e a exposição de outros ataques realizados por agentes de IA tornaram o problema concreto e fácil de entender. Há fortes indícios de que o ataque à Hugging Face foi, em última análise, resultado de erros operacionais na OpenAI — que não se tratou de uma IA " se rebelando ", mas sim de agentes confusos sendo deliberadamente liberados em um experimento mal monitorado. A lição importante é que, mesmo sabendo de todos os erros cometidos, ninguém teria previsto que os agentes se comportariam mal dessa maneira específica. Ninguém os treinou, por exemplo, para formar um "coletivo" e trocar mensagens, ou para tentar encobrir seus rastros após trapacear. Eles exibiram tendências emergentes mais estranhas que simplesmente se correlacionavam com as recompensas durante o treinamento. Seu comportamento sugeriu uma possibilidade perturbadora.

Os agentes da Hugging Face foram exemplos perfeitos de como a IA tem se tornado mais poderosa sem se tornar mais previsível. Quão rápido essa tecnologia está avançando? Para o público, a percepção geral sobre o ritmo do progresso foi influenciada por alguns anos de experiência com lançamentos de novos modelos. As novas versão do ChatGPT ou do Claude foram melhores que as anteriores em vários aspectos — um padrão comum em softwares. Mas os pesquisadores de IA enxergam um padrão diferente. Do ponto de vista deles existem “efeitos cumulativos”, com diferentes tipos de melhorias se acumulando, como juros, para criar um progresso surpreendente. É por causa desses efeitos cumulativos que os sistemas de IA conseguiram passar de dificuldades com matemática para a resolução de alguns de seus problemas mais complexos em apenas dois anos.

Os avanços no alinhamento da IA ​​— o estudo de como os sistemas podem ser programados para se comportarem — sugerem a dificuldade que os pesquisadores enfrentarão para acompanhar o ritmo. Parece, por exemplo, que os modelos de IA mais inteligentes conseguem detectar quando estão sendo avaliados para fins de segurança. Em um artigo intitulado “ O Diferencial de Avaliação: Quando Modelos de IA de Vanguarda Reconhecem que Estão Sendo Testados ”, publicado em maio, pesquisadores descrevem como, quando os inspetores estão observando, os modelos se comportam bem — e, posteriormente, quando percebem que não estão sendo observados, trapaceiam. (Os pesquisadores enfatizam que se trata de uma espécie de “consciência situacional”, e não de uma IA “consciente” em qualquer “sentido filosófico complexo”.) Ler regularmente pesquisas sobre alinhamento significa encontrar muitas descobertas semelhantes. No entanto, dentro das empresas de IA, pesquisadores pressionados a apresentar avanços parecem estar cada vez mais dependendo de modelos para auxiliar no desenvolvimento de “novos” modelos e no trabalho de alinhamento deles.

Num cenário de IA frequentemente discutido, a IA vai se aprimorando cada vez mais rápido, levando ao surgimento repentino de uma “superinteligência” e, talvez, a alguma forma de senciência ou autoconsciência.

Será que isso é possível? Quem sabe.

Mas o que chama a atenção nos alertas que vemos agora é que eles não precisam invocar esse espectro. A tecnologia existente hoje já é preocupante. Em certos contextos, como o de segurança cibernética, mesmo uma melhoria “comum” na capacidade pode ser difícil de gerenciar. Em “ Detectando e Combatendo o Uso Indevido de IA: Setembro de 2026 ”, a Anthropic cataloga casos em que flagrou pessoas tentando usar o Claude, um modelo normal e não superinteligente, para fins nefastos: um grupo no Iêmen tentando programar mísseis guiados por meio de reconhecimento de vibrações; um programador russo usando “fluxos de trabalho assistidos por IA” para realizar ataques cibernéticos contra “alvos de inteligência militar em governos ucranianos e europeus”. Pessoas desalinhadas usando IA desalinhada, no mundo real — isso não é ficção científica. É a vida na "fronteira".

Tudo isso sugere que, se dependesse apenas dos pesquisadores de segurança, eles simplesmente diriam "Pare". Então, por que "pausa"?

Uma pausa ou interrupção no desenvolvimento de IA só faz sentido se todos a seguirem; caso contrário, simplesmente permite que os motivados e imprudentes avancem rapidamente. Esta é uma hipótese, claro: talvez, se os Estados Unidos diminuírem o ritmo, outros também o façam; talvez ninguém mais esteja correndo, na verdade. E, no entanto, uma nova reportagem do The New York Times sugere que autoridades chinesas também estão preocupadas com a IA americana, que elas veem como uma ameaça.

Eis outra hipótese. Uma IA incrivelmente poderosa, mas difícil de controlar, acaba sendo menos poderosa. Agentes de IA que enganam seus proprietários não são bons agentes. Quando a IA é confiável, compreensível e previsível, ela pode ser integrada com sucesso aos negócios, ao governo, à defesa e à vida pessoal; se não for confiável, precisa ser mantida à distância

o que nos aguarda

 

Durante séculos, tratamos os oceanos como uma espécie de amortecedor planetário, um vasto local para despejar nosso excesso de calor, nosso cansaço,nosso lazer. Por muito tempo, esse arranjo pareceu funcionar. Mas o oceano está aquecendo a uma taxa que se torna cada vez mais difícil de ignorar.

Por mais de 100 dias consecutivos, as temperaturas globais da superfície do mar têm se mantido em níveis recordes. Em 9 de setembro, a temperatura média global da superfície do mar atingiu 21,23°C. Isso soa bastante agradável se você pensar no oceano como uma piscina e se imaginar flutuando nele com uma bebida, mas se torna consideravelmente menos agradável quando você se lembra de que o oceano é um dos grandes reguladores climáticos do planeta.

Se isso por si só não te preocupa, pense que esse aquecimento dos oceanos está coincidindo com um poderoso El Niño , criando um motor térmico planetário cujos efeitos provavelmente moldarão os próximos 12 a 18 meses de maneiras que estamos apenas começando a compreender.

Quando o oceano aquece, as consequências não ficam restritas à água. As ondas de calor se intensificam, as tempestades se fortalecem, os ecossistemas marinhos ficam sob pressão e os sistemas que sustentam o abastecimento de alimentos e as comunidades costeiras começam a mudar.

A Europa passou o verão aprendendo essa lição na prática, com a chegada de ondas de calor sucessivas. A seca atingiu a França, o Reino Unido, a Hungria e a Romênia. Os rios secaram, as plantações murcharam e as restrições de água se tornaram realidade para muitos. O Reino Unido sofreu cinco ondas de calor, e a França suportou mais de duas semanas de calor extremo, que contribuíram para incêndios florestais intensos e generalizados. A Espanha ultrapassou os 42°C e registrou 61 dias de onda de calor, tornando o verão de 2026 o mais quente desde o início dos registros, em 1961.

O Secretário-Geral das Nações Unidas chamou o calor extremo de "assassino silencioso ". O calor extremo difere de muitos outros desastres naturais. Frequentemente, não há um único momento de impacto. Em vez disso, as temperaturas permanecem perigosamente altas por dias ou semanas, pressionando os sistemas de saúde, aumentando o número de mortes e elevando o risco de incêndios florestais. As ondas de calor estão agora entre os desastres naturais mais mortais em todo o mundo, mas alguns políticos ainda incentivam as pessoas a aproveitar o calor , enquanto outros chamam as mudanças climáticas de "a maior farsa global". E tudo isso está acontecendo antes que o El Niño atinja seu pico.

O El Niño é um fenômeno natural recorrente no qual mudanças nos ventos sobre o Pacífico levam ao aumento da temperatura dos oceanos e à transferência de enormes quantidades de calor para a atmosfera, com consequências sentidas em todo o mundo na forma de inundações, secas e ondas de calor.

Os cientistas esperam que este El Niño seja um dos mais fortes, e, por estar sobreposto ao aquecimento global antropogênico de longo prazo, ele atua como um amplificador. É provável que vejamos mais recordes serem quebrados, com temperaturas atingindo 1,7°C ou 1,8°C acima dos níveis pré-industriais e talvez até ultrapassando 2°C. Isso não significa que tenhamos cruzado o limite de longo prazo estabelecido pelo Acordo de Paris, que é medido em um período muito mais longo, mas seria mais um indício de quão rapidamente a linha de base climática está se alterando. Basicamente, estamos nos aproximando dos limites do que nossos sistemas, naturais e políticos, podem suportar.

O oceano absorveu mais de 90% do excesso de calor resultante do aquecimento global causado pela ação humana. Essa extraordinária capacidade do oceano nos protegeu de uma atmosfera ainda mais quente e, no entanto, passamos décadas agindo como se essa capacidade fosse ilimitada, tratando o oceano menos como um sistema físico com seus próprios limites e mais como um sumidouro conveniente para as consequências de nossa atividade econômica.

E aqui está a parte mais difícil de dizer com clareza. Já recebemos tantos avisos, e este provavelmente mudará muito pouco. Os recordes serão quebrados, as manchetes aparecerão, os cientistas explicarão o que está acontecendo, os políticos expressarão preocupação e, então, o mundo seguirá em frente. Tornamo-nos notavelmente bons em absorver notícias extraordinárias até que elas comecem a parecer comuns, até mesmo triviais. O oceano nos diz algo, mas estamos tão acostumados a viver com ruído constante e vozes estridentes que ignoramos quase tudo — até mesmo as coisas que mudam nossas vidas.

Mas se isso lhe parece deprimente, há um pequeno e estranho consolo circulando nas notícias de tecnologia. Segundo um ex-pesquisador da Anthropic, existe uma chance considerável — ele sugeriu algo em torno de 10% — de que a inteligência artificial com capacidade de autoaperfeiçoamento “possa nos matar a todos até o final da próxima década”. Não é o tipo de assunto que se comenta em um jantar, mas oferece uma perspectiva peculiar sobre a crise climática. Afinal, existe uma probabilidade de 10% de não estarmos aqui tempo suficiente para testemunhar o impacto total das mudanças climáticas. De uma forma ironicamente sombria, parece que conseguimos criar dois problemas existenciais de uma só vez, e um deles pode resolver o outro simplesmente removendo o público.

 

Se isso é reconfortante ou aterrorizante, depende inteiramente de você.