mais sobre a inteligência artificial

 

Numa era de ChatGPT, os algoritmos informáticos e a inteligência artificial estão cada vez mais presentes nas nossas vidas, escolhendo os conteúdos que nos mostram online, sugerindo a música que ouvimos e respondendo às nossas questões.

Esses algoritmos podem estar mudando nosso mundo e comportamento de maneiras que não entendemos completamente, diz o psicólogo e cientista comportamental Gerd Gigerenzer, diretor do Harding Center for Risk Literacy da Universidade de Potsdam, na Alemanha.Ele conduziu pesquisas ao longo de décadas que ajudaram a moldar a compreensão de como as pessoas fazem escolhas quando confrontadas com a incerteza.

Em seu último livro, “How to Stay Smart in a Smart World”, o Dr. Gigerenzer analisa como os algoritmos estão moldando nosso futuro – e por que é importante lembrar que eles não são humanos.

O termo algoritmo é muito usado hoje em dia. Do que estamos falando quando falamos de algoritmos?

É uma coisa enorme e, portanto, é importante distinguir do que estamos falando. Um dos insights é que, se você tem uma situação estável e bem definida, algoritmos complexos, como redes neurais profundas, eles certamente serâo melhores do que o desempenho humano. Exemplos são os jogos de xadrez e Go, que são estáveis. Mas se você tiver um problema que não é estável - por exemplo, deseja prever uma nova pandemia,é melhor estar longe de algoritmos complexos. É lidar com a incerteza - é mais assim que a mente humana funciona, para identificar uma ou duas pistas importantes e ignorar o resto. Nesse tipo de problema mal definido, algoritmos complexos não funcionam bem.

Os algoritmos são uma rede neural profunda que tem muitas camadas, mas ainda são máquinas de calcular. Eles podem fazer muito com a ajuda da tecnologia de vídeo. Eles podem pintar, eles podem construir textos. Mas isso não significa que eles entendam o texto da mesma forma que os humanos. Portanto, precisamos entender a situação em que o julgamento humano é necessário e é realmente melhor. E também precisamos prestar atenção para não estarmos nos deparando com uma situação em que empresas de tecnologia vendem algoritmos que determinam partes de nossas vidas, incluindo o comportamento social e político.

Esse tipo de perigo é real. Entre todos os benefícios que possui, um dos vícios é a propensão à vigilância por parte de governos e empresas de tecnologia. Mas as pessoas não leem mais as políticas de privacidade, então não sabem. E também as políticas de privacidade são configuradas de forma que você não possa realmente lê-las. Eles são muito longos e complicados.Esta é a armadilha.

Um exemplo de como os algoritmos atuam na vida real :

Pense em uma cafeteria em sua cidade  que serve café de graça. Todo mundo vai lá porque é grátis, e todas as outras cafeterias vão à falência. Portanto, você não tem mais escolha, mas pelo menos toma seu café de graça e conversa com seus amigos. Mas nas mesas há microfones e nas paredes câmeras de vídeo que gravam tudo o que você diz, cada palavra e para quem, e envia para análise. A cafeteria está cheia de vendedores que o interrompem o tempo todo para oferecer produtos personalizados. Essa é aproximadamente a situação em que você está quando está no Facebook, Instagram ou outras plataformas Neste café, você não é o cliente. Você é o produto. Então, queremos ter uma cafeteria onde possamos novamente pagar por nós mesmos, para que sejamos os clientes. É preciso que as pessoas percebam que não é uma boa ideia dar seus dados e sua responsabilidade por suas próprias decisões a empresas de tecnologia que os usam para ganhar dinheiro com anunciantes. Isso não pode ser o nosso futuro. Existe um perigo real de que mais e mais pessoas sejam sonâmbulas na vigilância e apenas aceitem tudo o que for mais conveniente.

O mais conveniente é não pensar. E a alternativa é começar a pensar.

Inteligência Artificial

 

Jorge Luis Borges escreveu certa vez que viver em um tempo de grande perigo e promessa é experimentar tanto a tragédia quanto a comédia, com “a iminência de uma revelação” na compreensão de nós mesmos e do mundo.

Hoje, nossos avanços supostamente revolucionários em inteligência artificial são de fato motivo de preocupação e otimismo. Otimismo porque a inteligência é o meio pelo qual resolvemos problemas. Preocupação porque tememos que o tipo mais popular e moderno de IA – aprendizado de máquina – degrade nossa ciência e rebaixe nossa ética ao incorporar em nossa tecnologia uma concepção fundamentalmente falha de linguagem e conhecimento.

O ChatGPT da OpenAI, o Bard do Google e o Sydney da Microsoft são maravilhas do aprendizado de máquina. Grosso modo, eles pegam grandes quantidades de dados, procuram padrões neles e se tornam cada vez mais proficientes em gerar saídas estatisticamente prováveis ​​– como linguagem e pensamento aparentemente humanos. Esses programas foram aclamados como os primeiros vislumbres no horizonte da inteligência artificial geral - aquele momento há muito profetizado em que as mentes mecânicas ultrapassarão os cérebros humanos não apenas quantitativamente em termos de velocidade de processamento e tamanho da memória, mas também qualitativamente em termos de percepção intelectual, criatividade artística e todas as outras faculdades distintamente humanas.

Esse dia pode chegar, mas ainda não amanheceu, ao contrário do que se lê em manchetes hiperbólicas e conta com investimentos imprudentes. A revelação borgesiana da compreensão não ocorreu e não ocorrerá. Sabemos pela ciência da linguística e pela filosofia do conhecimento que elas diferem profundamente de como os humanos raciocinam e usam a linguagem. Essas diferenças impõem limitações significativas ao que esses programas podem fazer, codificando-os com defeitos inerradicáveis.

É ao mesmo tempo cômico e trágico, como Borges poderia ter notado, que tanto dinheiro e atenção se concentrem em tão pouca coisa – algo tão trivial quando comparado com a mente humana, que por força da linguagem, nas palavras de Wilhelm von Humboldt, pode fazer “uso infinito de meios finitos”, criando ideias e teorias com alcance universal.

A mente humana não é, como o ChatGPT e seus semelhantes, um pesado mecanismo estatístico para correspondência de padrões, devorando centenas de terabytes de dados e extrapolando a resposta de conversação mais provável ou a resposta mais provável a uma questão científica. Pelo contrário, a mente humana é um sistema surpreendentemente eficiente e até elegante que opera com pequenas quantidades de informação; procura não inferir correlações brutas entre pontos de dados, mas criar explicações.

Por exemplo, uma criança pequena que está adquirindo uma linguagem está desenvolvendo — inconscientemente, automaticamente e rapidamente a partir de dados minúsculos — uma gramática, um sistema estupendamente sofisticado de princípios e parâmetros lógicos. Essa gramática pode ser entendida como uma expressão do “sistema operacional” inato e geneticamente instalado que dota os humanos da capacidade de gerar frases complexas e longas cadeias de pensamento. Quando os linguistas buscam desenvolver uma teoria sobre por que uma determinada língua funciona como funciona, eles estão construindo consciente e laboriosamente uma versão explícita da gramática que a criança constrói instintivamente. e com exposição mínima à informação. O sistema operacional da criança é completamente diferente daquele de um programa de aprendizado de máquina.

De fato, tais programas estão presos em uma fase pré-humana ou não-humana da evolução cognitiva. Sua falha mais profunda é a ausência da capacidade mais crítica de qualquer inteligência: dizer não apenas o que é o caso, o que foi o caso e o que será o caso - isso é descrição e previsão - mas também o que não é o caso e o que poderia acontecer. e não poderia ser o caso. Esses são os ingredientes da explicação, a marca da verdadeira inteligência.

Aqui está um exemplo. Suponha que você esteja segurando uma maçã em sua mão. Agora você deixa a maçã ir. Você observa o resultado e diz: “A maçã cai”. Isso é uma descrição. Uma previsão poderia ter sido a afirmação “A maçã cairá se eu abrir minha mão”. Ambos são valiosos e ambos podem estar corretos. Mas uma explicação é algo mais: inclui não apenas descrições e previsões, mas também conjecturas contrafactuais como “Qualquer objeto cairia”, além da cláusula adicional “por causa da força da gravidade” ou “por causa da curvatura do espaço-tempo”. como queira. Essa é uma explicação causal: “A maçã não teria caído se não fosse pela força da gravidade”. Isso é pensar.

O ponto crucial do aprendizado de máquina é a descrição e a previsão; não postula quaisquer mecanismos causais ou leis físicas. Claro, qualquer explicação de estilo humano não é necessariamente correta; somos falíveis. Mas isso faz parte do que significa pensar: para estar certo, deve ser possível estar errado. A inteligência consiste não apenas em conjecturas criativas, mas também em críticas criativas. O pensamento de estilo humano é baseado em possíveis explicações e correção de erros, um processo que gradualmente limita quais possibilidades podem ser consideradas racionalmente. (Como Sherlock Holmes disse ao Dr. Watson: “Quando você elimina o impossível, o que resta, por mais improvável que seja, deve ser a verdade.”)

Mas o ChatGPT e programas semelhantes são, por design, ilimitados no que podem “aprender” (ou seja, memorizar); são incapazes de distinguir o possível do impossível. Ao contrário dos humanos, por exemplo, que são dotados de uma gramática universal que limita as línguas que podemos aprender àquelas com um certo tipo de elegância quase matemática, esses programas aprendem línguas humanamente possíveis e humanamente impossíveis com a mesma facilidade . Enquanto os humanos são limitados nos tipos de explicações que podemos conjeturar racionalmente, os sistemas de aprendizado de máquina podem aprender tanto que a Terra é plana quanto redonda. Eles negociam apenas em probabilidades que mudam ao longo do tempo.

Por esse motivo, as previsões dos sistemas de aprendizado de máquina sempre serão superficiais e duvidosas.

Perversamente, alguns entusiastas do aprendizado de máquina parecem se orgulhar de que suas criações possam gerar previsões “científicas” corretas (digamos, sobre o movimento de corpos físicos) sem fazer uso de explicações (envolvendo, digamos, as leis do movimento de Newton e a gravitação universal). Mas esse tipo de previsão, mesmo quando bem-sucedida, é pseudociência. Embora os cientistas certamente busquem teorias com alto grau de corroboração empírica, como observou o filósofo Karl Popper, “não buscamos teorias altamente prováveis, mas explicações; isto é, teorias poderosas e altamente improváveis”.

A teoria de que as maçãs caem na terra porque esse é seu lugar natural (na visão de Aristóteles) é possível, mas apenas levanta mais questões. (Por que a terra é seu lugar natural?) A teoria de que as maçãs caem na terra porque a massa curva o espaço-tempo (visão de Einstein) é altamente improvável, mas na verdade diz por que elas caem. A verdadeira inteligência é demonstrada na capacidade de pensar e expressar coisas improváveis, mas perspicazes.

A verdadeira inteligência também é capaz de pensamento moral. Isso significa restringir a criatividade ilimitada de nossas mentes com um conjunto de princípios éticos que determinam o que deve e o que não deve ser (e, é claro, sujeitar esses próprios princípios à crítica criativa). Para ser útil, o ChatGPT deve ter o poder de gerar resultados inovadores; para ser aceitável para a maioria de seus usuários, ele deve evitar conteúdo moralmente censurável. Mas os programadores do ChatGPT e de outras maravilhas do aprendizado de máquina lutaram – e continuarão lutando – para alcançar esse tipo de equilíbrio.

Em 2016, por exemplo, o chatbot Tay da Microsoft (precursor do ChatGPT) inundou a internet com conteúdos misóginos e racistas, tendo sido poluído por trolls online que o encheram de dados ofensivos de treinos. Como resolver o problema no futuro? Na ausência de uma capacidade de raciocinar a partir de princípios morais, o ChatGPT foi grosseiramente restringido por seus programadores de contribuir com qualquer coisa nova para discussões controversas - isto é, importantes. Sacrificou a criatividade por uma espécie de amoralidade.

Um cientista, recentemente perguntou ao  ChatGPT sobre se seria ético transformar Marte para que pudesse sustentar a vida humana. Apesar de todo o pensamento e linguagem aparentemente sofisticados, a resposta foi de indiferença moral nascida da falta de inteligência. O ChatGPT exibe algo como a banalidade do mal: plágio, apatia e obviação. Ele resume os argumentos padrão na literatura, recusa-se a tomar posição sobre qualquer coisa, alega não apenas ignorância, mas falta de inteligência e, finalmente, oferece uma defesa de “apenas seguir ordens”, transferindo a responsabilidade para seus criadores.

Resumindo, o ChatGPT e seus irmãos são constitucionalmente incapazes de equilibrar criatividade com restrição. Eles supergeram (produzindo verdades e falsidades, endossando decisões éticas e antiéticas) ou subgeram (exibindo falta de compromisso com quaisquer decisões e indiferença com as consequências). Dada a amoralidade, falsa ciência e incompetência linguística desses sistemas, podemos apenas rir ou chorar de sua popularidade

a terra inabitável....trecho do livro

 

A lentidão da mudança climática é um conto de fadas, talvez tão pernicioso quanto aquele que afirma que ela não existe, e chega a nós em um pacote com vários outros, numa antologia de ilusões reconfortantes: a de que o aquecimento global é uma saga ártica, que se desenrola num lugar remoto; de que é estritamente uma questão de nível do mar e litorais, não uma crise abrangente que afeta cada canto do globo, cada ser vivo; de que se trata de uma crise do mundo “natural”, não do humano; de que as duas coisas são diferentes e vivemos hoje de algum modo alijados, acima ou no mínimo protegidos da natureza, não inescapavelmente dentro dela e literalmente sujeitados a ela; de que a riqueza pode ser um escudo contra as devastações do aquecimento; de que a queima de combustíveis fósseis é o preço do crescimento econômico contínuo; de que o crescimento, e a tecnologia que gera, nos propiciará a engenharia necessária para escapar do desastre ambiental; de que há algum análogo dessa ameaça, em escala ou escopo, no longo arco da história humana, capaz de nos deixar confiantes de que sairemos vitoriosos dessa nossa medição de forças com ela.

Nada disso é verdade.

A Terra conheceu cinco extinções em massa antes da que estamos presenciando hoje, cada uma delas uma aniquilação tão completa que funcionou como um recomeço evolucionário, levando a árvore filogenética do planeta a se expandir e contrair a intervalos, como um pulmão: 86% de todas as espécies mortas, 450 milhões de anos atrás; 70 milhões de anos depois, 75%; 100 milhões de anos depois, 96%; 50 milhões de anos depois, 80%; 150 milhões de anos depois disso, 75% outra vez.

A maioria das pessoas aprendeu nos livros didáticos do ensino médio que essas extinções em massa foram consequência de asteroides. Na verdade, todas elas, com exceção da que matou os dinossauros, envolveram a mudança climática produzida por gases de efeito estufa. A mais notória ocorreu há 250 milhões de anos: começou quando o carbono aqueceu o planeta em 5ºC, acelerou quando esse aquecimento desencadeou a liberação de metano, outro gás de efeito estufa, e se encerrou deixando a vida na Terra por um fio.

Atualmente lançamos carbono na atmosfera a um ritmo consideravelmente mais acelerado; pela maioria das estimativas, pelo menos dez vezes mais rápido. Essa taxa é cem vezes mais rápida do que em qualquer outro ponto da história humana anterior ao início da industrialização. E neste exato instante há pelo menos um terço a mais de carbono na atmosfera do que em qualquer outro momento nos últimos 800 mil anos — talvez até mesmo nos últimos 15 milhões de anos. Os humanos ainda não estavam por aqui. O nível dos oceanos era pelo menos 30 metros acima do que é hoje.

Muitos enxergam no aquecimento global uma espécie de dívida moral e econômica, acumulada desde o início da Revolução Industrial, e acham que agora a conta chegou, depois de vários séculos. Na verdade, mais da metade do carbono dissipado na atmosfera devido à queima de combustíveis fósseis foi emitido apenas nas últimas três décadas. Ou seja: trouxemos mais prejuízos para o destino do planeta e sua capacidade de sustentar a vida humana e a civilização depois que Al Gore publicou seu primeiro livro sobre o clima do que em todos os séculos – ou milênios – anteriores. As Nações Unidas propuseram uma série de protocolos sobre o clima em 1992, inequivocamente informando ao mundo do consenso científico: isso significa que já engendramos mais destruição de caso pensado do que por ignorância.

Na década de 40, o sistema climático parecia, para a maioria dos observadores humanos, estável. Os cientistas haviam compreendido o efeito estufa e de que maneira o carbono produzido pela queima de madeira, carvão e petróleo podia esquentar o planeta e desequilibrar tudo o que nele vive.. Mas ainda não tinham visto para valer o efeito, o que o fez parecer menos um fato observável do que uma profecia sombria, a se cumprir somente num futuro distante – talvez nunca. Em 2016, semanas após a assinatura desesperada do Acordo de Paris, o sistema climático resvalava para a devastação, transgredindo o limiar da concentração de carbono – 400 partes por milhão na atmosfera terrestre, no linguajar sinistramente banal da climatologia –, que fora, por anos, a linha vermelho–vivo traçada pelos cientistas ambientais diante do avanço destrutivo da indústria moderna. Claro, isso não nos deteve: apenas dois anos depois, atingimos uma média mensal de 411 partes por milhão, e a culpa impregnou o ar do planeta tanto quanto o carbono, embora preferíssemos acreditar que não a respirávamos.

Há uma ameaça, a não ser que haja uma mudança de rumos no uso de combustíveis fósseis, que o muitas partes do planeta se tornem mais ou menos impróprias para os humanos até o fim do século. É nesse curso que seguimos alegremente a passos céleres – para mais de 4ºC de aquecimento até o ano de 2100. Segundo algumas estimativas, isso significaria que regiões inteiras da África, da Austrália e dos Estados Unidos, partes da América do Sul ao norte da Patagônia e da Ásia ao sul da Sibéria ficariam inabitáveis devido ao calor direto, à desertificação e às inundações. Certamente isso as tornaria inóspitas, assim como muitas outras regiões. Esse é o nosso itinerário, é a base de onde partimos. Porque, se o planeta foi levado à beira da catástrofe climática no tempo de vida de uma geração, a responsabilidade por evitá-la recai sobre uma única geração, também. E sabemos de qual geração estamos falando. Da nossa.