O filósofo alemão Sven Nyholm, professor de Ética da
Inteligência Artificial na Universidade Ludwig Maximilian de Munique, percebeu
que muitos de seus alunos não se envolvem com textos complexos quando um resumo
feito por IA está a poucos segundos de distância. "A IA é projetada para
fazer as pessoas não pensarem", disse ele "Mas por que estudar
filosofia na universidade se você não quer pensar — se não quer aprimorar
suas habilidades críticas — e, em vez disso, terceiriza isso para um programa
de IA sem mente?" Nesses momentos, ele admite, tanto os estudos de seus
alunos quanto seu próprio papel como professor parecem menos significativos.
Nyholm passou anos refletindo sobre para onde tudo isso pode
estar nos levando. Como um dos primeiros filósofos a examinar como a IA se
cruza com o significado da vida humana, ele analisa atentamente a linguagem que
as grandes empresas de tecnologia usam para descrever seus objetivos . Quando
empresas como a OpenAI ou o Google DeepMind dizem que pretendem garantir que
seus produtos de IA "beneficiem", "transformem" ou
"melhorem" a vida das pessoas, qual visão do bem está sendo
pressuposta? O que se espera em troca?
Para Nyholm, a questão mais profunda é: a IA pode melhorar
nossas vidas da maneira que mais importa — aprofundando o significado — ou pode
diminuir o significado de maneiras que permanecem em grande parte inexploradas?
Ele parte de uma observação básica: o significado é uma
ideia complexa e, antes de mais nada, precisamos ter clareza sobre o que
queremos dizer quando falamos dele. Se o significado fosse inteiramente
subjetivo, então qualquer coisa que pareça significativa para alguém
simplesmente contaria como significativa, e a discussão terminaria aí. Para levar a questão a sério, o significado
precisa estar atrelado a critérios ou práticas que possam ser ponderados e
comparados. Algumas maneiras de agir, criar ou se relacionar podem,
razoavelmente, ser consideradas mais significativas do que outras. A partir
daí, surge outra percepção. O significado não é uma única conquista que resolve
tudo de uma vez por todas: ele se espalha por diferentes escalas e momentos.
"Não se trata de existir apenas uma coisa que seja
significativa, e se você a pratica, sua vida é significativa, e se não a
pratica, sua vida é sem sentido", diz Nyholm. Como, então, julgamos o
significado? A filosofia desenvolveu um rico repertório de critérios. Uma
vertente bem conhecida associa o significado da vida ao bem, à verdade e à
beleza. Nessa perspectiva, uma vida com significado é aquela moldada pela
prática do bem, pela busca da verdade e pela capacidade de desfrutar e apreciar
a beleza em suas diversas expressões. O significado também tem sido explorado
como desenvolver os melhores aspectos da natureza humana, aprendendo a lidar
com seus aspectos menos lisonjeiros com dignidade e cuidado.
Somente quando entendermos o que conta como atividade
significativa é que a questão central poderá tomar forma mais clara: a IA está
ampliando esses domínios ou os minando? Nyholm traça o contraste com precisão.
"Se a IA assumir as atividades significativas e nos deixar apenas com as
atividades e coisas que consideramos sem sentido", argumenta ele,
"então, é claro, a IA é, por definição, uma ameaça ao significado. Por
outro lado, se pudermos deixar que a IA assuma as coisas sem sentido, preservando
as atividades e coisas significativas para nós, então a IA será uma
impulsionadora do significado." Tudo depende, portanto, de quais tarefas
estão sendo transferidas, se essas tarefas têm significado para nós e se ainda
restam outras formas de atividade para o engajamento humano.
É aqui que o terreno se torna instável. Nossas ideias
familiares sobre viver bem e agir virtuosamente foram moldadas muito antes de a
IA começar a pressionar os limites da vida humana. Elas pressupõem
oportunidades de contribuição, de fazer o bem, de alcançar objetivos e de
exercer o engenho humano. Essas premissas podem não se sustentar mais no mundo
que se desenrola atualmente.A IA generativa está abrindo uma lacuna de
significado : atividades antes consideradas significativas são terceirizadas,
sem que nada equivalente as substitua.
Nyholm argumenta que o perigo já está em ação. Ele o chama
de um caso especial da lacuna de significado: a lacuna de realização . Ela
surge sempre que dependemos da IA para realizar tarefas que, de outra forma,
faríamos nós mesmos, tarefas que normalmente exercitam nossa inteligência e
habilidade, como escrever textos, compor música e tomar decisões.
Ao agirmos assim, alerta Nyholm, acabamos por “limitar as
nossas próprias contribuições para os resultados”. À medida que o nosso papel
diminui, os produtos resultantes deixam cada vez mais de se qualificar como
conquistas que possamos genuinamente reivindicar. Nesta esfera de realizações
significativas, insiste Nyholm, as consequências são claras: a menos que
resistamos ativamente a esta deriva, algo essencial ao sentido da vida humana
se perderá.
Agora, quando elogiamos o trabalho de alguém, geralmente nos
preocupamos com quem realmente o fez. Questionamos se a pessoa possui as
habilidades que tornaram a conquista possível. Nyholm dá um exemplo simples. Se
você quer saber se alguém sabe escrever poesia e descobre que essa pessoa pediu
a um modelo de linguagem complexo que produzisse um poema e depois assinou com
o próprio nome, você não aprende nada sobre sua capacidade. O poema em si pode
ser impressionante. Pode até ganhar um prêmio. Mesmo assim, algo crucial está
faltando.
Inspirado por filósofas como Gwen Bradford e Hannah Maslen,
Nyholm acrescenta que a verdadeira conquista envolve dificuldade e sacrifício.
Também exige competência. A pessoa deve produzir o resultado por meio de
habilidades que realmente possui, demonstrando uma forma de excelência.
"Confiar em tecnologias de IA que nos dizem o que fazer", enfatiza
ele, "ou que nos ajudam a produzir resultados impressionantes, parece
insuficiente para qualificar como tendo feito um esforço extra, demonstrado um
talento particular ou exibido qualquer forma especial de excelência."
A IA generativa não prejudica conquistas significativas por
acidente. Ela faz isso intencionalmente, em consonância com sua lógica de
negócios. Ela foi projetada para assumir tarefas que exigem esforço da nossa
parte. Essa é a própria ideia da IA: a tentação de escolher o caminho mais
fácil. A dificuldade reside no fato de que muitas tarefas que exigem esforço
são justamente as que carregam significado. Relacionamentos profundos requerem
paciência, atrito e vulnerabilidade. Habilidades demandam tempo, frustração e
persistência. No entanto, as pessoas dizem cada vez mais: " Meu assistente
virtual de IA está sempre disponível, sempre me apoia e é muito mais fácil do
que lidar com outro ser humano" . Ou, em vez de me esforçar para
desenvolver uma habilidade, posso deixar que a IA produza o resultado para mim.
Sua maior preocupação não é que a IA supere os humanos, mas
que ela pareça fazê -lo, especialmente para olhos não especializados. As formas
atuais de IA ameaçam atividades significativas porque parecem muito mais
inteligentes do que realmente são. Essa aparência inspira confiança. As pessoas
começam a tratar a IA como um oráculo, confundindo uma impressionante conquista
da engenharia com compreensão. À medida que a confiança equivocada cresce, o
discernimento enfraquece. As habilidades se desenvolvem de forma incompleta. As
capacidades são transferidas com muita facilidade e, com elas, formas de
significado que dependem de esforço.
Nyholm faz questão de ressaltar que a forma de preservar o
pensamento crítico e analítico, juntamente com a concentração profunda,
permanece uma questão em aberto. O que o preocupa é a alternativa: um declínio
gradual para vidas moldadas por impulsos, atenção dispersa e distrações
constantes. Esse desafio, insiste ele, não pode ser atribuído apenas aos
indivíduos. Políticas públicas são importantes. Ainda assim, no âmbito pessoal,
cada um de nós tem trabalho a fazer.
Nenhum comentário:
Postar um comentário