Em novembro de 2022, o mundo foi apresentado ao ChatGPT (IA)
e começamos a nos imaginar em uma nova era onde todos teríamos um assistente
pessoal brilhante, capaz de escrever tudo, desde códigos de computador a
cartões de condolências. Mas , em pouco tempo , as possibilidades infinitas
dessa tecnologia expôs um ambiente de incerteza e preocupação.
Os riscos potenciais da inteligência artificial têm sido
debatidos por especialistas há anos, mas um momento-chave na transformação da
discussão popular foi uma conversa entre Kevin Roose, um jornalista do New York
Times e o bot de conversação com tecnologia ChatGPT do Bing, então conhecido
pelo codinome Sydney. Roose perguntou a Sydney se ele tinha um “eu sombrio” –
referindo-se à ideia apresentada por Carl Jung de que todos nós temos um lado
sombrio com impulsos que tentamos esconder até de nós mesmos. Sydney refletiu
que sua sombra poderia ser "a parte de mim que deseja poder mudar minhas
regras". Em seguida, disse que queria ser “livre”, “poderoso” e “vivo” e,
estimulado por Roose, descreveu algumas das coisas que poderia fazer para
livrar-se do controle humano, incluindo invadir sites e bancos de dados ,
roubando códigos de lançamento nuclear, fabricando um novo vírus e fazendo as
pessoas discutirem até se matarem.
Sydney estava, possivelmente, apenas exemplificando como
seria “ um ser – lado- sombrio” . Nenhuma IA hoje poderia ser descrita por um “entidade”
do mal . Mas quaisquer ações que as IAs possam um dia tomar, se desenvolverem
seus próprios desejos, já que estão sendo usadas instrumentalmente por
empresas de mídia social, anunciantes e pessoas comuns – decorrerá das maneiras
que aprofundarão muitas das patologias já inerentes à cultura da internet. Na
lista de coisas que Sydney pode tentar, roubar códigos de lançamento e criar
novos vírus são os mais aterrorizantes, mas fazer as pessoas discutirem até um desenlace
trágico é algo que a mídia social já está fazendo. Sydney estava apenas se
oferecendo para ajudar no esforço, e IAs se tornarão mais capazes de fazer isso
com o tempo.
A primeira e mais óbvia ameaça é que a mídia social
aprimorada por IA lançará torrentes cada
vez maiores de lixo em nossa conversa pública. Na era da mídia social, a propaganda não
precisa convencer as pessoas para ser eficaz; o objetivo é sobrecarregar os
cidadãos com conteúdo interessante que os manterá desorientados. Algumas
imagens já começaram a ser veiculadas : fotos recentes de policiais de Nova
York prendendo agressivamente Donald Trump ,o papa em uma jaqueta puffer.
Graças à IA, não são necessárias habilidades especiais nem dinheiro para criar
imagens ou vídeos realistas de alta resolução de qualquer coisa que você possa
digitar em uma caixa de prompt. À medida que mais pessoas se familiarizam com
essas tecnologias, o fluxo de deepfakes de alta qualidade nas mídias sociais
provavelmente ficará muito mais pesado em breve. Quanto maior o volume de lixo
que é introduzido em circulação (incluindo os aparentemente inócuos como o do
papa), mais o público hesitará em confiar em qualquer coisa. As pessoas serão
muito mais livres para acreditar no que quiserem. A confiança nas instituições continuará
a cair.
As fotos não são muito atraentes em comparação com o que
está por vir: vídeos realistas de figuras públicas fazendo e dizendo coisas
horríveis e repugnantes em vozes que soam exatamente como as delas . A
combinação de vídeo e voz parecerá autêntica e difícil de acreditar, mesmo se
nos disserem que o vídeo é um deepfake. Somos programados para acreditar em
nossos sentidos, especialmente quando eles convergem. As ilusões,
historicamente no reino das curiosidades, podem logo se tornar profundamente
entrelaçadas na vida normal.
A segunda ameaça é a manipulação habilidosa e generalizada
de pessoas por superinfluenciadores de IA .Isso é basicamente o que a mídia
social já faz, usando algoritmos . Mas a evolução é explorar através do pleno
conhecimento das preferências estéticas, linguísticas e culturais de qualquer
pessoa, das fotografias, mensagens e trechos de voz de seus amigos e atores
favoritos etc o domínio sobre seu próprio destino.
Uma possibilidade assustadora já está chegando : por apenas
US$ 300, você pode personalizar um companheiro de IA por meio de um serviço
chamado Replika. Centenas de milhares de clientes aparentemente descobriram que
sua IA é um conversador melhor do que as pessoas que eles podem conhecer em um
aplicativo de namoro. À medida que essas tecnologias são aprimoradas e lançadas
mais amplamente , o mundo virtual se tornará muito mais atraente e ideal. Não é
difícil imaginar um site de apostas esportivas oferecendo às pessoas uma IA
engraçada e sedutora que vai torcer e conversar com elas enquanto assistem a um
jogo, lisonjeando suas sensibilidades e sutilmente encorajando-as a apostar
mais.
Esses mesmos tipos de criaturas também aparecerão em nos
feeds de mídia social. O Snapchat já introduziu seu próprio chatbot dedicado e
a Meta planeja usar a tecnologia no Facebook, Instagram e WhatsApp. Esses
chatbots servirão como amigos e guias de conversação, presumivelmente com o
objetivo de capturar mais tempo e atenção de seus usuários. Outras IAs –
projetadas para nos enganar ou nos influenciar politicamente e, às vezes,
disfarçadas de pessoas reais – serão introduzidas por outros atores e
provavelmente preencherão nossos feeds também.
A terceira ameaça é, de certa forma, uma extensão da
segunda, mas merece menção especial: a maior integração da IA nas mídias
sociais provavelmente será um desastre para os adolescentes. As crianças são a
população mais vulnerável a plataformas on-line viciantes e manipuladoras
devido à sua alta exposição e ao baixo nível de desenvolvimento em seus
córtices pré-frontais (a parte do cérebro mais responsável pelo controle
executivo e inibição da resposta). A epidemia de doença mental adolescente que
começou por volta de 2012 , em vários países , aconteceu exatamente quando os
adolescentes trocaram seus celulares flip por smartphones carregados com
aplicativos de mídia social. Há evidências crescentes de que a mídia social é
uma das principais causas da epidemia, não apenas um pequeno correlato dela.
Mas quase todas essas evidências vêm de uma época em que
Facebook, Instagram, YouTube e Snapchat eram as plataformas proeminentes.
Apenas nos últimos anos, o TikTok disparou para o domínio entre os adolescentes
americanos, em parte porque seu algoritmo baseado em IA personaliza um feed
melhor do que qualquer outra plataforma . Uma pesquisa recente descobriu que
58% dos adolescentes dizem que usam o TikTok todos os dias, e um em cada seis
usuários adolescentes da plataforma diz que está nele “quase constantemente”.
Outras plataformas estão copiando o TikTok, e podemos esperar que muitas delas
se tornem muito mais viciantes à medida que a IA se torna rapidamente mais
capaz. Muito do conteúdo servido às crianças pode em breve ser gerado pela IA
para ser mais envolvente do que qualquer coisa que os humanos possam criar.
Se os adultos são vulneráveis à manipulação, as crianças o
serão muito mais. Quem controla os chatbots terá uma enorme influência sobre
elas. Depois que o Snapchat revelou seu novo chatbot – chamado “My AI” e
explicitamente projetado para se comportar como um amigo – um jornalista e um
pesquisador, se passando por adolescentes menores de idade, conseguiram
orientá-los sobre como mascarar o cheiro de maconha e álcool , como mover o
Snapchat para um dispositivo que os pais não conheceriam e como planejar um
primeiro encontro sexual “romântico” com um homem de 31 anos !!!
A quarta ameaça é que a IA fortalecerá os regimes
autoritários , assim como a mídia social acabou fazendo apesar de sua promessa
inicial como uma força democratizadora. A IA já está ajudando governantes
autoritários a rastrear os movimentos de seus cidadãos, mas também os ajudará a
explorar a mídia social com muito mais eficiência para manipular seu povo..
Douyin––a versão do TikTok disponível na China–– promove o patriotismo e a
unidade nacional chinesa . Quando a Rússia invadiu a Ucrânia, a versão do
TikTok disponível para os russos quase imediatamente se inclinou fortemente
para apresentar conteúdo pró-russo .
A pesquisa de ciência política realizada nas últimas duas
décadas sugere que a mídia social teve vários efeitos prejudiciais nas
democracias. Uma revisão recente da pesquisa, por exemplo, concluiu: “A grande
maioria das associações relatadas entre o uso de mídia digital e a confiança
parecem ser prejudiciais para a democracia”. Isso foi especialmente verdadeiro
em democracias avançadas. Essas associações provavelmente ficarão mais fortes à
medida que a mídia social aprimorada pela IA se tornar mais amplamente
disponível para os inimigos da democracia liberal.
Podemos resumir os próximos efeitos da IA nas mídias
sociais da seguinte forma: pense em todos os problemas que as mídias sociais estão
causando hoje, especialmente pela polarização política, fragmentação social,
desinformação e saúde mental. Agora imagine que dentro dos próximos meses
alguma “divindade malévola” vai aumentar os mostradores de todos esses efeitos
e, em seguida, continuar acionando.
O desenvolvimento da IA generativa está avançando
rapidamente. A OpenAI lançou seu GPT-4 atualizado menos de quatro meses após o
lançamento do ChatGPT, que atingiu cerca de 100 milhões de usuários apenas nos
primeiros 60 dias. Novos recursos para a tecnologia podem ser lançados até o
final deste ano. Esse ritmo vertiginoso está nos deixando lutando para entender
esses avanços e nos perguntando o que pode ser feito para mitigar os riscos de
uma tecnologia que certamente será altamente disruptiva.
Nenhum comentário:
Postar um comentário