Estamos abrindo duas gigantescas caixas de Pandora
Thomas Friedman, The New York Times, Tradução de Augusto Calil, O Estado de S. Paulo, 07/05/2023
O dicionário Merriam-Webster observa que uma “caixa de Pandora” pode ser “qualquer coisa que pareça algo ordinário, mas seja capaz de produzir males imprevisíveis”. Tenho pensado muito em caixas de Pandora ultimamente, porque nós, Homo sapiens, estamos fazendo uma coisa que nunca fizemos antes: abrindo duas caixas de Pandora ao mesmo tempo, sem nenhuma ideia do que poderá sair de dentro delas.
Uma é rotulada como “inteligência artificial”, exemplificada por plataformas como ChatGPT, Bard e AlphaFold, que atestam, pela primeira vez, a capacidade da humanidade de manufaturar algo divinal, que se aproxima da inteligência em geral, excedendo em enorme medida a capacidade intelectual com a qual nós evoluímos naturalmente.
CLIMA. A outra caixa de Pandora é rotulada como “mudanças climáticas”, e com ela, nós, humanos, estamos pela primeira vez determinando de maneira divinal a transição de uma era climática para outra. Até aqui, esse poder restringia-se amplamente às forças naturais envolvendo a órbita da Terra em torno do sol.
Para mim, a grande dúvida, conforme abrimos as caixas simultaneamente, é: que tipo de regulações e ética temos de instaurar para lidar com o que sair voando de dentro delas?
Sejamos sinceros, nós não compreendemos o quanto as redes sociais seriam usadas para minar os dois pilares fundamentais de qualquer sociedade livre: a verdade e a confiança.
Então, se nós lidarmos com a IA generativa com a mesma negligência — se adotarmos novamente o mesmo mantra inconsequente pronunciado por Mark Zuckerberg na aurora das redes sociais, “mova-se rápido e quebre coisas” — meus amigos, nós vamos quebrar coisas com mais rapidez, mais força e mais profundidade do que qualquer um possa imaginar.
FALHAS. “Houve uma falha de imaginação quando as redes sociais foram lançadas e depois uma falha em não responder responsavelmente às suas consequências não imaginadas uma vez que elas permearam as vidas de bilhões de pessoas”, disse-me Dov Seidman, fundador e presidente do HOW Institute for Society e da LRN.
“Nós perdemos muito tempo — e o nosso caminho — no pensamento utópico de que apenas coisas boas poderiam resultar das redes sociais, por simplesmente conectar as pessoas e dar-lhes uma voz. Nós não podemos permitir falhas similares com a inteligência artificial.”
Portanto existe “um imperativo urgente — tanto ético quanto regulatório — para que essas tecnologias de inteligência artificial devam ser usadas apenas para complementar e elevar o que nos torna singularmente humanos: a criatividade, a curiosidade e, na nossa expressão mais sublime, a capacidade de ter esperança, ética, empatia, determinação e de colaborar com os demais”, acrescentou Seidman (membro da diretoria do museu fundado por minha mulher, o Planet Word).
“O ditado que diz, ‘Com grande poder vem grande responsabilidade’, nunca foi tão verdadeiro. Nós não conseguiremos suportar uma outra geração de tecnologistas proclamando sua neutralidade ética e nos dizendo, ‘Ei, nós somos apenas uma plataforma’, enquanto essas tecnologias de IA estão possibilitando formas exponencialmente mais poderosas e profundas de empoderamento humano e interação.”
Por esses motivos, eu questionei James Manyika, que dirige a equipe de tecnologia e sociedade do Google e o Google Research, onde está sendo conduzida grande parte dessa inovação em IA, em busca de sua opinião a respeito das promessa da IA e seus desafios.
“Nós temos de ser ousados e responsáveis ao mesmo tempo”, afirmou ele. “A razão para sermos ousados é que, em tantos campos diferentes, a IA tem potencial para ajudar as pessoas com tarefas cotidianas e enfrentar alguns dos maiores desafios da humanidade — como assistência de saúde, por exemplo — e ocasionar novas descobertas científicas, inovações e ganhos em produtividade que levarão a uma prosperidade econômica maior.”
AVANÇO. A inteligência artificial fará isso, acrescentou ele, “dando às pessoas de todas as partes acesso à totalidade do conhecimento do mundo — em suas próprias línguas, em seus meios de comunicação preferidos, via texto escrito, fala, imagens ou código”, entregues por smartphones, TVs, áudios ou e-books. Muito mais gente conseguirá obter a melhor assistência e as melhores respostas para melhorar suas vidas.
Mas nós também temos de ser responsáveis, acrescentou Manyika, citando várias preocupações. Primeiro, essas ferramentas precisam ser totalmente alinhadas com os objetivos da humanidade. Segundo, nas mãos erradas, essas ferramentas poderiam causar um dano enorme, seja em se tratando de desinformação, falsificações perfeitas ou ataques de hackers (os bandidos estão sempre entre os primeiros a adotar novas tecnologias).
Finalmente, “a engenharia está à frente da ciência em certa medida”, explicou Manyika. Ou seja, até as pessoas que estão construindo esses ditos grandes modelos de linguagem, subjacentes em produtos como ChatGPT e Bard, não entendem completamente como eles funcionam e o escopo total de suas capacidades.
Nós somos capazes de projetar e construir sistemas de IA extraordinariamente capazes, acrescentou ele, que podem ser expostos a alguns poucos exemplos de aritmética ou a uma língua rara ou a explicações de piadas e serem capazes de começar a fazer muitas outras coisas com esses poucos fragmentos impressionantemente bem. Em outras palavras, nós não entendemos completamente ainda quais coisas boas ou ruins esses sistemas são capazes de fazer.
REGRAS. Portanto, nós precisamos de alguma regulação, mas isso tem de ser feito cuidadosamente e de modo iterativo. Um regime único não dará conta de tudo. Por quê?
Bem, se estivermos mais preocupados a respeito de a China superar os EUA em inteligência artificial, vamos querer turbinar nossa inovação em IA, não diminuir seu ritmo. Se quisermos democratizar verdadeiramente a IA, podemos nos sentir tentados a abrir seu código-fonte.
Mas códigos abertos podem ser explorados. E o que o Estado Islâmico faria com o código? Então temos de pensar em controles de armamentos. Se estivermos preocupados com a possibilidade de sistemas de IA agravarem discriminações, violações de privacidade e outros males sociais facciosos, da maneira que as redes sociais fazem, vamos querer regulações o quanto antes.
Se quisermos tirar vantagem de todos os ganhos em produtividade que a IA deverá gerar, vamos precisar de foco na criação de novas oportunidades e redes de segurança para todos os assistentes jurídicos, conselheiros financeiros, tradutores e trabalhadores que cumprem tarefas repetitivas que poderiam ser substituídos imediatamente — e talvez advogados e programadores amanhã.
Se estivermos preocupados com a possibilidade da IA se tornar superinteligente e começar a definir seus próprios objetivos, independentemente de levar em consideração ou não o estrago para os humanos, vamos desejar impedi-la imediatamente.
Isso é tão real que, na segunda-feira, Geoffrey Hinton, um dos pioneiros nos projetos de sistemas de inteligência artificial, anunciou que estava deixando a equipe de IA do Google. Hinton afirmou acreditar que o Google está se comportando responsavelmente com o desenvolvimento e a aplicação de seus produtos de IA, mas que queria estar livre para falar abertamente a respeito de todos os riscos.
PREOCUPAÇÃO. “É difícil ver como seríamos capazes de evitar que atores perversos a usassem para cometer maldades”, disse Hinton a Cade Metz, do Times.
Isso tudo somado diz uma só coisa: nós, enquanto sociedade, estamos na iminência de ter de decidir a respeito de algumas contrapartidas bem grandes à medida que introduzimos a IA generativa.
E regulação do governo, sozinha, não nos salvará. Eu tenho uma regra simples: quanto maior o ritmo da transformação e maiores os poderes divinais que a humanidade desenvolve, mais tudo o que é antigo e vagaroso importa como nunca; mais tudo o que você aprendeu na escola dominical — ou em onde quer que você tenha encontrado sua inspiração ética — importa como nunca.
Porque quanto mais ampliarmos a escala da inteligência artificial, mais a regra dourada precisará ser ampliada: faça às pessoas o que você gostaria que fizessem por você. Porque dados os poderes cada vez mais divinais dos quais nos estamos dotando, todos nós seremos capazes de fazer coisas às outras pessoas com mais rapidez, economia e profundidade do que nunca antes.
O mesmo vale quando se trata da caixa de Pandora climática que estamos abrindo. Como a Nasa explica em seu website, “Nos 800 mil anos passados, nós tivemos oito ciclos de eras glaciais e períodos mais quentes”.
A era glacial mais recente acabou cerca de 11,7 mil anos atrás, dando espaço para nossa atual era climática — conhecida como Holoceno (que significa “inteiramente recente”) — que foi caracterizada por estações estáveis que permitiram agricultura estável, a construção das comunidades humanas e, em última instância, a civilização como a conhecemos hoje.
“A maioria dessas mudanças climáticas é atribuída a variações muito pequenas na órbita da Terra, que alteram a quantidade de energia solar que nosso planeta recebe”, nota a Nasa.
Bem, diga adeus a esse passado. Há atualmente uma discussão intensa entre ambientalistas — e geólogos da União Internacional das Ciência Geológicas, a organização profissional responsável por definir as eras geológico/climáticas da Terra — a respeito da humanidade ter se retirado do Holoceno e ocasionado uma nova era, chamada Antropoceno.
MUDANÇA. Esse termo vem “de ‘antropo’, que designa ‘humano’, e ‘ceno’, que significa ‘novo’— porque a humanidade causou extinções em massa de espécies de plantas e animais, poluiu os oceanos e alterou a atmosfera, entre outros impactos duradouros”, explicou um artigo da Smithsonian Magazine.
Cientistas que estudam o sistema terrestre temem que esta era fabricada pelo homem, o Antropoceno, não terá nenhuma das estações previsíveis do Holoceno. A produção agrícola poderia se tornar um pesadelo.
Mas, nesse aspecto, a inteligência artificial poderia ser nossa salvadora: apressando descobertas na ciência de materiais, densidades de baterias, fusão como fonte de energia e uma energia nuclear modular e segura que possibilitem aos humanos administrar os impactos das mudanças climáticas inevitáveis neste momento e evitar outros efeitos inimagináveis.
Mas, se a inteligência artificial nos permite uma maneira de atenuar os piores efeitos das mudanças climáticas — se a IA, com efeito, nos der uma segunda oportunidade —, melhor seria que a aproveitássemos corretamente.
Isso significa mais regulações inteligentes para ampliar rapidamente a escala da energia limpa e a escala dos valores de sustentabilidade. A não ser que disseminemos uma ética de conservação — uma reverência à natureza selvagem e a tudo o que nos provê ar limpo e água limpa — nós poderíamos terminar em um mundo em que as pessoas se sentem no direito de dirigir através da floresta tropical, já que seus Hummers são movidos totalmente a eletricidade. Isso não pode acontecer.
Conclusão: essas duas grandes caixas de Pandora estão abrindo. Deus nos salve se nós adquirirmos poderes divinais suficientes para abrir o Mar Vermelho, mas não dimensionarmos os Dez Mandamentos.
ARTIGO920
