História de William J. Broad – Jornal Estadão
A inteligência artificial (IA) é frequentemente criticada porque inventa informações que parecem ser factuais, conhecidas como alucinações.
Os erros têm perturbado não apenas as sessões de chatbot, mas também
processos judiciais e registros médicos. No ano passado, por algum
tempo, uma afirmação claramente falsa de um novo chatbot do Google ajudou a reduzir o valor de mercado da empresa em cerca de US$ 100 bilhões.
No universo da ciência, entretanto, pesquisadores estão descobrindo
que as alucinações podem ser extremamente úteis. As máquinas
inteligentes, ao que parece, estão sonhando com uma série de
irrealidades que ajudam os cientistas a rastrear o câncer, projetar
medicamentos, inventar dispositivos médicos, descobrir fenômenos
climáticos e até mesmo ganhar o Prêmio Nobel.

Cientistas enxergam erro das IAs como possibilidade de aprimoramento de pesquisas Foto: Sergio Barzaghi /Estadão
“O público acha que tudo isso é ruim”, diz Amy McGovern,
cientista da computação que dirige um instituto federal de IA. “Mas, na
verdade, ela está dando novas ideias aos cientistas. Está dando a eles a
chance de explorar ideias que, de outra forma, talvez não tivessem
pensado.”
A imagem pública da ciência é friamente analítica. De forma menos
visível, os estágios iniciais da descoberta podem estar repletos de
palpites e suposições. “Vale tudo” é como Paul Feyerabend, um filósofo da ciência, certa vez caracterizou o processo.
Agora, as alucinações da IA estão revigorando o lado criativo da
ciência. Elas aceleram o processo pelo qual cientistas e inventores
sonham com novas ideias e as testam para ver se a realidade concorda com
elas. É o método científico – só que superalimentado. O que antes
levava anos agora pode ser feito em dias, horas e minutos. Em alguns
casos, os ciclos acelerados de pesquisa ajudam os cientistas a abrir
novas fronteiras.
“Estamos explorando”, disse James J. Collins, professor do MIT que
recentemente elogiou as alucinações por acelerarem sua pesquisa sobre
novos antibióticos. “Estamos pedindo aos modelos que criem moléculas
completamente novas.”
As alucinações da IA surgem quando os cientistas ensinam modelos de
computador generativos sobre um determinado assunto e, em seguida,
deixam as máquinas retrabalharem essas informações. Os resultados podem
variar de sutis e equivocados a surreais. Às vezes, eles levam a grandes
descobertas.
Em outubro, David Baker, da Universidade de Washington, recebeu o Prêmio Nobel de Química por
sua pesquisa pioneira sobre proteínas – as moléculas complicadas que
fortalecem a vida. O comitê do Nobel o elogiou por ter descoberto como
construir rapidamente tipos completamente novos de proteínas não
encontradas na natureza, chamando sua façanha de “quase impossível”.
Em uma entrevista antes do anúncio do prêmio, Baker citou as
explosões de imaginação da IA como fundamentais para “criar proteínas do
zero”. A nova tecnologia, acrescentou ele, ajudou seu laboratório a
obter cerca de 100 patentes, muitas delas para assistência médica. Uma
delas é para uma nova maneira de tratar o câncer. Outra busca ajudar na
guerra global contra infecções virais. Baker também fundou ou ajudou a
iniciar mais de 20 empresas de biotecnologia.

David Baker na cerimônia do Nobel de Química Foto: Jonathan Nackstrand/AFP
“As coisas estão se movendo rapidamente”, disse ele. “Até mesmo os
cientistas que trabalham com proteínas não sabem o quanto as coisas
avançaram.” Quantas proteínas seu laboratório já projetou? “Dez milhões,
todas novinhas em folha”, respondeu ele. “Elas não ocorrem na
natureza.”
Apesar do fascínio que as alucinações da IA exercem sobre as
descobertas, alguns cientistas consideram a própria palavra enganosa.
Eles veem as imaginações dos modelos generativos de IA não como
ilusórias, mas prospectivas – como tendo alguma chance de se tornar
realidade, não muito diferente das conjecturas feitas nos estágios
iniciais do método científico. Eles consideram o termo alucinação
impreciso e, portanto, evitam usá-lo.
A palavra também é mal vista porque pode evocar os velhos e maus
tempos das alucinações causadas pelo LSD e outras drogas psicodélicas,
que assustaram cientistas de renome durante décadas. Uma última
desvantagem é que as comunicações científicas e médicas geradas pela IA
podem, assim como as respostas dos chatbots, ser obscurecidas por
informações falsas.
Em julho, a Casa Branca divulgou um relatório sobre a promoção da
confiança pública na pesquisa de IA. Sua única referência a alucinações
era sobre encontrar maneiras de reduzi-las.
O comitê do Prêmio Nobel parece ter seguido esse manual. Ele não
disse nada sobre alucinações em uma análise detalhada do trabalho de
Baker. Em vez disso, em um comunicado à imprensa, simplesmente creditou à
sua equipe a produção de “uma criação imaginativa de proteína após a
outra”. Cada vez mais, partes do establishment científico parecem ver as
alucinações como algo inominável.
Mesmo assim, os especialistas disseram em entrevistas que a
imaginação da IA científica tem grandes vantagens em comparação com as
alucinações dos chatbots e seus semelhantes. O mais importante, segundo
eles, é que as explosões criativas estão enraizadas nos fatos concretos
da natureza e da ciência, e não nas ambiguidades da linguagem humana ou
na indefinição da internet, conhecida por seus preconceitos e
falsidades.
“Estamos ensinando física para a IA”, disse Anima Anandkumar, professora de matemática e ciências da computação no Instituto de Tecnologia da Califórnia, que anteriormente dirigiu a pesquisa de inteligência artificial na Nvidia, a principal fabricante de chips de IA.
Para a ciência, acrescentou Anima, a base física em fatos confiáveis
pode produzir resultados altamente precisos. Ela disse que os grandes
modelos de linguagem dos chatbots não têm nenhuma maneira prática de
verificar a exatidão de suas declarações e afirmações.
A verificação final, disse ela, ocorre quando os cientistas comparam
os voos digitais da fantasia com os detalhes sólidos da realidade
física.
“Você precisa testar”, disse Anima sobre os resultados da IA. “Algo recém-projetado por alucinações de IA precisa ser testado.”
Recentemente, Anima e seus colegas usaram alucinações de IA para
ajudar a projetar um novo tipo de cateter que reduz muito a contaminação
bacteriana – uma praga global que anualmente causa milhões de infecções
do trato urinário. Ela disse que o modelo de IA da equipe imaginou
milhares de geometrias de cateteres e, em seguida, escolheu a mais
eficaz.
As paredes internas do novo cateter são revestidas com pontas
semelhantes a dentes de serra que impedem que as bactérias ganhem tração
e nadem rio acima para infectar a bexiga dos pacientes. Anima disse que
a equipe está discutindo a comercialização do dispositivo.
Assim como outros cientistas, Anima disse que não gosta do termo
alucinação. O artigo de sua equipe sobre o novo cateter evita a palavra.
Por outro lado, Harini Veeraraghavan, chefe de um laboratório do Memorial Sloan Kettering Cancer Center, em Manhattan,
citou o termo em um artigo sobre o uso de IA para aprimorar imagens
médicas borradas. Seu título, em parte, dizia: “Hallucinated MRI”,
abreviação de imagem por ressonância magnética.
Os pesquisadores da Universidade do Texas, em Austin,
também adotaram o termo. “Aprendendo com a alucinação”, diz o título de
seu artigo sobre o aprimoramento da navegação de robôs.
E o chefe da divisão de ciências da DeepMind, uma empresa do Google em Londres que
desenvolve aplicativos de IA, elogiou as alucinações como promotoras de
descobertas, fazendo isso logo depois que dois de seus colegas
dividiram o Prêmio Nobel de Química deste ano com Baker.
“Temos essa ferramenta incrível que pode demonstrar criatividade”, disse o funcionário da DeepMind, Pushmeet Kohli, em uma entrevista.
Um exemplo, disse ele, foi como um computador da DeepMind em 2016
venceu o campeão mundial de Go, um complexo jogo de tabuleiro. O ponto
de virada do jogo foi a jogada 37, bem no início da disputa. “Achamos
que era um erro”, disse Kohli. “E as pessoas perceberam, com o decorrer
do jogo, que foi um golpe de gênio. Portanto, esses modelos são capazes
de produzir essas percepções muito, muito novas.”
Amy, diretora do instituto de IA, também é professora de meteorologia e ciência da computação na Universidade de Oklahoma.
Ela disse que as alucinações da IA podem ser descritas de forma menos
colorida como “distribuições de probabilidade” – um termo muito antigo
no mundo da ciência.
Os detetives do clima, acrescentou Amy, agora usam a IA
rotineiramente para criar milhares de variações sutis de previsão ou
faixas de probabilidade. Ela disse que a imaginação rica permite que
eles descubram fatores inesperados que podem gerar eventos extremos,
como ondas de calor mortais. “É uma ferramenta valiosa”, disse ela.
Baker, recente ganhador do Prêmio Nobel, adotou a abordagem franca.
“Design de proteína de novo por alucinação de rede profunda”, diz o
título de um de seus artigos de 2021, publicado na Nature, uma importante revista científica.
A frase de novo – que significa “desde o início” em latim – faz um
forte contraste com a forma como os cientistas no início da década de
1980 começaram a ajustar as estruturas de proteínas conhecidas que
ocorrem na natureza.
Em 2003, Baker e seus colegas atingiram uma meta muito mais
ambiciosa: criar a primeira proteína totalmente nova do mundo a partir
do zero. Eles a chamaram de Top7. Sua realização foi vista como um
grande avanço porque as proteínas são superestrelas da complexidade. Os
especialistas comparam a estrutura do DNA a um colar de pérolas e a das
proteínas grandes a bolas de pelo. Suas estruturas são tão complicadas
que até mesmo as representações gráficas detalhadas são aproximações
grosseiras.
À medida que a IA se tornava uma nova e poderosa tecnologia, Baker se
perguntava se ela poderia acelerar o design de novo. Seu artigo de 2021
na Nature citou a inspiração do Google DeepDream – um modelo que
transforma imagens existentes em psicodelia. Quando as pessoas olham
para a lua cheia e veem o rosto de um homem, isso é chamado de
pareidolia, uma peculiaridade perceptiva que transforma padrões ambíguos
em imagens significativas. Uma versão dessa tendência é o que a
DeepDream usa para criar suas fantasias surreais.
O plano de Baker era verificar se a IA poderia impor o efeito de
pareidolia em conjuntos ambíguos de aminoácidos, os blocos de construção
das proteínas. Sua equipe inseriu sequências aleatórias de aminoácidos
em um modelo treinado para reconhecer as características estruturais de
proteínas reais. Funcionou – em grande escala.
O artigo afirma que a execução do teste criou milhares de proteínas
virtuais. Ele as comparou à explosão de imagens de gatos de IA na
internet. “Assim como as imagens simuladas de gatos geradas pela
alucinação de redes profundas são claramente reconhecíveis como gatos”,
disse o artigo, as estruturas artificiais de proteínas também ‘se
assemelham, mas não são idênticas’ às estruturas naturais.
Em seguida, a equipe de Baker procurou transformar as proteínas
imaginadas em algo real – uma etapa não muito diferente de dar vida a
gatos digitais. Primeiro, a equipe pegou as informações sobre as
moléculas alucinadas e as usou como um modelo para produzir as fitas de
DNA que formam os genes. Em seguida, conforme relatado no artigo de
2021, o momento eureca ocorreu quando os genes foram inseridos em
micróbios e os minúsculos organismos produziram 129 novos tipos de
proteínas desconhecidas pela ciência e pela natureza.
Posteriormente, no início de 2022, Baker descreveu esse momento como
“a primeira demonstração” de como a IA pode acelerar o design de novas
proteínas. Seus artigos de acompanhamento de 2022 e 2023 mais uma vez
usaram a palavra alucinação em seus títulos.
Em uma entrevista, Baker disse que seu laboratório havia dado um novo
passo à frente na imaginação criativa com um método de IA conhecido
como difusão. É isso que dá poder ao DALL-E, à Sora e a outros geradores populares de imagens.
Baker elogiou o fato da difusão ser melhor do que a alucinação na
criação de novos designs de proteínas. “É muito mais rápida e a taxa de
sucesso é maior”, disse ele.
Nos últimos anos, alguns analistas têm se preocupado com o fato de a
ciência estar em declínio. Eles apontam para uma queda nas últimas
décadas no número de avanços e descobertas importantes.
Os defensores da IA argumentam que suas explosões de criatividade
estão chegando para o resgate. No horizonte do design, Baker e seus
colegas veem ondas de catalisadores de proteínas que colherão a energia
da luz do sol, transformarão fábricas antigas em elegantes
economizadores de energia e ajudarão a criar um novo mundo sustentável.
“A aceleração continua acontecendo”, disse Ian C. Haydon, membro da equipe de. Baker. “É incrível.”
Outros concordam. “É incrível o que será lançado nos próximos anos”,
disse Kohli. Ele vê a IA como a revelação dos segredos mais profundos da
vida e o estabelecimento de uma nova e poderosa base para curar
doenças, melhorar a saúde e prolongar a vida.
“Quando decifrarmos e compreendermos de fato a linguagem da vida”, disse ele, ‘será mágico’.