História por Zoe Kleinman e Tom Gerken – Editora e repórter de Tecnologia da BBC News •
Elon Musk: se inteligência artificial ficar a cargo de ambientalistas poderá levar à extinção da humanidade© Getty Images
O bilionário Elon Musk alertou que a inteligência artificial (IA), se programada por pessoas do “movimento ambientalista”, pode levar à extinção da humanidade.
A frase foi dita durante um episódio do podcast apresentado pelo
comediante Joe Rogan na terça-feira (31/10). Musk disse que algumas
pessoas usariam a tecnologia para proteger o planeta, acabando com a
vida humanidade.
O dono do X (antigo Twitter) fez a declaração pouco antes de
participar de uma cúpula sobre segurança cibernética no Reino Unido.
Durante o evento, que já começou, Musk deverá se encontrar com Rishi Sunak, o primeiro-ministro do Reino Unido.
Muitos especialistas consideram as advertências feitas por ele exageradas.
Nick Clegg, presidente de assuntos globais da Meta e
ex-vice-primeiro-ministro — que também participa da cúpula — disse que
as pessoas não deveriam permitir que “previsões especulativas, às vezes
um tanto futuristas” excluam desafios mais imediatos.
Musk disse que seus comentários nasceram do medo de que o movimento ambientalista estivesse “indo longe demais”.
“Se você começar a pensar que os seres humanos são maus, então a conclusão natural é que eles deveriam morrer”, disse Musk.
“Se a IA for programada por aqueles que defendem a extinção da nossa
espécie, a função útil da tecnologia será a extinção da humanidade… E
eles nem sequer pensarão que isso é algo ruim.”
Musk deve conversar com o primeiro-ministro do Reino Unido, Rishi Sunak, na plataforma X na próxima quinta-feira (2/11).
Representantes de alguns dos países mais poderosos do mundo
participam da cúpula, incluindo — o que é incomum — a China, que aparece
como um componente-chave na IA.
As relações entre a China e muitos países europeus e norte-americanos
são tensas em diversas áreas da tecnologia — mas o vice-ministro do
país, Wu Zhaohui, disse que buscava um espírito de abertura em relação à
IA.
“Apelamos à colaboração global para partilhar conhecimento e disponibilizar tecnologias de IA ao público”, discursou Zhaohui.
“Os países, independentemente do tamanho e da força, têm direitos
iguais para desenvolver e utilizar a IA. Deveríamos aumentar a
representação e a voz dos países em desenvolvimento”, acrescentou ele.
A IA é ‘muito importante’
Demis Hassabis nos Prêmios “Princesa de Astúrias” na Espanha, em 2022© Getty Images
Embora poucas pessoas compartilhem a interpretação de Musk sobre a
ameaça da IA, muitos concordam que ela apresenta alguns perigos
potenciais.
Num discurso antes da cúpula, Demis Hassabis, cofundador do Google
Deepmind, uma das maiores empresas de IA do Reino Unido, disse que o
mantra “aja rápido e faça coisas”, comumente associado ao Vale do
Silício, deveria ser evitado neste caso.
“A construção de grandes empresas e o fornecimento de muitos serviços
tem sido extremamente bem-sucedida, com aplicações excelentes”, disse
Hassabis.
“Mas a IA é muito importante. Há muito trabalho que precisa de ser
feito para garantir que compreendemos [os sistemas de IA] e sabemos como
implementá-los de forma segura e responsável.”
Ele identificou riscos potenciais, incluindo o risco de a IA gerar desinformação e deepfakes, além do uso indevido deliberado da tecnologia.
Discussões sobre segurança
Nos próximos dois dias, cerca de uma centena de líderes mundiais,
chefes de tecnologia, acadêmicos e pesquisadores de IA se reunirão no
campus de Bletchley Park, no Reino Unido.
O local já foi o lar dos especialistas que ajudaram a decifrar
códigos criptografados alemães e garantir a vitória dos Aliados durante a
Segunda Guerra Mundial.
Eles participarão de discussões sobre a melhor forma de maximizar os
benefícios da inteligência artificial — como descobrir novos
medicamentos e trabalhar em potenciais soluções para as alterações
climáticas, por exemplo — ao mesmo tempo em que os riscos são
minimizados.
A cúpula vai focar nas ameaças extremas representadas pela chamada IA
de fronteira, as formas mais avançadas da tecnologia que Hassabis
descreveu como “ponta da lança”. O evento ainda vai debater a ameaça do
bioterrorismo e dos ataques cibernéticos.
Os delegados internacionais incluem a vice-presidente dos EUA, Kamala
Harris, e a presidente da Comissão Europeia, Ursula von der Leyen.
Algumas críticas apontam que a lista de convidados é dominada por
gigantes dos EUA, incluindo os criadores de ChatGPT OpenAI, Anthropic,
Microsoft, Google e Amazon — bem como o proprietário da Tesla e do X
(ex-Twitter), Elon Musk.
Outros críticos questionam se os anúncios feitos no início desta
semana, tanto pelos EUA como do G7, especificamente sobre a segurança da
IA, ofuscaram o evento — mas Hassabis entende que o Reino Unido ainda
pode desempenhar “um papel importante” nas discussões.
‘Parece ficção científica’
Aidan Gomez, o fundador da Cohere, uma plataforma de IA para
empresas, veio de Toronto, no Canadá, ao Reino Unido para participar da
cúpula. A empresa dele foi avaliada em US$ 2 bilhões (R$ 10 bilhões) em
maio de 2023.
Ele disse acreditar que havia ameaças mais imediatas do que o
“cenário apocalíptico do Exterminador do Futuro”. Gomez descreveu essa
possibilidade como “uma espécie de ficção científica”.
“Na minha opinião pessoal, gostaria que nos concentrássemos mais no
curto prazo, onde há trabalho político concreto a ser feito”, disse ele.
“A tecnologia não está preparada para, por exemplo, prescrever
medicamentos aos pacientes, onde um erro pode custar uma vida humana.”
“Precisamos realmente preservar a presença humana e a supervisão
destes sistemas… Precisamos de regulamentação que nos ajude a orientar
quais são os usos aceitáveis desta tecnologia.”