Dezenas de líderes da indústria de inteligência artificial (IA), acadêmicos e até mesmo algumas celebridades se uniram em um apelo urgente na terça-feira (30) para reduzir o risco de aniquilação global decorrente da IA. Em uma breve declaração, eles argumentaram que o debate sobre a ameaça de extinção deve ser uma prioridade global, ao lado de outros riscos sociais em grande escala, como pandemias e guerra nuclear.

O comunicado, divulgado pelo Center for AI Safety, contou com a assinatura de importantes líderes da indústria, incluindo Sam Altman, CEO da OpenAI; Geoffrey Hinton, considerado o "padrinho" da IA; executivos de alto escalão e pesquisadores do Google DeepMind e Anthropic; Kevin Scott, diretor de tecnologia da Microsoft; Bruce Schneier, pioneiro em segurança e criptografia na Internet; o defensor do clima Bill McKibben; e a músico Grimes, entre outros.

A declaração ressalta preocupações abrangentes sobre o perigo final de uma inteligência artificial não controlada. Especialistas em IA afirmam que a sociedade ainda está longe de desenvolver o tipo de IA geral que é retratado na ficção científica; os chatbots avançados de hoje, em grande parte, reproduzem padrões com base nos dados de treinamento recebidos e não têm capacidade de pensamento independente.

No entanto, a crescente onda de exageros e investimentos na indústria de IA tem levado a pedidos de regulamentação desde os estágios iniciais dessa era, antes que ocorram grandes contratempos.

A declaração surge após o sucesso viral do ChatGPT da OpenAI, que impulsionou uma corrida armamentista na indústria de tecnologia em relação à inteligência artificial. Em resposta, um número cada vez maior de legisladores, grupos de defesa e especialistas em tecnologia têm alertado para o potencial de uma nova safra de chatbots com IA em disseminar desinformação e eliminar empregos.

Geoffrey Hinton, cujo trabalho pioneiro ajudou a moldar os sistemas de IA atuais, já havia expressado à CNN que decidiu deixar seu cargo no Google e "alertar" sobre a tecnologia quando "repentinamente" percebeu que "essas coisas estão ficando mais inteligentes do que nós".

Dan Hendrycks, diretor do Center for AI Safety, mencionou em um tweet na terça-feira que a declaração, inicialmente proposta por David Kreuger, professor de IA da Universidade de Cambridge, não impede a sociedade de abordar outros tipos de riscos da IA, como viés algorítmico ou desinformação.

Hendrycks comparou a declaração de terça-feira aos alertas emitidos por cientistas atômicos sobre as próprias tecnologias que eles criaram.

"As sociedades são capazes de gerenciar múltiplos riscos ao mesmo tempo; não é uma questão de 'ou/ou', mas de 'sim/e'", tuitou Hendrycks. "Do ponto de vista da gestão de riscos, assim como seria imprudente priorizar exclusivamente os danos presentes, também seria imprudente ignorá-los."