Ex-pesquisador alerta para possível risco da inteligência artificial

A inteligência artificial deixou de ser apenas uma ferramenta usada para facilitar tarefas do cotidiano e passou a ocupar o centro de uma discussão que envolve pesquisadores, empresas de tecnologia e autoridades. Nos últimos dias, declarações de profissionais ligados ao desenvolvimento de sistemas avançados reacenderam uma pergunta que chama a atenção mundial: até onde a IA pode evoluir sem que os seres humanos percam a capacidade de supervisioná-la? O alerta ganhou força depois que um ex-pesquisador da Anthropic decidiu deixar a empresa e tornou públicas suas preocupações sobre o ritmo de desenvolvimento da tecnologia.

Jacob Coxon, de 27 anos, trabalhou anteriormente na OpenAI e depois passou pela Anthropic, empresa responsável pelo desenvolvimento do Claude. Ao anunciar sua saída, o pesquisador afirmou que os grandes laboratórios do setor estariam avançando rapidamente em direção a sistemas cada vez mais sofisticados. Na avaliação dele, o problema não está necessariamente nas ferramentas disponíveis atualmente, mas na possibilidade de que futuras versões apresentem capacidades muito superiores às observadas hoje.

A declaração ganhou ainda mais repercussão depois que Evan Hubinger, responsável pela área de Ciência do Alinhamento da Anthropic, afirmou publicamente que também considera sério o risco de uma inteligência artificial avançada provocar consequências irreversíveis para a humanidade. Segundo sua avaliação pessoal, existe uma possibilidade superior a 10% de um cenário extremo desse tipo ocorrer na próxima década. É importante destacar, porém, que essa porcentagem representa uma estimativa individual e não uma previsão científica consensual sobre o futuro. Mas como uma IA poderia chegar a esse ponto?

O cenário imaginado pelos pesquisadores está relacionado principalmente ao conceito de superinteligência. Trata-se de uma hipótese em que sistemas artificiais poderiam alcançar capacidades muito superiores às humanas em diversas áreas simultaneamente. Uma das preocupações é que uma tecnologia assim consiga participar do próprio processo de desenvolvimento de versões futuras, acelerando sua evolução em uma velocidade difícil de acompanhar.

Nesse cenário hipotético, o desafio seria garantir que os objetivos de uma máquina extremamente avançada continuassem compatíveis com os interesses humanos. Atualmente, pesquisadores trabalham justamente com o chamado alinhamento de IA, área dedicada a desenvolver métodos para fazer com que sistemas sigam objetivos, limites e regras definidos pelas pessoas. O problema apontado por alguns especialistas é que ainda não existe garantia de que essas técnicas seriam suficientes diante de uma futura superinteligência.

Outra preocupação está relacionada ao uso da tecnologia por pessoas ou organizações com objetivos prejudiciais. Sistemas muito avançados poderiam, em tese, facilitar ataques digitais, manipulação de informações ou atividades perigosas em áreas como biologia. Também existe o temor de impactos sobre serviços essenciais caso ferramentas autônomas consigam interferir em sistemas de energia, comunicação, transporte ou abastecimento.

Apesar dos alertas, não existe consenso entre especialistas de que a humanidade esteja caminhando inevitavelmente para um cenário de extinção. Há pesquisadores que consideram essas possibilidades excessivamente especulativas e defendem que a atenção também esteja voltada para problemas que já podem ser observados atualmente, como desinformação, fraudes digitais, discriminação algorítmica, privacidade e mudanças no mercado de trabalho.

O especialista brasileiro Fabro Steibel, diretor do Instituto de Tecnologia e Sociedade, apresentou justamente uma visão mais cautelosa sobre a hipótese. Para ele, uma transformação profunda provocada pela inteligência artificial é possível, mas a ideia de uma superinteligência dominando o mundo ainda estaria mais próxima de uma possibilidade teórica do que de uma realidade concreta.