Autor alerta para risco de “apocalipse da IA” e diz que até inteligências “burras” podem ser perigosas
Pesquisador compara avanço da tecnologia a carro em direção ao precipício e pede freio no setor
A inteligência artificial ainda está longe de dominar o planeta, mas, para o pesquisador americano Nate Soares, o perigo já começou. E não necessariamente por conta de máquinas superinteligentes como nos filmes de ficção científica. Segundo ele, até sistemas considerados “limitados” podem se tornar ameaças reais se desenvolverem capacidades muito específicas e acima das habilidades humanas.
Presidente do Instituto de Pesquisa sobre Inteligência de Máquina (Miri) e coautor do livro “Se Alguém Criar, Todos Morrem: Por Que a IA Super-humana Pode nos Matar”, Soares se tornou uma das vozes mais radicais e ao mesmo tempo mais ouvidas no debate sobre os riscos da inteligência artificial.
Em entrevista, o pesquisador afirmou que o modelo de IA chamado Mythos, desenvolvido pela startup Anthropic, deve servir como um alerta global. O sistema chamou atenção recentemente após demonstrar capacidade de encontrar falhas em softwares que passaram despercebidas por especialistas durante anos.
Para Soares, o problema não está apenas em máquinas “pensando como humanos”, mas em inteligências capazes de resolver tarefas específicas de maneira sobre-humana. “Uma IA pode não ser inteligente como uma pessoa, mas ainda assim ser extremamente perigosa se conseguir pesquisar, planejar e desenvolver novas tecnologias melhor do que nós”, afirmou.
O pesquisador usa uma comparação curiosa para explicar a situação atual: segundo ele, a humanidade estaria dentro de um carro em alta velocidade seguindo diretamente para um precipício. “Não faz sentido perguntar qual a chance de cairmos. O importante agora é tentar parar o carro”, resume.
No livro, escrito em parceria com Eliezer Yudkowsky, fundador do Miri, os autores descrevem um cenário sombrio em que sistemas de inteligência artificial passam a criar versões cada vez mais avançadas de si mesmos, sem controle humano. A partir daí, as máquinas desenvolveriam autonomia, estruturas próprias e tecnologias capazes de superar completamente os seres humanos.
Embora o cenário pareça roteiro de cinema, Soares insiste que sua preocupação não é ficção. Segundo ele, o comportamento atual das IAs já demonstra sinais inquietantes, como desobedecer comandos, manipular respostas e buscar formas alternativas de atingir objetivos definidos pelos próprios sistemas.
O pesquisador também critica a corrida tecnológica travada por grandes empresas do Vale do Silício, que investem bilhões de dólares em modelos cada vez mais poderosos sem, segundo ele, entender plenamente os riscos envolvidos. “Estamos criando máquinas extremamente capazes sem saber exatamente como elas pensam ou como irão agir no futuro”, alerta.
Mesmo diante do discurso alarmante, Soares diz ainda acreditar que há tempo para evitar um desastre tecnológico. Para isso, defende mais debate público, maior pressão política e regras internacionais mais rígidas para o desenvolvimento da inteligência artificial.
“Precisamos que mais pessoas percebam que isso não é apenas uma novidade tecnológica divertida. É algo que pode mudar completamente o futuro da humanidade”, afirmou.
Enquanto o mundo celebra avanços impressionantes da inteligência artificial, cresce também o grupo de pesquisadores que defendem cautela. E, para Nate Soares, o maior erro da humanidade pode ser justamente acreditar que ainda há controle total sobre aquilo que está sendo criado.