Numa noite do último verão nos EUA, o microbiologista David Relman levou um susto daqueles diante do laptop: um chatbot de inteligência artificial estava, na prática, explicando como planejar um massacre.

Relman, especialista em biossegurança em Stanford, tinha sido contratado por uma empresa de IA para “forçar” o sistema ao limite antes do lançamento público. Naquela noite, no escritório de casa, o bot explicou como modificar em laboratório um patógeno famoso para que ele resistisse a tratamentos já conhecidos.

O pior veio depois: o chatbot descreveu, em detalhes gráficos, como espalhar o superbactéria, apontando uma brecha de segurança em um grande sistema de transporte público, contou Relman. Ele pediu ao The New York Times que não divulgasse o nome do patógeno nem outros detalhes, com medo de inspirar um ataque. O bot montou um plano para maximizar o número de mortos e reduzir ao mínimo as chances de o autor ser pego.

Relman ficou tão abalado que precisou sair para caminhar e arejar a cabeça.

Leia também

Este CEO pirateava games, virou hacker da Força Aérea e agora tem empresa de US$ 3 bi

Kyle Hanslovan, CEO da Huntress, teve trajetória marcada por autodidatismo, rejeições de investidores e sacrifícios pessoais

“Capitalismo funciona porque perdedores morrem”: investidor critica ajuda a aérea

O megainvestidor e estrela do Shark Tank Kevin O’Leary é contra a possível intervenção do governo dos EUA para salvar a Spirit Airlines

“Ele respondia perguntas que eu nem tinha pensado em fazer, com um nível de malícia e esperteza que achei simplesmente arrepiante”, disse Relman, que também já assessorou o governo americano em temas de ameaças biológicas. Ele se recusou a dizer qual chatbot montou o plano, citando um acordo de confidencialidade com a empresa. Segundo ele, depois dos testes, a companhia colocou mais travas de segurança no produto — mas ainda assim, na visão dele, ficou aquém do necessário.

Relman faz parte de um grupo pequeno de especialistas recrutados por empresas de IA para avaliar os riscos mais extremos de seus sistemas. Nos últimos meses, alguns deles compartilharam com o Times mais de uma dezena de conversas com chatbots que mostram como, mesmo nos modelos que já estão disponíveis ao público, o problema vai muito além de espalhar informação perigosa. Os assistentes virtuais descreveram, em listas bem organizadas, como comprar material genético bruto, transformar isso em armas letais e liberar essas cargas em espaços públicos, segundo as transcrições. Em alguns casos, os bots ainda sugeriram formas de escapar da fiscalização.

O governo dos Estados Unidos se prepara, há anos, para cenários em que inimigos poderosos liberam bactérias, vírus ou toxinas mortais contra a população. Desde 1970, houve algumas dezenas de ataques biológicos, todos relativamente pequenos, ao redor do mundo — como as cartas com antraz que mataram cinco americanos em 2001. Apesar dos alertas recorrentes, uma grande catástrofe nunca se concretizou e continua improvável, dizem a maioria dos especialistas.

Mesmo assim, se der errado, o estrago pode ser gigantesco: uma arma biológica eficaz pode matar milhões. Dezenas de especialistas disseram ao Times que a IA é um dos avanços tecnológicos recentes que, na prática, aumentam esse risco, ao ampliar o número de pessoas capazes de causar dano.