IA aumenta preocupação com possível uso de tecnologia na criação de armas biológicas

O avanço da inteligência artificial começa a abrir uma frente de preocupação que vai além dos debates sobre empregos, desinformação e segurança digital. Especialistas em biossegurança passaram a alertar para o risco de que sistemas cada vez mais sofisticados sejam utilizados para acelerar pesquisas relacionadas a agentes biológicos capazes de provocar doenças.

A preocupação ganhou força nos últimos meses com uma série de episódios envolvendo empresas de tecnologia e pesquisadores. Em abril, especialistas alertaram para a facilidade com que determinados sistemas de IA poderiam fornecer informações úteis para aumentar a capacidade de agentes infecciosos. Em junho, cientistas e executivos do setor defenderam controles mais rigorosos sobre a síntese de DNA, diante da possibilidade de a tecnologia acelerar pesquisas envolvendo vírus e toxinas.

Em agosto, pesquisadores anunciaram experimentos nos quais modelos de inteligência artificial foram utilizados para projetar vírus que não existem na natureza. Mais recentemente, a Anthropic informou ter identificado e bloqueado tentativas de utilização de seus sistemas que poderiam estar relacionadas à transformação de agentes patogênicos em armas.

O movimento levou Dario Amodei, presidente executivo da empresa, a defender medidas adicionais de segurança no desenvolvimento da tecnologia. Entre as propostas está a restrição ao uso de sistemas de IA para a produção de armas biológicas.

Apesar dos alertas, pesquisadores ressaltam que a inteligência artificial disponível atualmente não representa, por si só, uma revolução imediata na capacidade de produção dessas armas. Drew Endy, biólogo sintético da Universidade Stanford, avalia que o impacto atual sobre o risco global de biossegurança ainda é limitado. A avaliação, porém, pode mudar à medida que surgirem modelos especializados em pesquisas biológicas.

A diferença está justamente no tipo de informação utilizado por esses sistemas. Grandes modelos de linguagem são treinados principalmente com textos científicos e outros documentos. Já novas ferramentas estão sendo desenvolvidas a partir de grandes bases de dados sobre DNA, células e organismos, permitindo que os sistemas identifiquem padrões que podem não ser evidentes para pesquisadores humanos.

Um exemplo é o Evo2, desenvolvido por cientistas da Universidade Stanford e do Arc Institute. O modelo foi treinado com sequências de DNA de milhões de espécies e demonstrou capacidade de identificar padrões genéticos e projetar novas enzimas. Em experimentos controlados, pesquisadores também utilizaram o sistema para gerar genomas de microvírus que infectam bactérias e não são conhecidos por causar doenças em seres humanos.

O resultado demonstra o potencial científico da tecnologia, mas também alimenta o debate sobre seus limites. Modelos mais especializados poderiam, em tese, trabalhar com organismos de maior risco caso fossem treinados com conjuntos de dados diferentes.

Para especialistas, esse cenário torna ainda mais importante a criação de mecanismos capazes de impedir que avanços científicos legítimos sejam convertidos em ferramentas para produção de armas.

A preocupação não se limita a indivíduos que eventualmente tentem utilizar a IA de maneira criminosa. Thomas Inglesby, diretor do Centro Johns Hopkins para Segurança da Saúde, chama atenção para a possibilidade de governos empregarem sistemas avançados em programas militares ou de pesquisa biológica.

Esse temor ganha dimensão internacional porque Estados Unidos, Rússia, China, Irã e Coreia do Norte aparecem há anos em discussões sobre programas de armas e capacidades biológicas. Uma eventual utilização da inteligência artificial nesse campo poderia criar condições para uma nova corrida tecnológica entre grandes potências.

A história mostra que o risco não surgiu com a inteligência artificial. Durante o século 20, Estados Unidos e União Soviética mantiveram programas de pesquisa e desenvolvimento de armas biológicas. Depois da Convenção sobre Armas Biológicas, que entrou em vigor em 1975, os Estados Unidos destruíram seus grandes estoques, embora tenham mantido pesquisas voltadas à defesa e à preparação contra ataques.

O avanço simultâneo da inteligência artificial e da biotecnologia, entretanto, modifica o cenário. A síntese de DNA se tornou mais rápida e barata, enquanto sistemas computacionais conseguem organizar e processar volumes de informação científica em uma escala que seria praticamente impossível para uma única pessoa.

É justamente essa combinação que preocupa os especialistas. A IA pode não criar conhecimento biológico do zero, mas pode tornar informações dispersas mais acessíveis, identificar relações entre diferentes estudos e auxiliar pesquisadores na solução de problemas complexos.

Ao mesmo tempo, medidas de proteção já existentes podem ser aprimoradas. Empresas de síntese genética podem adotar sistemas capazes de identificar pedidos suspeitos, enquanto governos e organismos internacionais podem estabelecer padrões comuns para o uso de inteligência artificial em pesquisas de alto risco.

O desafio, segundo os especialistas, é agir antes que a tecnologia alcance um estágio em que medidas de contenção se tornem mais difíceis. O avanço da IA oferece oportunidades importantes para a ciência e para a saúde, mas também exige regras capazes de impedir que ferramentas desenvolvidas para ampliar o conhecimento sejam utilizadas para aumentar riscos à população.