IA e armas biológicas: Anthropic detalha cinco casos de risco

Tentativas de usar inteligência artificial para desenvolver armas biológicas estão entre os casos mais graves revelados pela Anthropic, criadora do modelo Claude, em um extenso relatório de inteligência de ameaças publicado nesta quinta feira. O documento, com 154 páginas, reúne dezenas de episódios que a empresa considera os mais graves e sofisticados já registrados em sua plataforma.

📲 Siga o canal de notícias do Paranaíba Mais no WhatsApp

Segundo a companhia, os episódios reunidos no relatório não representam o uso indevido mais comum entre os usuários, mas sim as tentativas mais criativas e perigosas de burlar os sistemas de segurança. A Anthropic afirmou que optou por tornar público o material por entender que tem responsabilidade em expor esse tipo de comportamento malicioso envolvendo suas tecnologias.

Cientistas tentaram burlar barreiras contra armas biológicas

Entre os pontos mais sensíveis do levantamento estão cinco estudos de caso envolvendo pesquisadores que teriam recorrido ao Claude durante investigações na área biológica. De acordo com a Anthropic, esses usuários driblaram mecanismos criados justamente para impedir o acesso a conteúdos classificados como sensíveis, além de tentarem disfarçar o verdadeiro objetivo de seus projetos.

A empresa classificou o uso indevido de recursos biológicos como um dos riscos mais sérios ligados a modelos de inteligência artificial avançados, alertando que, sem controles rígidos, esse tipo de capacidade pode gerar consequências extremamente graves. Diante disso, as contas envolvidas nesses episódios foram banidas da plataforma. A Anthropic optou por não divulgar os nomes das instituições nem os países onde os fatos ocorreram, alegando não ter certeza sobre as reais intenções dos pesquisadores.

Segundo a Anthropic, avaliações feitas em modelos mais antigos, como o Claude Opus 4 e o Claude Sonnet 4.5, indicavam que eles ainda estavam longe de oferecer apoio relevante para pesquisas biológicas perigosas, o que justificava barreiras mais leves, voltadas principalmente a impedir que iniciantes recriassem armas biológicas já conhecidas. Já em relação aos modelos mais recentes, capazes de auxiliar em tarefas científicas complexas, a empresa afirma não ter a mesma segurança sobre os limites de uso, o que levou ao lançamento do Claude Fable 5 com restrições bem mais rígidas para consultas biológicas sensíveis.

A própria Anthropic reconhece que boa parte desse conhecimento científico tem dupla função, podendo tanto salvar vidas quanto ser usado de forma criminosa. Em trecho do relatório, a empresa resume o dilema ao afirmar que, sem as devidas salvaguardas, tais capacidades poderiam ter consequências catastróficas. A companhia cita ainda um paralelo histórico com o programa soviético Biopreparat, no qual milhares de cientistas trabalhavam em pesquisas que acreditavam ser básicas ou defensivas sem saber que, na verdade, serviam a um projeto de armamento biológico.

LEIA MAIS – Inteligência artificial na internet: desafios éticos e possibilidades de inovação

Cinco casos revelam tentativas de driblar controles contra armas biológicas

Um dos exemplos citados envolve um cientista que teria utilizado o Claude para elaborar um pedido de financiamento público destinado a estudar o vírus chikungunya, doença transmitida por mosquitos e que provoca dor intensa, febre alta e outros sintomas capazes de durar meses. Segundo a Anthropic, o pedido tramitava por uma plataforma revendedora que atendia dezenas de virologistas ligados a instituições civis e militares, driblando bloqueios regionais por meio de servidores nos Estados Unidos e de um serviço de retenção zero de dados. Quando o Claude recusava atender a essas solicitações, a própria plataforma direcionava o pedido para um modelo concorrente com regras mais permissivas.

No segundo caso relatado, a empresa identificou um pesquisador fora dos Estados Unidos que passou semanas conversando com o Claude sobre a adaptação de vírus da influenza aviária a mamíferos, tema associado a um alto potencial de causar uma pandemia. A Anthropic afirma que, nesse episódio, os mecanismos de segurança limitaram o pesquisador a versões mais antigas e menos capazes do modelo, reduzindo de forma significativa o auxílio que ele conseguiu obter.

Já o terceiro estudo de caso descrito pela empresa envolveu um pedido de financiamento para pesquisa com ortopoxvírus, família que inclui o agente da varíola, redigido quase por completo pelo modelo Opus 5 em cerca de uma hora. Por se tratar de um tema de dupla utilização e com foco declarado em atenuar o vírus, o pedido não foi bloqueado pelos sistemas de segurança da Anthropic.

Os dois últimos casos tratam de pesquisas com venenos e toxinas. Em um deles, um cientista usou o Claude para montar um extenso mapeamento de peptídeos de veneno, que poderia gerar tanto novos remédios contra dor quanto substâncias com potencial incapacitante. No outro, um pesquisador redesenhou toxinas ligadas a um programa estatal e chegou a pedir explicitamente que o Claude mantivesse vagas as descrições dos agentes envolvidos nos relatórios de progresso. A Anthropic afirma ter banido todas as contas citadas nesses cinco episódios.

Para a empresa, esses casos mostram que impedir o uso indevido de armas biológicas depende de algo além de filtros automáticos. Segundo o relatório, a solução mais segura passa por programas de acesso restrito a usuários verificados, combinados com as barreiras técnicas já existentes nos modelos.

Veja o relatório completo aqui.

Espionagem, vigilância e propaganda também foram identificadas

Além dos casos ligados à área biológica, o relatório da Anthropic lista outras dezenas de tentativas de uso malicioso de seus sistemas. A empresa relata operações cibernéticas associadas à espionagem russa e ataques do tipo invasão seguida de roubo de dados. Também foram identificados esquemas de vigilância, incluindo uma iniciativa ligada à China voltada contra a população uigur na Síria e outra direcionada a dissidentes dentro do próprio país.

O documento ainda menciona campanhas de propaganda coordenadas na Rússia, na Malásia, no Irã e em Bangladesh, além do uso da tecnologia da Anthropic no Iêmen, na China e na Rússia para apoiar o desenvolvimento de softwares aplicados a armamentos convencionais, entre eles armas de fogo, mísseis, drones militares, bombas e outros tipos de munição.

Contexto de saída polêmica reforça debate sobre segurança

A divulgação do relatório ocorre poucos dias depois de um episódio que gerou grande repercussão dentro da própria Anthropic. Jacob Coxon, então funcionário da empresa, pediu demissão alegando que a companhia não estaria agindo com responsabilidade suficiente no desenvolvimento de sua tecnologia. Ele chegou a afirmar que a Anthropic e sua concorrente OpenAI estariam avançando rumo a uma inteligência artificial capaz de se aperfeiçoar sozinha, o que, em sua visão, poderia colocar em risco a existência da humanidade até o fim desta década. A saída de Coxon foi contestada publicamente por outros funcionários da empresa, que discordaram de sua leitura sobre os riscos envolvidos.

Apesar do temor levantado por Coxon, boa parte dos especialistas em inteligência artificial tende a considerar mais urgentes ameaças concretas como as descritas no próprio relatório da Anthropic, relacionadas a espionagem, vigilância e ao desenvolvimento de armamentos, do que um cenário hipotético de descontrole total de sistemas superinteligentes nos próximos anos.

Preocupado com o avanço descontrolado das inteligências artificiais? Continue acompanhando o Portal Paranaíba Mais, que reúne as principais notícias do Brasil e do Mundo.