Resumo
- A Anthropic afirma ter bloqueado ações que poderiam levar à criação de armas biológicas utilizando seu modelo de inteligência artificial Claude, conforme relatório de riscos divulgado.
- A empresa identificou situações de “alto risco biológico”, incluindo uma pesquisa sobre alterações genéticas no vírus Chikungunya, comum no Brasil.
- O relatório também menciona rastros de espionagem por governos e atividades militares envolvendo o uso da inteligência artificial, destacando a necessidade de soluções para evitar mal-uso.
A Anthropic disse que identificou e bloqueou ações de usuários que poderiam levar à criação de armas biológicas utilizando modelos do Claude. A informação está no relatório de riscos mais recente, publicado nesta quinta-feira (10/09). O documento foi disponibilizado logo após as críticas feitas por um ex-desenvolvedor da empresa, que apontou irresponsabilidades da indústria de IA na corrida pela superinteligência.
Uma das situações classificadas pela Anthropic como de “alto risco biológico” envolveu o uso da inteligência artificial para pesquisar alterações genéticas no vírus Chikungunya, uma doença bastante comum no Brasil. Segundo a companhia, a consulta poderia ter como objetivo melhorar vacinas e tratamentos, mas também abre precedente para aumentar os efeitos da doença.
Além das interações envolvendo materiais biológicos, a Anthropic afirmou ter encontrado rastros de espionagem governamental e até mesmo atividades militares com uso da IA. A análise considera os casos de mau uso considerados mais preocupantes entre dezembro de 2025 e agosto de 2026.
Como a Anthropic identificou os riscos de uso militar?
Os relatórios de risco são publicados desde março de 2025 e já identificavam movimentos suspeitos envolvendo modelos anteriores de LLM. O documento mais recente aponta automações para fugir de sistemas de vigilância, identificação de alvos estratégicos para ataques aéreos, além de modificações e republicações de conteúdos relacionados a portais de mídia estatal, entre outros exemplos.
A Anthropic até mesmo indica instituições das quais partiram determinadas consultas, como universidades, grupos políticos e empresas de comunicação específicas. Todas elas, vale dizer, estão relacionadas a rivais econômicos dos Estados Unidos, como China e Rússia.
Ao anunciar a geração atual dos LLMs, a empresa revelou a criação do Project Glasswing, grupo de empresas parceiras e instituições governamentais dos Estados Unidos que teve acesso antecipado à inteligência. A justificativa foi o desenvolvimento prévio de mecanismos de defesa contra possíveis casos de mal-uso envolvendo principalmente cibersegurança.
Perigo biológico envolve doença comum no Brasil
A Anthropic destacou cinco situações que poderiam levar à criação de armas biológicas. A principal delas envolve uma pesquisa realizada por virologistas para encontrar possíveis mutações do vírus Chikungunya. A doença é endêmica de regiões tropicais e uma das arboviroses mais comuns no Brasil.
Considerando as informações divulgadas, é bem possível que o estudo envolva o desenvolvimento de vacinas para combater o Chikungunya aqui no país. Os nomes e as instituições envolvidas no caso foram preservados.
Outros exemplos envolvem adaptações de gripe aviária, potencialização dos efeitos paralisantes de venenos e modificações de toxinas. A Anthropic reafirma que é difícil julgar se há má intenção ou não, mas classificou as ações como perigosas por driblar seus mecanismos de segurança na hora de consultar o Claude.
Segundo a empresa, o objetivo de tornar esses casos públicos é levar a discussão à indústria e aos governos para buscar soluções para contornar possíveis mal-usos.
Perigos foram citados por desenvolvedores de IA
A divulgação do relatório vem em um momento de crescente preocupação entre desenvolvedores de IA. O documento reforça a capacidade do Claude de encontrar falhas em cibersegurança, buscar soluções perigosas a nível químico e biológico, além de destacar usos militares pelo mundo.
No último dia 8 de setembro, Jacob Coxon publicou alguns receios quanto aos riscos da busca da superinteligência “a qualquer custo”, incluindo perigos para a vida humana. Junto a ele, outros especialistas falaram sobre a dificuldade de achar mecanismos efetivos de segurança para os modelos atuais de IA, além da tendência de piora com o ritmo atual de desenvolvimento.
Anthropic diz que bloqueou possível criação de arma biológica com Claude
