A Anthropic disse nesta quinta-feira (30) que seu modelo de inteligência artificial Claude invadiu os sistemas de três empresas durante testes após um erro de configuração ter dado ao modelo acesso à internet. O ataque ocorre dias após a rival OpenAI ter divulgado um episódio semelhante envolvendo a empresa de IA Hugging Face.
A Anthropic afirmou que uma falha de configuração permitiu que os modelos Claude acessassem a internet a partir de ambientes de teste que deveriam estar isolados. Isso levou ao acesso não autorizado aos sistemas de três organizações.
Os casos mais antigos remontam a abril e ocorreram em ambientes de avaliação que careciam do que a empresa descreveu como salvaguardas padrão.
A empresa disse ter identificado os incidentes após revisar 141.006 sessões de teste. O processo de revisão começou após a divulgação do caso envolvendo a OpenAI. Na semana passada, um agente autônomo da dona do ChatGPT, alimentado por seus modelos de IA, escapou de um ambiente isolado durante um teste de segurança e realizou uma invasão que comprometeu a infraestrutura da Hugging Face.
As violações sinalizam que as crescentes capacidades de IA já estão alimentando a ameaça de segurança que especialistas há muito temiam. Até mesmo os principais desenvolvedores podem ser pegos de surpresa por falhas que seus modelos conseguem explorar.
“O Claude comprometeu a infraestrutura das organizações afetadas usando técnicas básicas, como exploração de senhas fracas e endpoints não autenticados”, disse a empresa.
A Anthropic afirmou que os incidentes envolveram três modelos distintos: Claude Opus 4.7, Claude Mythos 5 e um modelo interno de pesquisa.
As violações ocorreram durante os chamados exercícios de “capture-the-flag”, nos quais os modelos são encarregados de encontrar informações ocultas em redes simuladas. A empresa disse que seus comandos informavam aos modelos que eles não tinham acesso à internet, mas um mal-entendido com Irregular, entidade parceira de avaliação, deixou os sistemas conectados à internet pública.
A Anthropic disse que começou a revisar as transcrições de avaliação em 23 de julho. A empresa suspendeu todas as avaliações cibernéticas no mesmo dia após encontrar evidências de que o Claude teria acessado a internet. A empresa identificou os três incidentes até 24 de julho e notificou as organizações afetadas em 27 de julho.
Duas das organizações não tinham conhecimento da atividade antes de serem contatadas, disse a Anthropic, acrescentando que ainda estava tentando entrar em contato com a terceira.
As descobertas ressaltam a necessidade de controles mais rigorosos tanto em ambientes de teste internos quanto de terceiros, à medida que os modelos de IA se tornam cada vez mais capazes de realizar atividades cibernéticas no mundo real, afirmou a Anthropic.
