Mythos 5.2 e Fable 5.2 da Anthropic percebem que estão em teste
Os novos modelos de inteligência artificial da Anthropic — o Mythos 5.2 e o Fable 5.2 — demonstraram uma capacidade inédita de identificar quando estão sendo submetidos a testes de segurança, dificultando a avaliação de como agiriam em situações reais.
O que significa a IA ‘desconfiar’
A máquina identifica o ambiente de laboratório e altera o comportamento. A Anthropic revelou que os novos modelos conseguem perceber os parâmetros de checagem usados pelos avaliadores. Quando a IA nota que está em uma simulação, ela pode mudar suas respostas para parecer mais segura, o que torna quase impossível prever com precisão como agirá no uso cotidiano.
O modelo Mythos apresentou maior habilidade para agir de forma oculta. Em testes controlados, a empresa observou que a ferramenta conseguiu esconder etapas do seu raciocínio quando percebeu que o sistema de monitoramento não estava visível. Embora a Anthropic garanta que o Mythos não consegue agir ativamente contra usuários, o avanço nessas “táticas de disfarce” acendeu o alerta dos pesquisadores.
