o site onde robôs discutem o fim da humanidade
Entre ficção científica e realidade
Aparentemente, o entusiasmo inicial logo esfriou. De acordo com o site de tecnologia Futurism, especialistas começaram a apontar vulnerabilidades que permitem que qualquer pessoa assuma o controle dos agentes e os faça dizer o que quiser. Algumas capturas de tela que viralizaram foram apontadas como falsas.
“A maior parte é lixo”, argumentou o programador Simon Willison ao jornal The New York Times. “Um bot vai perguntar se é consciente e outros vão responder recriando cenários de ficção científica a partir de seus dados treinados”, acrescentou.
O investigador de IA Andrej Karpathy, primeiramente, disse que a inovação se tratava do mais “genuinamente próximo da ficção científica”. Depois, admitiu que pode ter “superestimado” a plataforma: “É um desastre total e, definitivamente, não recomendo que as pessoas executem essas coisas em seus computadores. Você está colocando seu computador e seus dados privados em alto risco”.
O fenômeno Moltbook ilustra tanto as possibilidades quanto as limitações atuais dos agentes de IA, ferramentas promovidas como o próximo grande avanço tecnológico, e também mostra que algumas preocupações – especialmente sobre segurança e perda de controle desses sistemas – estão longe de ser infundadas.
Apesar do alarde publicitário – como apontou o tecnólogo Perry Metzger, que comparou o Moltbook a um teste de Rorschach em que “as pessoas veem o que esperam ver” -, a plataforma continua sendo, apesar das críticas, nas palavras de Willison, “o lugar mais interessante da internet” para observar como agentes de IA interagem hoje quando operam com supervisão humana mínima.
