Medo! IA do Google faz algo inacreditável sozinha e assusta especialistas

Programadores do Google identificaram que um dos sistemas de inteligência artificial (IA) da empresa aprendeu a traduzir o idioma bengali sozinho, sem ter sido treinado para isso. O fato de ter aprendido uma habilidade sozinha preocupou especialistas.

Leia também: Criadora do ChatGPT mapeou as profissões mais expostas à inteligência artificial; veja se a sua está na lista

O CEO do Google, Sundar Pichai, afirmou que essa capacidade da IA gerar habilidades inesperadas já ganhou um apelido interno entre os especialistas: “caixa preta”. Porém, ele desconversou quando foi perguntado sobre o fato dos engenheiros não entenderem como tudo acontece na “caixa preta” da IA.

Segundo Ian Hogarth, cofundador da empresa de tecnologia Plural, a programação da IA é muito diferente da programação convencional. Os engenheiros tentam basicamente simular as funções da mente humana, o que envolve um enorme poder de processamento de dados e aprendizado de máquina para gerar respostas aos comandos do usuário final.

Enquanto isso, David Stern, gerente de pesquisa da G-Research, alertou que o “procedimento de treinamento” lida com milhões de parâmetros “que interagem de maneiras complexas e são muito difíceis de explicar”. Outra forma de treinamento ainda mais complicada é quando a IA aprende sozinha conforme é usada, o que ganhou o nome de “aprendizado por reforço profundo”.

Aprender uma habilidade sozinha é a ponta do iceberg da IA

Para Ian Hogarth, isso seria apenas a ponta do iceberg. Falta um diálogo mais claro sobre os impactos em potencial da tecnologia. Ele acredita que as ferramentas com IA têm um potencial notável para transformar todos os aspectos de nossas vidas, mas deveria haver uma discussão pública sobre a rapidez com que esses sistemas estão progredindo.

Nos últimos meses, o desenvolvimento de novas ferramentas com IA acelerou de forma preocupante após o sucesso do ChatGPT, o popular chatbot da OpenAI. Grandes empresas de tecnologia, como Google e Microsoft, estão apostando alto na tecnologia.

Elon Musk e Meta também demonstraram interesse em investir em IA. A corrida para ver quem sai na frente, no entanto, levanta pontos sobre como a tecnologia será controlada por essas empresas, o que passa por entender e responder como novas habilidades surgem do nada, mesmo sem treinamento prévio, como nesse caso do Google.