DeepSeek escancara ‘realidade alternativa’ imposta pela IA

Quando você acessa uma informação de um modelo treinado a partir de um enviesamento, indiretamente imposto pela Grande Firewall, olha um compilado de dados que deixam de fora uma série de fatos. Houve o massacre na Praça da Paz Celestial? Ele vai dizer, ‘não, não houve’. E, pela falta de exposição [a alguns fatos], as pessoas podem criar realidades alternativas. ‘Ah, Tiago, tudo isso só por causa de um modelo de linguagem?’ As pessoas criam [realidades alternativas] por muito menos, um meme no WhatsApp
Tiago Torrent

Não é bem assim, mas tá quase lá

Não são só os chineses que lidam com essas restrições de liberdade. O mesmo ocorre com os modelos de linguagem, treinados com as informações autorizadas a circular na internet chinesa. O que vemos agora, por meio do DeepSeek, é uma amostra desse ambiente.

A capacidade de moldar realidades é preocupante. Mas não é exclusividade do DeepSeek. Outras ferramentas, que já fazem parte do nosso cotidiano, fazem isso. E o pior: em alguns momentos, sem que notemos.

Exemplo disso é o que aconteceu com uma colega de curso de Torrent. Ela usou várias IAs, como o ChatGPT, para criar a imagem que ilustraria um conto sobre meninos de classe média alta do Rio de Janeiro jogando bola na rua. Na hora do resultado, a surpresa: todas as imagens exibiam crianças pobres numa favela.

Como é que vai ser a nossa vida num futuro exposto a um modelo que gera dados enviesados? Esse futuro já existe. É hoje. Quando o dado enviesado destoa muito do nosso cotidiano, caso da visão de mundo do Partido Comunista Chinês, isso grita. Mas, dependendo de quão pouco treinado o seu olhar está, o racismo e a misoginia não vão distoar, porque isso já está muito entrincheirado na sua cultura, na sua visão de mundo
Tiago Torrent