EUA investiga ChatGPT para saber se o app prejudica consumidores com informações falsas – Notícias

A Comissão Federal de Comércio dos Estados Unidos investiga a empresa OpenAI para determinar se seu popular aplicativo ChatGPT prejudica os consumidores ao gerar informações falsas e se sua tecnologia faz uso inadequado dos dados dos usuários.

Apoiada pela Microsoft, a OpenAI foi notificada da investigação com um questionário de 20 páginas, no qual é solicitada a descrever incidentes em que usuários foram falsamente difamados e a compartilhar os esforços da empresa para garantir que esses erros não se repitam. A investigação foi divulgada pelo jornal The Washington Post.

O lançamento do ChatGPT pela OpenAI, em novembro passado, surpreendeu o mundo ao mostrar o poder dos grandes modelos de linguagem (LLM, sigla em inglês), uma forma de inteligência artificial (IA) conhecida como “IA generativa”, que pode produzir em segundos um conteúdo semelhante ao criado pelo homem.

Em meio à agitação causada pela capacidade dessa tecnologia, autoridades receberam relatos de que esses modelos também poderiam gerar conteúdo ofensivo, falso ou estranho, às vezes chamado de “alucinações”.

A investigação da autoridade reguladora se concentra em como esse aspecto poderia prejudicar os usuários, segundo o questionário, mas também se aprofunda no uso de dados privados pela OpenAI para construir seu modelo, líder no mundo.

O GPT-4 da empresa é a tecnologia-base por trás do ChatGPT, assim como dezenas de outros programas de empresas que pagam uma taxa à OpenAI a fim de acessar o seu modelo para uso próprio.

O CEO da OpenAI, Sam Altman, lamentou no Twitter o vazamento da investigação para a imprensa, o que “não gera confiança”, disse, acrescentando que a empresa vai cooperar com a Comissão Federal de Comércio. “É muito importante para nós que a nossa tecnologia seja segura e pró-consumidor, e estamos convictos de que cumprimos a lei.”

Uma investigação da Comissão de Comércio não implica, necessariamente, outras ações, e a autoridade pode encerrar o caso se ficar satisfeita com a resposta da empresa. Caso o regulador perceba práticas ilegais ou inseguras, exigirá medidas corretivas e poderá entrar com uma ação judicial.

A AFP entrou em contato com a OpenAI e a Comissão de Comércio, mas não obteve resposta.

LEIA ABAIXO: Vale da estranheza: fotos realistas geradas por inteligência artificial perturbam redes sociais

© Agence France-Presse