Redes sociais usam inteligência artificial para deletar provas de crimes de guerra, segundo a BBC

A British Broadcasting Corporation, conhecida como BBC, recentemente divulgou os resultados de uma extensa investigação revelando que provas digitais de possíveis violações de direitos humanos estão sendo apagadas permanentemente ao serem excluídas por empresas de tecnologia. 

O foco dessas remoções está em vídeos com violência extremamente gráfica e chocante, por meio do uso de inteligências artificiais para verificar o conteúdo. Contudo, as fotos e filmagens que estão sendo excluídas sem o uso de um backup interno no banco de dados das empresas poderiam ser úteis para ajudar a levar criminosos de guerra à corte. 

Ambas as gigantes de tecnologia atuais, Meta e YouTube, estão no meio disso, mas esclareceram por meio de um comunicado que também estão tentando equilibrar a obrigação cívica de manter provas contra criminosos, ao mesmo tempo que se esforçam para proteger seus usuários de conteúdo potencialmente nocivo. Alan Rusbridger, integrante do Conselho de Supervisão da Meta, por outro lado disse que a indústria está sendo “demasiadamente cautelosa” em moderação.

_{Alan Rusbridger durante entrevista recente. (Foto: Reprodução/Cherwell)}

De acordo com as plataformas, materiais gráficos que são do interesse público têm a permissão de permanecerem circulando por suas redes, mas a BBC logo teve as imagens que publicou para documentar os ataques a civis na Ucrânia rapidamente deletadas pelo algoritmo da inteligência artificial (IA). 

Essa inteligência artificial é capaz de remover conteúdo ilegal e nocivo em ampla escala. Contudo, são incapazes de perceber certas nuances na hora de identificar imagens violentas envolvendo guerras ou conflitos que possam conter violações de direitos humanos, resultando na remoção discriminada dessas provas digitais. 

Algumas organizações de direitos humanos reiteraram que há uma urgente necessidade de que empresas responsáveis por mídias sociais impeçam o desaparecimento de tais informações. 

Segundo Rusbridger, a próxima pergunta que deve ser feita é “como desenvolver nossas máquinas, sejam elas humanas ou de inteligência artificial”, de modo que elas possam tomar decisões mais razoáveis. 

A Embaixadora dos EUA para Justiça Criminal Global, Beth Van Schaak, disse que ninguém negaria o direito dessas empresas de tecnologia de monitorar o conteúdo em suas redes, mas que a verdadeira preocupação está no repentino desaparecimento de tais informações.

Foto destaque: Kiev, capital da Ucrânia, devastada durante invasão russa ao país. Reprodução/Pexels.