O que é humano e o que é inteligência artificial? Vídeos tóxicos e fake news seguem sem legislação própria – Notícias

Na obra-prima cinematográfica Laranja Mecânica (1971), vemos o delinquente juvenil Alex DeLarge submetido a um tratamento behaviorista experimental em que é forçado fisicamente a assistir a cenas violentas por várias horas, como forma de condicioná-lo a criar repulsa pela violência. A técnica Ludovico, como é chamada, prevê ainda que ele receba doses de drogas que induzem o vômito e o medo, enquanto vê atos tão aterradores quanto os que cometeu horas antes no longa-metragem.

DOPAMINA DIGITAL: leia aqui a primeira parte desta reportagem especial

As sessões eternizam o rosto horrorizado de Alex, com a cabeça cheia de eletrodos e grampos metálicos que impedem o fechamento das pálpebras. A ideia do tratamento não é exatamente fazê-lo desistir de seu passado criminoso, mas incapacitá-lo fisicamente para cometer crimes — ao tentar voltar à antiga vida criminosa, ele experimenta sensações de náusea e outros espasmos incontroláveis.

Para atestar a própria genialidade, o diretor Stanley Kubrick nos submete a algo parecido. Durante as sessões, Alex ouve sua música preferida — a Nona Sinfonia, de Beethoven — enquanto as piores imagens são transmitidas sem filtro para seu inconsciente, algo bastante similar ao que Kubrick fizera algumas cenas antes, ao mostrar a gangue do jovem praticar os piores crimes embalada por uma trilha de música clássica refinada. Como demonstrado no filme, o diretor também usa o cinema como aparato de condicionamento social.

É o que afirmou Susan Rice, em um artigo publicado na revista acadêmica Media and Methods de março de 1972. “Este é Stanley Kubrick. Ele produziu, escreveu o roteiro e dirigiu Laranja Mecânica. […] Já ocorreu a alguém que, depois de ter os olhos metaforicamente bem abertos para testemunhar os horrores que Kubrick desfila na tela, como Alex e sua adorada Nona, nenhum de nós jamais será capaz de ouvir Singin’ in the Rain sem uma vaga sensação de náusea?”

Em seu uso agressivo da estética, Kubrick põe em suspensão nossa capacidade de lidar com a violência de forma similar à enfrentada por Alex em sua terapia compulsória. Não é por acaso que o olho com cílios postiços gigantes é o maior símbolo do longa.

“A ciência é potencialmente bem mais perigosa do que o Estado, pois tem um efeito bem mais duradouro”, afirmou Kubrick em sua famosa entrevista dada ao crítico de cinema francês Michel Ciment.

No livro de Anthony Burgess que deu origem ao filme, Alex sabe em nível consciente que tudo que lhe é apresentado na terapia Ludovico é falso, mas percebe que isso não importa. “Eu sabia que não poderia ser realmente real, mas não fazia diferença. Eu tinha espasmos, mas não conseguia vomitar, videando [vendo] primeiro uma britva [lâmina] cortar um olho, depois fatiar uma bochecha, depois cortar, cortar, cortar tudo”, diz o delinquente.

Big techs têm tendência a ressaltar que suas plataformas funcionam de forma matemática, com algoritmos exatos e pouca interferência humana. Mas diversos indícios mostram que não é bem assim. O YouTube, por exemplo, já demonstrou pouca disposição para barrar ou diminuir o alcance de vídeos tóxicos e repletos de fake news. Uma reportagem da Bloomberg de 2019 revelou que mesmo funcionários dedicados expressaram internamente preocupações acerca da propagação desse tipo de conteúdo.

Em um dos casos mais famosos, um surto mortal de sarampo foi identificado nos Estados Unidos em 2019, exatamente 19 anos depois de a doença ter sido erradicada do país. Foram 1.215 casos em 30 estados. Um estudo da consultoria Moonshot CVE, de Londres, identificou que os maiores 20 canais antivacina da plataforma de vídeos receberam mais de 170 milhões de visualizações somente nos EUA anos antes. Quando questionada sobre o assunto por funcionários, a executiva-chefe do YouTube, Susan Wojcicki, respondeu “meu trabalho é dirigir a empresa, não lidar com isso”, de acordo com a Bloomberg.

Individualmente, os efeitos podem ser ainda mais profundos em certos casos. “O uso contínuo de redes sociais pode interferir no emocional: a pessoa fica ansiosa quando não recebe respostas imediatas, pode se tornar compulsiva por compras, pode ter quadros de depressão por achar que a vida de todos no ambiente virtual é maravilhosa”, diz Anna King, psicóloga e professora da UFF (Universidade Federal Fluminense).

De certa forma, tais sequelas podem ser irreversíveis, uma vez que a história mostra que, talvez, nem sejamos mais capazes de enxergar as fronteiras do ciberespaço, como apontou Baudrillard, em outra de suas colunas dos anos 1990:

“Hoje, não pensamos o virtual; somos pensados pelo virtual. Essa transparência nos é tão ininteligível quanto pode ser para a mosca o vidro contra o qual se bate sem compreender o que a separa do mundo exterior. […] Assim, não podemos nem imaginar quanto o virtual já transformou, como que por antecipação, todas as representações que temos do mundo. Não podemos imaginá-lo, pois o virtual caracteriza-se por não somente eliminar a realidade, mas também a imaginação do real, do político, do social — não somente a realidade do tempo, mas a imaginação do passado e do futuro”.

Talvez até já estejamos vendo o próximo passo do aprofundamento do virtual com o nascimento dos chatbots, que virtualizam a linguagem — qualquer obra escrita pode ser fruto de robô daqui para a frente, o que transforma cada linha de texto da internet em um teste de Turing (que mede a capacidade de um computador de exibir comportamento inteligente equivalente ao de um ser humano) como as próprias inteligências artificiais podem vencer com total certeza, segundo a OpenAI, a desenvolvedora do popularíssimo ChatGPT.

Uma vez escritos e publicados, textos podem ser produtos humanos ou de máquinas, com intenções obscuras. “A era das mídias torna indecidível [e não apenas a partir do jogo de imitação de Turing] quem é humano e quem é máquina, quem é louco e quem o simula”, descreve o teórico Friedrich Kittler.

Mas, diferentemente dos algoritmos, governos tentam prever os problemas e implicações do uso desenfreado de ferramentas de inteligência artificial para o futuro da humanidade. E buscam algum tipo de regulação para seu desenvolvimento e uso. A China foi o primeiro país a aprovar uma legislação do tipo e chegou a efetuar uma prisão com base nela, enquanto União Europeia e Estados Unidos estudam formas de evitar problemas nos próximos anos.

Salões e vastas construções barulhentas — antes cheias de homens que berravam sem parar, com as gravatas frouxas, suados e preocupados — hoje estão muito menos movimentados. Mas se engana quem pensa que deixaram de ser úteis. As bolsas de valores são, provavelmente, os ambientes em que a virtualização atingiu seu estágio mais avançado. Saem os operadores com celulares nas mãos, entram os negociadores de alta frequência, rodeados de telas e mais telas.

Ativos financeiros e commodities são, após anos e anos de desregulamentação financeira nos principais mercados globais, meros dados de computador, comprados e vendidos em milissegundos — ou um microssegundo, que corresponde à milionésima parte de um segundo, ou ainda um centésimo de microssegundo. Em grande parte das operações, não existe nem sequer um intermediário humano: tudo é feito por máquinas, comandadas por algoritmos obscuros.

“O mundo se agarra a essa velha imagem de pregão porque ela é reconfortante; e porque é muito difícil desenhar o que a substituiu”, escreveu o jornalista financeiro e escritor Michael Lewis, em seu livro Flash Boys: Revolta em Wall Street (2014).

Um levantamento de 2010 do Grupo TABB mostrou que as negociações de alta frequência foram responsáveis por mais de 60% do volume do mercado de futuros das bolsas de valores dos Estados Unidos. Apesar do sucesso da estratégia desde que foi liberada por reguladores americanos, em 1998 o lucro começou a diminuir, canibalizado pelos próprios algoritmos dos concorrentes, que aprendem as estratégias uns dos outros nas operações.

Para aumentar novamente as margens de lucro e resolver o embate de códigos que pareciam próximos do limite, bancos e fundos privados passaram a investir em estruturas físicas, para diminuir o tempo de latência das operações. Como competitivos jogadores de games online preocupados com pings elevados, ricaços investiram milhões para construir cabos de fibra óptica ou estruturas com antenas parabólicas que ligassem grandes centros de negociação ao que de mais rápido existe em transmissão de informações. É uma corrida na qual o único limite são as leis da física e a velocidade da luz.

Em 2009, época que talvez tenha sido o auge das negociações ultravelozes, a Spread Networks gastou algo em torno de US$ 300 milhões para construir uma ligação de fibra óptica entre a Bolsa de Chicago e o principal centro de dados da Nasdaq, em Nova York. Os 1.331 quilômetros de cabos foram inaugurados em junho de 2010 após um período de construção totalmente sigiloso e diminuíram a latência de 17 para 13 milissegundos. De acordo com a empresa, em um comunicado pouco após o início das operações com a nova linha, cada milissegundo garantia ganhos de US$ 75 milhões.

Pouco depois, a McKay Brothers criou uma segunda linha de alta velocidade entre os dois centros financeiros, mas com tecnologia de micro-ondas — que, de acordo com as leis da óptica, garante mais velocidade, uma vez que a luz se curva mais rapidamente no ar que no vidro das fibras ópticas. A iniciativa da McKay garantiu 4 milissegundos de vantagem comparada à linha da Spread, e algumas centenas de milhões de dólares.

A saída para muitos operadores evitarem a competição assustadora com as máquinas é adentrar o mundo dos fóruns privados de negociações, conhecidos como dark pools. Nesses ambientes, grandes empresas negociam confidencialmente derivativos, títulos e outros ativos financeiros para operadores obscuros, longe das regras dos mercados e dos registros das grandes bolsas de valores. Como preços e cadastros são secretos, as vendas não chamam a atenção de terceiros e concorrentes. Em muitos desses ambientes escondidos, conflitos de interesse são permitidos, mas algoritmos são barrados, a fim de evitar concorrência desleal.

Mas nada impede que trapaças sejam feitas. Em 2016, a Comissão de Valores Mobiliários dos Estados Unidos multou coletivamente os bancos Barclays e o Credit Suisse em US$ 150 milhões por, entre outras irregularidades, permitir que negociadores de alta frequência de suas próprias equipes acessassem as dark pools que operavam.

A preocupação com os efeitos da técnica e das mídias na nossa cognição e no nosso corpo não é nova. Ao longo dos séculos, atingiu níveis próximos do pânico generalizado. O sono bifásico medieval é um dos exemplos mais famosos, abandonado por causa da iluminação artificial e dos relógios despertadores.

Antes da Revolução Industrial, era extremamente comum dormir em dois turnos: o primeiro logo após o trabalho, mais ou menos das 21h às 23h, e o segundo da 1h até o amanhecer ou mais. Era uma forma vantajosa para realizar tarefas cotidianas descansado, após uma jornada exaustiva.

Como descreveu o historiador Roger Ekirch, da Universidade Estadual da Virgínia, nos Estados Unidos, o desenvolvimento técnico fez nascer também um novo modo de vida, impulsionado por necessidades produtivas, que conduziu à criação de uma classe operária que deveria trabalhar sob normas mais rígidas, em ambientes como a fábrica. O resultado foi uma profunda alteração biológica — e também o nascimento de uma série de distúrbios de sono e novos tipos de ansiedade.

Na mesma época, o ato de ler era uma declamação, realizado em voz alta para si próprio ou grupos de pessoas. Paul Saenger, escritor e curador da Biblioteca Newberry, em Chicago, ressalta que a separação de palavras feitas por escribas e escritores e a propagação dos livros desenvolveu a leitura silenciosa e pessoal, que só se consolidaria totalmente no século 15, já no fim da Idade Média.

A popularização das mídias de massa trouxe com ela um tipo de medo tipicamente humano: o temor do que se esconde no exterior, nas sombras do incompreendido. No início do século 19, de repente, as mídias eram capazes de coisas horrendas, como o vício e a hipnose.

Mesmo a leitura, hoje tida como um hábito quase obrigatório e sinal de inteligência, já foi em parte encarada como uma doença perniciosa. No livro Aparições Espectrais (2013), Stefan Andriopoulos, estudioso de mídias e professor da Universidade de Columbia, descreve o que no início dos anos 1800 foi chamado de “furor de leitura”, um medo de que os livros de histórias populares — basicamente relatos de crimes e aventuras vitorianas — carregassem uma doença literal.

“Johann Gottfried Hoche publicou um tratado sobre o assunto, definindo o vício em leitura como um abuso mal orientado e pernicioso de uma prática benéfica, uma doença verdadeiramente terrível, contagiosa como a febre amarela da Filadélfia”, escreve Andriopoulos.

Segundo Hoche, um historiador alemão, em sua descrição do que seria a tal doença, “tudo é lido sem propósito, sem a menor ordem, não se aprecia nada e se devora tudo; nada é adequadamente entendido e tudo recebe apenas uma leitura superficial, sendo prontamente esquecido”. Na visão dos cidadãos mais preocupados da época, “as mulheres e os adolescentes eram tidos como particularmente vulneráveis ao ‘vício em leitura'”.

Outras mídias foram alvo de alerta similar, após despertarem temores inconscientes. Em 1928, o matemático e físico alemão Theodor Meyer fez um alerta de que existia o risco de que “algumas pessoas […] consigam impor sua vontade a centenas de milhares através do rádio”. Era a época da República de Weimar no território germânico, e a ascensão do nazismo, impulsionada pelas mídias de massa, atestou que a paranoia de Meyer não era completamente infundada.

O cinema é descrito por teóricos de mídia não como uma arte, mas como uma projeção da própria psique humana. Para outros, é algo ainda mais profundo e inovador. “O cinema representa um dos mais poderosos pontos de fratura das formações artísticas. Com ele nasce realmente uma nova região da consciência. Ele é, para ser breve, o único prisma no qual se abre ao homem de hoje o seu mundo mais próximo, os espaços em que vive, trabalha e se diverte”, escreveu o filósofo alemão Walter Benjamin, em um artigo de 1927.

A descrição de Benjamin tem a ver com uma compreensão posterior e social de um desenvolvimento linguístico do cinema como arte. A partir do momento em que ele se massifica, o temor de suas possíveis engrenagens secretas dá lugar a uma relação mais ativa entre filmes e plateia.

Mas antes, em 1912, alguns teóricos e analistas alemães descreveram o cinema com assombro e chamaram a nova mídia de “profundamente perturbadora do sistema nervoso”. O principal deles foi o psicólogo Hugo Münsterberg, que afirmou que “a intensidade com que os dramas se apoderam da plateia não pode deixar de ter fortes efeitos sociais”.

No livro A Reforma do Direito Cinematográfico (1920), ele afirmou que os que assistiam a certos filmes chegavam a experimentar “alucinações e ilusões sensoriais”, “vívidas como a realidade”, uma vez que a mente fica completamente “entregue às imagens em movimento”.

Nos anos 1950, os quadrinhos foram vítimas de uma denúncia similar, capitaneada pelo psiquiatra e oportunista americano Fredric Wertham, autor do livro Sedução dos Inocentes (1954) e ouvido pelo Senado dos EUA em uma série de seções públicas. 

O livro afirmava que os gibis e outros tipos de literatura barata eram diretamente responsáveis por incutir comportamento criminoso em crianças e adolescentes. Por consequência, cidades como Oklahoma City e Houston proibiram a venda de certos tipos de revista em quadrinhos e conselhos municipais locais chegaram a organizar queimadas públicas de gibis.

Para circular livres da importunação política, editoras criaram o Comics Code Authority, um órgão que autorregulava os quadrinhos. A submissão ao código, que chegou a censurar diversas revistas, não era obrigatória, mas exigida por diversos anunciantes e revendedores. O CCA só foi completamente extinto em 2011.

Na década de 1990, foi a vez dos videogames, atacados como uma nova influência nefasta sobre os jovens — o entretenimento eletrônico, principalmente os jogos violentos, induziriam adolescentes a cometer crimes e perder a sensibilidade social. O estopim foi o massacre de Columbine, em 1999, cuja dupla de autores adolescentes era fã de jogos de tiro como Doom, Duke Nukem e Wolfenstein 3D. Em meio a uma intensa cobertura midiática, alguns pais das vítimas chegaram a processar as desenvolvedoras desses games, mas sem sucesso.

Em todos os casos, nenhuma pesquisa científica substancial foi usada para corroborar a relação entre o uso da mídia e seus efeitos, e as acusações simplesmente evaporaram após a onda de temor — ou após o surgimento de uma nova invenção para atacar.

LEIA AS OUTRAS PARTES DESTA REPORTAGEM:

• Algoritmos sonham com atentados terroristas? Saiba como lei de 1996 protege as big techs

• Entenda como a tela do celular nasceu da necessidade de se proteger de mísseis nucleares