Em outubro de 2021, Frances Haugen, ex-funcionária do Facebook entregou uma grande quantidade de documentos internos da Companhia para o Congresso norte-americano e imprensa daquele país, depois analisados e divulgados também por meios de comunicação de outros países, inclusive, o Brasil. Os documentos que ficaram conhecidos como Facebook Papers revelaram uma série de políticas e estratégias internas, assim como, condutas da Big Tech que em suma, terminam por prejudicar o usuário em diversas áreas, como na saúde, sobretudo, durante os piores anos da pandemia da Covid-19, mas também com potencial para interferir no tecido social e nos destinos das democracias.
 
Dentre as denúncias significativas daquele momento, vale destacar a mudança no comportamento do algoritmo para uma nova métrica, denominada de “interações sociais significativas” que passou a privilegiar mais ainda os conteúdos com potencial para viralizar, o que inclui desinformação e discurso de ódio, por exemplo.  Em outra frente, os documentos revelaram o reconhecimento interno do Facebook de que não estava conseguindo identificar, rebaixar ou remover conteúdos com desinformação sobre vacinas e outros temas relacionados à pandemia do novo coronavírus, em uma escala suficiente para manter a sociedade em segurança. Já outro documento interno do Facebook, também divulgado, revelou que a empresa, infelizmente, permite o desenvolvimento de todas as fases da exploração humana, desde o recrutamento até a exploração final. Toda a “cadeia produtiva” do tráfico de pessoas, tem acesso fácil a contas e perfis das redes e aplicativos da Meta, Facebook, Instagram, Messenger e WhatsApp. 

Esta semana Frances Haugen está no Brasil para conversas com diversos setores da sociedade civil. Na segunda-feira, 04,  participamos de um dos eventos com sua presença, organizado pelo Sleeping Giants, Desinformante, Intervozes, Instituto Vero, Instituto Marielle Franco, Avaaz, Coalização Direitos na Rede e InternetLab.
 
O foco no Brasil é exatamente alertar a sociedade para os riscos que corremos, sobretudo, em período eleitoral como o atual. Nesse sentido, Frances Haugen tem alertado que embora o Brasil seja um dos maiores mercados em que a Meta esteja instalada e possua um grande número de usuários, assim como, seja uma das democracias e economias mais importantes do mundo, o Facebook não dispensa um tratamento condizente ao país ou aos usuários. O idioma português (brasileiro) não possui um sistema básico de segurança, não possui um processo de moderação de conteúdo amplo e não é prioridade quando se trata de detecção de conteúdos com desinformação. Nas palavras de Frances Haugen, embora a empresa consiga identificar 20% da desinformação, somente cerca de 5% estão sendo rotulados como desinformação.
 
Outro ponto importante, é o fato de que o uso da Inteligência Artificial como moderador de conteúdo possui limitadores, tendo em vista que a Inteligência Artificial programada ou criada dentro de um determinado escopo, mesmo incluindo ambiente cultural, não consegue, muitas vezes, interpretar o contexto do uso das palavras nas redes sociais. Vou usar o exemplo da Rede Nacional de Combate à Desinformação, que comumente tem seus conteúdos limitados por usar nomenclaturas que deseja traduzir para a sociedade, tais como, como identificar fake News, ou, como denunciar discurso de ódio. O uso de tais palavras, como a própria palavra desinformação, faz com que o algoritmo limite a visibilidade dos nossos posts, quando não derruba completamente.  Ou seja, a AI não consegue compreender e interpretar o contexto pleno do uso das palavras, em cada língua. No português, diz Frances Haugen, esse processo tem sido negligenciado pela Meta, em suas redes e aplicativos. 

Para a denunciante do Facebook e que hoje presta consultoria a empresas e governos, o Facebook fez escolhas imorais, privilegiando o próprio lucro em detrimento da segurança das pessoas. A redução da equipe de acompanhamento das eleições é um dos sinais claros de que a empresa, não está preocupada com o processo democrático. 

Para Frances Haugen, os países devem fortalecer suas legislações e assim, otimizar a relação com as plataformas digitais, negociando um processo de transparência no trato com os dados dos usuários sugados de suas plataformas diuturnamente. Por outro lado, é importante ainda o processo de esclarecimento dos governos, dos legisladores, dos investidores em Big Techs e da sociedade, para que juntos possamos conseguir um novo patamar nas negociações com as gigantes de tecnologia que não consideram e, muitas vezes, não respeitam ou sequer se importam com as leis de cada país, criando suas formas diretas de relação com os usuários. 

Nesse sentido, a transparência das plataformas em relação a todos os processos que envolvem sua atuação e relação com as sociedades, em que capturam a experiência humana e com a qual negociam, deve se tornar ponto de grande relevância no contexto político de cada país, tendo em vista o grande potencial que possuem, as redes sociais, para manipular os usuários e intervir diretamente nos processos democráticos, a exemplo do que vimos na década passada, a saber: 2016 eleições nos Estados Unidos e no Brexit na Inglaterra, 2018 e 2020 nas eleições no Brasil, dentre outros contextos complicados, como na Etiópia e Miamar, em que a não moderação de conteúdos levou à violência coletiva extrema.

Vale pontuar o que Frances Haugen tem alertado sobre a conduta completamente diferente adotada pelo Facebook nos Estados Unidos e para os conteúdos em inglês, em relação a conteúdos de outras línguas e em relação a outros países negligenciados pela empresa, tendo em vista que nem os governos, nem a sociedade do restante do mundo está alerta e cobrando ações da Meta com grande intensidade. Nesse sentido, ela relata que embora a Meta invista muitos recursos em segurança e integridade cívica, esses recursos pouco chegam a outros mercados.

Para Frances Haugen as plataformas tem o dever de assumir responsabilidade sobre seus usuários, entretanto, tal responsabilidade nem sempre é considerada pela gestão Meta, que tem privilegiado a lucratividade e para tanto, é necessário manter os usuários conectados a todo e qualquer custo. Nas palavras de Frances, quando o usuário se afasta da rede, são inseridas estratégias de ação que entram direto com algum conteúdo que ativa a substância dopamina em nosso organismo, fazendo com que o usuário retorne a sua rotina diária de uso e dependência das plataformas.  Logo nesse conteúdo ativador de substâncias como a dopamina, pode caber muita coisa com capacidade viral.
 
Por fim e para Frances Haugen os profissionais de tecnologia deveriam também ter formação em sociologia, tendo em vista que nenhuma tecnologia é neutra e é sempre desenvolvida a partir do lugar e do olhar do seu criador. Uma visão de mundo mais ampla e um olhar para o outro poderia ajudar na hora da criação dos produtos, processos e novos lugares de vivência e experiência humana. A maioria das tecnologias em que estamos inseridos, assim como, as crianças, não foram pensadas para nossa cultura ou para nossos hábitos, mas foram vendidas como necessárias para a sobrevivência na sociedade atual que privilegia a vida imagética em detrimento de um eu real.