O controle social pós-moderno em o ‘dilema das redes’
Fábio Gomes de França[1]
O DILEMA DAS REDES. Direção: Jeff Orlowski. Estados Unidos: Netflix, 2020. (94 min).
A expressão célebre de Max Weber “a gaiola de ferro” (Iron Cage), usada para traduzir as formas de dominação humana engendradas pelo sistema capitalista moderno a partir da ascese intramundana protestante e sua lógica voltada para o lucro por meio do trabalho como uma vocação predestinada é o nosso ponto de partida neste texto. Assim, para Weber (2004, p. 165), “no que a ascese se pôs a transformar o mundo e a produzir no mundo os seus efeitos, os bens exteriores deste mundo ganharam poder crescente e por fim irresistível sobre os seres humanos como nunca antes na história”, ou melhor, o “desencantamento do mundo”, outro termo aludido pelo mesmo autor, torna-se resultado desse processo de controle dos homens em sociedade pela sua própria criação: os “bens exteriores”.
Este processo marca o enredo pelo qual a razão iluminista, ou melhor, o “esclarecimento”, na acepção de Adorno e Horkheimer (1985), foi visto como a promessa emancipatória de resgate do homem dominado pelas trevas medievas de discurso teocêntrico, ou até mesmo do discurso mágico-mitológico e ainda metafísico. O homem racional buscou dominar a natureza para transformá-la em benefício de sua própria felicidade, particularmente por meio da ciência, e sua validade objetiva, e da técnica, como forma de aplicação dos conhecimentos ensejados pela universalidade do constante aprimoramento das descobertas científicas. No entanto, se o projeto do esclarecimento era o desencantamento do mundo destruindo toda forma de saber não científica, o que se viu foi o desenvolvimento de uma condição contraditória, dialética para sermos mais precisos, pela qual “o pensar reifica-se num processo automático e autônomo, emulando a máquina que ele próprio produz para que ela possa finalmente substituí-lo. O procedimento matemático tornou-se, por assim dizer, o ritual do pensamento” (ADORNO; HORKHEIMER, 1985, p. 33). Na verdade, os próprios mitos já expressavam formas de dominação entre os homens, de maneira que os mitos já eram esclarecimento e em contrapartida o esclarecimento tornou-se mito “com o abandono do pensamento – que, em sua figura coisificada como matemática, máquina, organização, se vinga dos homens dele esquecidos – o esclarecimento abdicou de sua própria realização” (ADORNO; HORKHEIMER, 1985, p. 45).
Sem esquecermos que todo esse movimento que conduziu o caminho do pensamento humano à máquina, pela lógica de uma “dialética do esclarecimento” (ADORNO; HORKHEIMER, 1985), legitimou a modernidade não enquanto um período histórico, mas enquanto um estilo de vida ambivalente, no qual grandes corporações burocráticas foram criadas para organizar a vida em sociedade ao mesmo tempo em que se fomentaram formas de controle racionalizadas capazes de destruir valores e vidas (BERMAN, 1986). Ainda mais,
Como membros da sociedade moderna, somos todos responsáveis pelas direções nas quais nos desenvolvemos, por nossas metas e realizações, pelo alto custo humano aí implicado. Nossa sociedade jamais poderá controlar seus vulcânicos “poderes ocultos” enquanto pretendermos que apenas os cientistas perderam o controle. Um dos fatos básicos da vida moderna é que todos nós, hoje, somos ‘garotões cabeludos’” (BERMAN, 1986, p. 84, grifos do autor).
Nesse sentido, se o autor da citação destaca que ‘garotões cabeludos’ se remete ao fato da cultura capitalista norte-americana ter sido a responsável pela criação da bomba atômica, como produto extremo da capacidade racional do homem na modernidade em relação às suas criações paradoxais, inserir então a todos nós como partícipes dessa loucura é caminhar um pouco mais para mostrarmos que com o desenvolvimento da tecnologia no pós-Segunda Guerra Mundial e o esfacelamento da guerra fria, uma nova concepção de vida surgiu propondo ainda mais a uniformização de usos e costumes, crenças, práticas, opiniões, posicionamentos políticos e ideológicos. O mundo tornou-se tecnologicamente globalizado. Para sermos mais precisos, alcançamos o status de uma sociedade tecnológica (ELLUL, 1954).
E para alguns autores (BAUMAN, 1998), essa condição pode ser compreendida como um período de pós-modernidade, no qual o fluxo de informações, imagens, ideias, serviços, mercadorias e pessoas já não clama por uma perspectiva enrigecida de futuro, de progresso, de estabilidade, como exigiam os parâmetros da modernidade, tendo em vista que, na condição pós-moderna os laços humanos tornaram-se voláteis e disruptivos, na verdade líquidos, no melhor sentido atribuído por Bauman (2003). Nessa modernidade líquida, as relações sociais passaram a ser regidas pelos excessos, velocidade, troca constante de tudo o que se possa imaginar em favor de um futuro imediato que não cessa de causar angústias, ansiedades e depressões que surgem como consequências da abundância de “estímulos, informações e impulsos” (HAN, 2017, p. 31).
É a partir desse quadro que situamos o documentário que ora analisamos, pois, em “o dilema das redes (The social dilemma), a epígrafe de chamada da plataforma Netflix, na qual podemos assisti-lo, deixa claro que “especialistas em tecnologia e profissionais da área fazem um alerta: as redes sociais podem ter um impacto devastador sobre a democracia e a humanidade”. Não bastasse de pronto darmos um sobressalto ao relacionarmos democracia e humanidade, neste caso como uma relação de deterioração talvez moral e política do homem com seu sistema organizativo em sociedade, ainda percebemos que no título em inglês, diferentemente do português que destaca “redes”, como se fosse algo para si mesmo, a palavra “social” enfatiza um problema de fundo estrutural que atinge uma dimensão no plano da coletividade. Essa situação fica provada desde o início quando ex-funcionários de grandes corporações tecnológicas e ex-criadores de ferramentas digitais para o facebook, instagram, google, youtube, twitter, pinterest entre outros encenam suas primeiras falas destacando que “ao lançar essas coisas elas ganham vida própria. E como elas são usadas é muito diferente de como se espera”; ou ainda “ocorreram mudanças significativas e sistemáticas ao redor do mundo por causa dessas plataformas. Foram positivas. Mas fomos ingênuos quanto aos efeitos colaterais”.
E são esses efeitos colaterais que causam certo impacto quando a ficção retrata a realidade na exibição da história paralela de uma família que vive os dramas cotidianos de seus membros e o contato constante com os celulares e as redes sociais, o que se fortalece ainda mais com as notícias televisivas que anunciam que “as redes sociais estão levando nossas crianças à depressão”, ou que tem havido um aumento nos procedimentos cosméticos entre adolescentes, o que levou os cirurgiões plásticos a chamarem esse comportamento, no caso uma síndrome, de dismorfia snapchat, pela qual “pacientes jovens buscam cirurgia para parecerem com suas selfies com filtro”.[2] E os problemas não param por aí, pois no campo da saúde a repórter indaga: “Como se controla uma epidemia na era das fake news?”. E se a democracia está sob ataque, o repórter assevera que “o Estado Islâmico inspirou seguidores online e agora supremacistas brancos estão fazendo o mesmo”. Essa miríade de notícias, que incluem concepções político-ideológicas, estéticas, culturais, de saúde e especialmente econômicas, encontram nas palavras de Tristan Harris, um dos entrevistados no documentário, que era designer ético do Google, certa ressonância, pois, segundo ele: “Quando você olha ao redor parece que o mundo está enlouquecendo. Aí você se pergunta: Isso é normal? Ou será que estamos sob algum tipo de feitiço?”
A resposta do ex- designer ético do Google nos encaminha, ainda nos primeiros minutos do documentário, ao grave problema que é mostrado, no nosso ponto de vista, em forma de denúncia, ou seja, que “2 bilhões de pessoas teriam pensamentos que não queriam ter porque 1 designer do Google disse: “É assim que as notificações funcionam na tela que você olha ao acordar de manhã”. E tínhamos uma responsabilidade moral de resolver esse problema.” Logo, se bilhares de pessoas desenvolvem pensamentos que não gostariam de ter, mas que os possuem por serem incitadas, induzidas ou melhor ainda controladas para assim se comportarem, podemos dizer que, em alusão à fatídica gaiola de ferro weberiana, estamos diante de uma “gaiola digital”, porque agora é o cálculo matemático dos algoritmos em forma de programas e plataformas digitais sedutoras que nos enredam e nos envolvem para estarmos online o máximo de tempo possível dias e noites, assim como ocorre com o fenômeno whatsapp e instagram.
Ainda em 2005, Almeida (2005) aventurara-se a usar o termo “gaiola de chips” para descrever o impacto das tecnologias digitais em nossas vidas, mas sua análise tímida à época não dispunha da existência de dados em relação ao que hoje ocorre, pois estávamos nos primórdios das redes sociais, falava-se de orkut, uma das primeiras a serem criadas, com recursos que não chegam perto do que as atuais redes são capazes de fazer para prender seus usuários às telas de seus celulares. E se pelo menos Almeida (2005) vislumbrava um equilíbrio entre os ganhos e impactos negativos trazidos pela era tecnológica por meio da informação, em “o dilema das redes”, as preocupantes constatações nos alertam a todo o instante sobre o tipo de dominação que se instala assustadoramente com o mundo das redes sociais.
Que o diga o fenômeno das fake news, que são notícias falsas espalhadas por robôs pela internet causando danos de diversos matizes, desde influenciar resultados eleitorais, dificultar os programas de vacinação como ocorrera durante a pandemia de Covid-19, deslegitimar um conhecimento historicamente comprovado como a negação do holocausto na Alemanha ou da escravidão no Brasil, até a disseminação de teorias conspiratórias como o terraplanismo, gerando polêmicas no sistema educacional, ou ainda mais espalhando-se opiniões negativas quanto aos dados de desmatamento, os quais não refletem a realidade (GOMES, 2021).
Tudo isso também tem a ver com a perspectiva da pós-verdade, termo eleito em 2016 como a palavra do ano pelo Dicionário Oxford e que diz respeito à forma como as pessoas, induzidas especialmente pela desinformação das redes sociais, “têm se tornado indiferentes à veracidade dos fatos que circulam na rede. O aspecto de serem autênticos, ou não, perde relevância quando comparado à conexão que tal narrativa tem com as crenças pessoais do indivíduo, possibilitando que o emocional supere o racional” (GOMES, 2021, p. 26). Em tempos de pós-verdade, “pouco importa se o acontecimento foi verificado e refutado: a verdade, mais do que nunca, está nas impressões subjetivas que uma dada informação causa.” (SIEBERT; PEREIRA, 2020, p. 247). Assim, em um contexto de pós-verdade, a interpretação da veracidade dos fatos lançados na internet perde o sentido diante da conjuntura ideológica empregada para reafirmar a posição subjetiva e emotiva de quem teve acesso à notícia, o que pode resultar em danos catastróficos. O fenômeno Trump, nos Estados Unidos, é um exemplo claro dessa lógica:
Trump, por exemplo, é conhecido por seu frequente uso do Twitter, rede social de grande alcance que preza por postagens curtas de até 280 caracteres. Nela, já acusou Barack Obama de ser um conspirador muçulmano e alegou que vacinas são a causa de autismo. São informações que reforçam determinadas posições subjetivas e que representam um problema para o jornalismo tradicional: a mídia se vê obrigada a tratar de Trump e suas alegações com o fim de refutá-lo, mas acaba dando maior exposição a ele e a suas ideias, ressoando-as (SIEBERT; PEREIRA, 2020, p. 247).
E a ressonância expositiva das informações talvez seja o foco central em “o dilema das redes”, pois, na continuidade do documentário, uma série de relatos nas entrevistas passam a descrever como se desenvolveu as tecnologias por trás das redes sociais, quais foram e quais são seus objetivos e o alcance global alcançado nesse novo tipo de mercado, pois se trata de um sistema mercadológico em uma nova fase do capitalismo: o “capitalismo de vigilância”.
Em síntese, a partir das falas de alguns dos entrevistados, essa rede mercadológico-financeira se desenvolve a partir do momento em que os anunciantes nas redes sociais pagam pelos produtos que usamos, ou seja, nós mesmos! Tornamo-nos mercadorias sendo expostas em plataformas como o Google que, para além de ser uma ferramenta digital, na verdade compete por nossa atenção. O propósito é manter as pessoas conectadas às telas virtuais, fazendo-as gastar certo tempo de suas vidas, doando-se ao entretenimento digital sem perceberem que está havendo uma mudança sutil, não reconhecível por elas mesmas, já que o comportamento humano, enquanto produto, torna-se objeto de lucro quando ocorre a modificação do que os usuários fazem, pensam e sentem. Para Bauman (2013), estamos diante de vidas eletrônicas ou cibervidas, que encontram uma morte social caso não se tornem um nativo digital, segundo ressalta David Lyon.
Nesse caso, o documentário é enfático em mostrar como o capitalismo fomentado pelo mercado das grandes empresas tecnológicas se retroalimenta a partir de um rastreamento de usuários sem limites que visa garantir lucratividade aos anunciantes. Esse monitoramento permite que os usuários sejam catalogados em relação a tudo o que fazem desde o fato de estarem sozinhos ou deprimidos, até o tipo de neurose ou personalidade que demonstram possuir. Tais dados são utilizados para o desenvolvimento de modelos preditivos de nossas ações, os quais encetam a lógica da concorrência entre as empresas fazendo-as estabelecer como metas o engajamento (aumento do uso das redes pelos usuários), o crescimento (quando novos usuários entram na rede convidados por pessoas já conectadas) e a propaganda (que diz respeito ao máximo de dinheiro ganho com o que é ofertado enquanto as redes são usadas).
É neste ponto do documentário que chegamos a uma questão importante da discussão, pois toda a lógica das redes é alimentada por algoritmos. E assim como ocorre ao longo de todo o documentário, frases de efeito surgem para contextualizar o panorama tecnomacabro apresentado, como a de Arthur C. Clarke que nos diz: “Qualquer tecnologia avançada é indistinguível da mágica”. Tal mágica se traduz por uma “tecnologia persuasiva”, a qual funciona como um reforço intermitente positivo de ordem psicológica cujo objetivo é induzir comportamentos para que eles se tornem habitualmente inconscientes. Não por acaso, o documentário nos mostrar, pelo prisma analítico de Tristan Harris, que esse tipo de tecnologia pela persuasão cresceu com base em experimentos (Growth hacking) nos quais equipes de engenheiros das plataformas digitais e redes sociais manipulam o psicológico dos usuários com a intenção de angariar mais assinantes, que na verdade são táticas de recrudescimento do mercado. Pelas palavras de Sandy Parakilas: “Somos todos cobaias. Mas não somos cobaias desenvolvendo a cura para o câncer. Eles não estão tentando beneficiar a nós, eles querem que vejamos mais propaganda para que ganhem mais dinheiro.”
Shoshana Zuboff, que é professora emérita da escola de Negócios de Harvard e autora do livro “A era do capitalismo de vigilância” é cirúrgica em suas palavras no documentário ao alertar para esses experimentos conduzidos por engenheiros digitais e suas descobertas de como manipular a dimensão psicológica humana, ou melhor: “o facebook realizou os experimentos de contágio em larga escala. Como usar mensagens subliminares nas páginas do facebook para fazer com que mais pessoas votassem nas eleições intermediárias. E eles descobriram que eram capazes de fazer isso. Uma coisa eles concluíram: podem afetar o comportamento do mundo real e as emoções sem nunca desencadear a consciência do usuário.”
Essa odisséia de exploração das vulnerabilidades do lado psicológico humano aparece no documentário como o desencadeamento de uma “tecnologia viciante”, que usa o nosso psicológico contra nós mesmos e que encontra na frase de Edward Tufte, digamos que, certo prelúdio para as próximas cenas do dilema das redes quando se revela que “existem apenas duas indústrias que chamam seus clientes de usuários: a de drogas e a de software”. É também a constatação da Drª Anna Lembke, da Faculdade de Medicina de Stanford, cujas palavras endossam que “rede social é uma droga. Nós temos uma necessidade biológica básica de nos conectar com outras pessoas. Isso afeta diretamente a produção de dopamina no sistema de recompensa. Milhões de anos de evolução por trás desse sistema nos levando a nos aproximar. Viver em comunidades, achar companheiros, propagar a espécie. Um veículo como as redes sociais que otimizaram a conexão entre as pessoas vão ter um potencial viciante.”
Nesse percurso, a gaiola digital exposta no documentário irradia-se fechando-se cada vez mais que se abre, que se expande, conectando novos usuários viciados em seus telefones celulares, pois, “esses produtos de tecnologia não foram projetados por psicólogos infantis que estão tentando proteger e educar crianças. Eles foram projetados pra criar algoritmos que são ótimos em recomendar o próximo vídeo ou são ótimos pra você tirar uma foto com um filtro. Isso não só tá controlando onde eles direcionam a atenção, em especial as redes sociais começam a penetrar cada vez mais no tronco cerebral alterando o senso de autoestima e a identidade das crianças” (Tristan Harris).
Nesse sentido, penetrar no tronco cerebral certamente diz respeito a invadir nossa capacidade cognitiva de nos reconhecermos identitariamente em relação à imagem social que construímos para nós e para os outros. A chegada das tecnologias viciantes no mundo das crianças e jovens anunciaram também a tragédia, segundo o documentário, de toda uma geração nascida a partir mais ou menos de 1996. Recobrando um pouco as discussões ensejadas por Bauman (2013) em sua obra “Vigilância líquida”, a qual revela a mesma perspectiva do documentário, parece-nos que tem havido uma constante readaptação e sofisticação desses mecanismos estruturais de controle e manipulação desde que Foucault (1987) nos legou a compreensão sobre o Panóptico de Bentham. De uma estrutura arquitetônica adaptada para prisões, escolas, quarteis, hospitais e fábricas no século XIX, chegamos à era da tecnologia da informação conhecendo agora os Banópticos (tecnologias de vigilância de perfis utilizadas para espaços globalizados para manter minorias indesejadas à distância, como nas fronteiras de Estado, por exemplo) ou os Sinópticos (tecnologia pela qual muitos vigiam poucos, como pelo uso da mídia). Assim, o que se vê, segundo o documentário, é que esses caleidoscópios digitais têm alta capacidade de surgirem de estratégias ininterruptas que são acionadas pelos agentes recrutados no mercado tecnológico, mas cujas consequências também surgem de forma destrutiva na mesma velocidade.
É o que nos faz chegar ao fim do documentário com muitas informações relevantes nele destacadas como o aumento de casos, desde 2010, de internação de adolescentes por autoflagelação devido a problemas com a imagem. Uma taxa de aumento de 70% de suicídios entre meninas adolescentes de 15-19 anos nos Estados Unidos, assim como um aumento de 151% entre aquelas com 10-14 anos. As polarizações políticas, as fakenews que envolveram a pandemia de covid-19, tudo isso devido à seleção que os algoritmos fazem do que deve ser visto por cada usuário em particular por conta do perfil mapeado tendo em vista que “a máquina modifica a si mesma”. Se pensávamos em máquinas tangíveis dominando os homens quando tratamos da dialética do esclarecimento no início desta resenha, como modelo de existência autônoma da razão instrumental, agora tratamos, segundo o dilema das redes, de algoritmos intangíveis, capazes de fazer as redes sociais amplificarem “fofocas e boatos de forma exponencial ao ponto de não sabermos o que é verdade, não importa no que acreditemos. Imagine um mundo onde ninguém acredita que nada é verdade. Todo mundo acha que o governo tá mentindo. Tudo é teoria da conspiração. Não devo confiar em ninguém e odeio o outro lado. Nós estamos indo nesse sentido” (Tristan Harris).
Mesmo que o documentário termine com uma nota de esperança, como nas palavras de Tristan Harris, que ao longo de todo o dilema das redes é uma das vozes protagonistas de denúncia ao que tem ocorrido com o uso das redes sociais de forma generalizada, quando diz que “nós construímos essas coisas e temos responsabilidade de modificá-las”, ainda assim, suas próprias observações nos acerta em cheio um pouco antes quando afirma que essas tecnologias são uma ameaça existencial. O pano de fundo filosófico faz com que a assertiva nos cause talvez a mesma sensação dita por um congressista norte-americano ao próprio Tristan Harris no documentário, durante uma Audiência Pública, ao revelar seu medo diante dessa crônica tecnológica, pois, “não se trata de tecnologia sendo ameaça existencial. É a capacidade da tecnologia de despertar o pior da sociedade e o pior da sociedade ser a ameaça existencial” (Tristan Harris).
REFERÊNCIAS
ADORNO, Theodor; HORKHEIMER, Max. Dialética do esclarecimento. Rio de Janeiro: Zahar, 1985.
ALMEIDA, Marco Antõnio de. A gaiola de chips: apontamentos sobre tecnologia, sociabilidade e cultura na sociedade da informação. Em Questão, Porto Alegre, v. 11, n. 1, p. 13-34, jan./jun. 2005. Disponível em: A gaiola de chips: apontamentos sobre tecnologia, sociabilidade e cultura na sociedade da informação (brapci.inf.br). Acesso em: 22 set. 2022.
BAUMAN, Zygmunt. O mal-estar da pós-modernidade. Rio de Janeiro: Jorge Zahar Ed., 1998.
______. Modernidade líquida. Rio de Janeiro: Jorge Zahar Ed., 2003.
______. Vigilância líquida. Rio de Janeiro: Jorge Zahar Ed., 2013.
BERMAN, Marshall. Tudo que é sólido desmancha no ar: a aventura da modernidade. São Paulo: Companhia das Letras, 1986.
ELLUL, Jacques. The technological society. New York: Vinatge Books, 1954.
FOUCAULT, Michel. Vigiar e punir: história da violência nas prisões. Petrópolis: Vozes, 1987.
GARCÍA, Jorge. El País. ‘Doutor, quero me parecer com minha selfie’, (21/08/2018). Disponível em: <https://brasil.elpais.com/brasil/2018/08/20/tecnologia/1534765145_147411.html>. Acesso em: 22 set. 2022.
GOMES, Camila Paula de Barros. O impacto das fake news sobre as políticas públicas. Revista Digital de Direito Administrativo, v. 8, n. 2, p. 23-48, 2021. Disponível em: O impacto das fake news sobre as políticas públicas | Revista Digital de Direito Administrativo (usp.br). Acesso em : 22 set. 2022.
HAN, Byung-Chul. Sociedade do cansaço. Petrópolis-RJ: Vozes, 2017.
SIEBERT, Silvânia; PEREIRA, Israel Vieira. A pós-verdade como acontecimento discursivo. Linguagem em (Dis)curso – LemD, Tubarão, SC, v. 20, n. 2, p. 239-249, maio/ago. 2020. Disponível em: A pós-verdade como acontecimento discursivo. (scielo.br). Acesso em 22 set. 2022.
WEBER, Max. A ética protestante e o espírito do capitalismo. São Paulo: Companhia das Letras, 2004.
[1] Doutor e mestre em Sociologia pela Universidade Federal da Paraíba.
[2] Para mais conhecimento sobre a dismorfia do snapchat ver García (2018).
