O mundo precisa de uma maneira melhor de regular o poder descontrolado da Big Tech

Não foi há muito tempo, certamente na maior parte de nossas vidas, que a tecnologia digital parecia ser a resposta para todos os nossos problemas. Pegue praticamente qualquer livro sobre a promessa da tecnologia publicado na década de 1990, e mesmo no início dos anos 2000, e foi apresentado como quase indiscutível que os efeitos democratizantes da revolução digital trariam uma série de benefícios para a civilização como a conhecemos.

Hoje, essa premissa parece estar em um terreno muito mais instável. Embora existam muitos motivos para se empolgar com a tecnologia, não faltam motivos para se preocupar. Em seu novo e brilhante livro The Digital Republic: On Freedom and Democracy in the 21st Century , o advogado e autor Jamie Susskind questiona como a liberdade e a democracia podem sobreviver em um mundo cheio de tecnologias digitais todo-poderosas.

Digital Trends: Qual é o argumento central que você está fazendo em The Digital Republic ?

Jamie Susskind: O argumento central é que temos um problema com a indústria de tecnologia. Esse problema não é com maçãs podres individuais no topo ou com corporações específicas. É o problema do poder irresponsável, por falta de governança adequada.

Meu livro tenta diagnosticar de onde vem esse poder, por que é um problema e como podemos torná-lo mais responsável de uma forma que preserve a liberdade e a democracia.

DT: Explique o que você quer dizer com o 'republicanismo' referido no título do livro.

JS: Baseia-se na antiga filosofia republicana que remonta aos romanos. Este não é o republicanismo do Partido Republicano moderno, nem daqueles que querem se livrar da monarquia, por exemplo, no Reino Unido. O republicanismo é uma filosofia que sustenta que o propósito do direito e da política é reduzir o poder irresponsável na sociedade. Por exemplo, um republicano argumentaria contra a ideia de reis, não apenas contra um rei mau em particular. Eles não esperariam por chefes melhores; eles argumentariam por direitos trabalhistas. Eles não reclamariam de proprietários de escravos desagradáveis; eles lutariam pela abolição da escravatura.

Aplicado ao contexto digital, o republicanismo digital diz que é inerentemente problemático que uma enorme quantidade de poder seja concentrada nas mãos daqueles que possuem e controlam as tecnologias digitais. Esse é o caso, mesmo que concordemos com a forma como eles exercem esse poder de tempos em tempos.

DT: As empresas de tecnologia frequentemente enfrentam críticas, às vezes de ambos os lados do corredor político, sobre se tornarem políticas em algum sentido. Mas existe alguma maneira que eles poderiam ter evitado isso? Parece inevitável. Mesmo a ideia ampla de uma interface de computador é, em certo sentido, ideológica porque estrutura como percebemos o mundo. Adicione a declaração de missão e a escala dos mecanismos de pesquisa e parece que esse problema sempre surgiria.

J.S.: Acho que sim. O argumento central do meu livro é que as tecnologias digitais exercem poder – seja ou não consciente ou desejado por parte de seus criadores. Todas as tecnologias contêm regras que devemos seguir quando interagimos com elas. As regras do Twitter afirmam que você não pode postar um tweet se ele tiver mais do que um determinado comprimento. As regras de um carro autônomo podem afirmar que eles não vão ultrapassar um determinado limite de velocidade, mesmo em caso de emergência.

À medida que cada vez mais nossas ações, interações e transações são mediadas pela tecnologia, aqueles que escrevem as regras estão cada vez mais escrevendo as regras da sociedade. Você pode se considerar um empreendedor, um engenheiro, um executivo de tecnologia ou qualquer outra coisa, mas ainda está desempenhando uma função política na sociedade que, na minha opinião, deveria ser responsabilizada de acordo.

DT: Qual é a resposta para isso? Engenheiros e executivos provavelmente não são políticos eleitos. Eles devem tentar o seu melhor para apontar para uma postura de imparcialidade ou neutralidade?

JS: Não existe uma postura neutra que possa ser adotada. Isso porque a própria neutralidade é uma escolha entre alternativas. Por exemplo, se você for neutro sobre o conteúdo postado em sua plataforma de mídia social, isso pode significar ser neutro sobre discurso de ódio, ameaças de estupro ou pornografia infantil. Outro exemplo envolve as sugestões de preenchimento automático do Google. O Google costumava ter um problema com suas respostas de preenchimento automático retornando com sugestões desagradáveis ​​- então, se você digitasse 'Por que judeus', ele retornaria com 'têm narizes grandes' ou 'possuem a mídia'. A defesa do Google para isso era que era neutro porque refletia as consultas feitas por pessoas no passado.

Para mim, esse é um bom exemplo de quando neutralidade é o mesmo que injustiça. Em vez de mudar ou ajudar a reduzir a quantidade de discriminação no mundo, o Google a ampliou e ampliou. Como dizia o sobrevivente do Holocausto Elie Wiesel, a neutralidade favorece o opressor. Não existe uma postura neutra que os proprietários e controladores de tecnologia digital possam adotar. Acho que temos que aceitar que sempre haverá decisões que envolvem prioridades e trocas e princípios e, às vezes, preconceitos.

A verdadeira questão é como gerenciamos e governamos isso? Devemos governá-los da mesma forma que governamos outros não eleitos da sociedade que ocupam cargos de responsabilidade social, sejam eles médicos, advogados, banqueiros, professores, radialistas. Esses são todos os setores em que as pessoas têm posições únicas de responsabilidade social, e a lei impõe certos deveres a elas como resultado.

DT: A questão da neutralidade foi recentemente levantada com muito do discurso em torno do Twitter e a aparentemente abortada aquisição de Elon Musk. Alguns sugeriram que plataformas como o Twitter têm um viés e que alguns dos problemas das mídias sociais poderiam ser resolvidos se agissem menos.

JS: Um dos temas de longa data do pensamento político republicano é que se você adota uma posição de neutralidade ou de abstenção na briga social e política, o que você está realmente fazendo é criar espaço para que os fortes dominem os fracos. Uma plataforma de mídia social na qual não há regras não dá a todos direitos iguais de participação. Significa que certas vozes serão abafadas, certas pessoas serão expulsas da plataforma. No mundo real, o Estado às vezes intervém na vida das pessoas dentro de uma política para reequilibrar os desequilíbrios de poder. A tecnologia não deve ser diferente.

DT: Parece haver uma onda real de ceticismo tecnológico no momento, certamente quando você compara, por exemplo, com o ciberutopismo dos anos 1990, quando havia a sensação de uma ideologia californiana que poderia resolver todos os nossos problemas. Você consegue identificar quando as coisas mudaram?

JS: Acho que está bem claro que aconteceu em 2016. Naquele ano, o lado do Remain perdeu o referendo do Brexit, e a campanha de Hillary Clinton perdeu o colégio eleitoral nos Estados Unidos. Em ambas as campanhas, as alegações foram feitas pelo lado perdedor – e em nome do lado perdedor – de que o lado vencedor havia armado ilegalmente tecnologias digitais.

Seja por meio de micro-segmentação ou coleta de dados das pessoas, algumas dessas alegações resistiram ao escrutínio nos anos subsequentes, enquanto outras não. Mas, independentemente de seu mérito, considero isso um ponto de virada. Naquele ano, a questão do poder da tecnologia digital chegou ao topo da agenda política. Também explodiu como uma preocupação acadêmica.

DT: Que passos nós, como indivíduos, podemos tomar para resolver alguns dos problemas que você descreve no livro?

JS: Muito poucos, receio. E é importante ser honesto sobre isso. Precisamos sair da mentalidade de que, se ao menos tivéssemos um pouco mais de conhecimento de tecnologia, poderíamos proteger melhor a nós mesmos e nossos filhos. Eu acredito que isso é um absurdo. Acho que os desafios colocados pela tecnologia digital só podem ser resolvidos principalmente no nível coletivo. Isso significa através do mecanismo da lei. Não deve ser deixado para os indivíduos.

DT: Então, como seria esse tipo de ação coletiva ou ação regulatória?

JS: Difere de indústria para indústria; tecnologia para tecnologia. Mas no livro, apresento uma série de possibilidades. Em primeiro lugar, acho que indivíduos poderosos do setor de tecnologia deveriam ter sua conduta regulamentada de forma análoga à forma como médicos, advogados e farmacêuticos têm suas condutas regulamentadas.

Em segundo lugar, acho que precisamos de uma concepção mais ampla de antitruste do que a que temos atualmente, que atualmente está focada estritamente em questões econômicas. Acho que quando estamos avaliando se uma determinada fusão ou aquisição é boa para a sociedade, não devemos levar em conta apenas o preço; devemos levar em conta coisas como a diversidade da mídia e a concentração de poder político e social.

Em terceiro lugar, gostaria de ver maneiras pelas quais indivíduos e reguladores possam contestar importantes exercícios de poder digital, sejam maneiras de contestar algoritmos que estão distribuindo hipotecas, empregos, moradias ou empréstimos. É um regime jurídico razoavelmente abrangente que descrevo no livro. Sustentando tudo isso está um novo mecanismo para envolver as pessoas nas decisões sobre tecnologia digital. Não se trata apenas de transferir o poder das empresas de tecnologia para o parlamento, mas também do parlamento de volta ao povo.

Esta entrevista foi editada para maior extensão e clareza.