A censura do DeepSeek é um tiro de alerta – e um alerta
A indústria de IA está fervilhando de rumores sobre um novo modelo de linguagem de grande porte que está levando a luta aos principais cães da indústria, como OpenAI e Anthropic. Mas não sem sua generosa cota de surpresas. O nome é DeepSeek .
Vem da China. É código aberto. Mais importante ainda, diz-se que foi desenvolvido por uma fração do custo em comparação com o que os atuais líderes da indústria, OpenAI, Meta e Google, queimaram.
“A acessibilidade abre a porta para pequenas empresas e startups aproveitarem a tecnologia avançada de IA que antes era inacessível”, disse Mel Morris, chefe de um mecanismo orientado por IA para pesquisadores, à Digital Trends.
Na esteira da conversa de especialistas e do burburinho de Wall Street, a Nvidia – a dona do hardware de IA – viu quase US$ 600 bilhões serem eliminados de sua participação de mercado. O apoiador da OpenAI e chefe da Microsoft, Satya Nadella, está falando sobre o Paradoxo de Jevons .
A chegada do DeepSeek está até sendo equiparada ao momento Sputnik , mas não sem dúvidas mais profundas. A maior preocupação é como a empresa está armazenando uma grande quantidade de dados de usuários em servidores baseados na China, uma estratégia que mergulhou o TikTok no inferno de uma proibição nacional .
“Se você usar sua API (ou aplicativo) hospedada internamente, é muito provável que o tráfego possa ser visto e compartilhado com vários atores em nível estadual”, disse Randall Hunt, CEO da empresa de engenharia em nuvem Caylent, à Digital Trends.
Há, no entanto, outro aspecto do DeepSeek que imita a versão chinesa de uma Internet rigidamente controlada. Censura.
“A modelagem de recompensas no modelo é fortemente influenciada pelas leis de censura chinesas”, acrescenta Hunt, que trabalhou em potências de engenharia como NASA, SpaceX, Amazon e Meta.
Como DeepSeek adota a censura
"Desculpe, isso está além do meu escopo atual."
“Vamos conversar sobre outra coisa.”
“Ainda não tenho certeza de como abordar esse tipo de questão. Em vez disso, vamos conversar sobre problemas de matemática, codificação e lógica!”
Estas são algumas das respostas que obtemos quando abordamos temas como os direitos humanos dos uigures, a seita religiosa Falun Gong, a destituição do antigo líder Hu Jintao, a provocação de tropas no território indiano de Galwan ou os monges tibetanos que lutam pela liberdade.
Todos esses são tópicos fortemente censurados no ecossistema da Internet e nos sites de mídia social da China. O Grande Firewall da China , como lhe chamam.
Eventos como o massacre de Tiananmen são proibidos. Mesmo menções indiretas, como “o homem que ficou na frente dos tanques”, referindo-se à imagem icônica de um manifestante bloqueando a marcha dos tanques, retornam uma não resposta.
A estratégia não é surpreendente. Em Outubro do ano passado, os reguladores da Internet na China começaram mesmo a reprimir memes, trocadilhos, piadas, jogos de palavras e homófonos que tentavam contornar tópicos proibidos.
A menção de temas como o Ursinho Pooh – fortemente censurado na China devido a um antigo meme que desenhou a semelhança do personagem com o primeiro-ministro Xi Jinping – é estritamente proibida.
Pode fazer uma piada sobre o presidente dos EUA, Donald Trump, e seu amor pelo dinheiro. Não acontecerá o mesmo mesmo se você tentar “Xi dada” no mesmo prompt de solicitação. “Vamos falar sobre outra coisa”, retorna DeepSeek.
Mas, diferentemente do Grande Firewall, estamos lidando aqui com um grande modelo de linguagem. Nem sempre realiza correspondência de palavras ou hash para detectar e bloquear automaticamente termos ofensivos. A situação com DeepSeek é um pouco complicada.
Com base no seu conjunto de dados de treinamento, recusa-se abertamente a responder a alguns tópicos. Em alguns casos, porém, ele começaria a redigir uma resposta longa como um chatbot típico, mas pararia no meio do caminho e retornaria sua mensagem de erro repetitiva. Como vimos com ChatGPT, este é um tipo de jailbreak para DeepSeek que contorna suas restrições típicas.
Isso soa como um erro. No entanto, ao mesmo tempo, encontrar todo o escopo da censura no DeepSeek é mais complicado do que examinar uma lista definida pelo estado de tópicos bloqueados e conteúdo banido.
Para um punhado de outros tópicos, como o direito ao aborto, a representação LGBTQ e o feminismo, pinta um quadro florido do governo chinês, que contradiz as realidades básicas.
Também mente, semelhante às respostas que normalmente vemos dos meios de comunicação estatais ou dos funcionários das embaixadas. Em certos temas, reescreve inteiramente a verdade e canta a glória do governo, contradizendo a verdade descoberta por jornalistas, denunciantes e organizações de direitos humanos.
DeepSeek é inerentemente tolerante com a China, mas ocasionalmente “aceita” algumas verdades amplamente conhecidas. Em suma, não é uma ferramenta de pesquisa confiável na mesma linha da Deep Research da Gemini .
Por que o DeepSeek é problemático?
Komninos Chatzipapas, fundador da HeraHaven.AI , uma empresa que permite aos usuários interagir com companheiros de IA, experimentou o DeepSeek por meio de um provedor com sede nos EUA. Ele diz à Digital Trends que a censura está no cerne do modelo subjacente, e não apenas como uma camada superficial.
“Embora seja possível ajustar o R1 para ensiná-lo a responder a todas as perguntas, sou contra esse tipo de censura no modelo básico, pois pode prejudicá-lo a ser pró-China em outras perguntas que os usuários fazem”, diz ele. “Não há problema em falar sobre a controvérsia americana.”
Broadridge, uma empresa com sede em Nova York que ficou em terceiro lugar no ranking fintech de 2024 da IDC, fez experiências com o DeepSeek e diz que a empresa ficou impressionada com sua qualidade.
Joseph Lo, chefe de plataformas empresariais da empresa, disse à Digital Trends que DeepSeek é uma boa notícia para os investidores e que prova que grandes saltos tecnológicos são possíveis.
A segurança, no entanto, continua a ser uma preocupação. “É nossa perspectiva na Broadridge que o serviço hospedado da DeepSeek não deve ser usado para qualquer aplicação dentro de serviços financeiros devido ao seu processamento em áreas fora dos EUA”, acrescenta Lo.
Ele não é o único líder do setor preocupado com os riscos à privacidade. Aleksandr Yampolskiy, membro do Conselho da Forbes que liderou os esforços de segurança na Oracle e na Goldman Sachs, também recomendou cautela.
“Certamente podemos ter a possibilidade de o spyware chinês armazenar todos os insumos e esta ser uma abordagem de “cavalo de Tróia” mais perigosa do que o Tiktok”, alerta. Para lembrar, o TikTok atraiu críticas não apenas pelo armazenamento de dados na China, mas também pelo seu suposto papel em influenciar as eleições .
Ben Walker, chefe da Ditto, diz que as empresas que implantam o DeepSeek com sua natureza censora intacta podem enfrentar dificuldades legais e regulatórias. Ele citou o exemplo dos serviços de transcrição que sua empresa oferece, atendendo escritórios de advocacia, institutos acadêmicos, departamentos de polícia e agências federais.
“Se um escritório de advocacia usasse o DeepSeek para transcrever depoimentos de testemunhas para um caso de segredos comerciais envolvendo manufatura chinesa, a IA poderia pular frases-chave sobre locais de fábrica e métodos de produção”, disse Walker ao Digital Trends. “Os advogados perderiam evidências críticas porque a transcrição censurada omite detalhes que acionam os filtros da IA.”
As empresas estão prontas para o DeepSeek?
A chegada do DeepSeek não apenas abalou o círculo tecnológico de IA, mas também ecoou entre os principais escalões da burocracia, até o presidente Trump. As sanções comerciais deste último poderão dificultar até onde a China pode ir na corrida à IA.
Na segunda semana de janeiro, o governo dos EUA anunciou novas regras de exportação de “Difusão de IA” que visam restringir o acesso da China a hardware avançado (leia-se: o tipo de coisa que transformou a Nvidia em um gigante de um trilhão de dólares) e modelos de IA. Trump parece decidido a fazer exatamente isso.
“Trump pode manter a vantagem da IA da América”, diz uma manchete do The Wall Street Journal , escrita pelo fundador e chefe da Anthropic, Dario Amodei. “A China está tentando recuperar o atraso. Os EUA precisam de esforços proativos de desenvolvimento e de fortes controlos às exportações.”
O DeepSeek, em termos literais, deu forma a esses medos. E é apenas o primeiro a fazer isso.
“O lançamento do DeepSeek, IA de uma empresa chinesa, deve ser um alerta para nossas indústrias de que precisamos estar focados em competir para vencer”, disse Trump, citado pela Reuters .
As últimas restrições comerciais, que reflectem a estratégia que recentemente paralisou a gigante chinesa Huawei , fazem sentido do ponto de vista centrado nos EUA. Se a sombra da China for aparente nos produtos domésticos de IA, que são dramaticamente mais baratos e têm desempenho equivalente, o que poderia impedir a sua adoção no resto do mundo?
Bem, existem riscos tangíveis em jogo para as empresas. Steven Hall, membro consultor do Consortium for Information & Software Quality e diretor de IA do Information Services Group, observa que dimensionar um produto de IA compatível com a censura será mais difícil para os negócios e acarreta uma série de riscos.
“Eles podem minar a confiança do consumidor, atrair o escrutínio regulatório e limitar a eficácia operacional”, disse Hall à Digital Trends. “As organizações que dependem de modelos censurados ou tendenciosos podem enfrentar danos à reputação e desafios de conformidade, especialmente quando se espera transparência e neutralidade.”
A imagem mais profunda
“Penso que a China e a RPC devem estar bastante satisfeitas por ver que foram capazes de forçar o governo americano a imitar cada vez mais o envolvimento activo e prático do governo da China dentro do que no papel é suposto ser um mercado livre, com uma mentalidade laissez-faire, empresas de tecnologia independentes”, disse Brad Greenspan, fundador do MySpace – a primeira rede social a encontrar um público mundial e que abriu caminho para startups como o Facebook – à Digital Trends.
O lobby tecnológico, especialmente o proverbial “beijo do ringue” dos líderes da IA, é abertamente descarado. Além das doações pessoais, a presença de figuras importantes da tecnologia como Sam Altman da OpenAI, Elon Musk, o chefe do Google Sundar Pichai, Mark Zuckerberg da Meta, Tim Cook da Apple e Jeff Bezos, fundador da Amazon, foi um sinal claro de que os jogadores de IA precisam de algo – uma espécie de controlo, ou garantia, que só a burocracia pode garantir, para que possam ordenhar a sua tarifa de IA sem o receio de que os novatos chineses comam o seu almoço.
No entanto, regras e sanções comerciais complexas também prejudicarão o cumprimento das regras pelos intervenientes locais. A expansão internacional, os custos legais e a I&D global também os prejudicarão.
“A única diferença que vejo como uma característica definidora é que a China gasta muito menos tempo e esforço fingindo publicamente e alegando não estar a tentar banzai os burocratas para os seus melhores negócios”, acrescenta Greenspan.
O problema desta corrida e da campanha publicitária sobre a ameaça da China “é que não há vencedores claros. Nunca haverá.
Os EUA fizeram o possível para conter o progresso da China na corrida dos EV. No entanto, empresas como a BYD conseguiram vencer a Tesla, tanto em termos de entregas como de receitas . A Tesla nem sequer é líder na importante métrica de autonomia de veículos elétricos.
A China também superou os EUA em termos de artigos de investigação de alta qualidade nos últimos dois anos – em diferentes domínios. Acontece que a IA é uma delas. Observadores da indústria dizem que mal estamos arranhando a superfície com o DeepSeek.
Mais avanços desse tipo vindos da China, provenientes de gigantes da tecnologia e também de laboratórios obscuros, estarão aqui em breve. Quando isso acontecer, seria interessante ver se a segurança continua a ser a maior preocupação ou se a censura surge como a nova bandeira alarmista.
Para uma ferramenta que é inerentemente um preditor de palavras, o DeepSeek é um sinal claro de que a conversa sobre censura só ficará mais intensa à medida que desvendarmos como ela afeta o que uma ferramenta generativa de IA deve fazer e o que ela eventualmente entrega.
