Apple adiciona detecção de nudez ao FaceTime, uma escolha entre privacidade e ética

Você deve ter visto o anúncio da Apple e da Yue Yunpeng, cuja proposta principal é:

Buscando garantir privacidade e segurança, este é o iPhone.

A Apple disse isso e de fato fez. No entanto, quando "privacidade" e "moralidade" são colocadas em ambos os extremos da balança, até a Apple enfrentará um dilema.

De acordo com o 9to5mac , a Apple lançou um recurso de detecção de nudez para o FaceTime na prévia para desenvolvedores do iOS 26, que tem como objetivo detectar nudez inapropriada em chamadas de vídeo.

Há relatos de que a Apple usará o algoritmo de IA no dispositivo para identificar conteúdo de nudez em chamadas em tempo real. Quando o sistema identificar possíveis cenas de nudez, ele pausará imediatamente a videochamada e exibirá um aviso.

A Apple disse que o recurso foi originalmente projetado para ser usado em contas de crianças para fornecer aos adolescentes um ambiente social digital mais seguro.

Esse recurso surgiu do programa de escaneamento de material de abuso sexual infantil (CSAM) lançado pela Apple há alguns anos. Mas, por algum motivo, esse recurso foi expandido para abranger usuários de todas as idades na versão para desenvolvedores do iOS 26. Em outras palavras, usuários adultos também estão "protegidos".

Embora a Apple tenha enfatizado que todo o trabalho de reconhecimento é processado localmente no dispositivo e que os dados não serão enviados para a nuvem, a expansão da cobertura etária causou ampla controvérsia nas redes sociais. Um usuário chamado krazygreekguy comentou no 9to5mac:

Entendo o raciocínio por trás disso, mas eles não têm o direito de exercer esse tipo de controle sobre adultos. Nenhuma organização tem o direito de invadir a privacidade das pessoas.

Em outras palavras, as pessoas estão preocupadas que essa expansão da cobertura etária seja uma expansão do poder único da Apple, a ponto de causar interferência excessiva na vida privada, podendo até se expandir para cenários que não têm nada a ver com intenções pornográficas.
Imagine que você está em uma videochamada com seu filho em casa. Só porque você está sem camisa ou ajeitando as roupas, o sistema pode erroneamente identificá-lo como exposto de forma inadequada, fazendo com que o vídeo seja bloqueado:

Meu iPhone acha que sou um pervertido?

Na verdade, o FaceTime existe há 14 anos. Como um recurso "veterano" do ecossistema da Apple, esta não é a primeira vez que causa polêmica. Em 2019, o FaceTime tinha uma brecha técnica que permitia aos usuários ouvir a ligação do outro lado sem precisar se conectar. Embora a Apple tenha corrigido a brecha rapidamente, ela também fez com que muitas pessoas duvidassem de suas reais capacidades de proteção sob a retórica da propaganda de privacidade.

Como valor central da empresa, a Apple sempre atribuiu grande importância à proteção da privacidade do usuário.

Aqueles que acompanham a Apple há muito tempo talvez ainda se lembrem do incidente de 2015, quando a Apple confrontou o FBI. Após o tiroteio em San Bernardino, na Califórnia, o FBI solicitou o desbloqueio do iPhone usado pelo assassino para obter informações sobre atividades terroristas, mas a Apple recusou. Na época, o CEO da Apple, Tim Cook, afirmou: " Uma vez aberta a porta dos fundos, ela não pode ser fechada, o que colocará em risco a segurança e a privacidade de todos os usuários".

Mesmo assim, a Apple também causou alguma controvérsia devido a questões de privacidade. Por exemplo, o plano de escaneamento CSAM mencionado acima também foi criticado quando foi lançado.

A partir do iOS 15 em 2021, a Apple utiliza a tecnologia NeuralHash em dispositivos locais para comparar os valores de hash das fotos enviadas pelos usuários para o iCloud com o banco de dados CSAM mantido por agências americanas autorizadas. Quando o limite predefinido for excedido, a Apple descriptografará os dados relevantes e realizará uma revisão manual. Após a confirmação, a conta será desativada e denunciada ao Centro Nacional para Crianças Desaparecidas e Exploradas (NCMEC).

A Apple alega que o objetivo desse recurso é detectar e capturar criminosos sexuais infantis, proteger a privacidade do usuário ao máximo tecnicamente possível e evitar julgamentos errados e abusos.

No entanto, organizações de proteção à privacidade e especialistas em segurança questionaram se a Apple se desviaria de seu compromisso consistente com a proteção da privacidade. Afinal, a varredura CSAM consiste essencialmente em identificar informações privadas enviadas pelos usuários. Diante da pressão, a Apple anunciou que adiaria o lançamento desse recurso e, em vez disso, lançaria outras medidas de proteção à criança, como segurança da informação e comunicação e funções de intervenção de busca da Siri.

Para a Apple, "moralidade" e "privacidade" podem não ser alcançadas ao mesmo tempo.

Voltando à detecção de nudez do FaceTime mencionada no início: a intenção original da Apple era que este fosse um recurso de segurança lançado para proteger melhor os adolescentes. Ele ajuda a evitar que adolescentes sejam expostos a nudez inapropriada em videochamadas. Existem inúmeros casos semelhantes de assédio sexual e fraude em videochamadas móveis em todo o mundo. Com mais de um bilhão de usuários, a Apple deveria, de fato, assumir essa responsabilidade social.

Mas, por outro lado, onde estão os limites dessa "intervenção automática" continua sendo uma questão importante.

Quando a moralidade pública e a privacidade pessoal são colocadas em ambos os extremos da balança, a maneira de ponderar os prós e os contras e tomar a decisão "certa" pode ser um problema para a Apple por muito tempo no futuro.

Autores: Zhou Qiantong, Xiao Qinpeng

#Bem-vindo a seguir a conta pública oficial do iFanr no WeChat: iFanr (ID do WeChat: ifanr), onde mais conteúdo interessante será apresentado a você o mais breve possível.

iFanr | Link original · Ver comentários · Sina Weibo