A Apple não respondeu à pergunta mais importante sobre seus recursos de IA
Durante a estreia do Apple Intelligence na WWDC 2024 ontem , o vice-presidente sênior de engenharia de software, Craig Federighi, elogiou repetidamente a segurança do novo recurso e o tratamento delicado de dados confidenciais do usuário. Para proteger a privacidade do usuário, o Apple Intelligence realiza muitas de suas operações generativas no dispositivo. E para aqueles que excederem suas capacidades integradas, o sistema transferirá o trabalho para o recém-desenvolvido Private Cloud Compute (PCC) da empresa.
No entanto, como Dr. Matthew Green, professor associado de Ciência da Computação da Universidade Johns Hopkins em Baltimore, perguntou em um tópico na segunda-feira , a nuvem de IA da Apple pode ser segura, mas é confiável?
A Apple Intelligence promete capacitar seu iPhone, iPad e Mac com modelos generativos de última geração que podem criar imagens, editar sua escrita e executar ações em seu nome em qualquer número de aplicativos. Os dispositivos Apple já executam tarefas de aprendizado de máquina no dispositivo há vários anos; veja a função de pesquisa do rolo da câmera e o reconhecimento de texto de reconhecimento óptico de caracteres (OCR), por exemplo. No entanto, como aponta Green , mesmo a última geração de processadores Apple ainda não é poderosa o suficiente para lidar com algumas das operações de IA mais complexas e com uso intensivo de recursos que estão online, necessitando do uso de servidores de computação em nuvem.
O problema é que esses modelos complexos também precisam de acesso não criptografado aos dados do usuário para executar funções de inferência, e a transmissão desses dados para uma nuvem pública os deixa em risco de serem hackeados, vazados ou totalmente roubados. A solução da Apple foi construir seus próprios data centers autônomos e robustos, especificamente para processar dados do Apple Intelligence: o PCC. Este “sistema inovador de inteligência em nuvem”, de acordo com uma postagem recente do Apple Security Blog , “estende a segurança e a privacidade líderes do setor dos dispositivos Apple para a nuvem, garantindo que os dados pessoais do usuário enviados ao PCC não sejam acessíveis a ninguém além de o usuário – nem mesmo para a Apple.”
O problema é que, embora o hardware “neural” dos telefones modernos esteja melhorando, ele não está melhorando rápido o suficiente para tirar proveito de todos os recursos malucos que o Vale do Silício deseja da IA moderna, incluindo a IA generativa e similares. Isso requer fundamentalmente servidores. 3/
— Matthew Green (@matthew_d_green) 10 de junho de 2024
Mas garantir essa privacidade é muito mais difícil na prática. “Construir computadores confiáveis é literalmente o problema mais difícil em segurança de computadores”, escreveu Green. “Honestamente, é quase o único problema de segurança de computadores.” Ele elogiou a empresa por aplicar muitos dos mesmos recursos de segurança integrados em seus dispositivos móveis e desktop aos seus novos servidores, incluindo inicialização segura, software “sem estado” e um processador Secure Enclave (SEP), além de “lançar todos os tipos de processos no hardware do servidor para garantir que o hardware não seja adulterado.”
A Apple não mediu esforços para garantir que o software executado em seus servidores seja legítimo, limpando automaticamente todos os dados do usuário de um nó PCC assim que a solicitação for concluída e permitindo que o sistema operacional do dispositivo “ateste” qual imagem de software é. correndo.
“Se você desse a uma equipe excelente uma enorme pilha de dinheiro e dissesse a eles para construir a melhor nuvem 'privada' do mundo, provavelmente seria assim”, escreveu Green. “Mas agora as questões difíceis. É uma boa ideia? É tão seguro quanto o que a Apple faz hoje”, e os usuários podem optar por não participar? Não parece que os usuários irão optar pelo novo serviço. “Você nem necessariamente será informado do que está acontecendo”, continuou ele. “Isso simplesmente vai acontecer. Magicamente. Eu não amo essa parte.
Green continua argumentando que os hackers nem representam a maior ameaça aos dados dos usuários: são as próprias empresas de hardware e software. Como tal, “este sistema PCC representa um compromisso real da Apple de não 'espiar' os seus dados”, concluiu Green. “Isso é um grande negócio.”
O Apple Intelligence começará a ser lançado ainda neste verão. E nas próximas semanas, a Apple planeja convidar pesquisadores de segurança para dar uma primeira olhada no software PCC e no ambiente virtual de pesquisa.
