Se eu morrer, por favor não me “reviva” com Sora

Recentemente, o incidente do produto mais vendido da Porsche ter sido falsificado maliciosamente por IA em um vídeo se tornou um assunto quente, e ela foi à polícia imediatamente.

Mas ela não é a única vítima. A lista de figuras públicas fabricadas e falsificadas pela IA continua a crescer, chegando até mesmo a figuras falecidas.

Se Hawking, que está sentado em uma cadeira de rodas, se visse sendo atacado por um crocodilo ou espancado por um boxeador, ele provavelmente chamaria a polícia imediatamente.

Esse tipo de vídeo que ressuscita os mortos e faz pegadinhas com eles se tornou recentemente um dos clipes mais populares no aplicativo Sora.

Em princípio, a OpenAI está proibida de produzir e gerar vídeos de figuras públicas vivas sem consentimento. Este também é o motivo mais importante para o lançamento do Cameo no aplicativo Sora, que permite aos usuários compartilhar seus próprios personagens.

Então, a princípio, os vídeos de Sora eram só pegadinhas com o Ultraman, com ele roubando placas de vídeo, aprendendo a cantar e dançar e se comportando de forma fofa. Mas logo, alguns usuários descobriram que essa restrição tinha um bug grave: Sora tinha permissão para criar vídeos de figuras públicas falecidas .

Graças à sua reprodução realista de figuras falecidas, à sua velocidade de criação e à sua capacidade de espalhar paródias, rapidamente alcançou o topo do ranking de aplicativos. Em menos de cinco dias, o Sora ultrapassou um milhão de downloads, superando a velocidade do ChatGPT na época.

Se eu morrer, pare de mexer com a IA

A filha de Robin Williams, Zelda, pediu publicamente nas redes sociais que parem de lhe enviar o vídeo de seu pai gerado por IA. No vídeo, seu pai é "ressuscitado" com a ajuda de Sora 2 e começa a atuar em outros roteiros. Robin Williams é um ator que interpretou o Sr. Keating em "Sociedade dos Poetas Mortos".

Vídeos sobre Robin que têm circulado nas redes sociais recentemente incluem um anúncio falso da Apple e uma interação entre Robin e outro ator falecido em uma cerimônia de premiação.

Os vídeos de paródia de figuras falecidas causaram insatisfação entre um número considerável de familiares. Além de Zelda Williams, que há muito se opõe a conteúdo gerado por IA, ela expressou com raiva no Instagram que esses vídeos são bastante repugnantes.

Observar o legado de pessoas reais sendo reduzido a "isso provavelmente se parece e soa como elas, então chega".

É estúpido, uma perda de tempo e energia e, acredite, definitivamente não é o que ele quer ver.

A filha de Martin Luther King Jr., Bernice King, retuitou os comentários de Zelda sobre esses vídeos de IA e declarou sem rodeios: "Por favor, parem". Um sentimento semelhante também surgiu da filha do comediante George Carlin, que chegou a afirmar que sua família está fazendo o possível para combater os deepfakes.

Essas figuras falecidas são frequentemente geradas no Sora para fins de paródia. A famosa performance de Martin Luther King foi intercalada com gagueira; Bruce Lee organizou uma festa com DJs "Dragon Energy"; e Michael Jackson apresentou um show de stand-up comedy com tema de cozinha, segurando uma banana.

Sem mencionar os vários vídeos no começo sobre Hawking, um físico em uma cadeira de rodas com ELA que frequentemente capota em uma rampa gigante de skate.

Estamos realmente prontos para as mídias sociais na era da IA?

Essas paródias de celebridades falecidas estão inevitavelmente repletas de memes; afinal, esse é o objetivo da paródia. A maioria dos internautas reagiu ao vídeo de Hawking com comentários como: "Não é à toa que Hawking alertou contra a pesquisa em IA", "Depois de ver este vídeo, Yu Hua se virou para olhar para Shi Tiesheng" e "Shi Tiesheng: Sou apenas um novato".

Alguns internautas responderam com justiça, dizendo: "Quando uma pessoa morre, ela morre. Não quero ser reduzido a dados e usado como um bichinho de estimação digital". No entanto, o comentário seguinte foi: "Estou pensando demais". Essas paródias, em sua maioria direcionadas a figuras famosas, têm pouca relevância para as pessoas comuns.

O fato é que a questão dos nossos ativos digitais e dos vídeos falsos gerados por IA sempre existiu. Recentemente, a conta NetEase Cloud de Coco Lee foi acessada por outro usuário devido à retransmissão do número de telefone dela pela operadora, permitindo que eles vissem os votos de melhoras dos fãs em sua caixa de entrada.

Este incidente é bastante perturbador, mas em uma era em que os vídeos de IA estão disseminados, este ativo digital enfrentará não apenas espionagem , mas também várias formas de falsificação e adulteração ativas.

Se, após a minha morte, minhas contas nas redes sociais fossem acessadas por outras pessoas e meu conteúdo privado fosse visível, eu provavelmente não gostaria que isso acontecesse. O que considero ainda mais inaceitável é a possibilidade de a IA apagar todos os meus vestígios digitais — minhas fotos, minha voz e minhas palavras digitadas — e usá-los para criar um "eu" que eu nunca reconheci.

Ele não está mais consumindo o que deixo para trás, mas sim consumindo um "eu" que ele mesmo fabricou.

Essa chamada "ressurreição" não é uma lembrança causada pela saudade. É apenas a ocupação de uma identidade e uma substituição lucrativa.

Ninguém quer que seus ativos digitais sejam reutilizados. Nesta era da IA, o TikTok reduziu o custo de fabricação de vídeos a praticamente zero, eliminando os limites da manipulação.

O que precisamos resolver não é mais apenas a questão da segurança de uma conta.

Qual é a postura da OpenAI em relação a isso? Ultraman escreveu anteriormente em um post de blog que esses comportamentos criativos secundários dos usuários deveriam ser definidos como um tipo de "fanfic interativa".

Este termo captura com precisão a visão que eles têm desses vídeos com tecnologia de IA. Os usuários estão simplesmente criando obras secundárias baseadas em símbolos culturais familiares, que depois se espalham. Mas e quanto à paródia e ao abuso? Como pessoas falecidas podem escolher se sua imagem pode ser manipulada no aplicativo Sora?

Em uma entrevista recente em podcast, Altman chegou a dizer que a maioria dos chamados detentores de direitos autorais, na verdade, querem que seu conteúdo seja recriado . Eles só querem certas regras sobre o que pode aparecer em vídeos de IA e quanta modificação pode ser feita. Ele previu:

Hoje em dia, as pessoas dizem: "Não quero que meu conteúdo apareça em vídeos de IA", mas no ano que vem elas podem reclamar: "Por que meu conteúdo ainda não foi incluído?"

Tomando emprestadas as palavras de outros parentes que estão vivenciando a morte de seus pais e sendo produzidos em massa com vídeos de paródia de Sora,

Por que os desenvolvedores não podem agir com a mesma moralidade, consciência e cuidado que agiriam com seus próprios familiares?

Obviamente, esse comportamento de usar o patrimônio digital de outras pessoas sem o consentimento delas é antiético até certo ponto, e pode até ser entendido como "roubo de túmulo digital" na era da IA.

Após ouvir inúmeras objeções de parentes, a OpenAI respondeu inicialmente às perguntas da mídia, afirmando que a política se baseava em "fortes interesses de liberdade de expressão na representação de figuras históricas". Na semana passada, a OpenAI anunciou que começaria a permitir que representantes de figuras públicas "recentemente falecidas" solicitassem que sua imagem fosse bloqueada nos vídeos do Sora.

Ontem, a OpenAI respondeu novamente a esta questão. Receberam uma solicitação do espólio de Martin Luther King e suspenderam a geração de vídeos relacionados. Ao mesmo tempo, mencionaram o fortalecimento da proteção de figuras históricas e exigiram constantemente que os familiares solicitassem ativamente o banimento.

No entanto, a OpenAI não especificou o que são "pessoas recentemente falecidas".

Agora, quando usamos o Sora para gerar vídeos, descobrimos que, independentemente de carregarmos imagens de pessoas geradas por IA ou reais, somos avisados ​​com a mensagem "O carregamento de imagens contendo pessoas realistas não é suportado no momento".

Assim como outros golpes online que utilizam IA para realizar videochamadas, a "ressurreição" da IA ​​levanta não apenas questões controversas sobre direitos autorais e considerações éticas em relação ao patrimônio digital, mas também uma fabricação maliciosa inaceitável. Há algum tempo, uma tendência chamada "pegadinhas com mendigos de IA" ganhou força no TikTok.

Um internauta usou IA para gerar fotos de moradores de rua invadindo sua casa e as enviou para sua família. A família ficou "morrendo de medo" com o conteúdo.

O vídeo recebeu mais de cinco milhões de curtidas e foi compartilhado e imitado por internautas. O policial local chegou a emitir uma resposta especial.

A brincadeira desumaniza os moradores de rua, assusta as vítimas e desperdiça recursos policiais.

Os policiais chamados não sabiam que era uma brincadeira e trataram como se fosse um assalto em andamento, o que poderia ter levado a uma situação perigosa.

Acredito que o abuso desse tipo de vídeo falso e a gestão do patrimônio digital são os limites mais importantes que precisam ser considerados quando se trata de saber se a IA pode "ressuscitar" pessoas falecidas no futuro.

Uma "paródia" de IA do TikTok ainda mais viciante que a atual pode chegar em breve. Ultraman quer que Sora seja exatamente isso, mas seu gargalo claramente não é a graça da paródia.

Resolver os problemas de confiança de deep fakes arbitrários, direitos autorais de retratos negligenciados e patrimônio digital desprotegido é a abordagem correta para enfrentar outro TikTok de IA viciante.

Naquela época, talvez eu ousasse dizer: por favor, use Sora para me reviver.

#Bem-vindo a seguir a conta pública oficial do WeChat do iFaner: iFaner (ID do WeChat: ifanr), onde mais conteúdo interessante será apresentado a você o mais breve possível.

iFanr | Link original · Ver comentários · Sina Weibo