O mundo inteiro foi enganado? A aparição do “duplo digital” na conferência da Nvidia por 14 segundos revelou um grande problema
Huang Renxun enganou o mundo inteiro e ninguém percebeu isso por mais de três meses! As roupas de couro são falsas, a cozinha é falsa, até ele mesmo é falso!
Nos últimos dois dias, uma notícia que chocou o círculo de ciência e tecnologia foi freneticamente varrida pela tela. A questão é que a NVIDIA lançou recentemente um documentário dos bastidores da conferência GTC em abril , mostrando como os técnicos podem usar a plataforma Omniverse para produzir vários efeitos especiais de simulação 3D no local. Isso inclui a reprodução perfeita da cozinha de Huang Renxun e a síntese de seu próprio "homem digital".
Que? O chefe Huang, que é tão realista na sua frente, não é uma pessoa viva?
Não fique animado ainda, não é o que você pensa. Na verdade, de acordo com o blog da Nvidia , na coletiva de imprensa de 1 hora e 48 minutos naquele dia, "pessoas digitais" ocuparam apenas 14 segundos (filme original 01:02:41 – 01:02:55). Fora desses 14 segundos, o próprio Huang Renxun estava falando.
21 verdadeiro e falso Huang Renxun
Os 14 segundos que a Nvidia chamou de clímax da coletiva de imprensa são assim:
Ao apresentar o primeiro CPU Grace da Nvidia, a cozinha real instantaneamente se transformou em uma cozinha falsa e começou a "desintegrar-se" como um Transformer. Então, a cena entrou no espaço virtual, e o "homem digital" de Huang Renxun apareceu em seu terno de couro falso.
▲ Você leu certo, devido à epidemia, as conferências da Nvidia nos últimos dois anos foram realizadas na cozinha do CEO
Você pode entender completamente este parágrafo como uma exibição da plataforma Omniverse. De acordo com a descrição oficial, esses 14 segundos combinam o aprendizado profundo da Nvidia com o trabalho da equipe de pesquisa de imagem, equipe de engenheiros e equipe de designers.
Para recriar esta cozinha, os técnicos tiraram centenas de fotos de diferentes ângulos e, em seguida, realizaram a modelagem 3D. Diz-se que existem cerca de 6000-8000 itens aqui. Eles também enterraram silenciosamente três ovos de Páscoa na cozinha falsa: um moedor de café com o logotipo da Nvidia, uma lata de azeite com a marca Tao e um vilão de Lego com a aparência de Huang Renxun.
Quanto ao próprio CEO "falso", ele precisa primeiro dar a Huang Renxun (e sua jaqueta de couro) uma varredura 3D de corpo inteiro, modelando com base em milhares de fotos e, em seguida, usando IA para treinar movimentos e expressões faciais.
Além disso, eles contrataram atores especiais para aprender e imitar a linguagem corporal dos discursos anteriores de Huang Renxun e, em seguida, realizar 8 horas de captura de movimento. Depois de muitos ajustes detalhados, a equipe fez 21 versões de "humanos digitais" para o chefe finalmente selecionar para a tomada.
real ou falso? O grande problema atrás de 14 segundos
No YouTube, a introdução deste documentário de bastidores é: assistir a um grupo de artistas confundir os limites entre a realidade e a renderização no Keynote na conferência da Nvidia. No corpo do blog, a Nvidia afirmava que o momento em que a cozinha "se desintegrou" surpreendeu o público. Todos começaram a se perguntar o quanto de toda a coletiva de imprensa era verdadeira e quanto era atribuído à IA.
Para ser honesto, olhando para trás para esses 14 segundos cuidadosamente, o efeito da "desintegração" da cozinha ainda é incrível, mas a versão sintética dos movimentos do corpo de Huang Renxun são relativamente rígidos, e até mesmo sua boca está um pouco desalinhada. Não é muito difícil distingui-lo como uma obra-prima da IA, e não é muito difícil distingui-lo da versão ao vivo.
Mas quando a má leitura saiu, eu também fiquei em dúvida por um tempo, e comecei a sentir que em 1 hora e 48 minutos, cada sorriso do Chefe Huang quando ele apareceu em cena parecia ter o mesmo robô gosto de Zuckerberg.
Bem, parece que ele é falso. Hum? Ele é real?
Por que estamos confusos com a questão do amarelo antigo verdadeiro e falso? Pode ser porque vivemos em um mundo onde "ver não é necessariamente acreditar".
Tome como exemplo a tecnologia Deepfake. Ela já foi usada para produzir vídeos pornográficos de celebridades femininas ou notícias falsas sobre políticos e celebridades. Hoje em dia, a aplicação desta tecnologia está cada vez mais difundida, bastando para isso um headshot, e suas colegas ou amigas podem se tornar vítimas de fotos nuas .
Na era em que tudo pode ser muito falso, a adulteração arbitrária de vídeo e voz é apenas um exercício básico6.
A linda garota humana do outro lado da linha pode, na verdade, ser a IA manipulada pelo golpista de pés grandes. Em 2019, golpistas usaram discurso sintetizado por IA para fingir ser o CEO da empresa-mãe alemã de uma empresa de energia britânica e fraudaram 220.000 euros (cerca de 1,73 milhão de RMB) dos funcionários da empresa.
Hoje, mesmo a transmissão ao vivo pode não ser confiável. Por exemplo, a Nvidia introduziu recentemente uma tecnologia de imagem virtual em tempo real. Mesmo se o programador estiver usando uma máscara e pescando em um café, o que a outra parte vê na tela da reunião em tempo real pode ser que ele está em seu terno de escritório no momento. O tempo que desejar, você pode alternar instantaneamente para a imagem de férias de sol e praia.
Muitos especialistas lembram que esse fenômeno pode facilmente fazer as pessoas desconfiarem do conteúdo das redes sociais e até de toda a sociedade.
Com a indefinição das fronteiras entre realidade e virtualidade, nosso radar para distinguir entre humanos e IA frequentemente falhará. No metaverso ou no futuro que se tornará realidade, você me pergunta se o velho amarelo na minha frente é realmente velho? Realmente não me atrevo a responder.
Os humanos precisam de um pequeno pião
No mês passado, o documentário da CNN "Roadrunner: um filme sobre Anthony Bourdain" causou uma onda de discussões sobre a ética do uso de IA.
O protagonista do documentário é o já falecido chef Anthony Bourdain. Muitos materiais de vídeo e áudio de sua vida foram usados no filme, mas o diretor não tomou a iniciativa de informar o público: Existem três narrações que soam como a própria narração de Bourdain, mas na verdade são geradas pela tecnologia de IA.
▲ Anthony Bourdain
Embora os textos originais dessas três frases sejam provenientes de e-mails escritos por Bourdain, eles ainda fazem as pessoas se sentirem desconfortáveis, irritadas e enganadas. A professora de jornalismo da Universidade de Nova York, Meredith Broussard, disse que, ao contrário dos filmes de ficção e das obras de televisão, as pessoas pensam que os documentários são reais. Se a IA for usada no trabalho, isso deve ser claramente declarado.
Nicole Greene, analista da Gartner Research, também concorda em informar claramente quando a IA intervir : “Se é uma marca cooperando com um ídolo virtual ou um filme usando tecnologia de IA para reproduzir o papel de um ator falecido, desde que os consumidores saibam o que está acontecendo, eles são aceitáveis. "
▲ "Fast and Furious 7", usando efeitos especiais CG para trazer Paul Walker de volta à vida
Desde 2015, a Associated Press tem usado IA para gerar automaticamente notícias sobre os lucros da empresa, e cada artigo será acompanhado por uma nota: "Esta história é gerada automaticamente pelo Automated Insights." Para lhe dizer claramente, este é o manuscrito escrito por AI Moving Bricks.
Essa frase simples é como o "guia dos pais" antes do início de um filme de terror, a embalagem do macarrão instantâneo e a propaganda dos hambúrgueres "tudo prevalece na mesma moeda". É a notificação de informações mais básicas, cabendo também ao produtor ao consumidor. Em uma era em que deepfake e outras tecnologias consomem confiança, elas podem até reconstruir a confiança.
Não recusamos a IA de entrar na vida real, afinal, ela traz infinitas novas possibilidades de eficiência e criatividade (quanto ao abuso da IA, esse é outro assunto). Mas todos nós queremos ter o direito de saber.
Lil Miquela, um dos ídolos virtuais mais quentes do mundo, estreou em 2016 e só admitiu em 2018 que não é um ser humano de verdade. Agora, sua autoapresentação no Instagram é escrita como "um robô de 19 anos que mora em Los Angeles"; e Imma, que também é popular, se autodenomina uma "garota virtual interessada na cultura japonesa".
Embora seja essencialmente apenas uma série de códigos compostos por 0 e 1, não afeta a busca dos jovens por eles. Hoje, Miquela e Imma têm milhões de fãs, recursos de cooperação em moda e publicidade são amenizados e são verdadeiras celebridades das redes sociais.
▲ Você consegue ver qual modelo na foto é uma pessoa real?
Olhando para trás, para o verdadeiro e falso Huang Renxun da NVIDIA desta vez, se eu puder incomodar a IA ou a equipe para adicionar uma linha de explicação na tela de demonstração, é possível evitar "chocado! O mundo inteiro está enganado" "Lao Huang na conferência de imprensa é tudo falso" Este tipo de incidente oolong?
Em um mundo onde verdadeiro e falso são difíceis de distinguir, os humanos precisam do pião girando ou caindo em "Inception" para nos lembrar: a frente é um espaço virtual, por favor, fique atento e passe com cuidado.
Atualmente, empresas de Internet como Facebook, Google e Twitter estão estudando como detectar e conter a disseminação de vídeos Deepfake, e algumas áreas também emitiram proibições relevantes. Mas isso ainda é como um jogo de "gato e rato".
Quanto aos limites de uso de IA e questões éticas, estima-se que leis e regulamentos relevantes serão promulgados no futuro. Amigos, estamos na entrada do metaniverso. O falso é verdadeiro e o verdadeiro é falso. Tudo está apenas começando.
#Bem-vindo a seguir a conta oficial do WeChat da Aifaner: Aifaner (WeChat ID: ifanr), mais conteúdo interessante será fornecido a você o mais rápido possível.
