“Testemunho de pessoa morta” gerado por IA desafia os limites éticos do tribunal
Ao homem que atirou em mim, quero dizer: sinto muito que tenhamos nos encontrado naquele dia em circunstâncias ruins. Talvez possamos ser amigos na próxima vida… Eu acredito no perdão e que Deus perdoará, e ainda acredito.
Chris Pelkey, uma das vítimas do tiroteio, contou ao tribunal.
Mas ele não era assim. Ele faleceu tragicamente em um tiroteio por raiva ao volante em 2021.
O vídeo de IA exibido no julgamento foi feito com a imagem e a voz de Pelkey.
O que é ainda mais surpreendente é o que está por vir: o juiz aceitou esta declaração de impacto da vítima gerada por IA como testemunho durante a fase de sentença.
Este foi um julgamento que ocorreu em 1º de maio deste ano em um tribunal superior do condado no Arizona, que causou um choque sem precedentes no tribunal criminal e até mesmo em todo o mundo jurídico anglo-americano.
Isso também cria um precedente em que o conteúdo gerado por IA pode ser submetido ao tribunal como testemunho e aceito pelo tribunal.
O julgamento causou alvoroço em plataformas como YouTube e Reddit, com muitos internautas expressando sua incompreensão sobre a decisão do juiz de aceitar o depoimento da IA.
Algumas pessoas acreditam que o juiz de plantão, Todd Lang, é "estúpido" e deveria ser destituído de seu cargo por autoridades superiores.
Um internauta que afirmou ser advogado se mostrou chocado: "Se eu contratasse alguém para fazer algo parecido no julgamento, não só seria parado no tribunal, como também seria investigado pela Ordem dos Advogados".
À primeira vista, parece absurdo e estúpido que um tribunal aceite depoimentos gerados por IA em nome de uma vítima morta. A atitude de oposição desses internautas é completamente justificada.
Mas considerando que este vídeo de depoimento foi produzido pela família da vítima e não foi contestado pelo réu e pelo tribunal, a situação é de fato um pouco estranha, e parece haver algo mais acontecendo.
Vamos dar uma olhada mais de perto neste teste incrível.
Por trás do testemunho da IA morta: amor e perdão
Quando Stacey Wales teve a ideia de criar vídeos de IA como testemunho, ela sabia que seria controverso.
Até o marido dela achou difícil aceitar no começo e achou que ela "talvez tivesse ido longe demais".
Wales é irmã de Chris Pelkey, a vítima neste caso e a pessoa que morreu no tiroteio devido à fúria ao volante. Ela e o marido trabalham no setor de tecnologia e estão familiarizados com ferramentas de geração de IA.
O réu deve ser punido por lei, e as vítimas também esperam que o tribunal possa impor a pena máxima para confortar a alma de Pelkey no céu. O País de Gales quer que o atirador Gabriel Horcasitas passe o resto da vida na prisão, ou pelo menos seja condenado à pena máxima por homicídio culposo.
Mas ela também acredita que o espírito de seu irmão no céu pode não pensar assim.
Depois de dois anos pensando sobre isso e conversando com dezenas de amigos de seu irmão, Wales o conheceu novamente e teve certeza de uma coisa:
Ela mesma pode não ser capaz de perdoar o réu, mas seu irmão certamente o perdoará.
Nada pode trazer Pelkey de volta à vida. Mas pelo menos AI poderia dar ao seu irmão uma última chance de se expressar – Wales pensou assim e finalmente convenceu seu marido.
Ela entendeu que se decidisse fazer isso, teria que ser muito cuidadosa e cautelosa. Se o roteiro do vídeo não fosse bom, o efeito estaria longe de ser satisfatório.
Ela fez isso imediatamente: selecionou uma grande quantidade de descrições paralelas de registros de entrevistas ao longo dos anos, destilou o que ela achava que era o mais próximo da imagem de seu irmão e o que ele poderia eventualmente dizer no tribunal, e escreveu o roteiro.
Eles usaram a foto do retrato de Pelkey e o ajuste fino de difusão estável e LORA para gerar o vídeo. Durante o processo, alguns efeitos foram distorcidos. Por exemplo, Wales esperava que seu irmão pudesse "sorrir" para as pessoas que ele amava e que o amaram pela última vez no vídeo, mas a longa barba cobrindo seu pescoço na foto era difícil de lidar. Eles tiveram que "aparar" sua barba e remover os óculos de sol que estavam presos em seu chapéu para tornar a aparência e o sorriso de Pelkey mais realistas no vídeo gerado.
O vídeo resultante não é totalmente completo ou coerente, com interrupções e cortes óbvios no meio. Mas isso não importa. Wales recriou a voz, a aparência e o sorriso do irmão no vídeo, e o resultado a deixou satisfeita.
“Olá a todos. Antes de mais nada, gostaria de esclarecer que sou Chris Pelkey, gerado por IA usando fotos e dados sonoros. Hoje, apresento-vos uma reprodução digital e espero partilhar com vocês que tipo de pessoa sou na vida real”, diz o gêmeo digital de Pelkey no início do vídeo.
A partir deste vídeo gerado por IA, as pessoas podem ver um Pelkey mais completo: ele serviu no Exército dos EUA e ficou estacionado em uma zona de guerra com condições adversas; ele gosta de pescar, tem barba, mas não é desleixado e quase atende a todos os estereótipos de um veterano robusto.
Ele ama a Deus, ama a vida e ama as pessoas ao seu redor, e considera a fé e o amor como o único credo em sua vida.
"Para Gabriel Horcasitas, o homem que atirou em mim: sinto muito que nos tenhamos conhecido naquele dia em circunstâncias ruins. Talvez na próxima vida possamos ser amigos… Eu acredito no perdão, no perdão de Deus, sempre acreditei e ainda acredito."
No vídeo, o gêmeo digital de Pelkey fez algumas piadas, assim como na vida real: “Envelhecer é um presente de luxo que nem todos podem desfrutar. Agora não tenho a chance, mas esta foto filtrada permitirá que você veja como eu sou quando estiver velho e fraco. Isso te assusta?”
Foco da controvérsia: e quando o testemunho de IA deve ser admissível no tribunal?
A ideia de respeitar a vontade autônoma dos outros é mais popular na sociedade ocidental. Mas a controvérsia dos internautas sobre esse incidente não é que a família do falecido tenha feito o vídeo, mas que o vídeo foi submetido ao tribunal.
Além disso, o advogado do réu e o juiz não levantaram nenhuma objeção no local.
O que é ainda mais ultrajante é que, por algum motivo, o juiz decidiu aceitar esse vídeo como testemunho.
Acredita-se, em geral, que declarações feitas por alguém que não estava presente e não foi motivado por sua própria vontade, seja em texto ou vídeo, não podem e não devem ser usadas como testemunho.
Nunca houve um precedente para que depoimentos gerados por IA fossem admitidos; em alguns outros casos, conteúdo semelhante gerado por IA foi submetido ao tribunal, mas não só não foi admitido como prova, como os perpetradores foram severamente punidos: ou foram acusados de desacato ao tribunal ou condenados a pagar uma multa.
Esse caso de homicídio culposo é especial?
Sabe de uma coisa? É realmente um pouco diferente.
Diferentemente do sistema jurídico continental que integra condenação e sentença, o direito anglo-americano adota o princípio da separação processual entre condenação e sentença. A fase de condenação do caso foi concluída, o réu não pode mais escapar da culpa e o julgamento entrou na fase de sentença — foi durante essa fase que Wales, uma das vítimas, enviou o vídeo ao tribunal.
Para ser mais preciso, esse depoimento em vídeo gerado por IA não constitui "evidência" no sentido criminal porque foi submetido ao tribunal durante a fase de sentença.
Durante a fase de sentença, a acusação pode buscar testemunhas (como Wales, um parente do falecido) para prestar depoimento e ajudar o tribunal a entender melhor os danos causados pelo caso e, assim, atingir o nível de sentença esperado pela acusação. O inverso também é verdadeiro: a defesa também pode trazer testemunhas para apresentar depoimentos de caráter que pintem um quadro mais favorável do réu e, assim, reduzir a sentença, mesmo que essas testemunhas não tenham nenhuma conexão com o caso em si.
Em suma, o depoimento durante a fase de sentença tem como objetivo influenciar o julgamento do juiz sobre a severidade da pena a ser imposta ao culpado, o que é permitido pelo tribunal.
No entanto, neste caso, a maioria dos espectadores pode ter ignorado uma série de detalhes: os registros do julgamento mostram que a promotoria defendeu uma sentença de 9 anos; Wales pediu ao juiz que impusesse a pena máxima de 10 anos e 6 meses em seu próprio depoimento; mas, pelo vídeo de IA produzido por Wales, o gêmeo digital de Pelkey parecia ter perdoado o réu.
Talvez seja por isso que o juiz Todd Lang disse que gostou da IA e ouviu nela uma pitada de perdão.
Depois de assistir ao vídeo, ele disse a Wales: "Seu depoimento me mostrou que você estava com raiva e que defendia a pena máxima. Mesmo que fosse isso que você queria, você permitiu que Chris falasse o que pensava — a sua versão da história. Eu não o ouvi pedir a pena máxima."
No final, o juiz impôs a pena máxima de 10 anos e 6 meses. O réu também recorreu da sentença.
Maura Grossman, professora da Universidade de Waterloo e pesquisadora jurídica de IA, destacou que, considerando que este caso foi um julgamento de bancada e não um julgamento com júri, e que o vídeo de IA apresentado não era "evidência" no sentido criminal, a influência do vídeo no caso foi relativamente limitada e não desempenhou um papel decisivo.
Gary Marchant, professor de direito na Universidade Estadual do Arizona, acredita que, comparado a atos maliciosos de uso de IA para fabricar casos ou leis inexistentes, esse tipo de testemunho gerado por IA que faz o melhor que pode para apresentar a voz da vítima com sinceridade não contém nenhuma intenção maliciosa e, portanto, não precisa ser contestado.
Mesmo assim, o uso de testemunho gerado por IA neste caso, e particularmente as circunstâncias inesperadas em que foi admitido, criaram um precedente sensacionalista e controverso.
O tribunal é um lugar sério e altamente sensível a informações falsas. O direito anglo-americano é um sistema jurídico que segue o sistema de jurisprudência na maior parte do tempo. Se, quando e em que circunstâncias as informações geradas por IA podem ser admitidas como testemunho válido em tribunal parece uma questão jurídica e ética extremamente complexa e difícil. Os espectadores acharam que a decisão do juiz foi muito precipitada.
Mas pelo menos o objetivo do País de Gales foi alcançado.
"Esperamos impressionar o juiz. Nosso objetivo é mostrar o verdadeiro Chris, o ser humano que ele era", disse ela.
#Bem-vindo a seguir a conta pública oficial do iFanr no WeChat: iFanr (ID do WeChat: ifanr), onde mais conteúdo interessante será apresentado a você o mais breve possível.
