Os vídeos do Sora 2 da OpenAI desencadeiam uma tendência alarmante de conteúdo gordofóbico gerado por IA.

O que aconteceu: Então, o CEO da Netflix, Ted Sarandos, está falando sobre como a IA é uma ferramenta incrível que vai ajudar as pessoas a "contar histórias melhor, mais rápido e de novas maneiras". Parece ótimo, não é?

• Mas eis a realidade: enquanto ele diz isso, a nova ferramenta de criação de vídeos da OpenAI , Sora 2, está sendo usada para inundar a internet com alguns dos conteúdos mais repugnantes imagináveis .
• Estamos falando de uma onda de vídeos de "comédia" abertamente gordofóbicos e racistas que se espalharam pelo Instagram, YouTube e TikTok. As pessoas estão usando o Sora 2 — que consegue criar vídeos incrivelmente realistas — para produzir e compartilhar vídeos apenas com o intuito de serem cruéis.
• Os exemplos são simplesmente horríveis. Há um vídeo viral, visto quase um milhão de vezes, de uma mulher acima do peso fazendo bungee jumping, e a ponte "desaba" sob seus pés. Outro mostra uma mulher negra "caindo pelo chão de um KFC", o que é uma mistura repugnante de racismo e gordofobia. Há ainda outros vídeos mostrando entregadores caindo por varandas ou "inchando" depois de comer.
• E a parte mais assustadora? Muitas pessoas que assistem a esses vídeos acham que são reais.

Por que isso é importante: Este é o grande problema da IA ​​que ninguém quer discutir. Ela intensificou a criação de conteúdo de ódio.

• O que antes levava muito tempo para alguém com habilidades reais de produção fazer, agora qualquer pessoa mal-intencionada pode gerar em segundos.
• Isso não é apenas "mau gosto" – é uma verdadeira crise ética. É uma forma de produzir e amplificar em massa os estereótipos mais nocivos sobre as pessoas, tudo por uma risada barata.
• Isso também prova que as "proteções" que essas empresas de IA, como a OpenAI, alegam que suas ferramentas possuem estão falhando. Miseravelmente. Elas deveriam bloquear exatamente esse tipo de conteúdo odioso e violento, mas claramente não estão.

Por que devo me importar: Se você usa redes sociais, já deve estar vendo isso. Não se trata apenas de uma brincadeira inofensiva da internet.

• Esse lixo influencia a forma como as pessoas veem o mundo, especialmente as crianças.
• E como muitas pessoas não conseguem distinguir entre o que é gerado por IA e o que é real, isso torna completamente indistinta a linha entre realidade, humor negro e puro ódio.
• E, claro, quando um desses vídeos viraliza, isso só incentiva mais uma dúzia de pessoas a fazerem suas próprias versões para ganhar cliques e "curtidas".

O que vem a seguir: Até o momento, a OpenAI tem se mantido em completo silêncio sobre essa nova onda de conteúdo gordofóbico.

• Mas isso está forçando uma conversa necessária e incômoda sobre quem é o responsável quando essas ferramentas poderosas são usadas para ferir e assediar pessoas.
• Os órgãos reguladores estão definitivamente começando a prestar atenção. À medida que essas ferramentas de IA se tornam tão fáceis de usar quanto um filtro, o verdadeiro desafio será descobrir como impedir que toda essa "criatividade" ocorra à custa da nossa própria humanidade.