A nova tendência do ChatGPT é perturbadoramente mórbida
A ascensão da IA nos ajudou a dar grandes saltos. Da ajuda em pesquisas médicas à detecção de câncer, os avanços possibilitados pela IA têm sido notáveis. Mas, ao mesmo tempo, até mesmo as ferramentas de IA mais populares, como o ChatGPT, se descontrolaram de forma surpreendente.
Nos últimos anos, relatos detalharam como o ChatGPT orientou uma pessoa sobre assassinato , acusou outra de matar seus filhos e a empurrou para uma espiral de teorias da conspiração . Parece que a próxima onda é usar o ChatGPT para escrever obituários de entes queridos. Ou até mesmo construir um negócio em meio à enorme demanda.
ChatGPT, para os mortos entre nós
De acordo com uma reportagem do The Washington Post , as funerárias estão usando o ChatGPT para "escrever obituários o tempo todo sem avisar seus clientes". É claro que eles precisam fazer isso com muita cautela, ou então o ChatGPT transformará os obituários em relatos irreais de como uma pessoa faleceu entre seus entes queridos ou partiu do plano mortal em paz.
"Não sabemos se foi uma morte pacífica, embora gostemos de imaginar que sim", disse um funcionário anônimo de uma funerária, segundo a citação. Mas não são apenas funerárias e alguns fundadores de empresas de tecnologia empreendedoras que estão usando IA para escrever obituários, cobrando por isso. Pessoas comuns também estão usando e parecem bastante satisfeitas com isso.
Uma moradora de Nevada, que usou o ChatGPT para escrever o obituário de sua mãe, disse ao veículo que "ficaria muito feliz com o resultado final". A pessoa tem planos ainda mais ambiciosos para o futuro, quando poderá ter que escrever um obituário para seu pai.
"Desta vez, vou usar o modo Pesquisa Profunda. Vai ser um sucesso", disse o indivíduo, segundo o The Post. Algumas pessoas que conversaram com o repórter argumentaram que não é fácil expressar seus sentimentos em momentos de luto profundo e que ferramentas de IA como o ChatGPT facilitaram a escrita de um obituário.
Tudo é justo com a morte e os negócios
Curiosamente, parece que usar ferramentas de IA como o ChatGPT não é apenas uma escolha pessoal ou um ato dissimulado de algumas funerárias. É um negócio em expansão, e existem várias empresas por aí que oferecem serviços de "IA para obituários" — por um preço.
Uma dessas empresas é a CelebrateAlly, fundada por um ex-funcionário da Microsoft, que cobra US$ 5 dos clientes por 100 créditos. Um obituário geralmente requer 10 créditos, o que significa que você pode escrever um novo elogio fúnebre em homenagem ao seu ente querido falecido por apenas cinquenta centavos cada.
A empresa ainda permite que os usuários escolham entre o ChatGPT e o modelo de IA Claude, da Anthropic, para alterar o tom ou o conteúdo do obituário. Mas a tecnologia subjacente tem suas falhas e, se ignorada, pode levar a cenários bizarros. Aqui está um trecho do relatório:
Instruída a escrever um obituário "divertido" para uma pessoa falsa, espirituosa, engraçada e cheia de fé, a ferramenta de IA afirmou que o homem havia "nascido em um dia frio", "vivido pelas palavras do grande Groucho Marx", "inspirado a todos" e morrido em um "abraço ensolarado", apesar de não ter recebido nenhuma dessas informações. Em outras mensagens, inventou apelidos, preferências e eventos de vida falsos, chegando a declarar que o homem havia fundado um teatro comunitário e orientado um "jovem comediante… que fez turnê nacional".
O ChatGPT não é a única ferramenta que inventa coisas . A IA Gemini, do Google, disse a uma pessoa para adicionar cola à sua pizza . A IA da Microsoft não é diferente . Pesquisas recentes indicam que depender demais de ferramentas de IA está levando a um declínio cognitivo e atrapalhando pesquisas reais . Alguns especialistas também estão preocupados com profundas questões psicológicas e morais.
Aplicativos de IA complementares, como Character AI e Nomi, deram origem a um segmento de usuários obcecados por seus parceiros gerados por IA, em detrimento de conexões humanas reais. Alguns estão até mesmo engravidando seus parceiros de IA e permanecendo profundamente absortos em sua própria realidade digital, enquanto pagam centenas de dólares às empresas de IA por trás do software.
