Este jogo de ficção científica previu nosso atual cenário de IA há quatro anos

Como muitos outros, atualmente estou fascinado – e um pouco apavorado – com os rápidos avanços da IA . Embora pareça que a tecnologia pode ser usada para o bem, várias aplicações dela me deixam preocupado. Os sites substituíram escritores humanos por robôs propensos a erros, Hollywood se recusa a proteger seu talento criativo da tecnologia e jogos gerados por IA, como Sumner , levantaram bandeiras vermelhas sobre o plágio de bots. Embora o que mais me preocupa nos últimos meses seja a existência da terapia de IA.

Atualmente, existem alguns serviços disponíveis que automatizam a terapia de alguma forma. O Woebot é um “agente de conversação automatizado” que está sendo posicionado como uma ferramenta pessoal de saúde mental. Os usuários podem fazer check-in todos os dias para ter conversas breves com um chatbot que enviará dicas e vídeos de bem-estar. Wysa , por outro lado, combina usuários com um profissional de saúde mental humano e um treinador de IA que os ajuda a trabalhar com suas emoções. Considerando o quanto a terapia tradicional depende da conexão com uma pessoa real, a ideia de automatizá-la parece uma receita para o desastre.

Há uma razão pela qual tudo isso me intriga especialmente. Isso é por causa de um pequeno romance visual chamado Eliza . Lançada em 2019, a joia independente previu silenciosamente a mudança preocupante da IA ​​para o espaço da saúde mental. É um excelente conto de advertência sobre as complexidades de automatizar a conexão humana – algo com o qual os empreendedores de tecnologia podem aprender muito.

Bem-vindo a Eliza

Situada em Seattle, Eliza segue uma personagem chamada Evelyn Ishino-Aubrey, que começa a trabalhar em um novo empreendimento de tecnologia criado por uma megacorporação fictícia semelhante à Apple chamada Skandha. A empresa criou um aplicativo de aconselhamento virtual, chamado Eliza, que oferece sessões de terapia guiadas por IA aos usuários a um preço relativamente acessível.

Eliza não é apenas um chatbot sem rosto, no entanto. Para manter o elemento humano da terapia face a face, o aplicativo emprega representantes humanos que se sentam pessoalmente com os clientes e leem as respostas geradas pelo bot em tempo real. Skandha afirma que tem sua metodologia reduzida a uma ciência, então os proxies são proibidos de se desviar do roteiro de qualquer forma. Eles estão lá simplesmente para adicionar uma face tangível ao conselho que a máquina dá.

O jogo resiste ao desejo de apresentar essa ideia como um conceito distópico exagerado. Em vez disso, ele opta por um tom fundamentado no realismo, não muito diferente do Her de Spike Jonze . Isso permite que ele faça algumas perguntas sérias e sutis sobre a automação de interações humanas que estavam à frente de seu tempo. A história de cinco horas pergunta se um aplicativo de IA como esse é um benefício líquido, tornando algo tão caro quanto a terapia mais acessível, ou simplesmente uma decisão de negócios exploradora da grande tecnologia que troca a interação humana por lucros fáceis.

Os jogadores exploram essas questões por meio dos sistemas de novelas visuais de Eliza . A interação é mínima aqui, com os jogadores simplesmente escolhendo as opções de diálogo para Evelyn. Isso tem um grande impacto em suas sessões, no entanto. Ao longo da história, Evelyn se encontra com um punhado de clientes recorrentes inscritos no serviço. Alguns estão lá simplesmente para monologar sobre o drama de baixo risco em suas vidas, mas outros estão chegando ao serviço com problemas mais sérios. Não importa a gravidade da situação individual de cada um, Eliza cospe o mesmo roteiro simples para Evelyn ler, fazendo algumas perguntas que se repetem ao longo das sessões e prescrevendo exercícios respiratórios e medicamentos.

Quanto mais Evelyn investe na vida de seus clientes, mais ela começa a ver os limites da tecnologia. Alguns dos conselhos de Eliza não são uma solução única para todos os problemas, e clientes mais problemáticos começam a implorar por ajuda real de um ser humano real. Os jogadores têm a opção de sair do roteiro e deixar Evelyn resolver o problema com suas próprias mãos, um movimento que tem sérias implicações tanto para seu trabalho quanto para o bem-estar de seus clientes.

Nem sempre é a resposta certa. Enquanto alguns de seus conselhos dão aos clientes a ajuda de que precisam, outros se veem ainda mais em espiral. Suas palavras podem ser distorcidas de maneiras que ela não esperava, algo contra o qual o algoritmo seguro de Eliza foi construído para protegê-la. É mais seguro seguir o roteiro esterilizado ou pelo menos tentar fazer uma conexão real? E a tecnologia como essa acaba prejudicando mais do que ajudando, ou vice-versa?

Eliza não responde a essas perguntas, deixando para os jogadores mastigarem. É um questionamento cuidadoso da tecnologia moderna que só se tornou mais premente devido ao surgimento de serviços como o Wysa, que estão perigosamente próximos da tecnologia fictícia do jogo. Quer você seja um defensor de ferramentas de IA como o ChatGPT ou firmemente contra elas, Eliza fornecerá um conto cauteloso sobre os limites de máquinas e humanos.

Eliza está disponível para PC e Nintendo Switch.