Artigo de viagem aparentemente gerado por IA deixa a Microsoft com a cara vermelha
De acordo com um artigo recente publicado pela Microsoft Travel no microsoft.com, as atrações que valem a pena conferir em uma visita à capital canadense de Ottawa incluem o National War Memorial, Parliament Hill, Fairmont Château Laurier, Ottawa Food Bank… espere aí, Ottawa Food Bank ?
Manchado nos últimos dias pelo escritor de tecnologia canadense Paris Marx , acredita-se que o artigo tenha sido criado por inteligência artificial generativa (IA) e claramente falhou em receber uma verificação humana antes de aparecer no site. O artigo inteiro foi removido, mas você pode conferir uma versão arquivada dele .
O banco de alimentos aparece em 3º lugar em uma lista de 15 lugares imperdíveis da cidade canadense. E como se isso não bastasse, a descrição que acompanha até sugere visitá-lo “com o estômago vazio”.
Aqui está a descrição na íntegra:
“Ottawa Food Bank — A organização coleta, compra, produz e distribui alimentos para pessoas e famílias carentes na área de Ottawa desde 1984. Observamos como a fome afeta homens, mulheres e crianças diariamente e como isso pode ser uma barreira para a realização. As pessoas que vêm até nós têm empregos e famílias para sustentar, bem como despesas para pagar. A vida já é difícil o suficiente. Considere entrar nisso com o estômago vazio.
Com sua inserção no artigo de viagem claramente um erro – e um erro terrível nisso – parece provável que a peça tenha sido montada usando IA generativa, uma tecnologia na qual sabemos que a Microsoft tem um grande interesse.
A gigante da tecnologia tem feito grandes investimentos na OpenAI , a startup do Vale do Silício que lançou em novembro do ano passado o imensamente popular chatbot ChatGPT , uma ferramenta conhecida por sua capacidade de conversar de maneira humana e produzir mensagens de alta qualidade. texto, embora a tecnologia incipiente ainda tenha a tendência de ocasionalmente cuspir informações errôneas ou sem sentido.
Ainda assim, a Microsoft está tão interessada em IA generativa que já a incorporou em seu mecanismo de busca Bing e no navegador Edge, entre outros produtos.
Mas, no caso de seu artigo de viagem, a empresa parece ter falhado em vários aspectos. Primeiro, ele falhou em realizar verificações humanas adequadas no artigo antes de publicá-lo e, segundo, se foi gerado por IA, em nenhum lugar do artigo isso é declarado.
O acidente demonstra a necessidade contínua de supervisão humana com conteúdo gerado por IA. Deslizes podem custar caro, como evidenciado por um caso recente na cidade de Nova York em que um advogado usou o ChatGPT para encontrar exemplos de casos legais que ele incluiu em um documento para apoiar o caso de um cliente. Mas mais tarde descobriu-se que o ChatGPT havia inventado todos eles .
A Digital Trends entrou em contato com a Microsoft para obter mais informações sobre seu artigo de viagem bizarro e atualizaremos aqui depois que ele voltar para nós.