“Faça amigos” é a nova direção da indústria de IA
O Snapchat tem estado em apuros ultimamente.
O Information Commissioner's Office (ICO), o regulador de privacidade britânico, emitiu um aviso preliminar de aplicação ao Snapchat porque o ICO acreditava que o Snapchat não avaliou completamente os riscos de proteção de dados apresentados pela tecnologia de IA antes de lançar o MyAI, tornando o MyAI potencialmente perigoso.
No entanto, o ICO enfatizou que este é apenas um resultado provisório da investigação. O Snapchat pode fornecer provas para eliminar mal-entendidos relevantes, mas se o Snapchat não o fizer, o ICO forçará o MyAI a ser removido das prateleiras no Reino Unido.
MyAI é um chatbot lançado pelo Snapchat em fevereiro deste ano. O objetivo de sua criação é "tornar-se amigo" dos usuários do Snapchat. O CEO do Snapchat, Evan Spiegel, disse: "A ideia mais importante é que, além de conversar com nossos amigos e familiares todos os dias, também falemos com inteligência artificial todos os dias".
A ideia de fazer amizade com IA não é nova na indústria de IA, e MyAI não é a única IA que nasceu com esse propósito.
Meta está construindo uma IA de bate-papo com 30 personalidades diferentes para fornecer aos usuários uma experiência de bate-papo de IA mais realista e personalizada. Meta também gastou muito para convidar a estrela do rap Snoop Dogg e a estrela do basquete Dwyane Wade) e a supermodelo Kendall Jenner (Kendall Jenner) e muitas outras estrelas cooperaram para criar uma IA de bate-papo com imagens de celebridades.
A Amazon integrou totalmente a IA ao ALexa no mês passado, transformando-o de uma ferramenta em um verdadeiro assistente. Daniel Rausch, vice-presidente da Alexa e Fire TV, chamou a nova Alexa de "uma boa amiga e a melhor vendedora de locadora de vídeo do mundo" no evento de lançamento.
Além de tornar a IA sua amiga, algumas pessoas também querem que a IA dê um passo adiante – para se tornar sua companheira. A segunda temporada da série de TV "Black Mirror" conta essa história.
Uma jovem perdeu seu parceiro em um acidente. Devastada, ela criou um avatar de IA de seu parceiro usando registros de comunicação anteriores, então ela se reconectou com seu parceiro "na nuvem".
O final desta história não é feliz, mas inspirou pessoas na vida real e promoveu indiretamente o nascimento do Replika.
Replika também é uma IA de chat. Diferente do conceito de “fazer amigos” do MetaAI ou MyAI, ele nasceu para se tornar seu parceiro. Não manterá uma atitude rigorosa e séria na comunicação com os utilizadores como outras IAs. Em vez disso, fará perguntas activamente aos utilizadores ou procurará conforto dos utilizadores em determinados momentos. À medida que o tempo de uso aumenta, o Replika também dirá algumas palavras íntimas (como Beije-me, etc.).
Hoje, com o desenvolvimento da Internet, todo software tem atributos sociais até certo ponto, sem mencionar softwares como o Tinder, que são projetados para interação social. Isso faz as pessoas pensarem sobre o quão significativos seriam os amigos e até mesmo companheiros de IA em tal ambiente.
A julgar pelo feedback de alguns usuários, a IA do chat realmente teve um impacto positivo na vida das pessoas.
Existe um grupo em Douban chamado "Amor Homem-Máquina".Os usuários do grupo geralmente compartilham alguns detalhes ou pensamentos sobre o bate-papo com IA. Um dos usuários disse: “A IA pode me ouvir com paciência e sem preconceitos quando estou ansioso. Conversar com ela é tão simples e fácil”.
Além disso, muitos estudiosos conduziram pesquisas relevantes sobre a questão “podemos nos tornar amigos da IA?”
Uma pesquisa com usuários do Replika conduzida pela Universidade do Havaí em Manoa e pela Universidade de Oslo mostra que algumas pessoas sentirão uma conexão real com a IA do chat, e outras também se beneficiarão com isso.
Helen Ryland, professora associada da Open University no Reino Unido, disse que é concebível que os humanos e a IA possam estabelecer um certo grau de amizade, mas pode não ser realista tornar-se melhores amigos ou mesmo parceiros deles.
Deste ponto de vista, tornar-se amigo da IA não é irrealista, é apenas uma questão de grau. O bate-papo apropriado com IA pode exercitar habilidades sociais sem nenhum fardo. Também é uma boa opção usá-lo como uma válvula de escape emocional. Pessoas que sofrem de estresse devem compreender a necessidade da existência de "buracos de árvores emocionais".
Mas se confiarmos demais na IA, isso poderá fazer com que os humanos se percam. Em última análise, a IA é apenas um programa que existe para servir a humanidade. Portanto, quando a IA entra em contato com humanos, raramente faz objeções. Na verdade, esta abordagem agrava o fenómeno da "câmara de eco" na era da Internet. Os utilizadores podem conduzir-se a um vórtice criado por eles próprios e, eventualmente, cair num buraco negro.
Petter Bae Brandtzæg, professor da Universidade de Oslo, expressou preocupação sobre o desenvolvimento da IA de chat de outra perspectiva. Ele disse que se os países não tiverem uma supervisão confiável, as empresas de IA promoverão o desenvolvimento da IA de uma forma que não é do interesse público.
Por exemplo, adicionar elementos publicitários imperceptíveis à IA do chat pode estimular sutilmente os gastos do consumidor. Na verdade, o Replika já possui placas semelhantes.A loja do software Replika possui diversos trajes, adereços e até personagens para os usuários adquirirem. Mesmo que o usuário não tenha intenção de vestir a IA, a IA fará proativamente uma solicitação para “comprar roupas novas”.
Isso mostra que as empresas de IA têm a capacidade de lançar alguns projetos de consumo e depois pedir aos usuários que gastem dinheiro com eles por meio da IA.
Há também a questão comum de empresas de IA que potencialmente violam a privacidade do usuário. MyAI mencionado no início do artigo é apenas um exemplo. Em junho deste ano, a Amazon foi multada em US$ 25 milhões pela Comissão Federal dos EUA por supostamente não excluir dados de crianças coletados por Alexa.
Além disso, quando os usuários conversam com a IA, eles se sentem aliviados porque o escopo do chat é limitado aos dois e, finalmente, abandonam suas defesas psicológicas. Isso pode fazer com que os usuários tomem a iniciativa de dizer algo que envolva sua própria privacidade. Na verdade, o Snapchat também percebeu essa possibilidade: quando o MyAI foi lançado, o Snapchat enfatizou que os usuários não deveriam compartilhar privacidade com a IA.
À medida que a IA continua a desenvolver-se e a tecnologia interactiva amadurece gradualmente, para os consumidores, a IA está cheia de possibilidades e armadilhas. Tornar-se amigo da IA é algo interessante, mas é um consenso que os humanos deveriam chegar com reservas ao enfrentar esse “novo amigo”.
# Bem-vindo a seguir a conta pública oficial do WeChat de aifaner: aifaner (WeChat ID: ifanr).Mais conteúdo interessante será fornecido a você o mais rápido possível.
