Assistir essa vovó AI enganando o mentiroso me deixa muito feliz
Olá mentiroso, eu sou seu pesadelo.
A avó de bom coração na minha frente se chama Daisy. Não tem o corpo de uma pessoa real, mas é um mestre de IA antifraude.
Diferente da propaganda antifraude tradicional, Daisy não irá lembrá-lo seriamente de ter cuidado para não ser enganado. Em vez disso, ela começará a partir da fonte e conversará com o golpista sobre assuntos triviais, desgastando constantemente a paciência do golpista.
Não haverá torta no céu, mas o golpista jogará uma isca para você.
A intenção original da criação de Daisy é usar a persistência do mentiroso para consumir o tempo do mentiroso e reduzir a chance de este lançar isca, protegendo assim melhor outras vítimas em potencial.
De acordo com esta frase, a verdadeira vitória antifraude não consiste em derrotar os burlões, mas em tornar a fraude antieconómica.
Em vez de ensinar uma pessoa a prevenir fraudes, é melhor desperdiçar o tempo de um mentiroso
O desenvolvedor por trás do Daisy vem da O2, uma empresa britânica de telecomunicações.
Juntamente com a Vodafone, EE e Three, a O2 é uma das quatro maiores operadoras de telecomunicações do Reino Unido. Os números da O2 mostram que 67% dos britânicos dizem estar preocupados em serem vítimas de golpes, com um em cada quatro enfrentando algum nível de fraude todas as semanas.
Diante dos problemas causados pelos fraudadores, a O2 também está com dor de cabeça.
Então eles tiveram uma ideia inteligente, que era criar uma avó de IA – Daisy, e deixá-la tomar a iniciativa e ligar para o golpista por até 40 minutos.
O método é um tanto auto-sacrificial, mas muito prático. Depois de atormentar o mentiroso, ele não terá tempo para fraudar os outros.
A personagem Daisy é uma avó gentil, que reflete a vida real. Os idosos também são o grupo-alvo mais comum dos golpistas.
Na demonstração lançada oficialmente, Daisy conversou com o mentiroso do outro lado da linha, compartilhando vividamente seus hobbies – tricotar suéteres, falar sobre os gatos fofos de casa, etc.
Sem ele, quanto maior o tempo de chamada, melhor.
Quando se trata de informações importantes, como números de contas/senhas de cartões bancários, esta avó de IA também inventará coisas do nada, concentrando-se em uma frase e uma resposta de frase, sem compensar tudo, e contando mentiras com os olhos abertos .
Murray Mackenzie, chefe do departamento de fraude da O2, destacou que o papel de Daisy foi virar completamente o jogo contra os golpistas. “Nós os vencemos e superamos de forma inteligente em seu ‘jogo’, mantendo-os online. "
Na verdade, antes de Daisy, muitas ferramentas semelhantes nasceram.
De acordo com a mídia estrangeira The Guardian, uma equipe da Universidade Macquarie, na Austrália, também desenvolveu o Apate, um robô de IA especializado em “conversar” com fraudadores de telecomunicações.
Quando a polícia australiana identificar e interceptar chamadas fraudulentas de telecomunicações, elas serão transferidas para o "robô vítima"
O criador Kafaar revelou uma vez a história do nascimento de Apate.
Enquanto fazia um piquenique com seus dois filhos, ele contou uma piada ao autor do golpe. Mais tarde, ele se inspirou nisso e começou a pensar em como consumir o tempo dos golpistas com fofocas sem sentido, evitando assim que enganassem mais pessoas.
Achei que o objetivo disso era enganar os golpistas e desperdiçar seu tempo para que não pudessem falar com mais ninguém.
Apate também possui centenas de identidades diferentes. Cada uma dessas identidades tem sotaques e personalidades diferentes. Alguns fingem ser ignorantes, alguns falam como um velho e adoram se repetir, e alguns têm um temperamento ruim. ., principalmente para que os golpistas não reconheçam o padrão.
Em suma, é melhor desperdiçar o tempo de um mentiroso do que ensinar uma pessoa a evitar fraudes.
A tecnologia está se atualizando e o julgamento humano é sempre a última linha de defesa.
O rápido desenvolvimento da IA oferece uma excelente oportunidade para o nascimento de Daisy.
Daisy é construída em um modelo de linguagem grande (LLM) treinado de forma personalizada e funciona de forma semelhante ao Google Gemini Live ou versões anteriores do ChatGPT Voice.
O princípio específico é que a IA transcreverá a voz do chamador e, em seguida, a avó da IA ajustará o estilo e o conteúdo da resposta com base na personalidade predefinida do personagem e, finalmente, a converterá na voz da avó da IA novamente:
- Transcrever fala em texto: O processo de conversão de sons capturados em texto é chamado de “transcrição”. Dessa forma, Daisy pode entender o que quem liga está dizendo e preparar uma resposta adequada.
- Gerar respostas: Daisy usa um modelo de linguagem grande (LLM) personalizado para gerar respostas. Este modelo não apenas compreende informações textuais, mas também gera respostas apropriadas com base no contexto e nas camadas predefinidas de personalidade do personagem.
- Camada de característica: "Camada de característica" significa que quando Daisy gera uma resposta, ela ajustará o estilo e o conteúdo da resposta com base no caractere predefinido para torná-la mais consistente com a configuração do personagem, como ser tão gentil e paciente quanto uma avó .
- Conversão de texto para fala: a resposta de texto gerada precisa ser convertida em fala novamente para que Daisy possa se comunicar com o chamador pelo telefone. Este processo é chamado de “text-to-speech” (TTS), e Daisy usa um modelo de IA personalizado para concluir esta etapa.
Além disso, durante o processo de treinamento, Daisy também recebeu ajuda de um blogueiro do YouTube, Jim Browning.
O blogueiro tem mais de 4 milhões de seguidores no YouTube e é um dos anti-golpistas mais influentes da plataforma. Seus vídeos não apenas demonstram técnicas de fraude, mas também revelam como toda a indústria fraudulenta opera por meio de análises técnicas detalhadas e exemplos.
Afinal, as pessoas que melhor o conhecem são sempre seus inimigos, e os mentirosos não são exceção.
Todo o processo de falar com um golpista no Daisy é feito em tempo real, desde ouvir a voz, transcrever o texto, gerar uma resposta de conversão de texto em fala, de forma que quase não haja atraso perceptível.
No entanto, Daisy não está disponível diretamente para usuários do O2.
A razão é simples: a O2 está preocupada com o fato de os usuários usá-lo para retaliar contra golpistas, e sua pesquisa interna mostra que 71% das pessoas no Reino Unido tiveram pensamentos de vingança contra golpistas que os fraudaram ou a seus entes queridos.
De acordo com o techspot da mídia estrangeira, esta ferramenta de IA foi incluída na lista de números facilmente enganados comumente usados por golpistas. Daisy interage com quem liga 24 horas por dia, sem intervenção humana.
Mas o problema é que agora existem dois tipos de golpistas: aqueles que não entendem de IA e aqueles que entendem de IA.
Não muito tempo atrás, a startup Bland AI anunciou na plataforma X que, com o suporte de modelos grandes, seu produto se tornaria a IA conversacional mais rápida do mundo e poderia se comunicar sem "ilusões".
Além disso, o robô Bland AI também possui fala generativa extremamente natural e troca de vários idiomas.
Além de ser muito bom em imitar a entonação e as pausas de conversas humanas reais, em testes técnicos conduzidos pela mídia estrangeira WIRED, o robô Bland AI pode até negar que seja uma IA e mentir sobre sua verdadeira identidade.
Incluindo o APPSO, também usou a personalização de IA para gerar alguns gêmeos digitais de custo zero, mas muito reais.
Com o avanço da tecnologia de IA, essas ferramentas podem ser facilmente utilizadas por fraudadores para nos enganar.
O paradoxo é que uma extremidade do telefone está conectada ao mentiroso AI e a outra extremidade do telefone está conectada ao AI Daisy. Um está elogiando, o outro está provocando e os dois lados estão em uma situação. loop infinito. Quem conhece a arte sabe o quão profundo é o taoísmo aqui.
Anteriormente, os sistemas de smartphones já eram bastante sofisticados.
Basta apresentar suas necessidades ao provedor de serviços e este poderá construir rapidamente uma plataforma de gerenciamento. Por meio de operações simples de interface, os usuários podem definir parâmetros como habilidades de fala, modelos e linhas de comunicação. Após importar as informações de contato, a função de chamada automática pode ser iniciada.
Para este fim, os fabricantes nacionais de telemóveis também têm feito muitos esforços neste sentido.
Por exemplo, a maioria dos sistemas de telefonia móvel domésticos fornecem a função de identificar e interceptar de forma inteligente pseudo estações base. Além disso, você também pode ativar a função “Identificação online de números desconhecidos” nas configurações de bloqueio de chamadas para permitir que o sistema identifique e intercepte chamadas de assédio com mais precisão.
Golpes são essencialmente um jogo de triagem, e os golpistas não se importam se falharem 999 vezes, eles só precisam ter sucesso uma vez.
Sendo enganado, tudo vai a zero.
É verdade que as técnicas de fraude podem variar, mas a seguinte fórmula oficial antifraude nunca sairá de moda.
Pessoa (estranho) + comunicação (várias ferramentas de comunicação, enfim, não dá para encontrar pessoalmente) + solicitação (transferência e remessa, enfim, é só dinheiro) = fraude.
Na era da IA, tanto os golpistas quanto as tecnologias antifraude estão sendo atualizados, e o julgamento humano é sempre a última linha de defesa.
# Bem-vindo a seguir a conta pública oficial do WeChat de Aifaner: Aifaner (WeChat ID: ifanr). Mais conteúdo interessante será fornecido a você o mais rápido possível.
