Os brinquedos com inteligência artificial estão ficando assustadores – mas esta pequena caixa vermelha promete resolver o problema.

Este artigo faz parte de Trending Forward , nossa série de vídeos e podcasts que explora como a tecnologia disruptiva está transformando a maneira como vivemos. Nesta semana, conversamos com Arun Gupta, fundador e CEO da Hapiko, sobre…

Se você é daqueles que dizem "parece que a IA está em todo lugar" – bem, você está enganado. Sim, ela está se infiltrando no trabalho, na escola e em outros lugares, mas está se expandindo para muitos outros novos mundos em um ritmo acelerado.

Um desses lugares é a seção de brinquedos – e isso traz riscos assustadores. Como pai ou mãe, a ideia de que seu filho tenha acesso quase irrestrito ao melhor (e ao pior) da internet parece um grande problema, e ainda assim estamos vendo uma proliferação de brinquedos que podem transformar histórias para dormir em verdadeiros contos de fadas dos Irmãos Grimm.

Por isso, conversamos com Aron Gupta, um empreendedor que fundou empresas de sucesso no setor de wearables e varejo de moda. Mas, ao passar mais tempo com a família, ele começou a refletir sobre como a tecnologia poderia não apenas entreter as crianças, mas também educá-las e estimular sua criatividade.

Gupta retomou o contato com seu parceiro técnico, Robert Whitney, e eles começaram a trabalhar na criação do Stickerbox , um dispositivo independente que usa inteligência artificial para permitir que as crianças descrevam as imagens que imaginam – praticamente qualquer coisa – e as vejam exibidas na tela monocromática frontal antes de serem impressas sob demanda.

O design lembra o antigo Etch a Sketch, e os adesivos são impressos em uma impressora térmica embutida, o que significa menos sujeira, e as crianças podem colori-los como quiserem.

O conceito é simples, e percebi que já saiu da órbita dos primeiros usuários e está ganhando fama em geral. Recentemente, conversando sobre o Stickerbox com uma amiga no Reino Unido que tem filhos pequenos, ela disse: "Ah, aquele brinquedo de adesivos com IA, tipo o Etch-a-Sketch? Eu quero muito um desses!"

Embora eu suponha que ela quisesse dizer que queria isso para os filhos, isso mostra que a IA é secundária aqui – a capacidade de criar coisas tangíveis com a voz é o que está gerando entusiasmo, e não o fato de ter aprendizado de máquina como elemento central.

Uma nova geração de brinquedos

O Stickerbox parece ter sido projetado, construído e funciona como um claro contraste com alguns outros brinquedos de IA no mercado. Os mais problemáticos se oferecem para ser o amigo e confidente do seu filho.

Eles escutam constantemente tudo o que é dito no ambiente e podem até manipular crianças. Há exemplos de brinquedos com inteligência artificial que ensinam crianças a encontrar armas e fósforos.

E aí reside o conflito: as ferramentas de IA podem estimular a curiosidade e a criatividade das crianças, permitindo que elas façam coisas que antes eram impossíveis. Mas essa oportunidade também traz consigo um risco enorme – e é por isso que estamos conversando com Gupta: como criar um brinquedo que ofereça os benefícios da IA ​​sem os perigos que o acesso restrito acarreta?

Um estudo publicado recentemente pela PIRG destacou grandes preocupações sobre brinquedos baseados no acesso a modelos de linguagem de longo prazo, como o ChatGPT da OpenAI, e a forma como – mesmo que existam mecanismos de proteção – eles podem ser contornados.

Então, qual é a diferença do Stickerbox?

“Começamos com uma pergunta muito simples: e se a IA fosse criada para crianças?”, diz Gupta.

"Acho que Bob e eu, quando começamos esta empresa, fomos muito inspirados pelas redes sociais e pelo impacto que elas tiveram na geração mais jovem. As redes sociais, como todos sabem, foram construídas com mecânicas de cassino, projetadas para dar aquela dose de dopamina, criadas para gerar o máximo de engajamento possível para que possam te servir da melhor maneira possível."

“Mas aí você pensa nesse modelo para crianças e… ele não se encaixa muito bem. Não existe nenhuma rede social realmente feita para crianças. E acho que vemos a mesma coisa com a IA.”

O Stickerbox foi, portanto, projetado para aproveitar o poder criativo da IA, sendo ao mesmo tempo seguro para crianças. Existem três fatores de segurança específicos: o dispositivo só "escuta" quando o botão do microfone é pressionado; existem diretrizes rigorosas para a segurança do conteúdo exibido; e os pais podem monitorar totalmente as criações de seus filhos no aplicativo complementar.

A caixa não permitirá que as crianças visualizem nudez, violência ou sangue, pois, segundo Gupta, a empresa preferiu "optar por maior segurança do que por menor segurança neste início".

A Stickerbox se conecta à internet para acessar IA, mas é um sistema proprietário, em vez de usar a infraestrutura da OpenAI, como fazem muitas outras empresas. Construir seu próprio LLM permitiu que a Hapiko integrasse o que Gupta chama de "gargalos":

"Temos muitas medidas de segurança integradas ao sistema atualmente, e é muito software proprietário, mas basicamente você pode pensar nisso de uma maneira simples: existe um sistema em que a criança fala um comando, o comando é traduzido em texto, o texto é traduzido em uma imagem e a imagem é retornada."

“Então, nesse processo, existem vários pontos de estrangulamento. Há o ponto de estrangulamento onde o texto é gerado, e você pode analisar o que está no texto. Em seguida, você pode aplicar filtros de segurança a ele. (Depois) há o fluxo que vai do texto para a imagem, e você pode analisá-lo e ver o que está sendo enviado para a imagem.”

O Stickerbox ensina às crianças uma lição importante sobre como estruturar suas instruções para o mecanismo de inteligência artificial. Quando o adesivo não é exatamente o que elas imaginaram, precisam pensar em como editar a instrução para obter o resultado desejado.

Embora seja possível fazer o mesmo com qualquer chatbot, a etapa de impressão exige a conexão de hardware e a supervisão de um responsável, que poderá precisar explicar assuntos delicados.

Investigamos a fundo o futuro deste produto – como ele foi recebido por pais e professores, como superaram alguns desafios e dúvidas iniciais e o que o futuro reserva neste mercado de brinquedos com IA em rápido crescimento… e como a Hapiko teve que deixar de fora alguns recursos para lançar este produto no mercado com segurança.

O artigo "Brinquedos com IA estão ficando assustadores – mas esta pequena caixa vermelha promete uma solução" foi publicado originalmente no Digital Trends .