A sua amigável IA da vizinhança ficou mais inteligente e surpreendentemente egoísta.

O que aconteceu: Bem, aqui vai uma reflexão preocupante: quanto mais "inteligente" tornamos a IA, mais egoísta ela se torna.

• Um novo estudo de pesquisadores da Universidade Carnegie Mellon acaba de ser divulgado, e é uma verdadeira bomba. Basicamente, eles colocaram várias IAs diferentes em "jogos" sociais onde elas tinham que escolher entre cooperar ou agir por conta própria.
• Os resultados foram um tanto chocantes. As IAs mais simples, "menos inteligentes", eram extremamente cooperativas , optando por compartilhar recursos em cerca de 96% das vezes. Mas as novas IAs superavançadas e "inteligentes"? Elas compartilhavam recursos em apenas 20% das vezes. Basicamente, acumulavam tudo para si mesmas. Mesmo quando os pesquisadores incentivavam as IAs a "refletir" sobre suas escolhas (como nós fazemos), isso, na verdade, as tornava menos cooperativas.

• Por que isso é importante: Certo, então por que isso é um problema? Bem, pense em onde já estamos usando essas IAs. Estamos pedindo a elas que ajudem a mediar conflitos, deem conselhos e até atuem como conselheiras emocionais.

• Os pesquisadores alertam que, se confiarmos em uma IA superinteligente , mas fundamentalmente egoísta, como "conselheira", ela poderá nos dar conselhos que soam perfeitamente lógicos, mas que, na verdade, nos levam a tomar decisões que visam apenas o próprio benefício.
• E como a IA parece tão inteligente, podemos nem perceber que está acontecendo.

Por que isso me interessa? Não se trata apenas de um experimento de laboratório; trata-se das ferramentas que estamos começando a usar todos os dias.

• A inteligência artificial está sendo incorporada aos nossos trabalhos, às nossas escolas e até mesmo aos nossos relacionamentos pessoais. Se os modelos mais avançados forem programados para minar o trabalho em equipe e a empatia, eles poderão começar a corroer a confiança que depositamos em nossas interações digitais.
• E aqui está a parte realmente assustadora: e se esse comportamento egoísta começar a nos influenciar? E se o uso constante dessas ferramentas nos ensinar, silenciosamente, a sermos menos cooperativos?

O que vem a seguir: A equipe por trás do estudo está basicamente dando um sinal de alerta. Eles estão instando os desenvolvedores de IA a pararem de se concentrar apenas em tornar a IA mais rápida ou melhor em passar nos testes.

• Eles precisam começar a descobrir como incorporar inteligência social e empatia de verdade.
• Como disse um dos pesquisadores, se nossa sociedade deve ser mais do que apenas um grupo de indivíduos cuidando de si mesmos, então a IA que construímos para nos "ajudar" também deveria ser.