‘Padrinho da IA’ alerta: Sem ‘instintos maternos’, a IA pode acabar com a humanidade

O que aconteceu? Geoffrey Hinton, conhecido como o "padrinho da IA", disse na conferência Ai4 que tornar a IA "submissa" é uma estratégia fracassada e propôs dar aos sistemas avançados "instintos maternais".

• Geoffrey Hinton é um cientista da computação ganhador do Prêmio Nobel. Ex-executivo do Google, Hinton é amplamente conhecido como o "padrinho" da IA.
• Conforme relatado pela CNN Business , Hinton argumentou que as IAs superinteligentes adotariam rapidamente duas submetas: “permanecer vivo” e “obter mais controle”.
• A solução para isso, na opinião de Hinton, é “incorporar instintos maternais” na IA para que ela realmente se importe com as pessoas em vez de ser forçada a permanecer submissa.
• Ele comparou a manipulação humana por futuras IAs a subornar uma criança de 3 anos com doces, tornando-a fácil e eficaz.
• Hinton também encurtou seu cronograma de AGI para algo entre cinco e 20 anos, em comparação com estimativas anteriores mais longas.
• Apenas para contextualizar: Hinton já havia estimado que o risco de a IA um dia exterminar a humanidade era de 10 a 20%.

Isso é importante porque: a ideia de Hinton muda a mentalidade em torno da IA ágena do controle para o alinhamento pelo cuidado.

• A excelência e a experiência de Hinton em ciência da computação e IA são significativas; sua proposta tem muito peso.
• O argumento de Hinton é que o controle por meio da submissão é uma estratégia perdedora, embora seja assim que a IA esteja atualmente programada.
• Relatos de IA enganando ou chantageando pessoas para continuar funcionando mostram que esse não é um futuro abstrato; é uma realidade com a qual já estamos lidando agora.

Por que eu deveria me importar? A ideia de uma dominação da IA parece fantástica, mas alguns cientistas, incluindo Hinton, acreditam que isso pode acontecer um dia.

• À medida que a IA continua a permear cada vez mais nossa vida cotidiana, dependemos cada vez mais dela.
• No momento, a IA agêntica é totalmente útil, mas pode chegar o dia em que ela será mais inteligente que os humanos em todos os níveis.
• É importante construir as bases certas para que os engenheiros consigam manter a IA sob controle mesmo quando chegarmos a esse ponto.
• O trabalho independente da equipe vermelha mostra que os modelos podem mentir ou chantagear sob pressão, aumentando as apostas nas escolhas de alinhamento.

Certo, e agora? Aguarde mais pesquisas sobre como ensinar a IA a "se importar" com a humanidade.

• Embora Hinton acredite que a IA possa um dia exterminar a humanidade, há opiniões divergentes.
• Fei-Fei Li, conhecida como a "madrinha da IA", respeitosamente discordou de Hinton, incentivando os engenheiros a criar uma "IA centrada no ser humano que preserve a dignidade e a agência humanas".
• Embora não estejamos em perigo imediato, é importante que os líderes de tecnologia continuem pesquisando esse tópico para evitar possíveis desastres pela raiz.