Por que a IA nunca dominará o mundo

Chame isso de hipótese da Skynet, Inteligência Artificial Geral ou o advento da Singularidade – por anos, especialistas e não especialistas em IA se preocuparam (e, para um pequeno grupo, comemoraram) a ideia de que a inteligência artificial pode um dia se tornar mais inteligente do que humanos.

De acordo com a teoria, os avanços na IA – especificamente do tipo de aprendizado de máquina que é capaz de receber novas informações e reescrever seu código de acordo – acabarão alcançando o wetware do cérebro biológico. Nesta interpretação dos eventos, cada avanço da IA ​​das máquinas IBM vencedoras do Jeopardy para o massivo modelo de linguagem de IA GPT-3 está levando a humanidade um passo mais perto de uma ameaça existencial. Estamos literalmente construindo nossos sucessores conscientes em breve .

Exceto que isso nunca vai acontecer. Pelo menos, de acordo com os autores do novo livro Why Machines Will Never Rule the World: Artificial Intelligence without Fear .

Os coautores Barry Smith , professor de filosofia da Universidade de Buffalo, e Jobst Landgrebe , fundador da empresa alemã de IA Cognotekt, argumentam que a inteligência humana não será superada por “um ditador imortal” tão cedo – ou nunca. Eles contaram ao Digital Trends suas razões.

Digital Trends (DT): Como esse assunto entrou no seu radar?

Jobst Landgrebe (JL): Sou médico e bioquímico de formação. Quando comecei minha carreira, fiz experimentos que geraram muitos dados. Comecei a estudar matemática para poder interpretar esses dados e vi como é difícil modelar sistemas biológicos usando matemática. Sempre houve esse desajuste entre os métodos matemáticos e os dados biológicos.

Aos trinta e poucos anos, deixei a academia e me tornei consultor de negócios e empresário trabalhando em sistemas de software de inteligência artificial. Eu estava tentando construir sistemas de IA para imitar o que os seres humanos podem fazer. Percebi que estava me deparando com o mesmo problema que tive anos antes na biologia.

Os clientes me disseram: 'por que você não cria chatbots?' Eu disse, 'porque eles não funcionarão; não podemos modelar este tipo de sistema adequadamente.' Isso acabou me levando a escrever este livro.

Professor Barry Smith (BS): Achei que era um problema muito interessante. Eu já tinha indícios de problemas semelhantes com a IA, mas nunca havia pensado neles. Inicialmente, escrevemos um artigo chamado ' Tornando a inteligência artificial significativa novamente '. (Isso foi na era Trump.) Era sobre por que as redes neurais falham na modelagem de linguagem. Então decidimos expandir o artigo em um livro explorando esse assunto mais profundamente.

DT: Seu livro expressa ceticismo sobre a maneira como as redes neurais, que são cruciais para o aprendizado profundo moderno, emulam o cérebro humano. São aproximações, e não modelos precisos de como o cérebro biológico funciona. Mas você aceita a premissa central de que é possível que, se entendêssemos o cérebro em detalhes granulares o suficiente, ele pudesse ser replicado artificialmente – e que isso daria origem à inteligência ou senciência?

JL: O nome 'rede neural' é um equívoco completo. As redes neurais que temos agora, mesmo as mais sofisticadas, não têm nada a ver com o funcionamento do cérebro. A visão de que o cérebro é um conjunto de nós interconectados na forma como as redes neurais são construídas é completamente ingênua.

Se você olhar para a célula bacteriana mais primitiva, ainda não entendemos como ela funciona. Entendemos alguns de seus aspectos, mas não temos um modelo de como funciona – muito menos um neurônio, que é muito mais complicado, ou bilhões de neurônios interligados. Acredito que seja cientificamente impossível entender como o cérebro funciona. Só podemos entender certos aspectos e lidar com esses aspectos. Não temos, e não teremos, uma compreensão completa de como o cérebro funciona.

Se tivéssemos uma compreensão perfeita de como cada molécula do cérebro funciona, provavelmente poderíamos replicá-la. Isso significaria colocar tudo em equações matemáticas. Então você pode replicar isso usando um computador. O problema é que somos incapazes de escrever e criar essas equações.

BS: Muitas das coisas mais interessantes do mundo estão acontecendo em níveis de granularidade que não podemos abordar. Nós simplesmente não temos o equipamento de imagem, e provavelmente nunca teremos o equipamento de imagem, para capturar a maior parte do que está acontecendo nos níveis mais finos do cérebro.

Isso significa que não sabemos, por exemplo, o que é responsável pela consciência. Há, de fato, uma série de problemas filosóficos bastante interessantes, que, de acordo com o método que estamos seguindo, sempre serão insolúveis – e por isso devemos simplesmente ignorá-los.

Outra é a liberdade da vontade. Somos fortemente a favor da ideia de que os seres humanos têm vontade; podemos ter intenções, objetivos e assim por diante. Mas não sabemos se é ou não um livre arbítrio. Essa é uma questão que tem a ver com a física do cérebro. No que diz respeito à evidência disponível para nós, os computadores não podem ter vontade.

DT: O subtítulo do livro é 'inteligência artificial sem medo'. Qual é o medo específico ao qual você se refere?

BS: Isso foi provocado pela literatura sobre a singularidade, que eu sei que você conhece. Nick Bostrom, David Chalmers, Elon Musk e outros. Quando conversamos com nossos colegas no mundo real, ficou claro para nós que havia de fato um certo medo entre a população de que a IA acabaria assumindo o controle e mudando o mundo em detrimento dos humanos.

Temos bastante no livro sobre os argumentos do tipo Bostrum. O argumento central contra eles é que, se a máquina não pode ter vontade, também não pode ter má vontade. Sem uma vontade maligna, não há nada a temer. Agora, é claro, ainda podemos ter medo de máquinas, assim como podemos ter medo de armas.

Mas isso é porque as máquinas estão sendo gerenciadas por pessoas com fins malignos. Mas então não é a IA que é má; são as pessoas que constroem e programam a IA

DT: Por que essa noção de singularidade ou inteligência artificial geral interessa tanto às pessoas? Se eles estão assustados ou fascinados por isso, há algo nessa ideia que ressoa com as pessoas em um nível amplo.

JL: Existe essa ideia, iniciada no início do século 19 e depois declarada por Nietzsche no final daquele século, de que Deus está morto. Como as elites de nossa sociedade não são mais cristãs, elas precisavam de uma substituição. Max Stirner, que foi, como Karl Marx, discípulo de Hegel, escreveu um livro sobre isso, dizendo: 'Eu sou meu próprio deus'.

Se você é Deus, você também quer ser um criador. Se você pudesse criar uma superinteligência, então você seria como Deus. Acho que tem a ver com as tendências hiper-narcisistas em nossa cultura. Não falamos sobre isso no livro, mas isso me explica por que essa ideia é tão atraente em nossos tempos em que não há mais entidade transcendente a quem recorrer.

DT: Interessante. Então, para seguir isso, é a ideia de que a criação da IA ​​– ou o objetivo de criar IA – é um ato narcisista. Nesse caso, o conceito de que essas criações de alguma forma se tornariam mais poderosas do que nós é uma reviravolta de pesadelo nisso. É a criança matando o pai.

JL: Um pouco assim, sim.

DT: Qual seria para você o resultado final de seu livro se todos estivessem convencidos por seus argumentos? O que isso significaria para o futuro do desenvolvimento de IA?

JL: É uma pergunta muito boa. Posso dizer exatamente o que acho que aconteceria – e acontecerá. Acho que no médio prazo as pessoas aceitarão nossos argumentos, e isso criará uma matemática melhor aplicada.

Algo que todos os grandes matemáticos e físicos estão completamente cientes são as limitações do que eles poderiam alcançar matematicamente. Porque eles estão cientes disso, eles se concentram apenas em certos problemas. Se você está bem ciente das limitações, então você percorre o mundo e procura esses problemas e os resolve. Foi assim que Einstein encontrou as equações para o movimento browniano; como ele surgiu com suas teorias da relatividade; como Planck resolveu a radiação do corpo negro e assim iniciou a teoria quântica da matéria. Eles tinham um bom instinto para saber quais problemas são passíveis de soluções com matemática e quais não são.

Se as pessoas aprenderem a mensagem do nosso livro, acreditamos que serão capazes de projetar sistemas melhores, porque se concentrarão no que é realmente viável – e pararão de desperdiçar dinheiro e esforço em algo que não pode ser alcançado.

BS: Acho que parte da mensagem já está sendo transmitida, não por causa do que dizemos, mas por causa das experiências que as pessoas têm quando doam grandes quantias de dinheiro para projetos de IA, e então os projetos de IA falham. Acho que você conhece o Centro Conjunto de Inteligência Artificial. Não me lembro a quantia exata, mas acho que foi algo como US$ 10 bilhões, que eles deram a um empreiteiro famoso. No final, eles não ganharam nada com isso. Cancelaram o contrato.

(Nota do editor: JAIC, uma subdivisão das Forças Armadas dos Estados Unidos, pretendia acelerar a “entrega e adoção da IA ​​para alcançar o impacto da missão em escala”. , com outros dois escritórios em junho deste ano. O JAIC deixou de existir como entidade própria.)

DT: O que você acha, em termos de alto nível, é o argumento mais convincente que você faz no livro?

BS: Todo sistema de IA é de natureza matemática. Porque não podemos modelar a consciência, vontade ou inteligência matematicamente, estes não podem ser emulados usando máquinas. Portanto, as máquinas não se tornarão inteligentes, muito menos superinteligentes.

JL: A estrutura do nosso cérebro só permite modelos limitados da natureza. Na física, escolhemos um subconjunto da realidade que se ajusta às nossas capacidades de modelagem matemática. Foi assim que Newton, Maxwell, Einstein ou Schrödinger obtiveram seus famosos e belos modelos. Mas estes só podem descrever ou prever um pequeno conjunto de sistemas. Nossos melhores modelos são aqueles que usamos para projetar tecnologia. Somos incapazes de criar um modelo matemático completo da natureza animada.

Esta entrevista foi editada para maior extensão e clareza.