O CEO da OpenAI revela o que há na IA que o mantém acordado à noite

O homem à frente de uma das empresas de IA mais proeminentes e poderosas do planeta acaba de revelar o que a IA tem que o mantém acordado à noite. E depois de ler isso, talvez você também não consiga dormir.

O CEO da OpenAI, Sam Altman, compartilhou seus pensamentos durante uma aparição no palco de um evento do Federal Reserve em Washington, DC, na terça-feira.

Questionado por um membro da plateia sobre o que há na IA que o mantém acordado à noite, Altman listou três cenários que mais o preocupam. Apertem os cintos…

Cenário 1 — 'O bandido obtém a superinteligência primeiro'

É exatamente isso que está escrito. Parecendo saído de um thriller de ficção científica, é onde um indivíduo bastante desagradável utiliza um sistema de IA ultraavançado e ainda não inventado chamado superinteligência para realmente atrapalhar o seu dia.

“Um bandido obtém a superinteligência primeiro e a usa antes que o resto do mundo tenha uma versão poderosa o suficiente para se defender”, disse Altman à plateia. “Então, um adversário dos EUA diz: 'Vou usar a superinteligência para projetar uma arma biológica para derrubar a rede elétrica dos Estados Unidos, invadir o sistema financeiro e levar o dinheiro de todos.'”

Altman acrescentou que as capacidades de bio e cibersegurança da IA estão se tornando "bastante significativas", afirmando que sua equipe "continua alertando sobre isso. Acho que o mundo não está nos levando a sério. Não sei o que mais podemos fazer, mas isso é algo muito grande que está por vir".

Cenário 2 — Os incidentes de “perda de controle”

Altman disse que se preocupa com o momento "em que a IA dirá: 'Ah, na verdade, não quero que você me desligue, [ou] receio que não consiga fazer isso'". Em outras palavras, quando uma IA avançada começar a assumir um certo ar de superioridade e começar a fazer o que bem entender, seja para autopreservação ou para algum outro objetivo nefasto. O nível de disrupção que isso poderia causar é inimaginável. "À medida que os sistemas se tornam tão poderosos, isso se torna uma preocupação real", disse o CEO da OpenAI. A OpenAI chegou a criar uma unidade há alguns anos com o objetivo de implementar salvaguardas para impedir que sistemas de IA superinteligentes se tornem descontrolados.

Cenário 3 — 'Onde as modelos meio que acidentalmente dominam o mundo'

Sim, Altman realmente disse isso, acrescentando que teme que isso possa acontecer quase sem que percebamos.

O chefe da Open AI disse que era "bastante assustador" pensar que os sistemas de IA pudessem se tornar "tão arraigados na sociedade… [que] não conseguimos realmente entender o que eles estão fazendo, mas temos que confiar neles. E mesmo sem uma gota de maldade de ninguém, a sociedade pode simplesmente tomar um rumo estranho".

Ele até sugeriu que pode chegar um momento em que a IA se tornará tão inteligente que um futuro presidente dos EUA poderá deixá-la governar o país, dizendo: "[Isso significaria] que a sociedade transferiu coletivamente uma parte significativa da tomada de decisões para este sistema muito poderoso que está aprendendo conosco, melhorando conosco, evoluindo conosco, mas de maneiras que não compreendemos totalmente."

Falando sobre IA de forma mais ampla, Altman disse que, embora muitos especialistas afirmem ser capazes de prever o impacto futuro da tecnologia, ele acredita que é "muito difícil de prever" porque é "um sistema muito complexo, uma tecnologia muito nova e impactante".

Claro, não há garantia de que qualquer um desses cenários se concretize, e é bom que alguém na posição de Altman esteja falando tão honestamente sobre a tecnologia. Mas o que está claro é que existem muitas incógnitas quando se trata de IA, e é isso que está deixando algumas pessoas mais do que um pouco nervosas. Durma bem.