Sam Altman: GPT-5 será gratuito e aberto, DeepSeek nos ensinou uma lição Transcrição da entrevista com Wanzi |
Acho que o DeepSeek é realmente uma grande equipe e criou modelos excelentes, mas a razão pela qual eles são realmente populares não é inteiramente a capacidade do modelo em si.
A lição aqui para nós é que quando ocultamos um recurso (cadeia de pensamento), deixamos a oportunidade para que outros se tornem virais. Este é um bom alerta. Também me fez repensar o que oferecemos no nível gratuito, onde o uso do GPT-5 será gratuito.
Ben Thompson, um conhecido analista do Vale do Silício, recentemente teve uma conversa aprofundada com o CEO da OpenAI, Sam Altman, e falou sobre muito conteúdo, incluindo modelos de código aberto, o progresso do GPT-5 e a concorrência com o DeepSeek. Ele também revelou a direção futura do desenvolvimento do OpenAI e suas observações sobre AGI.
Nesta entrevista, as pessoas sentiram mais uma vez o impacto de modelos de código aberto como DeepSeek no OpenAI. Nos últimos dois meses, o ritmo de lançamento de produtos OpenAI também começou a seguir os modelos e produtos que surgiram na China, como Thinking Chain e Agent.
Sam Altman refere-se à ascensão do OpenAI como “uma oportunidade maluca”. O sucesso do ChatGPT forçou a empresa a se tornar uma empresa de tecnologia de consumo.
Agora, este se tornou o maior desafio da OpenAI no momento,
APPSO resume os pontos-chave desta entrevista:
1. O surgimento do DeepSeek é um “chamado de alerta” que leva a OpenAI a reconsiderar sua estratégia de nível gratuito.
2. Isso sugere que o GPT-5 será lançado em breve e que os usuários gratuitos também poderão experimentar o GPT-5.
3. A OpenAI espera criar uma série de produtos com bilhões de usuários.
4. Sam Altman acredita que 1 bilhão de usuários ativos diariamente é mais valioso do que o modelo mais avançado.
5. O posicionamento futuro da OpenAI baseia-se em três pilares:
·Construir empresas de Internet de grande escala.
·Construir uma infraestrutura para inferência.
·Faça as melhores pesquisas e os melhores modelos.
6. A ilusão tem seu valor e é uma manifestação de criatividade. O segredo é controlar a ilusão para que ela apareça quando o usuário precisar.
7. O sucesso inesperado do ChatGPT forçou a OpenAI a se transformar de um laboratório de pesquisa em uma empresa de tecnologia de consumo.
8. Sam Altman admitiu que este não era o plano original e originalmente queria focar na pesquisa de AGI.
9. AGI é um conceito vago sem definição unificada e tende a ser definido como um agente que pode completar autonomamente uma série de tarefas.
A seguir está a transcrição da entrevista, ligeiramente editada e selecionada pela APPSO:
GPT-5 será de uso gratuito
Anfitrião: Na minha perspectiva, quando você fala em atender bilhões de usuários e ser uma empresa de tecnologia de consumo, isso significa publicidade. Você não concorda?
SA: Espero que não. Eu não me oponho. Não vou ser teimoso em relação a algo se tiver um bom motivo para fazê-lo. Mas temos um ótimo modelo de negócio, que é a venda de assinaturas.
Anfitrião: Ainda há um longo caminho a percorrer antes de podermos lucrar e recuperar todo o nosso investimento. E o melhor da publicidade é que ela amplia o alcance e a profundidade do seu mercado endereçável porque você pode aumentar a receita por usuário e os anunciantes pagam por isso. Você não terá problemas de elasticidade de preço, as pessoas apenas usarão mais.
SA: No momento, estou mais interessado em descobrir como cobrar das pessoas uma boa taxa por um engenheiro de software de automação realmente bom, ou algum outro tipo de agência, em vez de ganhar um pouco de dinheiro através de um modelo baseado em anúncios.
Moderador: Eu sei, mas a maioria das pessoas não é racional. Eles não pagam por software de produtividade.
SA: Veremos.
Moderador: Eu pago pelo ChatGPT Pro e não sou a pessoa certa para discutir isso. Mas eu só-
SA: Você sente que está obtendo um bom valor com isso?
Apresentador: Claro, eu acho. Eu penso–
SA: Ótimo.
Moderador: —Especialmente Deep Research, é ótimo. No entanto, provavelmente sou mais cético quanto ao fato de as pessoas estarem dispostas a pagar ativamente por algo, mesmo que a matemática seja óbvia e mesmo que isso as torne muito mais eficientes. Além disso, vejo vocês falando sobre construir memórias. Parte do que torna o modelo de anúncio do Google tão bom é que eles não precisam conhecer muito bem o usuário porque as pessoas digitarão o que desejam encontrar na caixa de pesquisa. As pessoas inserem muitas informações no seu chatbot.
Mesmo que você exiba os anúncios “mais estúpidos”, em muitos aspectos suas capacidades de segmentação serão extraordinárias, mesmo que você não consiga acompanhar as conversões. E, a propósito, você não tem um modelo de negócios existente para se preocupar em ser diluído. Minha sensação é que isso é completamente contrário ao que todos na OpenAI imaginaram originalmente, e esse é o maior obstáculo. Mas para mim, do ponto de vista de um analista de negócios, parece bastante óbvio, e vocês já são tarde demais.
SA: Estou mais interessado em tentar outras abordagens além da publicidade tradicional. Por exemplo, muitas pessoas usam Deep Research para comércio eletrônico. Podemos criar algum tipo de novo modelo onde nunca cobraremos dinheiro para alterar a localização de um item ou algo assim, mas se você comprar um item que encontrar através da Deep Research, cobraremos uma comissão de afiliado de 2%, ou algo assim. Seria legal, não tenho nenhum problema com isso. Talvez possamos encontrar uma maneira decente de anunciá-lo, mas não sei. Eu realmente não gosto de publicidade.
Anfitrião: Isso é sempre um obstáculo. Mark Zuckerberg também não gosta muito de publicidade, mas encontra alguém para fazer isso de qualquer maneira e “não me conta os detalhes” e deixa o dinheiro aparecer magicamente.
SA: Sim. Mais uma vez, gosto do nosso modelo de negócios atual. Não vou dizer o que faremos ou não no futuro, porque não sei. Mas acho que há muitas maneiras interessantes de fazer isso que estão no topo da nossa lista atual de estratégias de monetização do que a publicidade.
Moderador: Você acha que quando o DeepSeek foi lançado e rapidamente se tornou popular e as pessoas começaram a usá-lo e a ver seus recursos de inferência, parte do motivo foi que as pessoas que usaram o ChatGPT não ficaram tão impressionadas porque usaram o modelo o1 e sabiam seu potencial.
SA: Sim.
Moderador: Mas os usuários gratuitos, ou pessoas que só o usam de vez em quando, não se sentem assim. Este é realmente um exemplo de como sua reticência pode fazer com que outros produtos pareçam mais impressionantes?
SA: Totalmente. Acho que DeepSeek – eles têm uma ótima equipe e desenvolveram um ótimo modelo. No entanto, não creio que as capacidades dos modelos sejam realmente o que os torna virais.
Esta é uma lição para nós: quando ocultamos um recurso (escondemos a “cadeia de pensamento”), temos um bom motivo para fazê-lo, mas isso significa que deixamos a oportunidade para que outros se tornem virais. Acho que é um bom alerta dessa perspectiva. Mas também me faz repensar o que oferecemos no nível gratuito, o uso do GPT-5 será gratuito, o que é legal .
Moderador: Uau, dicas de GPT-5. Bem, vou perguntar mais sobre isso mais tarde.
Moderador: Quando você pensa no seu modelo de negócio, sempre acreditei que seu modelo de negócio é muito adequado para aquelas pessoas "altamente motivadas", ou seja, aquelas que usarão ativamente o ChatGPT e estão dispostas a pagar por isso porque veem seu valor. Mas quantas pessoas estão “altamente motivadas”? Além disso, pessoas “altamente motivadas” tentarão todos os outros modelos, então você terá que permanecer em um nível bastante elevado. Em contrapartida, se tenho um modelo que funciona, ele está aí e não tenho que pagar por ele, ele continua melhorando e as pessoas ganham mais dinheiro através de mim, mas não sei porque não tenho problemas com publicidade, como a maioria dos internautas.
SA: Mais uma vez, estamos abertos para tudo o que precisa ser feito. Porém, em comparação com a publicidade tradicional, estou mais interessado no modelo de comércio eletrônico que acabamos de mencionar.
Concorrência com DeepSeek e outros
Anfitrião: Em relação ao DeepSeek, você já se perguntou por que as pessoas não torcem pelas empresas americanas? Você acha que a popularidade do DeepSeek também traz alguns sentimentos “anti-OpenAI”?
SA: Eu não. Talvez, mas certamente não senti isso. Eu acho que há duas coisas. Primeiro, eles colocaram um modelo de ponta no nível gratuito. Em segundo lugar, mostraram a “cadeia de pensamento”, que é muito atrativa.
Apresentador: As pessoas dizem: "Oh, é tão fofo. A IA está tentando me ajudar."
SA: Sim. Acho que são principalmente essas duas coisas.
Moderador: Em seu recentemente proposto "Plano de Ação de IA", a OpenAI expressou preocupação sobre o desenvolvimento da empresa com base nos modelos DeepSeek, que estão "disponíveis gratuitamente". Se isso for realmente um problema, a solução não seria disponibilizar seus modelos gratuitamente também?
SA: Sim, acho que deveríamos.
Anfitrião: Então, quando—
SA: Ainda não posso anunciar uma data de lançamento, mas direcionalmente acho que deveríamos.
Moderador: Você disse antes que um site com 1 bilhão de usuários é mais valioso que um modelo. Então, isso deve fluir para sua estratégia de lançamento e como você vê o código aberto?
SA: Fique ligado.
Anfitrião: Ok, estou ansioso por isso. sem problemas.
SA: Não vou revelar nada antecipadamente, mas fique ligado.
Anfitrião: Acho que a próxima pergunta é: esta é uma oportunidade para você retornar à sua missão original? Se você olhar para o anúncio inicial, DeepSeek e Llama…
SA: Ben, estou tentando lhe dar o máximo de dicas possível sem dizer isso abertamente. Por favor.
Moderador: (Ok, sem problemas. Justo, justo. Houve uma sensação de que isso era libertador? Certo? Você se lembra daquele anúncio do GPT-2 e das preocupações em torno da segurança e de outras possíveis questões. Parece um pouco brega neste momento. Havia uma sensação de que o segredo foi revelado? Nesse contexto, qual é o sentido de manter algum tipo de atitude acalentada em relação a esses lançamentos?
SA: Ainda acho que pode haver muitos riscos no futuro. Acho que é justo dizer que fomos muito conservadores no passado. Também acho que não há nada de errado com esse princípio de ser um pouco mais conservador quando não se conhece a situação com clareza. Penso também que, nesta fase, esta tecnologia vai proliferar em todos os campos, e quer os nossos modelos façam coisas más ou os modelos de outras pessoas façam coisas más, que diferença isso faz? Mas o que posso dizer, ainda espero que possamos ser participantes tão responsáveis quanto possível.
Anfitrião: Outro concorrente recente é Grok. Do meu ponto de vista, no último ano, tive duas experiências psicológicas com IA que considerei muito interessantes. Uma vez eu estava executando um modelo local no meu Mac. Por alguma razão, estou ciente de que ele está no meu Mac e não está rodando em nenhum outro lugar, o que é realmente uma sensação muito legal. A outra vez é com Grok, não sinto que haja alguma “polícia moral” que vai aparecer e me acusar em algum momento. Acho que é preciso admitir que o ChatGPT melhorou muito nesse aspecto. Mas será que Grok faz você pensar que, na verdade, podemos ir mais longe nisso e permitir que os usuários ajam como adultos?
SA: Na verdade, acho que fizemos um trabalho melhor. Acho que éramos muito ruins nisso antes, mas nos últimos seis a nove meses acho que melhoramos muito.
Moderador: Eu concordo. Definitivamente melhorou.
SA: Essa costumava ser uma das minhas maiores preocupações em relação ao nosso produto. Mas agora, como posso dizer, como usuário, isso não me incomoda mais, acho que fizemos um bom trabalho. Então, eu pensava muito nisso, mas nos últimos seis a nove meses não pensei mais nisso.
Tornar-se uma empresa de tecnologia de consumo foi um acidente
Moderador: Vamos falar sobre a questão das organizações sem fins lucrativos – há um ditado, você mencionou esse “mito”. Digamos que você formou a organização sem fins lucrativos por motivos altruístas, mas também para competir com o Google por talentos. Isso é tudo?
SA: Você está perguntando: por que escolheu se tornar uma organização sem fins lucrativos?
Anfitrião: Por que você escolheu se tornar uma organização sem fins lucrativos e todas as questões que surgem com isso?
SA: Porque pensávamos que éramos apenas um laboratório de pesquisa. Nunca pensamos que nos tornaríamos uma empresa. Nosso plano então era publicar um artigo de pesquisa. Nenhum produto, nenhum plano de produto, nenhuma receita, nenhum modelo de negócios e nenhum plano para nada disso. Uma coisa que sempre me ajudou na vida é tatear na escuridão até encontrar a luz. Tateamos no escuro por um longo tempo e encontramos algo que funcionou.
Anfitrião: Isso mesmo. Mas o status da organização sem fins lucrativos é agora uma espécie de pedra no pescoço da empresa? Se você pudesse fazer tudo de novo, o que faria de diferente?
SA: Claro. Se eu pudesse prever o que aconteceu depois, definitivamente teríamos uma estrutura organizacional diferente. Mas não sabíamos disso na época, e acho que o custo de estar na vanguarda da inovação é que você comete muitos erros estúpidos porque fica preso na névoa da guerra.
Anfitrião: Tenho mais algumas teorias que quero discutir com você sobre o ChatGPT e como ninguém esperava que você se tornasse uma empresa de tecnologia de consumo. Esse sempre foi o meu ponto: você é originalmente um laboratório de pesquisa, claro, vamos publicar uma API e talvez ganhar algum dinheiro. Mas você mencionou aquele período de expansão de seis meses, tem que aproveitar essa oportunidade que cai do céu. Fala-se muito no mundo da tecnologia sobre desgaste de funcionários, saída de alguns grandes nomes e assim por diante.
Parecia-me que ninguém estava aqui para ser uma empresa de produtos de consumo. Se quiserem trabalhar no Facebook, podem ir para o Facebook. Esta é outra contradição central: você tem esta oportunidade, queira ou não, ela existe. Isto significa que a situação aqui é muito diferente desde o início.
SA: Digamos que não tenho do que reclamar, certo? Consegui o melhor emprego em tecnologia. Seria muito cruel se eu começasse a reclamar que não era isso que eu queria, que isso era lamentável para mim, etc. O que eu quero é administrar um laboratório de pesquisa AGI e descobrir como construir AGI.
Eu realmente não tinha intenção de dirigir uma grande empresa de Internet para consumidores. Eu sabia pelo meu trabalho anterior (que na época também era o que eu considerava o melhor trabalho em tecnologia, então me considero muito, muito sortudo por ter tido o melhor emprego nas duas vezes) quanto esforço é necessário para administrar uma grande empresa de consumo, e como isso é difícil em alguns aspectos.
Mas também sei fazer isso porque já treinei muita gente antes e assisti muito. Quando lançamos o ChatGPT, tivemos um aumento diário no número de usuários que travaram nossos servidores. Então, à noite, o número de usuários caiu e todos disseram: “Isso acabou, é apenas uma viralidade de curto prazo”. Então, no dia seguinte, o pico subiu novamente e depois caiu novamente: “Isso acabou”. No quinto dia, eu pensei: "Oh meu Deus, eu sei o que vai acontecer. Já vi isso acontecer tantas vezes."
Apresentador: Mas você realmente viu isso acontecer muitas vezes? Porque todo o jogo gira em torno da aquisição de clientes. Para muitas startups, este é o maior desafio. Na verdade, existem muito poucas empresas que realmente resolvem os problemas de aquisição de clientes por meio do crescimento orgânico e da propagação viral. Acho que a empresa que realmente estava à frente da OpenAI nesse campo foi o Facebook, e isso foi em meados dos anos 2000. Acho que você pode estar superestimando o número de vezes que já viu isso acontecer antes.
SA: Bem, nesta escala, de facto, somos provavelmente os maiores. Acho que somos provavelmente a maior empresa fundada desde o Facebook.
Anfitrião: Empresas de tecnologia de consumo desse tamanho são, na verdade, muito raras e não acontecem com muita frequência.
SA: Sim. Mas já vi empresas como Reddit, Airbnb, Dropbox, Stripe e muitas outras alcançarem esse incrível ajuste produto-mercado e explodirem em crescimento antes. Então, talvez eu não tenha visto nesta escala. Na época, você não sabia até onde isso iria, mas eu já tinha visto esse padrão inicial antes.
Apresentador: Você disse a todos que isso iria acontecer? Ou isso é algo que você simplesmente não consegue transmitir?
SA: Eu contei para todo mundo. Reuni as pessoas da empresa e disse: "Isso vai ser uma loucura. Temos muito trabalho a fazer e tem que ser feito rapidamente. Mas esta é uma grande oportunidade que caiu do céu e vamos aproveitá-la. Aqui está o que vai acontecer…"
Moderador: Alguém te entende ou acredita em você?
SA: Lembro-me de ir para casa uma noite e colocar a cabeça entre as mãos e me sentir deprimido. Eu falei: “Meu Deus, Oli [Oliver Mulherin], isso é terrível”. Ele disse: “Não entendo, parece ótimo”. Eu disse: "Isso é muito ruim, e é muito ruim para você, você só não sabe ainda, mas o que vai acontecer a seguir…" Mas acho que ninguém realmente entende. Isso é algo especial em minha experiência anterior, e fui capaz de perceber isso desde o início, mas ninguém conseguia avaliar o quão loucas seriam aquelas primeiras semanas.
Anfitrião: O que será mais valioso daqui a cinco anos? Um site com 1 bilhão de usuários ativos diariamente, sem necessidade de aquisição de clientes ou um modelo de última geração?
SA: Acho que é um site com bilhões de usuários.
Anfitrião: Isso é verdade, afinal? Ou, porque pelo menos ao nível do GPT-4 (não sei se viram hoje, a LG acaba de lançar um novo modelo), vai ter muito, não sei, não vou comentar se é bom ou mau, mas vão ter muitos modelos de última geração no futuro.
SA: Minha analogia histórica favorita é o transistor, e AGI será como o transistor. Haverá muito AGI no futuro, ele penetrará em vários campos e ficará muito barato. É uma propriedade emergente da física e não pode ser um diferenciador por si só.
Anfitrião: Então, qual será o fator de diferenciação?
SA: Acho que a vantagem estratégica está na construção de uma empresa gigante de Internet. Acho que isso deveria incluir alguns serviços-chave diferentes. Pode haver três ou quatro produtos como ChatGPT, e você desejará comprar uma assinatura em pacote que inclua todos eles. Você deseja poder fazer login com sua IA pessoal, que cresceu conhecendo você ao longo de sua vida, e poder usá-la em outros serviços.
Acho que haverá alguns novos dispositivos incríveis no futuro que serão otimizados para a maneira como você usa o AGI. Haverá novos navegadores, haverá todo um ecossistema. Resumindo, alguém construirá um produto valioso em torno da IA. Este é um dos aspectos.
Outro aspecto é a pilha de inferência, que é como obter a inferência mais barata e mais rica. Chips, data centers, energia, haverá alguma engenharia financeira interessante para fazer, tudo isso está coberto.
E então, o terceiro aspecto é realmente fazer a melhor pesquisa e desenvolver os melhores modelos. Acho que esta é a “troika” do valor. No entanto, com exceção dos modelos mais avançados, penso que a maioria dos modelos se tornará rapidamente comoditizada.
Moderador: Então, quando Satya Nadella diz que os modelos estão sendo comoditizados e a OpenAI é uma empresa de produtos, ainda é um gesto amigável e você ainda está na mesma página, certo?
SA: Sim, não sei se isso soa como um elogio para a maioria dos ouvintes, mas acho que ele quis nos elogiar.
Anfitrião: É assim que eu entendo. Você me pediu para explicar sua estratégia. Escrevi logo após o lançamento do ChatGPT que era uma “empresa de tecnologia de consumo acidental”.
SA: Lembro que você escreveu esse artigo.
Anfitrião: Esta é a mais – como eu disse, esta é a oportunidade mais rara na indústria de tecnologia. Acho que aprendi muito com o Facebook em termos de análise estratégica porque era uma entidade muito rara e pensei: “Não, você não tem ideia de onde isso vai dar”. Mas só comecei em 2013 e perdi o começo. Faço Stratechery há 12 anos e sinto que é a primeira vez que consigo cobrir uma empresa desde o início e nesta escala.
SA: Isso não acontece com muita frequência.
Anfitrião: Na verdade, não é frequente. Mas, falando nisso, você acaba de lançar uma atualização importante da API que inclui acesso ao mesmo modelo de “uso de computação” subjacente ao Operador (um ponto de venda do GPT Pro). Você também lançou a API Responses. Acho que o mais interessante sobre a API Responses é que você disse: "Achamos que isso é muito melhor do que a API Chat Completions, mas é claro que continuaremos a mantê-la porque muitas pessoas já desenvolveram com base nela." Tornou-se um padrão da indústria e todos copiam sua API. Em que ponto esse trabalho relacionado à API, juntamente com a manutenção de versões antigas e o envio de novos recursos para novas versões, se torna uma distração e um desperdício de recursos? Afinal, você tem uma oportunidade no nível do Facebook à sua frente.
SA: Eu realmente acredito na estratégia de “conjunto de produtos” que acabei de mencionar. Acho que se executarmos extremamente bem, em cinco anos teremos uma série de (alguns) produtos com bilhões de usuários. Então tivemos a seguinte ideia: você pode usar sua conta OpenAI para fazer login em qualquer outro local que queira integrar nossa API, e pode levar seus pontos, seus modelos customizados e tudo mais para onde quiser. Acho que essa é a chave para realmente nos tornarmos uma grande plataforma.
Moderador: Mas esse é o problema que o Facebook tem. É difícil ser uma plataforma e um agregador (nos meus termos) ao mesmo tempo. Acho que o celular é uma coisa boa para o Facebook porque o força a desistir da fantasia de ser uma plataforma. Você não pode ser uma plataforma, você tem que aceitar que é uma rede de conteúdo com publicidade. Os anúncios são apenas mais conteúdo. Na verdade, isso os força a uma posição estratégica melhor.
SA: Não acho que seremos uma plataforma como um sistema operacional. Mas, eu acho, assim como o Google não é realmente uma plataforma, mas as pessoas fazem login com contas do Google, levam seu conteúdo do Google para todos os cantos da web, e isso faz parte da experiência do Google. Acho que é assim que nos tornamos uma plataforma.
Moderador: Carregar suas informações de login é carregar sua memória, sua identidade, suas preferências, todas essas coisas.
SA: Sim.
Anfitrião: Então, você está acima de todos os outros. Eles têm várias opções de login e o login do OpenAI é melhor porque inclui sua memória? Ou você precisa usar nosso método de login se quiser usar nossa API?
SA: Não, não, não. Opcional, é claro.
Moderador: Você não acha que ter uma oportunidade tão grande diante de você seria uma distração ou um desvio de recursos?
SA: Temos que fazer muitas coisas ao mesmo tempo, essa é a parte difícil. Acho que de muitas maneiras, sim, acho que um dos desafios mais assustadores da OpenAI é que precisamos ser muito bons em muitas coisas.
Apresentador: Bem, este é o “paradoxo da escolha”. Há tantas coisas que você pode fazer.
SA: Não fizemos muita coisa, dissemos “não” a quase tudo. Mas se pensarmos apenas nas partes essenciais do que pensamos que temos de fazer, penso que precisamos de fazer muito, e não creio que possamos ter sucesso fazendo apenas uma coisa.
"Ilusão" também tem significado
Apresentador: É possível que a “alucinação” seja realmente benéfica? Você postou um exemplo de modelo de escrita, o que de certa forma confirma um ponto que defendo há muito tempo, que é que todo mundo está tentando fazer com que esses modelos probabilísticos se comportem como cálculos determinísticos, quase ignorando sua mágica, que é que eles estão na verdade "inventando" o conteúdo. Na verdade, isso é bastante notável.
SA: Concordo totalmente. Se você quiser algo determinístico, você deve usar um banco de dados. A beleza aqui é que ele pode ser criativo, mesmo que às vezes o que ele cria não seja exatamente o que você queria. Mas tudo bem, você pode tentar novamente.
Moderador: Isso é um problema com o laboratório de IA? Ou isso é uma questão de expectativas do usuário? Como podemos fazer com que todos desfrutem da “ilusão”?
SA: Bem, você quer que ele tenha alucinações quando quiser e não tenha alucinações quando não quiser. Se você perguntar: “Conte-me este fato científico”, você espera que não seja uma “ilusão”. Se você disser: “Escreva-me uma história criativa”, você quer alguma “ilusão”. Acho que a verdadeira questão, ou a questão interessante, é como fazer com que o modelo só produza “ilusões” quando for benéfico para o usuário?
Apresentador: O que você acha disso: quando essas palavras-chave são reveladas, elas dizem coisas como: "Não revele isso" ou "Não diga isso" ou "Não faça X, Y, Z". Se estamos preocupados com questões de segurança e alinhamento, ensinar a IA a mentir é um problema muito sério?
SA: Sim. Lembro-me de que riram de xAI por dizer algo no prompt do sistema sobre não dizer coisas ruins sobre Elon Musk ou algo parecido. Foi constrangedor para eles, mas senti pena deles porque, bem, a modelo estava apenas tentando seguir as instruções que lhe foram dadas.
Moderador: Sim. É muito sério.
SA: Muito sério. Sim. Então, sim, foi estúpido e certamente embaraçoso, mas não creio que tenha sido um “colapso”, como todos chamam.
Moderador: Alguns céticos, inclusive eu, acreditam que certos aspectos do seu apelo à regulamentação são uma tentativa de impedir concorrentes potenciais. Quero fazer uma pergunta em duas partes. Primeiro, isso é justo? Em segundo lugar, se o Plano de Ação de IA não fizer nada além de proibir as restrições de IA em nível estadual e declarar o uso justo de materiais protegidos por direitos autorais de treinamento, isso é suficiente?
SA: Em primeiro lugar, a maior parte da regulamentação que temos pedido é apenas para os modelos mais avançados, os modelos mais avançados do mundo, e para colocar alguns padrões de testes de segurança nesses modelos. Agora, penso que esta é uma boa política, mas sinto cada vez mais que a maioria das pessoas no mundo não pensa que esta é uma boa política, e preocupo-me com a "captura regulamentar".
Portanto, obviamente, tenho as minhas próprias crenças, mas parece improvável que consigamos alcançar esta política à escala global. Acho que é um pouco assustador, mas espero que possamos tentar o nosso melhor para encontrar uma saída e talvez tudo fique bem. Afinal, poucas pessoas querem destruir o mundo.
Mas certamente não se pretende adicionar encargos regulamentares a toda a indústria tecnológica. As regulamentações que solicitamos afetariam apenas a nós, ao Google e a algumas outras empresas. Novamente, não creio que o mundo esteja indo nessa direção e vamos competir de acordo com as regras que temos. Mas sim, acho que seria muito, muito benéfico se ficasse claro que uso justo é uso justo e que os estados não tivessem todos os tipos de regulamentações complicadas e diferentes.
Moderador: Existe algo que o OpenAI possa fazer? Por exemplo, se a Intel tivesse um novo CEO e estivesse pronta para focar novamente na IA, você se comprometeria a comprar chips produzidos pela Intel? A OpenAI pode ajudar com isso?
SA: Pensei muito sobre o que podemos fazer na camada de infraestrutura e em toda a cadeia de abastecimento. Ainda não tenho uma boa ideia. Se você tiver alguma sugestão, sou todo ouvidos. Mas eu quero fazer alguma coisa.
Anfitrião: Ok, claro. A Intel precisa de um cliente. É disso que eles mais precisam, um cliente que não seja a Intel. Ter a OpenAI se tornando um grande cliente da arquitetura de Gaudi, comprometendo-se a comprar grandes quantidades de chips, irá ajudá-los. Isso os impulsionará para frente. Esta é a sua resposta.
SA: Se desenvolvermos chips com um parceiro que trabalhe com a Intel e use um processo compatível, e tivermos confiança suficiente em sua capacidade de entrega, poderemos fazer isso. Mais uma vez, eu queria fazer alguma coisa. Então, não estou me esquivando da pergunta.
Moderador: Não, também estou sendo um pouco injusto porque acabei de dizer que você precisa se concentrar no crescimento do seu negócio de consumo e cortar a API. Realmente não é justo pedir que você se concentre na manutenção da produção de chips nos Estados Unidos.
SA: Não, não, não, não acho que seja injusto. Acho que se houver algo que possamos fazer para ajudar, temos a obrigação de fazê-lo. Mas estamos tentando descobrir exatamente o que fazer.
Não existe um padrão unificado para AGI e ele deve ser capaz de realizar muitos trabalhos de forma independente
Apresentador: Dario e Kevin Weil, eu acho, ambos disseram de uma forma ou de outra que até o final deste ano, 99% da codificação será automatizada, o que é um cronograma muito rápido. Qual você acha que é a proporção agora? Quando você acha que ultrapassaremos os 50%? Ou já estamos além disso?
SA: Acho que em muitas empresas provavelmente já ultrapassa os 50%. Mas penso que o verdadeiro avanço virá dos agentes de programação autónomos, e ninguém realmente fez isso ainda.
Anfitrião: Quais são as barreiras?
SA: Ah, só precisamos de mais tempo.
Moderador: Este é um problema de produto ou de modelo?
SA: Problemas de modelo.
Moderador: Você deveria continuar recrutando engenheiros de software? Vejo que você tem muitas vagas.
SA: Minha suposição básica é que, com o passar do tempo, a quantidade de trabalho que cada engenheiro de software pode realizar aumentará significativamente. E então, em algum momento, sim, talvez precisemos de menos engenheiros de software.
Anfitrião: A propósito, acho que você deveria contratar mais engenheiros de software. Acho que isso é parte do que quero dizer, acho que vocês precisam se mover mais rápido. No entanto, você mencionou o GPT-5. Não sei onde está, estamos esperando há muito tempo.
SA: Acabamos de lançar o 4.5 há duas semanas.
Anfitrião: Eu sei, mas somos gananciosos.
SA: Não importa. Você não precisa esperar muito. A nova versão não estará disponível por muito tempo.
Moderador: O que é AGI? Você tem muitas definições. OpenAI também tem muitas definições. Qual é a sua definição atual ou mais avançada de AGI?
SA: Acho que o que você acabou de dizer é a chave, que AGI é uma fronteira confusa que abrange muitas coisas, e o termo, eu acho, foi quase completamente desvalorizado. Pelas definições de muitas pessoas, podemos ter alcançado AGI, especialmente se pudéssemos pegar numa pessoa de 2020 a 2025 e mostrar-lhe o que temos.
Anfitrião: Bem, a IA tem sido assim há muitos anos. IA sempre se refere a coisas que não podemos fazer. Assim que pudermos fazer isso, torna-se aprendizado de máquina. Quando você não percebe, isso se torna um algoritmo.
SA: Sim. Acho que, para muitas pessoas, AGI se refere a uma parcela do valor económico. Para muitas pessoas, refere-se a algo genérico. Acho que eles fazem muitas coisas bem. Para alguns, refere-se a algo que não comete erros estúpidos. Para alguns, refere-se a algo que se aprimora, etc. Simplesmente não existe um bom padrão unificado.
Anfitrião: E os agentes? O que é um agente?
SA: Algo que pode funcionar de forma autônoma e fazer grande parte do trabalho para você.
Anfitrião: Para mim, isso é AGI. Este é o nível de substituição de funcionários.
SA: Mas e se for bom apenas em certos tipos de tarefas e não em outras? Quer dizer, alguns funcionários também são assim.
Apresentador: Sim, estou pensando nisso porque é uma redefinição completa. A AGI já foi considerada onipotente, mas agora temos a ASI. ASI, superinteligência. Para mim, é uma questão de terminologia. ASI, sim, pode fazer qualquer trabalho que fizermos. Se eu conseguir uma IA que faça um trabalho específico, como programação, ou qualquer outra coisa, e o faça de forma consistente, posso dar-lhe um objetivo e ele pode atingir esse objetivo descobrindo as etapas intermediárias. Para mim, esta é uma clara mudança de paradigma em relação ao ponto onde estamos agora, e ainda precisamos de orientá-la em grande medida agora.
SA: Se tivéssemos um ótimo agente de programação autônomo, você diria: “OpenAI fez isso, eles implementaram AGI”?
Anfitrião: Sim. É assim que defino agora. Concordo, isso é quase uma diluição do que AGI costumava ser. Mas acabei de usar ASI em vez de AGI.
SA: Podemos conseguir uma pequena estrela dourada de Ben Thompson para colocar na nossa parede?
Apresentador: (rindo) Claro, aqui está. Vou te dar minha caneta de circuito.
SA: Ótimo.
Apresentador: Você estava conversando com seus colegas nesses laboratórios sobre o que estava vendo e como ninguém estava preparado, e havia todos os tipos de tweets circulando que deixavam as pessoas entusiasmadas, e você deu algumas dicas neste podcast. Muito emocionante. Mas você já fala sobre isso há muito tempo. Você olha para o mundo e, de certa forma, ele ainda parece o mesmo. O seu lançamento ficou aquém das suas expectativas ou você ficou surpreso com a capacidade da humanidade de absorver mudanças?
SA: Mais deste último. Acho que houve momentos em que fizemos algo que realmente chocou o mundo e as pessoas pensaram: “Isso… isso é loucura”. Então, duas semanas depois, as pessoas perguntam: “Onde está a próxima versão?”
Moderador: Bom, quero dizer, essa também foi sua estratégia inicial, porque o ChatGPT pegou todo mundo de surpresa. E então o ChatGPT-4 foi lançado pouco depois, e as pessoas disseram: "Oh, meu Deus. Quão rápido estamos nos movendo?"
SA: Acho que lançamos algumas coisas incríveis e acho que a capacidade das pessoas de se adaptarem e quererem mais, melhor, mais rápido e mais barato é na verdade uma grande característica do ser humano. Então, acho que entregamos demais e as pessoas estão apenas atualizando suas percepções.
Anfitrião: Diante disso, isso o torna mais otimista ou pessimista? Você vê essa divisão que eu acho que vai acontecer, entre as pessoas que têm "agência" (que é outro significado de "agência", mas veja para onde estamos indo. Precisamos inventar mais palavras. Podemos deixar o ChatGPT "uma ilusão" para nós) e aqueles que vão usar a API?
A ideia do Microsoft Copilot é que você tenha um assistente com você e há muito discurso sobre: “Ah, isso não vai substituir empregos, vai tornar as pessoas mais produtivas”. Concordo que este será o caso de algumas pessoas que o utilizam ativamente. Mas você olha para trás, digamos, para a história do PC. A primeira onda de usuários de PC eram pessoas que realmente queriam usar PCs. Muitas pessoas não querem usar PCs. Eles colocam um PC na mesa e precisam usá-lo para realizar uma tarefa específica. Realisticamente, é necessária uma mudança geracional para que as pessoas usem os PCs como padrão. AI, este é o verdadeiro fator limitante?
SA: Talvez, mas tudo bem. Como você mencionou, isso é comum a outras mudanças tecnológicas.
Anfitrião: Mas, se voltarmos ao exemplo do PC, na verdade, a primeira onda de TI foi o mainframe, que destruiu todo o back office. Porque, na verdade, a primeira onda foi a onda de substituição de empregos porque era mais fácil de implementar de cima para baixo.
SA: Minha intuição é que não será exatamente a mesma coisa desta vez. Mas acho que é sempre muito difícil prever.
Anfitrião: Qual é o seu pressentimento?
SA: Isso vai se espalhar pela economia, basicamente canibalizando as coisas gradualmente e cada vez mais rápido.
Moderador: Você costuma mencionar avanços científicos como motivo para investir em IA. Dwarkesh Patel afirmou recentemente que ainda não houve quaisquer avanços científicos. Por que não? A IA pode realmente criar ou descobrir coisas novas? Ou será que o verdadeiro problema é que estamos confiando demais em modelos que não são tão bons?
SA: Sim, acho que o modelo não é suficientemente inteligente. Eu não faço ideia. Você ouve pessoas que usam a Pesquisa Profunda dizerem: “Bem, o modelo não descobriu novas ciências por si só, mas me ajudou a descobrir novas ciências mais rapidamente”. Para mim, isso é quase tão bom.
Moderador: Você acha que a arquitetura baseada no Transformer pode realmente criar coisas novas ou está apenas exibindo conteúdo de nível médio na Internet?
SA: Sim.
Apresentador: Bem, onde estará o ponto de avanço?
SA: Quer dizer, acho que estamos no caminho certo. Acho que só temos que continuar fazendo o que estamos fazendo. Acho que estamos nesse caminho.
Apresentador: Quero dizer, este é o teste final de Deus?
SA: Como você diz isso?
Anfitrião: Os humanos são intrinsecamente criativos ou a criatividade apenas recombina o conhecimento de maneiras diferentes?
SA: Um dos meus livros favoritos é The Beginning of Infinity, de David Deutsch. Há páginas no início do livro que descrevem de forma tão brilhante que criatividade consiste em pegar algo que você já viu antes e mudá-lo um pouco. Então, se algo de bom resultar disso, outra pessoa mexerá um pouco nisso, e outra pessoa mexerá um pouco mais. Eu meio que acredito nisso. Se for esse o caso, então a IA é boa em modificar ligeiramente as coisas.
Moderador: Até que ponto você pode acreditar que esta visão se baseia em suas crenças de longa data e não em coisas que você observa? Porque penso que é uma questão muito interessante – não quero entrar numa questão metafísica muito elevada ou, como disse, quase teológica – mas parece haver uma situação em que as suposições subjacentes influenciam as suposições sobre a possibilidade da IA. E a maioria das pessoas no Vale do Silício são materialistas, ateus ou como você quiser chamá-los. Então, claro, vamos descobrir, isso é apenas uma função biológica e podemos reproduzi-la no computador. Se acontecesse que nunca criamos nada novo, mas em vez disso aprimoramos os humanos para criar coisas novas, isso mudaria o seu sistema de crenças central?
SA: Definitivamente fazia parte do meu antigo sistema de crenças central. Nada disso é novo. Mas não, presumo que ainda não encontramos a arquitetura de IA correta e, em algum momento no futuro, encontraremos.
Conselhos de carreira para jovens na era da IA
Moderador: A última pergunta é da minha filha, que se formou no ensino médio este ano. Que conselho de carreira você daria para graduados do ensino médio?
SA: A sugestão mais óbvia e concreta é tornar-se proficiente em ferramentas de IA. Assim como quando terminei o ensino médio, o conselho mais óbvio e concreto era me tornar proficiente em programação. Esta é uma sugestão para a nova versão.
O conselho mais amplo é que penso que as pessoas podem desenvolver resiliência e adaptabilidade, e a capacidade de descobrir o que os outros querem e como ser úteis aos outros. Vou praticar isso. Por exemplo, não importa o que você estude, os detalhes específicos podem não ser tão importantes.
Talvez eles nunca tenham importado. A coisa mais valiosa que aprendi na escola foi a “metahabilidade” de aprendizagem, e não qualquer coisa específica que aprendi. Portanto, não importa quais coisas específicas você queira aprender, aprenda essas habilidades gerais que parecem ser importantes à medida que o mundo passa por essa transformação.
# Bem-vindo a seguir a conta pública oficial do WeChat do aifaner: aifaner (WeChat ID: ifanr). Mais conteúdo interessante será fornecido a você o mais rápido possível.