A última palestra de 10.000 palavras de Sam Altman: O formato ideal de hardware é um companheiro de IA, e o impacto no emprego não é tão assustador

Hoje, Sam Altman compartilhou suas previsões e insights sobre o desenvolvimento da IA ​​nos próximos 5 a 10 anos em uma conversa com seu irmão Jack Altman. A conversa abordou tópicos como pesquisa em IA, robôs humanoides, superinteligência, equipamentos OpenAI, cadeia de suprimentos e respondeu à caça ilegal da Meta.

Essa conversa entre os irmãos foi descontraída, calorosa e perspicaz, e também nos permitiu ver outro lado de Sam Altman além do "modo CEO".

Pontos de discussão:

A IA não é apenas um "assistente de pesquisa científica" e uma ferramenta de eficiência, mas também pode descobrir novas ciências de forma autônoma:
O aprimoramento da capacidade de raciocínio permitiu gradualmente que a IA conduzisse o pensamento complexo em áreas profissionais, como a medicina, e os cientistas aprimoraram sua eficiência em pesquisas por meio da IA. Sam Altman acredita que, nos próximos cinco a dez anos, a IA terá mais capacidades de pesquisa científica independente e até mesmo descobrirá novas ciências.

Robôs humanoides têm desafios técnicos, mas o futuro é otimista:
Embora a IA tenha feito alguns progressos no campo da manipulação física, ainda existem dificuldades técnicas na engenharia mecânica de robôs humanoides verdadeiros. No entanto, Altman está otimista com isso. Ele acredita que, quando surgirem robôs capazes de andar livremente e realizar tarefas no mundo real, as pessoas poderão sentir um verdadeiro "impacto futuro".

Na era da superinteligência, as capacidades adaptativas humanas excederão a imaginação:
Os humanos têm a capacidade de construir sistemas superinteligentes extremamente poderosos, mas, até lá, o impacto que a tecnologia trará à sociedade pode não ser tão grande quanto se imaginava, e os humanos se adaptarão rapidamente. Ao mesmo tempo, Altman acredita que não precisamos nos preocupar muito com a ameaça ao emprego humano representada pela IA, pois os humanos se adaptarão e criarão rapidamente novas funções.

O onipresente "companheiro de IA" é o produto ideal da OpenAI
Altman descreveu o formato de produto definitivo que a OpenAI desenvolverá para os consumidores: "companheiro de IA". Comparada aos dispositivos de computação tradicionais, a IA do futuro poderá ser integrada à vida das pessoas por meio de dispositivos mais intuitivos.

Construir uma "fábrica de IA" e melhorar a cadeia de suprimentos são as chaves para o futuro:
A IA se tornará uma tecnologia central em todos os setores e poderá envolver áreas como a exploração espacial no futuro. Problemas energéticos podem ser resolvidos por meio de novas tecnologias, como a fissão nuclear, que darão suporte à IA.

Minha opinião sobre Meta:
Altman expressou respeito pela atitude competitiva da Meta no campo da IA, mas acreditava que a OpenAI tinha maior potencial de inovação e que a cultura de sua equipe se concentrava mais na inovação do que a Meta, em vez de copiar resultados existentes.

Vídeo original : https://www.youtube.com/watch?v=mZUG0pr5hBo

A seguir está a transcrição da conversa, com pequenos ajustes feitos na tradução.

Mais do que apenas um “assistente de pesquisa científica”, a IA pode realmente descobrir novas ciências

Jack Altman: Quero começar com o futuro da IA, especialmente o futuro a médio prazo. Não me interesso muito pelo curto prazo, e ninguém pode prever o longo prazo, mas o período de cinco a dez anos é o mais relevante. Quero que você preveja com ousadia algo específico.

Vamos começar com software. Atualmente, o cenário de aplicação mais eficaz é a programação, ou seja, bate-papo e programação. O que vem a seguir? Depois de "bate-papo + programação", quais novos cenários de aplicação de IA você acha que surgirão?

Sam Altman: Acho que muitos produtos novos e incríveis serão lançados, como algumas experiências sociais realmente malucas e processos de colaboração com IA semelhantes aos do Google Docs, mas muito mais eficientes. Você começará a ver coisas como "funcionários virtuais".

Mas acho que o mais impactante nos próximos cinco a dez anos é que a IA pode realmente descobrir novas ciências. Parece uma afirmação ousada, mas acho que é verdade. Se estiver correta, terá um impacto ao longo do tempo que excede em muito todo o resto.

Jack Altman: Por que você acha que a IA pode descobrir novas ciências?

Sam Altman: Acho que alcançamos um avanço na "capacidade de raciocínio" do modelo. Ainda há um longo caminho a percorrer, mas temos uma ideia aproximada de para onde ir a seguir. E, sabe, o o3 já é muito inteligente, e você ouve as pessoas dizerem: "Uau, isso é como um bom doutorado."

Jack Altman: O que exatamente você quer dizer com “avanço na capacidade de raciocínio”?

Sam Altman: Ou seja, esses modelos agora conseguem realizar o tipo de raciocínio que se esperaria de um doutor em uma área específica. De certa forma, assim como vimos a IA atingir o nível dos melhores programadores do mundo, ou obter altas pontuações nas competições de matemática mais difíceis do mundo, ou resolver problemas que apenas doutores especialistas na área conseguem resolver.

Podemos não expressar muita surpresa, o que é realmente uma loucura, mas é realmente notável. No ano passado, houve muito progresso na capacidade de raciocínio dos modelos.

Jack Altman: Você está surpreso com isso?

Sam Altman: Sim.

Jack Altman: Você pensou originalmente que era apenas a “próxima atualização de token”?

Sam Altman: Achei que levaria um tempo para chegarmos onde estamos agora, mas o progresso no ano passado foi muito mais rápido do que eu esperava.

Jack Altman: O processo de implementação dessa "capacidade de raciocínio" é como você imaginou originalmente?

Sam Altman: Como sempre aconteceu na história da OpenAI, as ideias mais idiotas costumam dar certo. Eu não deveria mais me surpreender com isso, mas ainda me surpreendo quando acontece.

Jack Altman: Então você acha que o poder do raciocínio permitirá que a ciência avance mais rápido, ou levará a descobertas completamente novas, ou ambos?

Sam Altman: Acho que são as duas coisas.

Já podemos ouvir alguns cientistas dizerem que são mais eficientes com IA. Embora ainda não estejamos em condições de a IA conduzir pesquisas científicas de forma totalmente autônoma, se um cientista humano puder ser três vezes mais eficiente usando o3, isso seria uma mudança muito significativa.

À medida que a tecnologia se desenvolve, a IA gradualmente adquirirá um certo grau de capacidades de pesquisa científica independente e até mesmo será capaz de descobrir novas leis da física.

Jack Altman: Isso está acontecendo agora em um estado assistido semelhante ao do Copilot?

Sam Altman: Sim, ainda não chegou ao ponto em que você pode simplesmente dizer ao ChatGPT "me ajude a descobrir novas físicas" e ele realmente fará isso. É mais uma função coadjuvante, como "Copiloto".

Mas ouvi alguns biólogos dizerem informalmente que, por exemplo, a IA realmente teve uma ideia muito promissora, e então a desenvolveu ainda mais, o que realmente levou a um avanço fundamental.

Jack Altman: Você acha que seria mais fácil deixar a IA ajudar você a construir um negócio de comércio eletrônico inteiro ou deixá-la concluir uma pesquisa científica difícil?

Sam Altman: Tenho pensado nisso — por exemplo, se você construir uma IA, um acelerador de partículas de US$ 100 bilhões, e deixá-la tomar decisões, analisar dados, nos dizer quais experimentos fazer, e então nós os executamos, essa é uma maneira. Outra maneira é gastar o mesmo dinheiro para construir uma infraestrutura de IA que possa interagir com sistemas econômicos reais.

Em qual direção a IA tem mais chances de alcançar resultados inovadores? Acredito que a física seja um problema mais "limpo". Se for possível obter novos dados de física de alta energia e, em seguida, fornecer capacidades experimentais à IA, acredito que este seja um problema mais claro e controlável.

Ouvi algumas pessoas dizerem que esperam que a primeira área em que a IA fará descobertas científicas por conta própria seja a astrofísica. Não tenho certeza se isso é verdade, mas o motivo é que há uma tonelada de dados e não temos doutores suficientes para analisá-los.

Talvez não seja tão difícil descobrir coisas novas, mas não posso dizer com certeza.

Jack Altman: Certo, então a ciência vai melhorar, e a programação e as capacidades de conversação vão continuar a melhorar. E quanto ao lado comercial? Você também pode ter uma IA que construa uma empresa inteira para você com um único prompt, como "Quero construir este negócio", e ela sai e faz isso — isso vai realmente acontecer?

Sam Altman: Algumas pessoas estão fazendo isso em pequena escala agora. Você ouve histórias de pessoas usando IA para fazer pesquisas de mercado, descobrir um novo produto e, em seguida, enviar um e-mail para um fabricante para fabricá-lo, vendê-lo na Amazon e veicular anúncios.

Essas pessoas realmente encontraram uma maneira de começar um negócio em escala de brinquedo com IA de uma forma bem "popular", e realmente funciona. Então, há de fato pessoas que estão "subindo" passo a passo.

Do cérebro ao corpo, o futuro dos robôs humanoides está aqui

Jack Altman: E quanto às "ações físicas" no mundo real ? Por exemplo, mover objetos físicos. Porque você explicou isso muito claramente em termos de software, e eu acredito em você na ciência, mas e quanto à operação física no mundo real?

Sam Altman: Estamos um pouco atrasados ​​nessa área, sim. Mas acho que chegaremos lá eventualmente.

Por exemplo, agora temos algumas novas tecnologias que podem ser capazes de proporcionar direção autônoma em carros comuns, o que é muito melhor do que qualquer método atual. Embora este possa não ser o "robô humanoide" que você mencionou, se nossa tecnologia de IA puder realmente dirigir sozinha, será muito impressionante.

Claro, robôs humanoides ainda são o objetivo final, e eu me importo profundamente com isso, e acredito que eventualmente chegaremos lá, mas sempre foi um problema de engenharia mecânica muito difícil.

Jack Altman: Então a dificuldade está mais nessa área?

Sam Altman: Na verdade, não. Ambas são difíceis. Mesmo tendo um cérebro perfeito, acho que ainda não temos um corpo perfeito.

A OpenAI trabalhou em um projeto de braço robótico nos primeiros dias. A dificuldade não eram as "dificuldades técnicas" que imaginávamos, mas sim o fato de o equipamento estar sempre quebrando e o simulador sempre ser um pouco impreciso.

Mas você sabe, nós vamos descobrir, e acredito que nos próximos cinco a 10 anos, teremos robôs humanoides realmente incríveis, que serão capazes de andar pelas ruas e fazer todo tipo de coisas.

Jack Altman: Sim, acho que é quando o salto tecnológico realmente começará.

Sam Altman: Eu também acho. Não só abrirá muitas novas possibilidades no mundo real, como também acho que a experiência será muito "estranha". Na verdade, estamos acostumados a muita tecnologia. Por exemplo, o que o ChatGPT pode fazer agora teria soado como um milagre cinco anos atrás, mas nos adaptamos a ele.

Mas se você andar pela rua e vir metade deles robôs em ação, você se acostumará imediatamente? Não tenho certeza, talvez com o tempo você se acostume, mas certamente será uma grande mudança.

Jack Altman: Parecia que uma nova espécie havia surgido e estava começando a nos substituir.

Sam Altman: Sim, acho que o sentimento naquela época… pode não ser exatamente o de uma "nova espécie" ou de "substituição" dos humanos, mas certamente fará as pessoas sentirem que "o futuro chegou". E agora, mesmo com uma tecnologia tão poderosa como o ChatGPT, ele ainda não dá às pessoas aquela sensação intuitiva de que "o futuro chegou".

Acredito que se conseguirmos inventar novos dispositivos de computação, isso pode trazer essa "sensação de futuro". Embora o ChatGPT e esses agentes de código de nova geração sejam realmente incríveis, eles ainda estão limitados à forma tradicional de "dispositivo de computação".

Jack Altman: Sim, eles ainda estão presos no computador.

Sam Altman: Sim, isso é interessante. A IA só consegue fazer coisas em um computador atualmente. Mas eu me pergunto: quanto do valor econômico do mundo é, de fato, trabalho cognitivo — coisas que podem ser feitas em frente a um computador? Cerca de metade.

Jack Altman: Eu ia dizer cerca de um quarto.

Sam Altman: Não tenho certeza, mas definitivamente é uma porcentagem grande.

Jack Altman: Sim, quando tivermos sistemas inteligentes que realmente tenham capacidades físicas, o risco será muito maior porque eles serão muito mais poderosos que os humanos.

Sam Altman: Não tenho certeza se é "muito mais arriscado". Por exemplo, criar armas biológicas ou paralisar a rede elétrica de um país não exige inteligência "física" e pode causar grandes danos. Portanto, dessa perspectiva, não é necessariamente mais perigoso.

Pelo contrário, existem alguns riscos "mais absurdos". Por exemplo, eu me preocuparia que um robô humanoide acidentalmente derrubasse meu filho enquanto ele andasse por aí, a menos que eu realmente confiasse nele.

Na era da superinteligência, as pessoas se adaptarão rapidamente e criarão “novos papéis”

Jack Altman: Então, se imaginarmos que estamos aqui novamente daqui a dez anos, perguntaremos: a IA atingiu nossas previsões originais? Quais são as métricas que você espera? Por exemplo, houve um ponto de inflexão claro na curva de crescimento do PIB? A expectativa de vida humana aumentou? A pobreza foi reduzida? Ou será algo completamente diferente?

Sam Altman: Todo ano — pelo menos até o ano passado — eu costumava dizer: “Acho que a IA vai longe, mas ainda temos muitos problemas difíceis para resolver”.

Mas agora, estou mais confiante do que nunca sobre o futuro da IA. Sinto que agora temos uma ideia aproximada de como construir sistemas de IA muito poderosos e capazes.

Se o resultado final não trouxer as mudanças drásticas que esperamos, eu acho que talvez tenhamos construído a superinteligência, mas ela não tornou o mundo um lugar melhor, nem teve o enorme impacto que imaginávamos – o que parece ridículo, mas pode acontecer.

Por exemplo, se eu dissesse a você em 2020: "Vamos criar algo como o ChatGPT, tão inteligente quanto um aluno de doutorado na maioria das áreas, vamos lançá-lo e uma grande parte do mundo vai usá-lo bastante". Talvez você acreditasse, talvez não.

Mas se você acredita que esse cenário está realmente acontecendo, então provavelmente também esperará: "Nesse caso, o mundo definitivamente será muito diferente". Mas agora parece que as mudanças no mundo não são tão drásticas.

Jack Altman: Isso mesmo.

Sam Altman: Então, temos uma tecnologia incrível agora.

Jack Altman: Sim, assim como o teste de Turing, todos estavam muito preocupados, mas quando chegou a hora, ninguém se importou muito. Não sei qual é o motivo disso.

Sam Altman: Sim, ou mesmo se você tiver esse sistema que está fazendo coisas incríveis por você, mas seu estilo de vida é o mesmo de dois anos atrás, e a maneira como você trabalha é praticamente a mesma.

Jack Altman: Você acha que é possível que tenhamos uma superinteligência, talvez com um QI de 400, mas nós, humanos, ainda vivamos da mesma maneira que antes?

Sam Altman: Acho que é perfeitamente possível. Por exemplo, se nos ajudar a descobrir novas ciências, a sociedade acabará se adaptando a essa mudança, mas o processo pode ser muito lento.

Jack Altman: O interessante é que se essa superinteligência se manifestar como um copiloto, então o mundo exterior ainda pode dar crédito aos cientistas daquele laboratório em vez da entidade inteligente de “QI 400” por trás dele.

Sam Altman: Acho que isso é provável de acontecer. Não importa qual seja a situação, o instinto humano é se importar mais com a "pessoa" em si.

Quando contamos histórias, precisamos da participação de "pessoas". O que queremos dizer é "esta pessoa fez algo", "tomou uma determinada decisão", "cometeu um determinado erro" ou "vivenciou algo" — nascemos com essa necessidade narrativa.

Jack Altman: Essa é uma das razões pelas quais fiquei surpreso. Eu teria pensado que, se tivéssemos um robô humanoide com aparência e movimento realistas, poderíamos começar a projetar essas emoções "humanas" nele.

Sam Altman: Talvez você esteja certo, e nós descobriremos. Talvez eu esteja errado. Também acredito que, à medida que esses robôs se tornarem cada vez mais "corporificados", nossa relação com eles se tornará mais próxima do que é agora.

Mas acho que instintivamente nos preocupamos muito com nossos semelhantes, e essa tendência pode estar profundamente enraizada em nossos instintos biológicos. Se você sabe que é apenas um robô, por mais humano que seja em outros aspectos, talvez não se "importe" realmente com ele. Claro, isso é apenas uma especulação minha.

Jack Altman: O raciocínio faz parte da inteligência, e parece haver um avanço agora. Existem outros tópicos semelhantes sobre "habilidades-chave", como "autonomia" ou "orientação para objetivos"? Esta é uma das direções de pesquisa?

Sam Altman: Acho que você está falando da capacidade de um sistema de se manter fiel a uma meta por um longo tempo e concluir muitas etapas complexas no processo. Se é isso que você quer dizer, então acho que é uma direção importante.

Jack Altman: Sim, é exatamente isso que eu quis dizer.

Sam Altman: Sim, essa é de fato uma das direções que estamos analisando atualmente.

Jack Altman: Então, o que você acha do futuro do desenvolvimento tecnológico? Quais aspectos você considera tendências irreversíveis? Quais aspectos você ainda não tem certeza sobre como se desenvolverão?

Sam Altman: Acho que definitivamente construiremos modelos muito inteligentes e poderosos que podem descobrir novas ideias importantes e automatizar muito trabalho, mas, ao mesmo tempo, não tenho ideia de como seria a sociedade se fizéssemos isso.

Estou mais interessado na questão das capacidades dos modelos, mas agora acredito que mais pessoas deveriam começar a discutir: como podemos garantir que a sociedade possa realmente se beneficiar disso? Essas perguntas estão se tornando cada vez mais difíceis de responder e cada vez mais vagas.

Ou seja, parece-me loucura que possamos realmente resolver o problema da superinteligência, mas a sociedade ainda possa ser uma bagunça? Isso me deixa um pouco inquieto.

Jack Altman: É, às vezes não consigo entender por que as pessoas não reagem a essas alegações. Será que é porque estão apenas "acreditando pela metade"? Talvez esse seja um dos motivos.

Mas concordo com você. A história de muitas tecnologias é assim: quando são propostas pela primeira vez, as pessoas não acreditam, mas quando são realmente implementadas, as pessoas se acostumam rapidamente. Então, não sei dizer exatamente o que tudo isso significa.

Sam Altman: Tenho a sensação de que fomos muito precisos em nossas previsões sobre tecnologia. Mas, estranhamente, quando essas previsões se concretizaram, a sociedade não mudou tanto quanto eu esperava. Mas, no fim das contas, isso não é necessariamente algo ruim.

Jack Altman: Um dos impactos mais óbvios no curto prazo é provavelmente o emprego. Nem precisamos acreditar em um futuro maluco; profissões como suporte ao cliente já estão passando por mudanças significativas.

Sam Altman: Sim, minha opinião é: muitos empregos vão desaparecer e muitos empregos vão mudar drasticamente.

Mas os humanos sempre foram muito bons em encontrar coisas novas para fazer por si mesmos — seja ganhando a vida, competindo por status social ou agregando valor aos outros. Não acredito que essa capacidade de criar "novos papéis" jamais se esgote.

Claro que, da perspectiva de hoje, esses personagens podem se tornar cada vez mais "ridículos" no futuro.

Por exemplo, não muito tempo atrás, ser um podcaster não era realmente um "trabalho de verdade", mas você encontrava uma maneira de monetizar isso, fazia um ótimo trabalho e todos ficavam felizes por você — e você também ficava feliz.

Mas se um "agricultor que vive da agricultura" olhasse para tudo isso, poderia pensar: Que tipo de trabalho é esse? Não é apenas um jogo para se entreter?

Jack Altman: Acho que eles podem assinar o podcast.

Sam Altman: Aposto que eles vão assinar.

Jack Altman: Eles vão adorar. Mas acho que será um grande problema a curto prazo. A longo prazo, não sei.

Uma coisa que me deixa curioso é: antigamente, as pessoas viviam da agricultura, e muito do que fazemos hoje não fazia sentido na época. Agora que a sociedade mudou tanto, será diferente desta vez? Se os recursos forem realmente abundantes o suficiente, chegará um ponto crítico em que as pessoas deixarão de criar novos empregos?

Sam Altman: Acho que a perspectiva relativa é importante aqui. Na nossa opinião, as pessoas no futuro poderão de fato desfrutar de muito tempo de lazer.

Jack Altman: Na verdade, já estamos fazendo muito "relaxamento" agora.

Sam Altman: Olha você usando aquele lindo suéter de cashmere de dois mil dólares.

Jack Altman: É só um suéter.

Sam Altman: Haha, então acho que a perspectiva da relatividade é muito importante. No momento, nossos trabalhos parecem muito importantes, estressantes e gratificantes. Mas talvez no futuro estejamos todos apenas criando entretenimento melhor uns para os outros. Talvez seja isso que estejamos fazendo até certo ponto agora.

Um “companheiro de IA” que se integra à vida pode ser o produto ideal da OpenAI

Jack Altman: Vamos falar sobre a OpenAI. Atualmente, a OpenAI já tem um negócio voltado para o consumidor e, obviamente, também possui um modelo B2B para empresas, além de alguns projetos de hardware em cooperação com Jony Ive, e há muitas direções potenciais que parecem estar gradualmente tomando forma.

Você pode falar sobre como esse “sistema completo” poderia ser, ou pelo menos como ele poderia ser em algum momento?

Sam Altman: Acredito que os consumidores, em última análise, desejarão que ofereçamos o que é, na falta de um termo melhor, um “companheiro de IA”.

Ele existe no "espaço virtual" e os auxilia de diversas maneiras por meio de diversas interfaces e produtos. Ele entenderá você gradualmente, seus objetivos, o que você deseja alcançar e suas diversas informações.

Às vezes, você interagirá com ele digitando ChatGPT, às vezes poderá usar uma versão mais voltada para entretenimento, às vezes o utilizará em outros serviços integrados à nossa plataforma e, às vezes, o acessará por meio de nossos novos dispositivos.

Não importa a forma, essa "existência" ajudará você a realizar o que deseja: às vezes, ela lhe enviará conteúdo ativamente, às vezes, você fará perguntas ativamente e, às vezes, ela apenas observará e aprenderá silenciosamente para fazer melhor no futuro.

No final das contas, ele traz a sensação de: "Este é meu…" Ainda não temos uma palavra totalmente precisa para descrevê-lo, "companheiro de IA" é apenas o termo mais próximo no momento.

Jack Altman: Você acha que o formato da computação que estamos usando agora é, na verdade, o formato errado?

Sam Altman: A palavra "errado" pode ser um pouco absoluta demais, mas acho que a forma atual não é a solução ideal .

Na verdade, da perspectiva da mudança de forma, houve apenas duas mudanças verdadeiramente importantes na história do desenvolvimento de computadores. É claro que houve algumas mudanças nos primeiros dias, mas você e eu não prestamos atenção a elas naquela época.

Na era que podemos lembrar, houve duas grandes mudanças: uma foram os computadores como os que usamos agora – teclado, mouse, monitor, muito poderosos e amplamente utilizados; a outra foram os dispositivos de tela sensível ao toque, o tipo de celular e tablet que carregamos conosco.

Nenhuma dessas duas formas tinha IA quando surgiu, então era possível construir a experiência do usuário apenas com base na tecnologia da época e em lógicas de interação diferentes. Agora temos essa nova tecnologia, que pode estar mais próxima do dispositivo computacional ideal da ficção científica.

Jack Altman: Ou seja, o mesmo agente pode ser usado de forma completamente diferente e em uma forma completamente nova.

Sam Altman: Exatamente, e o formato do dispositivo é muito importante.

Jack Altman: Como se pudesse estar sempre com você.

Sam Altman: Sim, essa é uma das razões pelas quais é importante. Se este dispositivo consegue te seguir por aí, tem todos esses sensores, realmente entende o que está acontecendo ao seu redor e consegue monitorar todas essas informações, e você consegue facilmente dizer a ele para fazer coisas complexas com um simples comando, então você pode imaginar um formato completamente diferente para o dispositivo.

Jack Altman: Quais são os outros componentes em que você está pensando agora? Por exemplo, estamos vendo consumidores usando recursos de chat, startups usando APIs com frequência e os projetos de dispositivos em que você está trabalhando. Além disso, quais são os "pilares principais" em que você está pensando?

Sam Altman: Acho que a coisa mais importante que o mundo ainda não percebeu é a importância da IA ​​como uma "plataforma" — não é apenas algo com o qual você se conecta, mas também pode ser integrado a outros sistemas em qualquer lugar.

Por exemplo, quando você está no carro ou usando outros sites ou serviços, tudo pode ser perfeito. Essa experiência de "consistência contínua" se tornará muito importante.

Além disso, temos a oportunidade de criar coisas novas, como novas ferramentas de produtividade e novas formas de entretenimento social.

Mas acredito que a ubiquidade da "ubiquidade" será uma das principais características desta plataforma.

A OpenAI pode entrar no espaço? Construir uma cadeia de suprimentos perfeita para uma "fábrica de IA" é a chave

Jack Altman: Considerando o enorme impacto da tecnologia inteligente em vários campos, e o fato de que a própria inteligência também contém muitos submódulos, existem muitas "camadas acima da pilha". Você mencionou a questão da energia antes, e obviamente também está muito envolvido no campo da energia. Na verdade, existem muitas camadas, da inteligência à energia, incluindo hardware e assim por diante.

Então, qual a importância que você acha que toda essa "cadeia tecnológica" tem para a OpenAI e até mesmo para o país inteiro? Ela é crucial?

Sam Altman: Acho que os países deveriam começar a pensar sobre essa questão, ou melhor, o mundo ou os países deveriam pensar sobre esse sistema em todo o processo, desde o "eletrônico" até a consulta do ChatGPT.

Há muitas ligações entre elas, e agora começo a chamar isso de "fábrica de IA ". Acho que podemos chamá-la de "metafábrica" ​​porque, em teoria, ela pode se replicar.

Seja qual for o nome, o fundamental é que nós, o mundo inteiro, precisamos construir uma cadeia de suprimentos completa.

Jack Altman: Então é necessário que a OpenAI esteja pessoalmente envolvida em toda a cadeia?

Sam Altman: Acredito que a integração vertical seja benéfica em alguns aspectos , mas não precisamos necessariamente fazer tudo sozinhos. Se tivermos certeza de que tudo acontecerá em uma escala suficientemente grande, não há necessidade de fazer tudo. Assim, em muitos aspectos, podemos promover um progresso significativo por meio da cooperação.

Jack Altman: Isso significa que não há risco de “perdermos um elo crítico”.

Sam Altman: Sim, exatamente.

Jack Altman: Em termos de energia, vamos acabar consumindo uma quantidade enorme de energia? Essa é a direção final?

Sam Altman: Espero que sim. Historicamente, um dos correlatos mais fortes da melhoria da qualidade de vida tem sido a crescente abundância de energia. Não tenho motivos para acreditar que essa tendência vá parar.

Jack Altman: Você se preocupa com as mudanças climáticas? Ou acha que essas questões serão resolvidas mais cedo ou mais tarde?

Sam Altman: Essa é a menor das nossas preocupações. A fissão vai acontecer e novas tecnologias de fissão surgirão.

Jack Altman: Então você está menos confiante sobre a fusão ou está mais confiante?

Sam Altman: Eu nunca digo "100% de certeza", mas posso dizer que estou confiante, muito confiante.

Jack Altman: E será a fonte da maior parte da energia no futuro?

Sam Altman: Acho que sim. Mas a próxima geração de tecnologia de fissão também é realmente incrível. Uma empresa que conheço se chama Oklo, e eles estão fazendo um ótimo trabalho, e há outras empresas fazendo um ótimo trabalho, e isso é um grande avanço.

Os sistemas de energia solar e armazenamento de energia parecem bons, mas eu realmente espero que o consumo de energia da humanidade no futuro exceda em muito a energia produzida atualmente na Terra. Mesmo se migrarmos completamente para a energia de fusão, uma vez que o consumo de energia da Terra seja amplificado em dez ou cem vezes, ela acabará aquecendo demais a Terra devido ao calor residual. Mas a boa notícia é que temos todo o sistema solar só para nós.

Jack Altman: Você não acha que o que estamos falando na verdade significa que o espaço não é apenas muito importante, mas também que nossa capacidade de ir ao espaço está aumentando?

Sam Altman: No geral, sim. Iremos para o espaço? Espero que sim. Seria uma pena se não o fizéssemos.

Jack Altman: Interessante, devo abrir uma empresa de foguetes? Eu já disse que acho que você deveria começar um projeto de startup, e há muitas direções que você pode tentar.

Sam Altman:

Eu ainda gosto de me concentrar em uma coisa e estou bem ocupado agora com uma família para cuidar.

Resposta à caça furtiva da Meta: “A Meta não é uma empresa boa em inovação”

Jack Altman: Posso te perguntar sobre a Meta? Só sobre a dinâmica deles e o seu relacionamento com eles?

Sam Altman: Claro. Ouvi dizer que a Meta nos vê como seu maior concorrente. Acho que é racional que eles continuem trabalhando nisso, mesmo que o progresso atual em IA possa não ser tão bom quanto esperavam.

Respeito a atitude agressiva deles e sua disposição de tentar novas abordagens e, como é racional, também espero que tentem novamente se não funcionar desta vez.

Lembro-me de ouvir Zuck dizer que, quando o Facebook estava apenas começando, era racional para o Google desenvolver produtos sociais, mesmo que todos no Facebook soubessem que não daria certo. Tenho um sentimento parecido agora.

Recentemente, eles começaram a fazer ofertas muito altas para alguns membros da nossa equipe, como bônus de assinatura de US$ 100 milhões e salários anuais ainda maiores, o que é uma loucura.

Mas estou muito feliz que até agora nossos melhores profissionais não tenham aceitado as ofertas. Acho que, quando as pessoas compararem os dois caminhos, acharão que a OpenAI tem uma chance muito maior de alcançar a superinteligência e provavelmente será uma empresa mais valiosa a longo prazo.

Acho que a estratégia de "oferecer uma remuneração garantida e adiantada" como forma de convencer as pessoas a se juntarem a nós — na verdade, elas se concentram nisso em vez do trabalho e da missão em si, o que realmente me surpreende. Não acho que essa forma possa construir uma boa cultura.

Quero que sejamos o melhor lugar do mundo para fazer esse tipo de pesquisa e acho que realmente construímos uma cultura muito especial para isso.

Nossa configuração atual é que, se tivermos sucesso — e todos em nossa equipe de pesquisa acreditam que temos uma boa chance de sucesso — todos serão recompensados ​​financeiramente.

E acredito que nosso mecanismo de incentivo atual é consistente com a "missão em primeiro lugar". Os retornos econômicos e tudo o mais seguem naturalmente a missão. Tal mecanismo é saudável.

Há muitas coisas que admiro na Meta, mas não acho que seja uma empresa boa em inovação. Em contraste, acho que o que torna a OpenAI especial é que construímos com sucesso uma cultura com a inovação como foco.

Eles podem ser bons em “inovação repetível”, mas acho que entendemos muitas coisas que eles ainda não dominam, como o que é preciso para alcançar verdadeiros avanços tecnológicos.

Mas, para ser sincero, essa experiência foi uma espécie de "esclarecimento" para a nossa equipe — nos fez enxergar a direção com clareza. Desejamos a eles boa sorte.

Jack Altman: Sim, acho que isso também toca em uma questão central: você acha que as conquistas da IA ​​até agora são boas o suficiente para que outros tenham sucesso simplesmente "copiando-as"? Ou a verdadeira inovação ainda está por vir?

Sam Altman: Não acho que "copiar" seja suficiente.

Vejo muitas pessoas — incluindo a Meta — dizendo: "Vamos copiar o OpenAI". Essa é realmente a mentalidade.

Se você observar os produtos de chat de muitas outras empresas atualmente, verá que eles são quase idênticos ao ChatGPT, e até copiam os erros de interface que cometemos no início, o que é incrível. E o objetivo da pesquisa deles é simplesmente alcançar o nosso nível atual.

Esta é uma lição que aprendi durante meu tempo na YC: essa estratégia basicamente nunca funciona. Você está apenas perseguindo as conquistas passadas dos seus concorrentes, mas não estabeleceu uma cultura de "inovação contínua". E uma vez que você cai nesse estado, é muito mais difícil sair dele do que as pessoas pensam.

Jack Altman: Como vocês conseguem fazer as duas coisas? Ou seja, ser uma empresa altamente comercial e, ao mesmo tempo, muito focada em pesquisa? Não há muitos precedentes de sucesso para esse modelo. Eu entendo como vocês fizeram isso antes da comercialização, mas agora vocês têm tanto a parte comercial quanto a de pesquisa, e parece estar funcionando bem.

Sam Altman: Ainda somos relativamente novos em termos de produto e precisamos continuar trabalhando duro para realmente merecer a avaliação de "funcionando bem".

De fato, estamos progredindo e melhorando, mas se você observar a história da maioria das empresas de tecnologia, elas geralmente começam como uma empresa bem administrada e voltada para produtos, e depois "adicionam" um departamento de pesquisa mal administrado.

Somos exatamente o oposto, o único exemplo que conheço onde o inverso é verdadeiro: começamos como uma organização de pesquisa muito boa, depois nos "apegamos" a uma divisão de produtos que inicialmente não funcionou muito bem, e agora está se tornando cada vez mais madura.

Acredito que eventualmente nos tornaremos uma grande empresa de produtos e estou muito orgulhoso dos esforços da equipe nesse sentido, mas veja, 2,5 anos atrás éramos apenas um laboratório de pesquisa.

Jack Altman: Não acredito que só se passaram dois anos e meio.

Sam Altman: Sim, foi muito difícil construir essa grande empresa inteira em dois anos e meio. O que todos fizeram é simplesmente incrível. O ChatGPT foi lançado em 30 de novembro de 2023.

Jack Altman: É verdade. E, obviamente, é muito mais fácil formar um grupo de pessoas que possam administrar uma empresa do que encontrar um grupo de pessoas que possam fazer pesquisas de ponta em IA.

Sam Altman: Mas ainda é difícil. A maioria das empresas leva muito mais de 2,5 anos para desenvolver um produto desse porte.

Jack Altman: Por que você acha que a Meta vê você como um concorrente tão forte? Eu entendo que eles podem achar que a IA é a chave para todo o futuro, mas isso é suficiente?

Sam Altman: Provavelmente já chega de explicação. Alguém que trabalhava na Meta me disse uma vez: "Lá fora, as pessoas veem o ChatGPT como um substituto do Google, mas dentro da Meta, as pessoas veem o ChatGPT como um substituto do Facebook."

Jack Altman: Porque as pessoas agora passam muito tempo falando com ele.

Sam Altman: Sim, eles conversam com o ChatGPT da mesma forma que fariam em outro lugar, e preferem assim.

Jack Altman: Na verdade, isso é uma forma de atrair "recursos de atenção".

Sam Altman: Não se trata simplesmente de uma questão de "competição de tempo".

Claro que há uma competição por tempo, mas o mais importante é que as pessoas se sentem pior consigo mesmas quando estão navegando on-line. Embora isso possa parecer um pouco prazeroso no momento, a longo prazo, faz com que você se sinta cada vez pior, especialmente cada vez menos satisfeito consigo mesmo.

Uma das coisas de que nos orgulhamos particularmente é que , quando as pessoas falam sobre o ChatGPT, elas dizem: "Me faz sentir melhor comigo mesmo", "está me ajudando a alcançar meus objetivos, está me ajudando de verdade". Este é provavelmente um dos comentários mais calorosos e positivos que já ouvi sobre a OpenAI: alguém disse: "Esta é a única empresa de tecnologia que já usei que não me faz sentir como se estivesse 'contra mim'".

O Google mostra alguns resultados de pesquisa terríveis e força anúncios neles (embora eu ame o Google e essas empresas, não estou dizendo que eles estão necessariamente errados); o Meta tenta "invadir meu cérebro" e me fazer continuar rolando a tela; a Apple faz um telefone que eu gosto, mas ele continua enviando notificações e me distraindo, e eu não consigo parar.

O ChatGPT me dá a sensação de que ele só quer me ajudar a realizar o que eu quero. Essa sensação é muito boa.

Jack Altman: É possível criar um "produto social" que seja interativo e retenha essa energia e experiência positiva?

Sam Altman: Uma versão sobre a qual estou curioso — embora eu ainda não tenha certeza do que isso significa — é um "feed" que está vazio por padrão e não publica nada ativamente, mas você pode ativá-lo , como "Quero ficar em forma recentemente, você pode publicar algum conteúdo que possa me ajudar com isso?" ou "Quero saber mais sobre eventos atuais, você pode me dar alguma informação neutra e não inflamatória?"

Obviamente, tal sistema não será tão viciante e demorado quanto as recomendações algorítmicas atuais, mas acho que seria uma direção muito legal — uma IA verdadeiramente "alinhada" que ajuda você a alcançar a experiência social que realmente deseja a longo prazo.

Sinto que acordo todas as manhãs como uma pessoa recarregada que sabe o que quer, tem boas intenções e está comprometida com o dia. Mas, à medida que o dia avança, o ritmo da vida começa a ficar alucinante. Às 22h, posso estar pensando: "Eu não ia beber, mas vou tomar um uísque." ou "Não quero dar uma olhada no TikTok, mas deve ficar bom por dois minutos." Concordo que não devo me esforçar demais. Mas se eu conseguir manter "a minha versão matinal" e se a tecnologia puder me ajudar a alcançar as coisas que realmente quero fazer, acho que vou me sair bem.

Sam Altman: OpenAI não é apenas um "trabalho importante" para mim, mas também "um quebra-cabeça interessante"

Jack Altman: Morei com você por um tempo, 10 anos atrás. Você ainda comandava o YC na época. Eu sentia que você tinha muita autonomia, podia fazer o que quisesse e não estava preso a nenhuma regra. Mas acho que desde então, especialmente nos últimos anos, parece que você realmente não tem regras.

Você está fazendo Stargate, trabalhando com Jony Ive… são coisas muito ousadas. Estou curioso, houve alguma mudança na sua forma de pensar? Há algo que você possa apontar que o levou a trabalhar da maneira que faz agora?

Sam Altman: Acho que o que nossas avós costumavam dizer é verdade: "A melhor coisa de envelhecer é que você se importa cada vez menos com o que os outros pensam de você". Eu realmente me sinto assim agora. Já passei por muitos altos e baixos, mas é verdade que envelhecer te liberta e faz você se importar menos com o que os outros pensam. É libertador.

Jack Altman: Ainda há coisas em que você hesita? Ou você acha que tem um nível maior de "ação" que pode ser posto em prática? Há alguma ideia que te faria pensar: "Eu realmente quero fazer isso, mas por algum motivo deixei de lado por enquanto"?

Sam Altman: Este é o segundo ponto que eu queria abordar: como a OpenAI tem cada vez mais recursos e potencial, podemos de fato fazer cada vez mais coisas. É claro que ainda há muitas coisas que eu quero fazer, mas não posso fazer agora, como construir uma "esfera de Dyson" no sistema solar e usar a energia de todo o Sol para construir um centro de dados global supergigante.

Obviamente, isso não pode ser feito agora e pode levar décadas. Mas, no geral, temos a capacidade de fazer coisas cada vez mais ambiciosas.

Jack Altman: Então, quando você se depara com tantas opções, como decide? Este é, na verdade, o "problema da sobrecarga de escolhas". Agora você pode construir foguetes, redes sociais, brincar de robôs… você pode fazer o que quiser. Então, como você faz escolhas entre tantas opções?

Sam Altman: Honestamente, não posso enfatizar isso o suficiente: meu tempo está completamente esgotado e não tenho energia para fazer mais nada.

E eu não tinha intenção de comandar nem uma empresa, muito menos um monte delas. Eu só queria ser um investidor.

Jack Altman: Você diria que, no geral, gosta muito do seu trabalho atual, mesmo que ele tenha superado em muito suas expectativas iniciais?

Sam Altman: Sinto-me muito grato e muito sortudo. Não tenho dúvidas de que sentirei falta dessa época quando me aposentar e direi: "Ah, isso é tão chato".

Jack Altman: E foi uma experiência muito legal e importante, certo?

Sam Altman: Sim, é muito gratificante. Sinto que tenho muita sorte de fazer isso. Eu realmente gosto disso, e gosto disso na maior parte do tempo.

Mas, honestamente, este período tem sido muito, muito intenso e um pouco avassalador. Passei por mais altos e baixos do que imaginava.

Jack Altman: Este não era o caminho que você imaginou quando começou. A maioria das pessoas abre empresas de software com a expectativa de que elas se tornariam empresas de software. Mas acho que você não esperava que fosse assim.

Sam Altman: Esse deveria ser meu "emprego pós-aposentadoria", apenas administrar um pequeno laboratório de pesquisa, só isso.

Jack Altman: E em muitos universos paralelos, isso nem aconteceria, certo?

Sam Altman: Sim, é isso mesmo.

Jack Altman: Independentemente de você gostar ou de quanto tempo você gasta nele, quando você vivencia esse trabalho, você sente que ele é "pesado e importante" ou como um quebra-cabeça interessante e divertido?

Sam Altman: Sinto as duas coisas ao mesmo tempo.

Da perspectiva do impacto social, ou do seu impacto potencial, este é provavelmente o trabalho mais importante e influente que já fiz na minha vida.

Não quero parecer muito egocêntrica, mas talvez este trabalho seja histórico de alguma forma. Posso perceber isso quando tiver tempo para me acalmar e refletir. Mas, no trabalho diário, o foco é lidar mais com algumas "coisas triviais", e eu realmente gosto dessas trivialidades. Gosto das pessoas com quem trabalho, e fazer essas coisas também é divertido.

Claro, algumas partes foram estressantes e até dolorosas, mas no geral parecia mais um "quebra-cabeça interessante" do que apenas um "trabalho importante".

#Bem-vindo a seguir a conta pública oficial do iFanr no WeChat: iFanr (ID do WeChat: ifanr), onde mais conteúdo interessante será apresentado a você o mais breve possível.

iFanr | Link original · Ver comentários · Sina Weibo