Última entrevista de Sam Altman: a exposição retorna à história interna, respondendo ao modelo Q* pela primeira vez
Há um ano, a OpenAI lançou o ChatGPT, desencadeando a explosão cambriana da inteligência artificial.
A sensação de aceleração da evolução tecnológica está cada vez mais forte, e "testemunhar a história" tornou-se uma coisa comum. Junto com excitação, ansiedade, preocupação, reflexão… todos parecem ansiosos para virar uma nova página na história.
Após uma série de turbulências recentes, a OpenAI também anunciou oficialmente o retorno de Altman hoje, e a Microsoft, o maior investidor da empresa, também se juntará ao conselho de administração como observador sem direito a voto.
Ao mesmo tempo, Altman também aceitou uma entrevista exclusiva ao The Verge , falando sobre algumas informações privilegiadas antes do retorno, bem como o modelo Q* que foi exposto anteriormente – a tecnologia de IA que é considerada uma ameaça à humanidade .
Mas nesta entrevista, Altman recusou-se repetidamente a responder à maior questão: por que diabos ele foi demitido?
Quando o conselho da OpenAI pediu a Sam Altman que voltasse um dia depois de demiti-lo, Altman inicialmente resistiu, ficou magoado e com raiva. Ele disse aos repórteres por telefone:
Levei alguns minutos para sair dessa situação, superar a mim mesmo e minhas emoções e pensar: 'Sim, é claro que quero fazer isso'. “Obviamente, adoro esta empresa e tenho investido totalmente nela nos últimos quatro anos e meio, mas na verdade demorei muito mais tempo. Fizemos um tremendo progresso em uma missão pela qual me preocupo profundamente: inteligência artificial segura e benéfica.
A seguir está a entrevista completa do The Verge com o CEO da OpenAI, Sam Altman, e a CTO Mira Murati, ligeiramente editada por Ai Faner:
P: Sam, quero começar falando sobre o óbvio: ainda não sabemos por que você foi demitido. Por que você acha que foi demitido?
Altman: O conselho conduzirá uma revisão independente aqui. Eu saúdo isso muito. Não tenho muito a dizer agora, mas estou ansioso para aprender mais.
P: Por que você acha que o conselho disse que perdeu a confiança em você?
Altman: Essa é uma resposta melhor para eles.
P: Você acabou de dizer no X: “Está claro que houve verdadeiros mal-entendidos entre você e os membros do conselho”.
Altman: Ainda não estou pronto para falar sobre isso. Acho importante deixar esse processo de revisão acontecer. Fico feliz em falar sobre qualquer coisa voltada para o futuro. Acho que chegará um momento em que ficarei mais do que feliz em falar sobre o que aconteceu aqui, mas agora não é o momento.
P: Você pode me dizer por que não pode falar sobre isso agora?
Altman: Só quero que o processo aconteça sem intervenção.
P: Você mencionou Ilya Sutskever (cientista-chefe da OpenAI) em sua carta aos funcionários. Você pode me dizer por que ele mudou de ideia e decidiu ficar do lado dos outros?
Mira Murati: Não sabemos. Você tem que perguntar a Ilya.
P: Sam, olhando para trás, qual foi a principal motivação que o trouxe de volta?
Altman: Isso é realmente interessante. Alguns membros do conselho me ligaram no sábado de manhã e perguntaram se eu poderia falar sobre esse assunto. Minha primeira reação foi um pouco defensiva, tipo: “Oh meu Deus, estou magoado, estou com raiva, acho que isso é ruim”.
E então comecei a pensar quase imediatamente, obviamente, eu amo muito esta empresa e tenho me dedicado tanto a ela nos últimos quatro anos e meio, mas na verdade demorei muito mais. Fizemos um tremendo progresso em uma missão pela qual me preocupo profundamente: inteligência artificial segura e benéfica. Mas também são as pessoas aqui e todos os parceiros que têm grandes expectativas para nós, e Mira e a equipe de liderança e todas as pessoas aqui que fazem um trabalho incrível. Levei alguns minutos para sair dessa situação, superar a mim mesmo e minhas emoções e pensar: "Sim, é claro que quero fazer isso".
P: Então o conselho pediu para você voltar?
Altmann: Sim.
P: Você ficou hesitante no início?
Altman: Não por muito tempo. O que aconteceu comigo depois disso me fez sentir muitas coisas.
P: Está claro que os funcionários apoiam você. Quanto impacto você acha que isso tem?
Altman: Definitivamente saímos deste processo como uma equipe mais forte, mais unida, mais focada e comprometida. Acho que tínhamos muita crença e foco antes e acho que temos ainda mais agora. Então esse é o meu lado positivo em tudo isso.
Ao longo de todo o processo, não perdemos nenhum funcionário ou cliente. Eles não apenas mantiveram o produto funcionando diante de um crescimento incontrolável, mas também lançaram novos recursos. O progresso da pesquisa continua.
P: Você quer voltar ao conselho de administração?
Altman: Embora isso pareça uma proposta de relações públicas, não é minha área de foco no momento. Tenho um monte de trabalho muito difícil, importante e urgente para fazer. Quero fazer o meu trabalho, mas não é como (estar no) conselho ou não. Agora não perco tempo pensando sobre isso.
P: O que significa “melhorar a nossa estrutura de governação”? A estrutura da holding sem fins lucrativos mudará?
Altman: Seria mais apropriado que um membro do conselho respondesse, mas não agora. Honestamente, eles precisam de tempo e nós os apoiaremos para pensar sobre isso. É evidente que há algo de errado com a nossa estrutura de governação. Demorará um pouco para encontrar a melhor maneira de resolver esse problema. Eu entendo perfeitamente por que as pessoas querem uma resposta agora. Mas também acho completamente irracional esperar respostas imediatas.
P: Por que você acha que isso não é razoável? Acho que as pessoas estão vendo muita ambiguidade sobre o que está acontecendo. Parece um desentendimento, não um comportamento impróprio ou algo parecido.
Altman: Ah, só porque projetar uma estrutura de governança realmente boa, especialmente para uma tecnologia tão impactante, não é uma questão do dia. Levará tempo real para pensar, debater, obter perspectivas externas, fazer testes de resistência. Isso demora um pouco.
P: Os eventos que acabaram de acontecer mudarão a abordagem da OpenAI em relação à segurança?
Murati: Não. Isso não tem nada a ver com segurança.
P: Em relação ao relatório sobre a recente descoberta do modelo Q*, do que se trata?
Altman: Não tenho nenhum comentário específico sobre esse infeliz vazamento. Mas, na verdade, já enfatizámos antes, tal como dissemos há duas semanas, o que dissemos há um ano, e o que dissemos ainda antes – esperamos que o progresso desta tecnologia continue a ser rápido, e também esperamos que continue a trabalhar duro para torná-lo melhor e saiba como torná-lo seguro e benéfico. É por isso que costumávamos levantar todos os dias. É por isso que nos levantaremos todos os dias no futuro. Acho que temos sido muito consistentes nisso.
Sem comentar nada ou projeto específico, acreditamos que progresso é pesquisa. Sempre há uma chance de você encontrar obstáculos, mas esperamos que o progresso continue a ser significativo. Queremos nos envolver com o mundo e descobrir como tornar esta tecnologia a melhor possível.
P: Última pergunta. Tenho certeza que você ainda está pensando sobre tudo isso. Eu sei que tudo isso é novo. O que você aprendeu com todo esse incidente?
Acho que ainda não tenho uma resposta concisa e poderosa. Obviamente aprendi muito, mas ainda estou tentando entender tudo. Quero dizer, definitivamente há muito a dizer, mas acho que ainda não estou pronto… Só posso dar uma resposta longa e incoerente agora.
Altman: Bem, falaremos sobre isso mais tarde.
Depois de desligar o telefone, Altman ligou de volta alguns minutos depois:
Aprendi que a empresa poderia realmente funcionar sem mim, o que foi muito bom. Estou feliz por estar de volta, não me interpretem mal. Mas voltei sem qualquer pressão do tipo: “Ah, tenho que fazer isso, ou a empresa precisa de mim ou algo assim”.
Achei que me sentia bem porque escolhi grandes líderes ou os treinei bem. É bom que a empresa fique bem sem mim e que a equipe esteja pronta e melhorando.
# Bem-vindo a seguir a conta pública oficial do WeChat de aifaner: aifaner (WeChat ID: ifanr).Mais conteúdo interessante será fornecido a você o mais rápido possível.
