O “mentor” por trás do OpenAI Gongdou é ChatGPT
Justamente quando eu (ingenuamente, repetidas vezes) pensei que a turbulência da OpenAI estava prestes a se resolver, ela sempre mudava de uma forma que nem mesmo os roteiristas de Succession poderiam ter escrito.
Depois de mais de 90% dos funcionários da OpenAI se separarem completamente e exigirem conjuntamente a dissolução do conselho de administração e o retorno de Sam Altman, o conselho de administração não desistiu da resistência. Eles até abordaram a rival Anthropic e tentaram fundir as duas empresas.
O conselho de administração espera persuadir o cofundador e CEO da Anthropic, Dario Amodei, a assumir o cargo de CEO para completar o feito histórico de substituir quatro CEOs em quatro dias.
Dario Amodei também foi ex-executivo da OpenAI.A Anthropic, que ele fundou após deixar o emprego, se concentra na promoção de IA segura, e seu chatbot Claude é concorrente do ChatGPT.
Os analistas acreditam que se a OpenAI e a Anthropic realmente se fundirem, será o início de outro caos, porque por trás das duas startups estrelas estão posições de vários gigantes da tecnologia no campo da IA.
A Microsoft e a OpenAI se unem e a Anthropic assinou acordos multibilionários de computação em nuvem com a Amazon e o Google. Ambos os gigantes também investiram na Anthropic.
Atualmente, OpenAI está à beira da desintegração. Os concorrentes estão começando a recrutar um grande número de talentos de saída. Ao mesmo tempo, os principais clientes da OpenAI também estão considerando mudar para empresas como Anthropic, Microsoft ou Google.
À medida que continuamos a acompanhar os desenvolvimentos, também olhamos para o ponto de partida desta convulsão: os conflitos internos da OpenAI. No seu último relatório, The Atlantic Monthly desenterrou um conflito interno de ideias há muito enterrado.
O caos da OpenAI começou no dia em que o ChatGPT foi lançado
1. OpenAI não planejou originalmente lançar o GPT-3.5.No outono de 2022, a OpenAI estava originalmente se preparando para lançar o GPT-4. No entanto, havia rumores de que a Anthropic também iria lançar um chatbot, então a equipe de gestão da OpenAI anunciou em novembro que o produto seria lançado algumas semanas depois, escolhendo o GPT-3.5, que estava relativamente completo na época.
2. Ninguém esperava o sucesso do ChatGPT. O lançamento do ChatGPT foi muito discreto, tão discreto que muitos funcionários da empresa não sabiam que a OpenAI o havia lançado. Naquela época, os funcionários que sabiam disso ainda apostavam em quantos usuários ele poderia atrair e adivinhavam apenas 10.000 usuários, no máximo. Como resultado, o número de usuários ultrapassou 1 milhão cinco dias após o lançamento.
3. O ChatGPT não apenas derruba o servidor, mas também torna as ferramentas de detecção ineficazes. A equipe construiu uma ferramenta de monitoramento de tráfego que pode rastrear o comportamento do usuário, entender como os usuários usam essa ferramenta e coordenar possíveis crises e abusos. A popularidade do ChatGPT fez com que a ferramenta travasse repetidamente.
4. A equipe de segurança da OpenAI aconselhou a equipe de produto a desacelerar as atualizações do produto. Após o lançamento do ChatGPT, o número de usuários cresceu rapidamente e a equipe de segurança não conseguiu acompanhar os riscos de segurança e usos maliciosos. Posteriormente, a equipe de produto ignorou os lembretes da equipe de segurança e persistiu em buscar a vitória, lançando a versão paga do ChatGPT e a interface API aberta, uma após a outra.
5. Crise de fraude. Com a ampla aplicação do ChatGPT e GPT-4, algumas pessoas também encontraram vulnerabilidades. Alguns usuários começaram a criar novas contas em grande escala para obter o desconto de US$ 20 que cada nova conta traz. Impedir esses golpes tornou-se a principal prioridade da OpenAI na época, e uma pequena equipe de membros da equipe de segurança originalmente designada para diferentes áreas foi designada para se concentrar na solução do problema.
6. Sob pressão, alguns funcionários até desenvolvem problemas de saúde mental. A comunicação dentro da empresa era ruim e os funcionários só descobriram que estavam sendo demitidos quando perceberam que seus colegas de trabalho desapareceram no Slack.
7. "Sinta o AGI". A tecnologia está avançando rapidamente. O cientista-chefe Ilya Sutskever está se tornando cada vez mais convencido de que a AGI eventualmente será realizada, e seu comportamento está se tornando cada vez mais como uma espécie de "líder espiritual". todos estão muito próximos de alcançar o objetivo da AGI. Certa vez, Sutskever postou nas redes sociais: "Se você sente AGI, deveria se inscrever no OpenAI." Na festa de Natal de 2022 da OpenAI, Sutskever até levou os funcionários a gritar "Feel AGI! Feel AGI!"Os funcionários também criaram emojis "Feel AGI" no Slack.
8. O outro lado da crença é a preocupação de que a OpenAI não preste atenção suficiente à segurança. Em julho deste ano, Sutskever e Jan Leike lideraram o estabelecimento da equipe de "Superalinhamento" para desenvolver tecnologias de segurança de IA mais upstream e monopolizar 20% dos chips de computação existentes da empresa para se preparar para a próxima AGI nesta década. “Alinhamento” significa permitir que a IA faça apenas o que as pessoas desejam que ela faça.
9. Em um evento interno este ano, Sutskever até personalizou uma estátua de madeira para representar a “IA não alinhada” e depois queimou-a para representar a determinação da OpenAI em alinhar a IA.
10. Em Outubro deste ano, os conflitos aumentaram. Pessoas familiarizadas com o assunto disseram que Altman pretendia reduzir a influência de Sutskever na empresa, desencadeando um conflito com o conselho de administração.
11. Na conferência de desenvolvedores em 6 de novembro, Altman anunciou o lançamento de funções GPT personalizáveis. Sutskever ficou completamente irritado e foi ao conselho de administração preocupado.
12. Em 17 de novembro, Altman foi demitido pelo conselho de administração durante uma reunião online.
13. Diante de muitos rumores de que Altman retornará, Musk disse no X que ficaria muito preocupado se Altman realmente retornasse. Porque “Ilya tem um código moral muito bom e não buscará o poder. Se ele não sentisse que precisava agir, Ilya não teria um comportamento tão extremo”.
14. Em 20 de novembro, Sutskever disse aos funcionários que Altman não retornaria à OpenAI como CEO. Emmett Shear, cofundador da plataforma de streaming ao vivo da Amazon, Twitch, atuará como CEO interino da OpenAI.
Por trás do caos: o confronto filosófico de Sutskever e Altman
1. O cientista-chefe Ilya Sutskever, que lidera o desenvolvimento da tecnologia de ponta da OpenAI, estudou com o “Padrinho da IA” Geoffrey Hinton e defende o tratamento cauteloso dos riscos de segurança da IA e AGI.
2. O desempenho de Sutskever foi excelente. Nos primeiros dias de sua adesão à equipe de Hinton, Hinton deu-lhe uma tarefa muito complexa. Sutskever estava cansado dos cálculos exigidos no processo de escrita e disse a Hinton para escrever ele mesmo uma linguagem de programação para completar a tarefa mais simples. Hinton ficou um pouco irritado e avisou-o que poderia demorar um mês inteiro e não levar a nada. “Na verdade, terminei esta manhã”, confessou Sutskever.
3. Alto status na indústria. Sam Altman chamou Sutskever de um dos pesquisadores mais respeitados do mundo e acreditava que trazê-lo atrairia mais talentos de IA. Musk acredita francamente que é uma figura chave no sucesso da OpenAI.
4. Para atrair Sutskever do Google para o OpenAI, Musk teve um desentendimento com o cofundador do Google, Larry Page.
5. A visão de Sutskever sobre IA: A tecnologia é como uma força da natureza. É crucial controlar o nascimento inicial da AGI, caso contrário seguirá uma lei semelhante à “sobrevivência do mais apto” e priorizará a sua própria existência. Tal como os humanos e os animais, os humanos não odeiam os animais, mas quando os humanos quiserem desenvolver-se, colocaremos a necessidade de construir estradas acima da sobrevivência dos animais.
6. Quando o artigo histórico “Atenção é tudo que você precisa” foi publicado, Sutskever foi uma das poucas pessoas que percebeu sua importância: “É disso que estamos esperando”.
7. Sutskever defende a "gravação" de valores específicos na super IA, para que a IA tenha alguma "impressão" semelhante à "natureza" como os animais: "Eventualmente, a IA se tornará muito, muito, muito poderosa. Não seremos capazes de entenda. Eles. Eles serão muito mais espertos do que nós. Nesse momento, uma marca forte será crucial, para que eles sintam por nós o mesmo que sentimos por nossos próprios filhos.
8. A luta pela AGI é fútil. Sutskever acredita que se houver várias equipes competindo para fazer o AGI primeiro, haverá menos espaço para elas trabalharem para garantir a segurança do AGI. Em contraste, Altman se autodenomina mais um “centrista” que quer garantir tanto velocidade quanto segurança.
9. O primeiro lote de AGIs na mente de Sutskever pareciam enormes data centers com redes neurais proprietárias integradas, que consumiam extremamente energia e consumiam aproximadamente a mesma quantidade de eletricidade que dezenas de milhões de residências. Estas AGIs certamente impactarão profundamente a sociedade, mas não temos certeza de quem será beneficiado.
10. Ex-funcionários da OpenAI dizem que Sutskever tem muitos seguidores internamente, chamando-o de um líder respeitado e prático que é crucial para construir a tecnologia de ponta da OpenAI. Greg Brockman, ex-presidente da OpenAI, é bom em transformar os resultados da pesquisa de Sutskever em produtos de IA utilizáveis.
Cronologia da destituição de Sam Altman:
Quinta-feira à noite, 16 de novembro, horário local
Altman recebeu uma mensagem de Sutskever solicitando uma conversa ao meio-dia de sexta-feira. Sutskever diz a Sam que está demitido e que a notícia será divulgada em breve.
Sexta-feira, 17 de novembro, horário local
A OpenAI anunciou que o CEO Sam Altman deixará a empresa, e a Diretora de Tecnologia Mira Murati foi nomeada CEO interina, com efeito imediato.
O conselho de administração da OpenAI declarou em uma postagem no blog que "o Sr. Altman não foi sincero em suas comunicações com o conselho de administração, o que prejudicou a capacidade do conselho de administração de cumprir suas responsabilidades. O conselho de administração não tem mais confiança nele para continuar a liderar a OpenAI."
Altman postou na plataforma X que adorei meu tempo na OpenAI, foi transformador para mim pessoalmente e espero que também mude o mundo. Acima de tudo, adoro trabalhar com tantas pessoas talentosas.
O presidente e presidente do conselho da OpenAI, Greg Brockman, anunciou sua renúncia e disse estar chocado e triste com a decisão do conselho.
Três pesquisadores seniores da OpenAI renunciaram na noite de sexta-feira, horário local.
Sábado, 18 de novembro, horário local
Sam Altman disse aos investidores que planeja lançar um novo empreendimento de IA. Espera-se que Greg Brockman se junte ao empreendimento, que ainda está em desenvolvimento e a natureza exata do empreendimento não está clara neste momento.
O conselho de administração da OpenAI está discutindo um retorno ao cargo de CEO com Altman. Ele é “ambivalente” quanto ao regresso e quer grandes mudanças na governação.
Domingo, 19 de novembro, horário local
Sam Altman e Greg Brockman chegaram à sede da OpenAI em São Francisco para se reunirem com executivos.
A CEO interina da OpenAI, Mira Murati, planeja recontratar Sam Altman e Greg Brockman, enquanto os membros do conselho continuam em busca de um novo CEO.
O conselho de administração da OpenAI optou por contratar Emmett Shear, ex-CEO da plataforma de streaming de jogos ao vivo da Amazon, Twitch, como CEO, e o retorno de Altman falhou.
Ao saber que Altman não retornaria, dezenas de funcionários da OpenAI anunciaram internamente que estavam deixando a empresa.
O CEO da Microsoft, Satya Nadella, anunciou que os fundadores da OpenAI, Sam Altman e Greg Brockman, e seus colegas se juntarão à Microsoft para liderar uma nova equipe avançada de pesquisa em inteligência artificial.
20 de novembro, horário local
Mais de 710 funcionários da OpenAI pediram a renúncia do conselho de administração, caso contrário, eles podem desertar para a Microsoft coletivamente
Continua…
# Bem-vindo a seguir a conta pública oficial do WeChat de Aifaner: Aifaner (WeChat ID: ifanr).Mais conteúdo interessante será fornecido a você o mais rápido possível.
