Elon Musk diz que o mundo está ficando sem dados para treinamento em IA
O CEO da Tesla/X, Elon Musk, parece acreditar que treinar modelos de IA apenas com dados produzidos pelo homem está se tornando impossível. Musk afirma que há uma falta crescente de dados do mundo real para treinar modelos de IA, incluindo seu chatbot Grok AI.
“Agora esgotamos basicamente a soma cumulativa do conhecimento humano… no treinamento em IA”, disse Musk durante uma entrevista ao vivo X conduzida pelo presidente da Stagwell, Mark Penn. “Isso aconteceu basicamente no ano passado.”
Os comentários de Musk refletem os do ex-pesquisador da OpenAI Ilya Sutskever, que previu em dezembro passado que a indústria de IA havia atingido o “pico de dados”. A solução de Musk para esta questão – dados sintéticos – também reflete a indústria em geral. Google, OpenAI, Anthropic e Meta já utilizam dados sintéticos para treinar seus modelos.
“A única maneira de complementar [dados do mundo real] é com dados sintéticos, onde a IA cria [dados de treinamento]”, disse Musk. “Com dados sintéticos… [AI] irá se avaliar e passar por esse processo de autoaprendizagem.”
Embora o uso de dados sintéticos possa oferecer economias de custos significativas para as empresas, alguns estudos sugerem que a dependência excessiva de dados sintéticos pode levar ao colapso do modelo, onde as respostas da IA se tornam menos criativas e mais tendenciosas ao longo do tempo, à medida que são treinadas repetidamente em dados gerados recursivamente. dados.
A falta de dados derivados de humanos não impediu o X de transformar seu recurso Grok AI em seu próprio aplicativo iOS na quinta-feira . O chatbot e o gerador de imagens, notáveis por sua total falta de propriedade intelectual ou proteção de conteúdo , costumavam estar disponíveis apenas para pessoas que desembolsavam US$ 8 por mês por uma conta X premium . No entanto, o novo aplicativo é gratuito para download por qualquer pessoa.