O obstáculo de integrar um modelo complexo com 60 bilhões de parâmetros em um telefone celular foi finalmente superado por uma empresa chinesa de IA.
Um modelo grande com 8B parâmetros normalmente requer cerca de 16GB de memória de vídeo. Quanto mais parâmetros, mais memória
Leia tudo