Aprendizado analógico profundo: hardware mais eficaz com novo eletrólito

Muitos grandes modelos de aprendizado de máquina dependem de quantidades crescentes de poder de processamento para alcançar seus resultados. Mas isso acarreta enormes custos de energia e produz grandes quantidades de calor. Uma solução proposta é o aprendizado profundo analógico , que funciona como um cérebro usando dispositivos eletrônicos semelhantes a neurônios .

No entanto, até agora, eles não foram rápidos, pequenos ou eficientes o suficiente para oferecer vantagens sobre o aprendizado de máquina digital. Após um conceito inicial , Murat Onen do MIT e colegas criaram um resistor em nanoescala que transmite prótons de um terminal para outro . Tudo melhorando o anterior em termos de potência e eficiência graças ao uso de um novo eletrólito.

Aprendizado analógico profundo, desafios e recursos

Existem grandes diferenças entre o cérebro humano e os modelos de aprendizagem automática que pretendem reproduzir o seu funcionamento. Apesar da vontade de imitá-lo, nosso oragão pesa pouco mais de um quilo e consome a mesma quantidade de energia que uma lâmpada . Além disso, o tempo necessário para realizar um novo negócio é curto.

Ao contrário, leva semanas para treinar redes neurais, megawatts-hora de eletricidade e racks de transformadores especializados com técnicas de IA. Tudo isso está despertando um interesse crescente no esforço de redesenhar o hardware subjacente no qual a IA é executada. De fato, os pesquisadores apontaram para uma solução analógica, que deu origem a componentes chamados: resistores de prótons programáveis . Os pesquisadores esperam que esses processadores “neuromórficos” possam ser muito mais adequados para executar IA do que os chips clássicos de hoje.

A abordagem analógica busca projetar componentes capazes de explorar sua física interna para processar informações. Isso é muito mais eficiente e direto do que realizar operações lógicas complexas como os chips convencionais. No cérebro humano, a aprendizagem ocorre graças à intensificação ou enfraquecimento das conexões entre os neurônios, as sinapses. As redes neurais profundas imitam essa estratégia, onde os pesos (valor numérico de uma conexão) são programados por meio de algoritmos de treinamento .

No caso do processador analógico do MIT, é o aumento e diminuição da condutância elétrica dos resistores de prótons que permite as operações de aprendizado de máquina . Medidos em nanômetros (bilionésimos de metro), os resistores de prótons estão dispostos em uma matriz, como um tabuleiro de xadrez. E é justamente o movimento dos prótons que controla a condutância elétrica; aumenta à medida que aumentam no canal do resistor e diminui vice-versa.

O material por trás dos componentes

Para modular a condutância, os pesquisadores fizeram uso de um eletrólito (semelhante ao de uma bateria) que “bloqueia” os elétrons favorecendo a passagem dos prótons . Pesquisado por muito tempo entre diferentes materiais, Onen concentrou sua atenção no vidro fosfosilicato (PSG).

Basicamente é o dióxido de silício, o composto de secagem em pó em sachês para remover a umidade de móveis novos. Uma vez otimizado, o PSG apresenta alta condutividade de prótons à temperatura ambiente sem a necessidade de água, o eletrólito perfeito para essa tarefa . O movimento ultrarrápido de partículas subatômicas ocorre graças a uma infinidade de poros de tamanho nanométrico. Estes últimos, em sua superfície, criam uma passagem para a difusão de prótons.

Uma característica importante do PSG é sua capacidade de suportar campos elétricos muito fortes, o que garante que os prótons se movam em altas velocidades. Cerca de um milhão de vezes mais rápido que o projeto anterior do resistor e comparado às sinapses humanas. Felizmente , todo esse movimento em alta velocidade não faz com que o dispositivo se quebre devido ao tamanho e à massa muito pequena dos prótons . Finalmente, como o PSG é um isolante contra elétrons , não há corrente elétrica fluindo pelo dispositivo; um recurso que o mantém fresco e energeticamente eficiente .

Perspectivas futuras do aprendizado profundo analógico

Os pesquisadores planejam produzir esses resistores em maiores quantidades para construir matrizes para estudar suas características. E talvez redimensioná-los para incorporação em dispositivos menores.

O líder do projeto disse brincando:

Uma vez obtido o processador analógico, não treinaremos as redes nas quais todos trabalham atualmente. Em vez disso, eles terão uma complexidade sem precedentes que ninguém pode pagar e, portanto, superará todos os outros. Em outras palavras, este não é um carro mais rápido, é uma nave espacial.

Murat Onen

Finalmente, sua esperança é que esses dispositivos iônicos com eficiência energética possam emular os circuitos neurais e a plasticidade sináptica estudadas na neurociência .

O artigo Analógico de aprendizado profundo: hardware mais eficaz com novo eletrólito foi escrito em: Tech CuE | Engenharia de close-up .