Uma equipe interdisciplinar descobriu que modelos de inteligência artificial, especificamente Transformers, processam a memória de maneira semelhante ao hipocampo do cérebro humano. Esta descoberta demonstra que a aplicação de princípios da neurociência, como o princípio do receptor NMDA, à inteligência artificial pode melhorar a função da memória, avançando assim o campo da inteligência artificial e fornecendo conhecimentos sobre a função do cérebro humano.

Os pesquisadores descobriram que o processo de consolidação da memória da inteligência artificial é semelhante ao do cérebro humano, especialmente do hipocampo, o que oferece a possibilidade de avanço da inteligência artificial e de uma compreensão mais profunda dos mecanismos da memória humana.

Uma equipe interdisciplinar de pesquisadores do Centro de Cognição e Socialidade do Instituto de Ciências Básicas (IBS) e do Grupo de Ciência de Dados revelou semelhanças impressionantes entre o processamento de memória de modelos de inteligência artificial (IA) e o hipocampo do cérebro humano. Esta nova descoberta fornece uma nova perspectiva sobre a consolidação da memória (o processo de conversão da memória de curto prazo em memória de longo prazo) em sistemas de inteligência artificial.

Na corrida para desenvolver a inteligência artificial geral (AGI), liderada por entidades influentes como OpenAI e Google DeepMind, compreender e replicar a inteligência semelhante à humana tornou-se um importante interesse de investigação. No centro destes avanços tecnológicos está o modelo dos Transformers [Figura 1], cujos fundamentos estão atualmente a ser explorados com maior profundidade.

Figura 1: (a) Diagrama esquemático da atividade do canal iônico em neurônios pós-sinápticos. Os receptores AMPA estão envolvidos na ativação de neurônios pós-sinápticos, enquanto os receptores NMDA são bloqueados por íons de magnésio (Mg²⁺), mas quando os neurônios pós-sinápticos estão totalmente ativados, os receptores NMDA induzem plasticidade sináptica através do influxo de íons de cálcio (Ca²⁺). (b) Fluxograma mostrando o processo de cálculo do modelo de inteligência artificial do Transformer. As informações são processadas sequencialmente por meio de estágios como camadas de feedforward, normalização de camadas e camadas de autoatenção. O gráfico que descreve a relação corrente-tensão dos receptores NMDA é muito semelhante à não linearidade da camada feedforward. Gráfico de entrada-saída baseado na concentração de magnésio (α) mostrando alterações não lineares nos receptores NMDA. Fonte: Instituto de Ciências Básicas

Mecanismo de aprendizagem cerebral aplicado à inteligência artificial

A chave para sistemas de IA poderosos é compreender como eles aprendem e lembram informações. A equipe de pesquisa aplicou os princípios de aprendizagem do cérebro humano, especialmente o princípio da consolidação da memória por meio de receptores NMDA no hipocampo, ao modelo de inteligência artificial.

Os receptores NMDA são como uma porta inteligente no cérebro, promovendo a aprendizagem e a formação de memória. Quando uma substância química cerebral chamada glutamato está presente, as células nervosas ficam excitadas. Os íons de magnésio, por outro lado, agem como um pequeno porteiro, bloqueando a porta. Somente quando esse porteiro iônico se afasta é que as substâncias podem fluir para dentro da célula. É assim que o cérebro cria e retém memórias, e o papel do guardião (íons de magnésio) em todo o processo é bastante especial.

A equipe fez uma descoberta surpreendente: o modelo dos Transformers parece usar um processo de controle semelhante aos receptores NMDA do cérebro [ver Figura 1]. Esta descoberta levou os pesquisadores a investigar se a consolidação da memória nos Transformers poderia ser controlada através de um mecanismo semelhante ao processo de ativação do receptor NMDA.

Sabe-se que baixos níveis de magnésio prejudicam a função de memória no cérebro dos animais. Os pesquisadores descobriram que a memória de longo prazo dos Transformers poderia ser melhorada imitando os receptores NMDA. Assim como as mudanças nos níveis de magnésio no cérebro afetam a força da memória, ajustar os parâmetros dos Transformers para refletir a ativação do receptor NMDA pode melhorar a memória dos modelos de IA. Esta descoberta revolucionária mostra que a forma como os modelos de inteligência artificial aprendem pode ser explicada pelo conhecimento existente da neurociência.

Insights de especialistas sobre inteligência artificial e neurociência

C. Justin LEE, neurocientista diretor do instituto, disse: "Esta pesquisa é um passo crítico no avanço do desenvolvimento da inteligência artificial e da neurociência. Ela nos permite estudar mais profundamente como o cérebro funciona e desenvolver sistemas de inteligência artificial mais avançados com base nesses insights."

CHAMeeyoung, cientista de dados da equipe e KAIST, observou: "Ao contrário dos modelos de IA em grande escala que requerem enormes recursos, o cérebro humano opera com energia mínima, o que é notável. Nosso trabalho abre novas possibilidades para sistemas de IA de baixo custo e alto desempenho que aprendem e lembram informações como os humanos."

Integração de mecanismo cognitivo e design de inteligência artificial

O que torna esta pesquisa única é que ela incorpora proativamente não-linearidades inspiradas no cérebro em estruturas de inteligência artificial, marcando um avanço significativo na simulação da consolidação da memória semelhante à humana. A fusão dos mecanismos cognitivos humanos e do design da inteligência artificial não só promete criar sistemas de inteligência artificial de baixo custo e alto desempenho, mas também fornece informações valiosas sobre como o cérebro funciona através de modelos de inteligência artificial.

Fonte compilada: ScitechDaily