La computazione multitasking flessibile nelle reti neurali ricorrenti si basa su motivi dinamici, mostra lo studio

16 agosto 2024 caratteristica

Questo articolo è stato revisionato secondo il processo editoriale e le politiche di Science X. Gli editori hanno evidenziato i seguenti attributi garantendo la credibilità dei contenuti:

• verificato
• pubblicazione sottoposta a revisione paritaria
• fonte affidabile
• corretto

di Ingrid Fadelli, Tech Xplore

La flessibilità cognitiva, la capacità di passare rapidamente tra pensieri e concetti mentali diversi, è una capacità umana estremamente vantaggiosa. Questa capacità saliente supporta il multitasking, l'acquisizione rapida di nuove abilità e l'adattamento a nuove situazioni.

Anche se i sistemi di intelligenza artificiale (AI) sono diventati sempre più avanzati negli ultimi decenni, attualmente non mostrano la stessa flessibilità degli esseri umani nell'apprendere nuove abilità e passare tra compiti diversi. Una migliore comprensione di come i circuiti neurali biologici supportino la flessibilità cognitiva, in particolare come supportino il multitasking, potrebbe informare futuri sforzi mirati allo sviluppo di AI più flessibili.

Di recente, alcuni informatici e neuroscienziati hanno studiato i calcoli neurali utilizzando reti neurali artificiali. La maggior parte di queste reti, tuttavia, è stata generalmente addestrata per affrontare specifici compiti individualmente anziché compiti multipli.

Nel 2019, un gruppo di ricerca presso la New York University, la Columbia University e la Stanford University ha addestrato una singola rete neurale a eseguire 20 compiti correlati.

In un nuovo articolo pubblicato su Nature Neuroscience, un team a Stanford ha deciso di indagare su cosa permetta a questa rete neurale di eseguire calcoli modulari, affrontando quindi diversi compiti.

'La computazione flessibile è un tratto del comportamento intelligente,' hanno scritto Laura N. Driscoll, Krishna Shenoy e David Sussillo nel loro articolo. Tuttavia, si sa poco su come le reti neurali si riconfigurino contestualmente per diversi calcoli. In questo lavoro, abbiamo identificato un substrato neurale algoritmico per la computazione modulare attraverso lo studio di reti neurali ricorrenti artificiali multitasking.

Il principale obiettivo dello studio recente di Driscoll, Shenoy e Sussillo era investigare i meccanismi che sottendono i calcoli delle reti neurali artificiali ricorrentemente collegate. I loro sforzi hanno permesso ai ricercatori di individuare un substrato computazionale di queste reti che consente calcoli modulari, un substrato che descrivono con il termine 'motivi dinamici.'

'Le analisi dei sistemi dinamici hanno rivelato strategie computazionali apprese che riflettono la struttura sottocompito modulare dell'insieme di compiti di allenamento,' hanno scritto Driscoll, Shenoy e Sussillo. 'I motivi dinamici, che sono modelli ricorrenti di attività neurale che implementano calcoli specifici attraverso dinamiche, come attrattori, frontiere decisionali e rotazioni, sono stati riutilizzati tra compiti. Ad esempio, compiti che richiedono memoria di una variabile circolare continua hanno riutilizzato lo stesso attrattore ad anello.'

I ricercatori hanno effettuato una serie di analisi, che ha rivelato che nelle reti neurali convoluzionali, i cosiddetti motivi dinamici sono implementati da cluster di unità quando la funzione di attivazione dell'unità è limitata a essere positiva. Inoltre, è emerso che le lesioni a queste unità influenzavano negativamente l'abilità delle reti ad eseguire calcoli modulari.

'I motivi sono stati riconfigurati per un apprendimento rapido del trasferimento dopo una fase iniziale di apprendimento,' hanno scritto Driscoll, Shenoy e Sussillo. 'Questo lavoro stabilisce i motivi dinamici come unità fondamentale della computazione compositiva, intermedia tra neurone e rete. Mentre gli studi sull'intero cervello registrano contemporaneamente l'attività da diversi sistemi specializzati, il quadro dei motivi dinamici guiderà le domande sulla specializzazione e la generalizzazione.'

Nel complesso, lo studio recente di questo team di ricercatori individua un substrato delle reti neurali convoluzionali che contribuisce significativamente alla capacità di affrontare efficacemente compiti multipli. In futuro, i risultati di questo lavoro potrebbero informare la ricerca sia in neuroscienza che informatica, potenzialmente portando a una comprensione migliorata dei processi neurali che sottendono la flessibilità cognitiva e informando lo sviluppo di nuove strategie che emulano tali processi nelle reti neurali artificiali.

Maggiori informazioni: Laura N. Driscoll et al, Composizione multitasking flessibile nelle reti ricorrenti utilizza motivi dinamici condivisi, Nature Neuroscience (2024). DOI: 10.1038/s41593-024-01668-6

© 2024 Science X Network