IA imite les calculs du néocortex avec une approche de type 'winner-take-all'

25 octobre 2024 fonctionnalité

Cet article a été examiné selon le processus éditorial et les politiques de Science X. Les éditeurs ont mis en évidence les attributs suivants tout en garantissant la crédibilité du contenu:

vérifié par des faits

prépublication

source de confiance

corrigé

par Ingrid Fadelli, Tech Xplore

Au cours de la dernière décennie, les informaticiens ont développé des techniques computationnelles de plus en plus avancées capables de s'attaquer à des tâches du monde réel avec une précision comparable à celle des humains. Bien que de nombreux modèles d'intelligence artificielle aient obtenu des résultats remarquables, ils ne reproduisent souvent pas exactement les calculs effectués par le cerveau humain.

Des chercheurs de Tibbling Technologies, Broad Institute à la Harvard Medical School, de l'Université nationale australienne et d'autres instituts ont récemment cherché à utiliser l'intelligence artificielle pour imiter un type spécifique de calcul effectué par des circuits dans le néocortex, connu sous le nom de calcul 'winner-take-all'.

Leur article, publié sur le serveur de prépublications bioRxiv, rapporte l'émulation réussie de ce calcul et montre que son ajout aux modèles basés sur des transformateurs pourrait améliorer significativement leurs performances sur des tâches de classification d'images.

« Notre récent article a été inspiré par les incroyables capacités computationnelles du cerveau des mammifères, en particulier du néocortex », a déclaré Asim Iqbal, premier auteur de l'article, à Tech Xplore.

« Notre objectif principal était de nous inspirer du traitement de l'information par le cerveau et d'appliquer ces principes pour améliorer les systèmes d'intelligence artificielle. Plus précisément, nous nous sommes concentrés sur un calcul appelé 'winner-take-all' qui semble être une opération fondamentale dans les circuits corticaux. »

Le « winner-take-all » est un mécanisme biologique qui se produit lorsqu'un ou quelques neurones au sein d'un ensemble (c'est-à-dire celui ou ceux avec le niveau d'activation le plus élevé) influencent le résultat d'un calcul. Les neurones les plus actifs suppriment essentiellement l'activité des autres neurones, devenant les seules cellules contribuant à une décision ou un calcul spécifique.

Iqbal et ses collègues ont tenté de reproduire de manière réaliste ce calcul biologique à l'aide de matériel neuromorphique et de l'utiliser pour améliorer les performances de modèles d'apprentissage automatique bien établis. Pour ce faire, ils ont utilisé la puce matérielle neuromorphique TrueNorth d'IBM, conçue spécialement pour imiter l'organisation du cerveau.

« Notre modèle de réseau biophysique vise à capturer les principales caractéristiques des circuits néocorticaux, en mettant l'accent sur les interactions entre les neurones excitateurs et les quatre principaux types de neurones inhibiteurs », a expliqué Iqbal.

« Le modèle intègre les propriétés mesurées expérimentalement de ces neurones et de leurs connexions dans le cortex visuel. Sa principale caractéristique est la capacité à mettre en œuvre des calculs de type 'winner-take-all' souples, où les entrées les plus fortes sont amplifiées tandis que les plus faibles sont supprimées. »

En effectuant ces calculs inspirés du cerveau, l'approche de l'équipe peut renforcer les signaux importants tout en filtrant le bruit. L'avantage clé de leur système NeuroAI est d'introduire une nouvelle approche biologiquement ancrée et néanmoins efficace sur le plan computationnel pour le traitement de l'information visuelle, ce qui pourrait aider à améliorer les performances des modèles d'IA.

« L'une de nos réalisations les plus passionnantes a été la mise en œuvre réussie de nos calculs inspirés du cerveau sur la puce neuromorphique TrueNorth d'IBM », a déclaré Iqbal.

« Cela démontre que nous pouvons traduire des principes de neurosciences en matériel réel. Nous avons également été ravis de constater des améliorations significatives dans les performances des transformateurs de vision et d'autres modèles d'apprentissage profond lorsque nous avons incorporé notre traitement inspiré du 'winner-take-all'. Par exemple, les modèles sont devenus beaucoup plus efficaces pour la généralisation à de nouveaux types de données sur lesquels ils n'avaient pas été formés - un défi majeur en IA. »

Iqbal et ses collègues ont combiné les calculs de type 'winner-take-all' souples réalisés avec leur approche à un modèle basé sur un transformateur de vision. Ils ont constaté que leur approche améliorait significativement les performances du modèle sur une tâche de classification numérique pour des données totalement 'non vues' à travers l'apprentissage sans étiquette.

A l'avenir, leur approche informatique inspirée du cerveau pourrait être appliquée à d'autres systèmes d'IA pour un large éventail d'applications, y compris la vision par ordinateur, l'analyse d'images médicales et les véhicules autonomes. Pendant ce temps, les chercheurs prévoient d'étudier comment les mêmes principes inspirés du cerveau sous-tendant leur approche pourraient être exploités pour aborder des tâches cognitives plus complexes.

« Nous sommes particulièrement intéressés par la mise en œuvre de la mémoire de travail et des processus de prise de décision en utilisant notre approche », a ajouté Iqbal.

'Nous prévoyons également d'étudier comment nous pouvons incorporer des mécanismes d'apprentissage inspirés par le cerveau, ce qui pourrait conduire à des systèmes d'IA qui peuvent apprendre et s'adapter de manière plus efficace. De plus, nous sommes impatients de tester notre approche sur d'autres plates-formes matérielles neuromorphiques émergentes pour combler davantage le fossé entre les neurosciences et l'IA.'

Plus d'informations : Asim Iqbal et al, Primitives de calcul biologiquement réalistes du néocortex implémentées sur du matériel neuromorphique améliorent les performances du transformateur de vision, bioRxiv (2024). DOI : 10.1101/2024.10.06.616839

© 2024 Science X Network