AI naśladuje obliczenia neokorteksu za pomocą podejścia „zwycięzca zabiera wszystko”

25 października 2024 roku

Ten artykuł został przeglądnięty zgodnie z procesem redakcyjnym i zasadami Science X. Redaktorzy podkreślili następujące cechy, dbając jednocześnie o wiarygodność treści:

sprawdzanie faktów

pracownia drukarska

zaufane źródło

sprawdzony

autorstwa Ingrid Fadelli, Tech Xplore

W ciągu ostatniej dekady informatycy stworzyli coraz bardziej zaawansowane techniki obliczeniowe, które mogą radzić sobie z zadaniem w świecie rzeczywistym z dokładnością porównywalną do ludzkiej. Pomimo że wiele z tych modeli sztucznej inteligencji osiągnęło znaczące rezultaty, często nie zapisują dokładnie obliczeń wykonywanych przez mózg człowieka.

Niedawno badacze z firmy Tibbling Technologies, Broad Institute przy Harvard Medical School, The Australian National University i innych instytutów próbowali użyć SI do naśladowania określonego rodzaju obliczeń wykonywanych przez obwody kory mózgowej, znanych jako obliczenia „winner-take-all”.

Ich artykuł, opublikowany na serwerze preprint bioRxiv, raportuje udane emulowanie tego obliczenia i pokazuje, że dodanie go do modeli opartych na transformatorach mogłoby znacząco poprawić ich wydajność w zadaniach klasyfikacji obrazów.

„Nasza ostatnia praca była inspirowana niewiarygodnymi zdolnościami obliczeniowymi mózgu ssaków, w szczególności kory mózgowej”, powiedział Tech Xplore Asim Iqbal, pierwszy autor artykułu. „Naszym głównym celem było zaczerpnięcie inspiracji z tego, jak mózg przetwarza informacje i zastosowanie tych zasad do poprawy systemów sztucznej inteligencji. Konkretnie, skupiliśmy się na obliczeniu zwanym „winner-take-all”, które wydaje się być operacją fundamentalną w obwodach kory mózgowej.”

„Winner-take-all” to mechanizm biologiczny, który występuje, gdy jeden lub kilku neuronów w zestawie (tzn. ten/te z najwyższym poziomem aktywacji) wpływa na wynik obliczeń. Bardziej aktywne neurony w zasadzie tłumią aktywność innych neuronów, stając się jedynymi komórkami przyczyniającymi się do określonej decyzji lub obliczenia.

Iqbal i jego koledzy próbowali realistycznie naśladować to biologiczne obliczenie, korzystając z układów neuromorficznych, a następnie użyć go do poprawy wydajności dobrze uznanych modeli uczenia maszynowego. Do tego celu użyli układu neuromorficznego IBM TrueNorth, który został specjalnie zaprojektowany do naśladowania organizacji mózgu.

„Nasz model sieci biofizycznej ma na celu uchwycenie kluczowych cech obwodów neokortyksu, koncentrując się na interakcjach między neuronami pobudliwymi a czterema głównymi rodzajami neuronów zahamowujących”, wyjaśnił Iqbal.

„Model uwzględnia eksperymentalnie zmierzone właściwości tych neuronów i ich połączeń w korze wzrokowej. Jego kluczową cechą jest zdolność do implementowania obliczeń „soft winner-take-all”, gdzie najmocniejsze wejścia są wzmacniane, podczas gdy słabsze są tłumione.”

Dzięki wykonywaniu tych obliczeń inspirowanych mózgiem, podejście zespołu może wzmacniać ważne sygnały, filtrując jednocześnie szum. Główną zaletą ich systemu NeuroAI jest to, że wprowadza ono nowe, biologicznie uzasadnione, a jednocześnie obliczeniowo wydajne podejście do przetwarzania informacji wizualnej, co mogłoby pomóc poprawić wydajność modeli SI.

„Jednym z najbardziej ekscytujących osiągnięć było udane wdrożenie naszych obliczeń inspirowanych mózgiem na układzie neuromorficznym IBM TrueNorth”, powiedział Iqbal.

„Demonstruje to, że możemy przekładać zasady z neurobiologii na rzeczywisty sprzęt. Byliśmy również podekscytowani widząc znaczące poprawy w wydajności transformersów wizyjnych i innych modeli uczenia się głębokiego, gdy włączyliśmy nasze obliczenia inspirowane winner-take-all. Na przykład modele stały się o wiele lepsze w generalizowaniu do nowych typów danych, na których nie były szkolone - kluczowe wyzwanie w SI.”

Iqbal i jego koledzy połączyli obliczenia soft winner-takes-all wykonane za pomocą ich podejścia z modelem opartym na transformerach wizyjnych. Zauważyli, że ich podejście znacząco poprawiło wydajność modelu w zadaniu klasyfikacji cyfrowej dla całkowicie „nieznanych” danych poprzez uczenie zero-shot.

W przyszłości ich podejście inspirujące się mózgiem może być stosowane do innych systemów SI w szerokim zakresie zastosowań, w tym wizji komputerowej, analizy obrazów medycznych i pojazdów autonomicznych. Tymczasem badacze planują zbadać, jak te same zasady inspirowane mózgiem leżące u podstaw ich podejścia mogłyby być wykorzystane do radzenia sobie z bardziej złożonymi zadaniami poznawczymi.

„Jesteśmy szczególnie zainteresowani implementacją pamięci roboczej i procesów podejmowania decyzji za pomocą naszego podejścia”, dodał Iqbal.

'Planujemy również zbadać, jak możemy wprowadzić mechanizmy uczenia inspirowane mózgiem, co mogłoby prowadzić do systemów sztucznej inteligencji, które potrafią uczyć się i adaptować bardziej efektywnie. Ponadto chcemy przetestować nasze podejście na innych wzrastających platformach sprzętu neuromorficznego, aby dalej zacieśnić połączenie między neurobiologią a sztuczną inteligencją.'

Więcej informacji: Asim Iqbal et al, Biologically Realistic Computational Primitives of Neocortex Implemented on Neuromorphic Hardware Improve Vision Transformer Performance, bioRxiv (2024). DOI: 10.1101/2024.10.06.616839

© 2024 Science X Network