Forskare: AI-nätverk kan organisera sig självt
Ett artificiellt neuralt nätverk som börjar med slumpmässiga kopplingar kan bygga om sig självt och lära sig klassificera bilder. Det uppger forskare vid MIT. Enligt teamet presterade nätverket på liknande nivå som nätverk tränade med back-propagation, den metod som används i det mesta av modern AI.
ForskningAI-illustrationIngen har bestämt i förväg hur nätverkets konstgjorda neuroner ska hänga ihop. De är ordnade i flera lager, och kopplingarna mellan dem är slumpade från start. Nätverket får med sig några enkla regler för när och hur en koppling ska ändras. Inom ett lager gäller samma regler överallt.
Reglerna är lånade från hur hjärnan tros fungera. En av dem brukar sammanfattas med frasen "neurons that fire together wire together": två neuroner som är aktiva samtidigt får en starkare förbindelse.
Det som gör inlärningen möjlig är enligt forskarna små kopplingsmönster, motiv, som växer fram av egen kraft ur reglerna. När nätverket tränades ordnades mönstren om på ett sätt som påminner om gradient descent. Det är en optimeringsmetod där ett nätverk steg för steg minskar sina fel.
I dagens AI är det ingenjörer som skriver reglerna för hur ett nätverk ska ändra sig under träningen. Neurovetare anser att hjärnan sannolikt inte använder back-propagation. "The brain doesn't have an external designer or architect", säger Qianli Liao, postdoktor och en av tre delade förstaförfattare tillsammans med Liu Ziyin och Yulu Gan. Forskarna ser förmågan att organisera sig självt utan en utvecklares styrning som ett centralt mått på hur biologiskt rimligt ett nätverk är.
Liao understryker att nätverket inte nödvändigtvis lär sig på samma sätt som hjärnan, men kallar det en kritisk startpunkt för biologisk rimlighet. Gruppens främsta mål är enligt honom att förstå hjärnan bättre. På sikt kan kunskapen också förbättra maskininlärning. Han nämner hjärn-datorgränssnitt som ett möjligt användningsområde, till exempel för att låta förlamade patienter styra proteser eller återge kommunikation till den som förlorat språkförmågan.
Forskarna kommer från MIT:s McGovern Institute for Brain Research och K. Lisa Yang Integrative Computational Neuroscience (ICoN) Center. Studien publicerades enligt McGovern Institute den 9 oktober i tidskriften PNAS under titeln "How Biological Synapses Self-Assemble Gradient Learning".
