Saptamana trecuta, Google Research a organizat un atelier online despre intelegerea conceptuala a invatarii profunde. Atelierul, care a prezentat prezentari ale oamenilor de stiinta si neurologi premiati, a discutat despre modul in care noile descoperiri in invatarea profunda si neurostiinte pot ajuta la crearea unor sisteme mai bune de inteligenta artificiala.
In timp ce toate prezentarile si discutiile merita vizionate (si as putea sa le revad din nou in saptamanile urmatoare), una mi-a iesit in special in evidenta: o discutie despre reprezentarile cuvintelor in creier de Christos Papadimitriou, profesor de informatica la Universitatea Columbia.
In prezentarea sa, Papadimitriou, un beneficiar al Premiului Godel si al Premiului Knuth, a discutat despre modul in care intelegerea noastra crescanda a mecanismelor de procesare a informatiilor din creier ar putea ajuta la crearea algoritmilor care sunt mai solizi in intelegerea si implicarea in conversatii. Papadimitriou a prezentat un model simplu si eficient care explica modul in care diferite zone ale creierului interactioneaza pentru a rezolva problemele cognitive.
,,Ceea ce se intampla acum este probabil una dintre cele mai mari minuni ale lumii”, a spus Papadimitriou, referindu-se la modul in care comunica cu publicul. Creierul traduce cunostintele structurate in unde care sunt transferate pe diferite medii si ajung la urechile ascultatorului, unde sunt din nou procesate si transformate in cunostinte structurate de catre creier.
,,Exista putine indoieli ca toate acestea se intampla cu varfuri, neuroni si sinapse. Dar cum? Aceasta este o intrebare imensa „, a spus Papadimitriou. ,,Cred ca vom avea o idee mult mai buna despre detaliile despre cum se intampla acest lucru in urmatorul deceniu.”
Ansambluri de neuroni din creier
Comunitatile cognitive si de neurostiinte incearca sa inteleaga modul in care activitatea neuronala din creier se traduce prin limbaj, matematica, logica, rationament, planificare si alte functii. Daca oamenii de stiinta reusesc sa formuleze functionarea creierului in termeni de modele matematice, atunci vor deschide o noua usa catre crearea sistemelor de inteligenta artificiala care pot emula mintea umana.
O multime de studii se concentreaza pe activitati la nivelul neuronilor unici. Pana acum cateva decenii, oamenii de stiinta au crezut ca neuronii singuri corespund unor ganduri unice. Cel mai popular exemplu este teoria ,, celulei bunicii „, care sustine ca exista un singur neuron in creier care creste de fiecare data cand o vezi pe bunica ta. Descoperiri mai recente au respins aceasta afirmatie si au dovedit ca grupuri mari de neuroni sunt asociati cu fiecare concept si ar putea exista suprapuneri intre neuroni care se leaga de concepte diferite.
Aceste grupuri de celule cerebrale sunt numite ,,ansambluri”, pe care Papadimitriou le descrie ca ,,un set stabil de neuroni foarte conectati, care reprezinta ceva: un cuvant, o idee, un obiect etc.”
Un model matematic al creierului
Pentru a intelege mai bine rolul ansamblurilor, Papadimitriou propune un model matematic al creierului numit ,,retele recurente care interactioneaza”. Conform acestui model, creierul este impartit intr-un numar finit de zone, fiecare dintre ele continand cateva milioane de neuroni. Exista recursivitate in fiecare zona, ceea ce inseamna ca neuronii interactioneaza intre ei. Si fiecare dintre aceste zone are conexiuni cu alte cateva zone. Aceste conexiuni inter-zone pot fi excitate sau inhibate.
Acest model ofera aleatoriu, plasticitate si inhibare. Aleatoriu inseamna ca neuronii din fiecare zona a creierului sunt conectati aleatoriu. De asemenea, diferite zone au conexiuni aleatorii intre ele. Plasticitatea permite conexiunilor dintre neuroni si zone sa se adapteze prin experienta si antrenament. Si inhibarea inseamna ca, in orice moment, un numar limitat de neuroni sunt excitati.
