Rețele neuronale grafice pentru procesarea limbajului natural: Un studiu

Titlul original:

Graph Neural Networks for Natural Language Processing: A Survey

Conținutul cărții:

Învățarea profundă a devenit abordarea dominantă în abordarea diferitelor sarcini din domeniul procesării limbajului natural (NLP). Deși intrările de text sunt reprezentate de obicei ca o secvență de token-uri, există o mare varietate de probleme NLP care pot fi exprimate cel mai bine cu ajutorul unei structuri grafice. Ca urmare, există un interes sporit pentru dezvoltarea de noi tehnici de învățare profundă pe grafuri pentru un număr mare de sarcini NLP.

În această monografie, autorii prezintă o prezentare cuprinzătoare a rețelelor neuronale grafice (GNN) pentru prelucrarea limbajului natural. Aceștia propun o nouă taxonomie a GNN-urilor pentru NLP, care organizează sistematic cercetările existente privind GNN-urile pentru NLP de-a lungul a trei axe: construirea grafurilor, învățarea reprezentării grafurilor și modelele codificator-decodificator bazate pe grafuri. Ei introduc în continuare un număr mare de aplicații NLP care exploatează puterea GNN-urilor și rezumă seturile de date de referință corespunzătoare, metricile de evaluare și codurile open-source. În cele din urmă, autorii discută diverse provocări rămase nerezolvate pentru utilizarea deplină a GNN-urilor pentru NLP, precum și direcțiile viitoare de cercetare.

Aceasta este prima prezentare generală cuprinzătoare a rețelelor neuronale grafice pentru procesarea limbajului natural. Ea oferă studenților și cercetătorilor o resursă concisă și accesibilă pentru a se pune rapid la curent cu un domeniu important al cercetării în domeniul învățării automate.