Vektorski zasnovana semantička analiza polisemičnih reči

Abstract

Ranija istraživanja pokazala su da je porast u broju povezanih značenja (polisemija) praćen kraćim vremenom obrade reči, dok je porast u broju nepovezanih značenja (homonimija) praćen dužim vremenom obrade reči. U ovom istraživanju evaluirali smo metod za kvantitativno opisivanje višeznačnih reči na osnovu višedimenzionalne distribucije kontekstualnih vektora kojeg su predložili Moscoso del Prado Martín i saradnici. Na osnovu distribucije kontekstualnih vektora pojedinačnih pojavljivanja polisemičnih reči srpskog jezika izračunata je entropija ekvivalentne Gausove distribucije i negentropija funkcije gustine verovatnoće. Entropija ekvivalentne Gausove distribucije, koja je izvedena iz matrice kovarijanse, predstavlja meru varijabilnosti u višedimenzionalnom prostoru i odslikava postojanje povezanih značenja reči (polisemija). Negentropija predstavlja razliku između entropije ekvivalentne Gausove distribucije i diferencijalne entropije funkcije gustine verovatnoće kontekstualnih vektora i odslikava postojanje nepovezanih značenja (homonimija). U skladu sa predviđanjima, na skupu polisemičnih imenica srpskog jezika, zabeležen je samo efekat entropije ekvivalentne Gausove distribucije. Negentropija nije imala uticaj na vreme reakcije. Ovaj nalaz je u skladu sa pretpostavkom da entropija ekvivalentne Gausove distribucije, kao mera širine aktivacije u semantičkom prostoru, odslikava polisemiju, odnosno prisustvo povezanih značenja reči. Stoga se prednost u obradi polisemičnih reči može objasniti širokom aktivacijom u semantičkom prostoru i smanjenom kompeticijom među Gausovim distribucijama koje se preklapaju u velikoj meri.

Previous research demonstrated that processing time was facilitated by number of related word senses (polysemy) and inhibited by number of unrelated word meanings (homonymy). The starting point of this research were the findings described by Moscoso del Prado Martín and colleagues, who offered a unique account of processing of two forms of lexical ambiguity. By applying the techniques they proposed, for the set of strictly polysemous Serbian nouns we calculated ambiguity measures they introduced. Based on the covariance matrix of the context vectors, we derived entropy of equivalent Gaussian distribution, and based on the context vectors probability density function, we derived differential entropy. Negentropy was calculated as the difference between the two. Based on interpretation that entropy of equivalent Gaussian mirrors sense cooperation, or polysemy, while negentropy mirrors meaning competition, or homonymy, we predicted that in the set of strictly polysemous nouns, negentropy effect would disappear. In accordance with our predictions, entropy of equivalent Gaussian distribution accounted for significant proportion of processing latencies variance. Negentropy did not affect reaction time. This finding is in accordance with the hypothesis that entropy of equivalent Gaussian distribution, as a measure of general width of activation in semantic space, reflects polysemy, that is, the existence of related senses. Therefore, polysemy advantage could be the result of the wide-spread activation in semantic space and reduced competition among overlapping Gaussians.