Jezičkа kompetencijа i novi empirizаm u filozofiji i nаuci
Linguistic Competence and New Empiricism in Philosophy and Science
Autori
Subotić, VаnjaOstala autorstva
Milojević, MiljanaRadenović, Ljiljana
Milevski, Voin
Devedžić, Vladan
Malatesti, Luca
Doktorska teza
Metapodaci
Prikaz svih podataka o dokumentuApstrakt
Filozofski fakultet
The topic of this dissertation is the nature of linguistic competence, the capacity to understand and produce sentences of natural language. I defend the empiricist account of linguistic competence embedded in the connectionist cognitive science. This strand of cognitive science has been opposed to the traditional symbolic cognitive science, coupled with transformational-generative grammar, which was committed to nativism due to the view that human cognition, including language capacity, should be construed in terms of symbolic representations and hardwired rules. Similarly, linguistic competence in this framework was regarded as being innate, rule-governed, domain-specific and fundamentally different from performance, i.e., idiosyncrasies and factors governing linguistic behavior. I analyze state-of-the-art connectionist, deep learning models of natural language processing, most notably large language models, to see what they can tell us about linguistic competence. Deep learning is a... statistical technique for the classification of patterns through which artificial intelligence researchers train artificial neural networks containing multiple layers that crunch a gargantuan amount of textual and/or visual data. I argue that these models suggest that linguistic competence should be construed as stochastic, pattern-based, and stemming from domain-general mechanisms. Moreover, I distinguish syntactic from semantic competence, and I show for each the ramifications of the endorsement of connectionist research program as opposed to the traditional symbolic cognitive science and transformational-generative grammar. I provide a unifying front, consisting of usage-based theories, construction grammar approach, and embodied approach to cognition to show that the more multimodal and diverse models are in terms of architectural features and training data, the stronger the case is for the connectionist linguistic competence. I also propose to discard the competence vs. performance distinction as theoretically inferior so that a novel and an integrative account of linguistic competence originating in connectionism and empiricism that I propose and defend in the dissertation could be put forward in scientific and philosophical literature.
Тема ове дисертације је језичка компетенција—способност разумевања и продуковања израза на било ком природном језику. Браним емпиристичку позицију у погледу језичке компетенције, уско повезану са конекционистичком когнитивном науком. Ова линија когнитивне науке је била супротстављена традиционалној симболичкој когнитивној науци упареној са трансформационо-генеративном граматиком, која се обавезала на нативизам у погледу порекла когнитивних процеса. Разлог за обавезивање на нативизам лежао је у томе што је људска когниција, укључујући језичку способност, у овој парадигми схватана као вођена симболичким репрезентацијама и унапред одређеним правилима. У том духу, језичка компетенција је представљена као урођена, доменоспецифична и фундаментално различита од језичког понашања. Кроз анализу савремених конекционситичких модела за процесирање природног језика базираних на дубоком учењу, или, још специфичније, великих језичких модела, испитујем њихову корисност за разумевање природе језичке ко...мпетенције. Дубоко учење је статистичка техника разврставања и препознавања шаблона на основу великог броја текстуалних и/или визуелних података путем којих се обучава вишеслојна вештачка неуронска мрежа имплементирана у конекционистички модел. Аргументујем да ови модели показују да је боље лингвистичку компетенцију схватити као стохастичку, вођену шаблонима, и доменогенералну. Уз то, разликујем синтаксичку од семантичке компетенције, и за сваку експлицирам последице које потичу од прихватања конекционистичке насупрот симболичке когнитивне науке. Стварајући уједињени фронт од конекционизма, теорија базираних на употреби, конструкционе граматике и утеловљених приступа когницији, који би резултовао у мултимодалним моделима завидног диверзитета у погледу података и архитектуралних детаља унутар самих модела, показујем да се конекционистичка језичка компетенција може бранити као успешнија од симболичке за симулирање људске језичке способности. Најзад, предлажем да се одбаци генеративистичка дистинкција између језичке компетенције и понашања, као теоријски инфериорна у односу на ново, интегрисано виђење језичке компетенције проистекло из конекционизма и емпиризма које представљам у дисертацији.
Ključne reči:
Linguistic Competence / Natural Language Processing / Connectionism / Empiricism / Nativism / Deep Learning / Large Language Models / Језичка компетенција / процесирање природног језика / конекционизам / емпиризам / нативизам / дубоко учење / велики језички моделиIzvor:
09-10-2023Izdavač:
- Univerzitet u Beogradu - Filozofski fakultet
Kolekcije
Institucija/grupa
Filozofija / PhilosophyTY - THES AU - Subotić, Vаnja PY - 2023-10-09 UR - https://uvidok.rcub.bg.ac.rs/handle/123456789/5523 UR - http://reff.f.bg.ac.rs/handle/123456789/5783 AB - Filozofski fakultet AB - The topic of this dissertation is the nature of linguistic competence, the capacity to understand and produce sentences of natural language. I defend the empiricist account of linguistic competence embedded in the connectionist cognitive science. This strand of cognitive science has been opposed to the traditional symbolic cognitive science, coupled with transformational-generative grammar, which was committed to nativism due to the view that human cognition, including language capacity, should be construed in terms of symbolic representations and hardwired rules. Similarly, linguistic competence in this framework was regarded as being innate, rule-governed, domain-specific and fundamentally different from performance, i.e., idiosyncrasies and factors governing linguistic behavior. I analyze state-of-the-art connectionist, deep learning models of natural language processing, most notably large language models, to see what they can tell us about linguistic competence. Deep learning is a statistical technique for the classification of patterns through which artificial intelligence researchers train artificial neural networks containing multiple layers that crunch a gargantuan amount of textual and/or visual data. I argue that these models suggest that linguistic competence should be construed as stochastic, pattern-based, and stemming from domain-general mechanisms. Moreover, I distinguish syntactic from semantic competence, and I show for each the ramifications of the endorsement of connectionist research program as opposed to the traditional symbolic cognitive science and transformational-generative grammar. I provide a unifying front, consisting of usage-based theories, construction grammar approach, and embodied approach to cognition to show that the more multimodal and diverse models are in terms of architectural features and training data, the stronger the case is for the connectionist linguistic competence. I also propose to discard the competence vs. performance distinction as theoretically inferior so that a novel and an integrative account of linguistic competence originating in connectionism and empiricism that I propose and defend in the dissertation could be put forward in scientific and philosophical literature. AB - Тема ове дисертације је језичка компетенција—способност разумевања и продуковања израза на било ком природном језику. Браним емпиристичку позицију у погледу језичке компетенције, уско повезану са конекционистичком когнитивном науком. Ова линија когнитивне науке је била супротстављена традиционалној симболичкој когнитивној науци упареној са трансформационо-генеративном граматиком, која се обавезала на нативизам у погледу порекла когнитивних процеса. Разлог за обавезивање на нативизам лежао је у томе што је људска когниција, укључујући језичку способност, у овој парадигми схватана као вођена симболичким репрезентацијама и унапред одређеним правилима. У том духу, језичка компетенција је представљена као урођена, доменоспецифична и фундаментално различита од језичког понашања. Кроз анализу савремених конекционситичких модела за процесирање природног језика базираних на дубоком учењу, или, још специфичније, великих језичких модела, испитујем њихову корисност за разумевање природе језичке компетенције. Дубоко учење је статистичка техника разврставања и препознавања шаблона на основу великог броја текстуалних и/или визуелних података путем којих се обучава вишеслојна вештачка неуронска мрежа имплементирана у конекционистички модел. Аргументујем да ови модели показују да је боље лингвистичку компетенцију схватити као стохастичку, вођену шаблонима, и доменогенералну. Уз то, разликујем синтаксичку од семантичке компетенције, и за сваку експлицирам последице које потичу од прихватања конекционистичке насупрот симболичке когнитивне науке. Стварајући уједињени фронт од конекционизма, теорија базираних на употреби, конструкционе граматике и утеловљених приступа когницији, који би резултовао у мултимодалним моделима завидног диверзитета у погледу података и архитектуралних детаља унутар самих модела, показујем да се конекционистичка језичка компетенција може бранити као успешнија од симболичке за симулирање људске језичке способности. Најзад, предлажем да се одбаци генеративистичка дистинкција између језичке компетенције и понашања, као теоријски инфериорна у односу на ново, интегрисано виђење језичке компетенције проистекло из конекционизма и емпиризма које представљам у дисертацији. PB - Univerzitet u Beogradu - Filozofski fakultet T1 - Jezičkа kompetencijа i novi empirizаm u filozofiji i nаuci T1 - Linguistic Competence and New Empiricism in Philosophy and Science UR - https://hdl.handle.net/21.15107/rcub_reff_5783 ER -
@phdthesis{ author = "Subotić, Vаnja", year = "2023-10-09", abstract = "Filozofski fakultet, The topic of this dissertation is the nature of linguistic competence, the capacity to understand and produce sentences of natural language. I defend the empiricist account of linguistic competence embedded in the connectionist cognitive science. This strand of cognitive science has been opposed to the traditional symbolic cognitive science, coupled with transformational-generative grammar, which was committed to nativism due to the view that human cognition, including language capacity, should be construed in terms of symbolic representations and hardwired rules. Similarly, linguistic competence in this framework was regarded as being innate, rule-governed, domain-specific and fundamentally different from performance, i.e., idiosyncrasies and factors governing linguistic behavior. I analyze state-of-the-art connectionist, deep learning models of natural language processing, most notably large language models, to see what they can tell us about linguistic competence. Deep learning is a statistical technique for the classification of patterns through which artificial intelligence researchers train artificial neural networks containing multiple layers that crunch a gargantuan amount of textual and/or visual data. I argue that these models suggest that linguistic competence should be construed as stochastic, pattern-based, and stemming from domain-general mechanisms. Moreover, I distinguish syntactic from semantic competence, and I show for each the ramifications of the endorsement of connectionist research program as opposed to the traditional symbolic cognitive science and transformational-generative grammar. I provide a unifying front, consisting of usage-based theories, construction grammar approach, and embodied approach to cognition to show that the more multimodal and diverse models are in terms of architectural features and training data, the stronger the case is for the connectionist linguistic competence. I also propose to discard the competence vs. performance distinction as theoretically inferior so that a novel and an integrative account of linguistic competence originating in connectionism and empiricism that I propose and defend in the dissertation could be put forward in scientific and philosophical literature., Тема ове дисертације је језичка компетенција—способност разумевања и продуковања израза на било ком природном језику. Браним емпиристичку позицију у погледу језичке компетенције, уско повезану са конекционистичком когнитивном науком. Ова линија когнитивне науке је била супротстављена традиционалној симболичкој когнитивној науци упареној са трансформационо-генеративном граматиком, која се обавезала на нативизам у погледу порекла когнитивних процеса. Разлог за обавезивање на нативизам лежао је у томе што је људска когниција, укључујући језичку способност, у овој парадигми схватана као вођена симболичким репрезентацијама и унапред одређеним правилима. У том духу, језичка компетенција је представљена као урођена, доменоспецифична и фундаментално различита од језичког понашања. Кроз анализу савремених конекционситичких модела за процесирање природног језика базираних на дубоком учењу, или, још специфичније, великих језичких модела, испитујем њихову корисност за разумевање природе језичке компетенције. Дубоко учење је статистичка техника разврставања и препознавања шаблона на основу великог броја текстуалних и/или визуелних података путем којих се обучава вишеслојна вештачка неуронска мрежа имплементирана у конекционистички модел. Аргументујем да ови модели показују да је боље лингвистичку компетенцију схватити као стохастичку, вођену шаблонима, и доменогенералну. Уз то, разликујем синтаксичку од семантичке компетенције, и за сваку експлицирам последице које потичу од прихватања конекционистичке насупрот симболичке когнитивне науке. Стварајући уједињени фронт од конекционизма, теорија базираних на употреби, конструкционе граматике и утеловљених приступа когницији, који би резултовао у мултимодалним моделима завидног диверзитета у погледу података и архитектуралних детаља унутар самих модела, показујем да се конекционистичка језичка компетенција може бранити као успешнија од симболичке за симулирање људске језичке способности. Најзад, предлажем да се одбаци генеративистичка дистинкција између језичке компетенције и понашања, као теоријски инфериорна у односу на ново, интегрисано виђење језичке компетенције проистекло из конекционизма и емпиризма које представљам у дисертацији.", publisher = "Univerzitet u Beogradu - Filozofski fakultet", title = "Jezičkа kompetencijа i novi empirizаm u filozofiji i nаuci, Linguistic Competence and New Empiricism in Philosophy and Science", url = "https://hdl.handle.net/21.15107/rcub_reff_5783" }
Subotić, V.. (2023-10-09). Jezičkа kompetencijа i novi empirizаm u filozofiji i nаuci. Univerzitet u Beogradu - Filozofski fakultet.. https://hdl.handle.net/21.15107/rcub_reff_5783
Subotić V. Jezičkа kompetencijа i novi empirizаm u filozofiji i nаuci. 2023;. https://hdl.handle.net/21.15107/rcub_reff_5783 .
Subotić, Vаnja, "Jezičkа kompetencijа i novi empirizаm u filozofiji i nаuci" (2023-10-09), https://hdl.handle.net/21.15107/rcub_reff_5783 .