Transformer dil modelləri afaziya subtipələrində və uzunmüddətli dəyişikliklərdə fərqli nümunələri aşkar edir

Afasiyada dil pozuntuları, nitq istehsalında əks oluna biləcək müxtəlif təmsil pozuntuları ilə xarakterizə olunur. Bu tədqiqat transformator əsaslı dil modellərinin, xüsusilə GPT-2-nin, afazik hekayə danışmasında dəyişikliklərin təhlil edilməsi üçün hesablama çərçivəsi kimi xidmət etmək qabiliyyətini araşdırır. İntervensiya tədqiqatının bir hissəsi olaraq afasiyası olan şəxslərdən (N = 47; əsas kəsişmə nümunəsi N = 57) altı vaxt nöqtəsində toplanan hekayə danışıq nümunələrinin uzunluqlu məlumat dəstindən istifadə edildi. Bütün transkripsiyalar 12 transformator qatından hər birindən aktivləşdirmə dəyərləri əldə etmək üçün GPT-2 dil modeli vasitəsilə işləndi. Fasiya alt növlərində aktivləşmə dəyərlərində statistik cəhətdən əhəmiyyətli fərqlər hər qatda (bütün p <.001) tapıldı, ən dərin qatlarda təsirlər daha çox ifadə edildi. Tukey HSD testləri Brocas afasiyası və həm Anomic və Wernickes afasiyası arasında ardıcıl fərqlər ortaya çıxardı. Uzunluq testləri, xüsusilə son üç qatda (1012) vaxt keçdikcə əhəmiyyətli dəyişikliklər aşkar etdi. Bu tapıntılar göstərir ki, transformator əsaslı aktivləşmə nümunələri afasiy disqürzdə əhəmiyyətli dəyişiklikləri əks etdirir və klinik müşahidələrlə uyğunlaşa bilər. Ümumiyyətlə, GPT-2 afasiyada təmsil dinamikasını modelləşdirmək üçün miqyaslı bir vasitə təqdim edir və afasiyada dil təmsilçiliyinə dair kəşfiyyat anlayışları təklif edə bilər.

Qaflıq və digər ünsiyyət pozğunluqları üzrə Milli İnstitut (DC014664; PI J. Fridriksson).

Cənubi Karolina Universitetinin İstiqlal Elmləri və Bozukluqları Bölməsi, Kolumbiya, SC, ABŞ

S. Saeed Ahmadi, Julius Fridriksson & Dirk B. den Ouden

İstiqlal Elmləri və Bozukluqlar Bölməsi, Chapman Universiteti, Orange, CA, ABŞ

Müəlliflər heç bir rəqabət maraqlarının olmadığını bəyan edirlər.