Katta til modeli (KTM) jumladagi keyingi so'zni bashorat qilganda, u aslida nima qilayotganini qanday bilishimiz mumkin? Tadqiqotchilar bashoratlar uchun qaysi so'zlar muhimligini ko'rsatish uchun tushuntiriladigan AI (XAI) dan foydalanish orqali, bu tushuntirishlarni miya faoliyatiga ham moslashtirish mumkinligini aniqladilar—bu mashinalar va miyalar tilni qanday qayta ishlashida chuqurroq bog'liqlikni ko'rsatadi.
Tadqiqot
Marim Rahimi, Muhammad Rizo Daliri va Yadollah Yaghoobzadeh Tehron universiteti va Iran fan va texnologiya universitetidan ushbu tadqiqotni o'tkazdilar. Ular GPT-2 versiyasini o'z ichiga olgan bir nechta KTMLardan foydalandilar va har bir so'zning model bashoratiga qo'shgan hissasini o'lchaydigan atribut usullarini qo'lladilar—har bir kirish so'zi uchun "tushuntirishlar" yaratish uchun. So'ngra ular bu tushuntirishlarni hikoya hikoyalarini tinglagan ishtirokchilarning fMRI ma'lumotlari bilan taqqosladilar, Berkeley Kaliforniya universiteti va Princeton universiteti kabi ommaviy ma'lumotlar to'plamlaridan foydalanib.
Jamoa gradientga asoslangan atribut usullari—bashoratning har bir so'zga sezgirligini hisoblaydigan usullar—til bilan bog'liq keng hududlar tarmog'ida miya faoliyati bilan mustahkam mos kelishini aniqladi. Bu tushuntirishlar oddiy akustik va so'z tezligi xususiyatlaridan tashqari o'ziga xos dispersiyani qo'shdi, ya'ni ular nutqning asosiy xususiyatlari bera olmaydigan qo'shimcha narsani qamrab oldi. ayniqsa, eshitish po'stlog'ining dastlabki qismida—eshitishning boshlang'ich bosqichi—bu atributlar modelning ichki ko'rinishlaridan ustun keldi, odatda miya moslashuvini o'lchash uchun ishlatiladi.
Conductance deb nomlangan texnikadan foydalanib, tadqiqotchilar tahlilni modelning alohida qatlamlariga kengaytirdilar. Ular dastlabki qatlamlar so'z turiga (masalan, otlar va fe'llar) ko'proq sezgirlik ko'rsatishini va eshitish hududlari bilan afzal moslashishini, oxirgi qatlam atributlari esa pozitsion ma'lumotlar bilan ustunlik qilib, keng kortikal moslashuvni ko'rsatishini aniqladilar. Bu modelning turli qatlamlari har xil turdagi ma'lumotlardan foydalanayotganini va miya buni modelning umumiy hisob-kitobiga mos keladigan tarzda birlashtirishi mumkinligini ko'rsatadi.
Nima uchun bu muhim
Ushbu tadqiqot KTMLarning ichki ishlarini talqin qilishning yangi usulini taklif qiladi, bu sun'iy intellektning shaffofligi va ishonchini oshirishga yordam beradi. Shuningdek, u sun'iy va inson tilini qayta ishlash o'rtasida ko'prik yaratadi: qaysi tushuntirishlar miya faoliyati bilan eng yaxshi mos kelishini ko'rish orqali, biz inson tushunishiga asos bo'lgan hisob-kitoblar haqida tushunchaga ega bo'lamiz. O'z kognitsiyasiga qiziquvchilar uchun bu tilni tushunish bitta jarayon emas, balki tovush, ma'no va kontekstni birlashtirgan qatlamli jarayon ekanligini ta'kidlaydi.
Nima qilishingiz mumkin
Faol tinglash va o'qish bilan shug'ullanib, o'z tilni qayta ishlash qobiliyatingizni kuchaytirishingiz mumkin. Suhbat yoki hikoyada keyingi nima bo'lishini bashorat qilishga harakat qiling va qaysi so'zlar eng katta ahamiyatga ega ekanligini e'tiborga oling. Krossvordlar yoki so'z o'yinlari kabi boshqotirmalar ham miyangizning har xil ma'lumot turlarini tezda tortish qobiliyatini oshirishi mumkin.
Manba: arXiv q-bio.NC
O'z miyangizga qiziqasizmi? Bepul moslashuvchan IQ testini topshiring yoki 306 miya mashqlari darajasini sinab ko'ring.
