Algis Džiugys (Dziugys): ChatGPT ir psichiatrija

Ar teko klausytis žmonių, kurie šneka ilgais ir, atrodytų, protingai skambančiais sakiniais, tačiau visa jų kalba neturi jokios prasmės? Esu tikras, kad beveik visi pagalvojo apie politikus. Tačiau psichiatrai pasakys, kad tokio tipo kalba yra psichikos sutrikimo, vadinamo Vernikės afazija, požymiai.

Jau nuo pat Dirbtinio Proto LLM (Large Language Models) sistemų atsiradimo pradžios buvo pastebėta, kad LLM kartais kliedi, t.y. atsako sklandžiai, bet netiksliai. Tai vadinama AI haliucinacija [1] ir labai primena žmonių Vernikės afaziją [4]. Todėl savaime kyla klausimas, ar yra kažkas bendra tarp afazija sergančių žmonių ir LLM?

Bandydami atsakyti į šį klausimą, mokslininkai palygino kelių LLM sistemų ir žmonių įvairių afazinių smegenų veiklą [2]. Naudodami funkcinį magnetinio rezonanso tomografą, mokslininkai sudarė sveikų žmonių bei įvairių afazijos rūšių ligonių smegenų veiklos energetinio paviršiaus žemėlapius (energy landscape) ir sukūrė energetinio paviršiaus žemėlapio metodo analogą LLM neuroniniam tinklui. Visus šiuos žemėlapius palygino tarpusavyje.

Pasirodė, kad Vernikės afazija sergančių žmonių smegenų ir LLM tinklo energetinių žemėlapių dinamikos yra labai panašios. Tyrimo autoriai daro išvadą, kad vidinis informacijos apdorojimas afazija sergančių žmonių smegenyse gali būti panašus į tai, kas vyksta LLM neuroniniame tinkle. Kol kas tai tik prielaidos, bet jau dabar energetinio žemėlapio metodas gali tapti nauju LLM diagnozavimo bei klasifikavimo įrankiu ir padėti pagerinti LLM veiklą.

Teisybės dėlei, autoriai pabrėžia, kad nors LLM haliucinacijos susijusios su nekokybišku LLM apmokymu, tačiau haliucinacijų tikrosios priežastys nėra iki galo žinomos ir jos gali būti skirtingos nei žmogaus Vernikės afazijos priežastys.

Man šis tyrimas yra svarbus tuo, kad jame parodoma, kaip LLM veikla gali būti analizuojama panašiai kaip ir smegenų veikla. T.y. ne kaip milijardų paskirų tarpusavyje sąveikaujančių neuronų sistema, bet aukštesniu lygiu, kai bandoma nustatyti neuronų funkcines struktūras, susidariusias per smegenų evoliuciją, o LLM atveju - apmokymo metu, ir tada ieškoma tų struktūrų veiklos ir tarpusavio sąveikos dėsningumų. Manau, kad tai padėtų projektuojant būsimas LLM sistemas ir sudarant jų apmokymo strategijas, nes labai jau daug kainuoja ne tik pats LLM apmokymas, bet ir neteisingo apmokymo pasekmės. Jau kurį laiką bandome įgyvendinti panašią idėją, gal kas pavyks.

Priedas:

Vernikės afazija (angl. Wernicke's aphasia, receptive aphasia) būna, kai insultas pažeidžia smegenų Vernikės zoną, kuri susijusi su gebėjimu suprasti ištartų žodžių ir sakinių prasmę. Vernikės afazija žmonėms pasireiškia informacijos priėmimo, kalbos apdorojimo ir supratimo sutrikimais. Todėl ligoniai nesugeba palaikyti sklandaus pokalbio, nes pažeistos smegenys, nors ir puikiai atpažįsta garsus bei žodžius, tačiau nesugeba jiems suteikti reikšmės. Ligoniams būdingi nepažeisti sintaksės gebėjimai, jų kalba sklandi su savotišku kalbėjimo tempu. Jie sudaro sakinius, kurių ritmas ir kirčiavimas yra teisingi. Taip pat jie linkę kurti žodžius naujadarus. Vernikės afazijos kamuojami žmonės dažniausiai nesuvokia, kad vartoja neteisingus žodžius, nepastebi savo kalbos klaidų, gali daug prikalbėti be bendros prasmės ir nesupranta, kad jų kalba beprasmė. Jiems keista, kad kiti jų nesupranta ir dėl to pyksta [3] [4].

Net nežinau, ar Vernikės afazija priklauso psichiatrai ar neuropsichologijai, bet tai palikime specialistams, kaip ir tai, ar yra kas nors bendro tarp politikų ir Vernikės afazijos ;-)