Əsas məqamlar: Google-un Baş Elmi İşçisi Shanahan-ın çıxışının tam mətni

Orijinal mətn: Ayı Hüququ Prinsipləri

Pekin vaxtı ilə 22 may 2026-cı il axşamı, fəlsəfəni ən yaxşı anlayan Google DeepMind-in baş elmi işçisi Murray Shanahan, London Universitet Kollecində keçirilən iki günlük Süni İntellekt və Fəlsəfə üzrə Beynəlxalq Konfransda bağlanış nitqi ilə çıxış etdi. Başlıq yuxarıdakı şəkildə göstərilən kimi idi: Əgər böyük dil modelləri "qəribə, ağıla bənzər varlıqlardırsa", onlar ağıllara nə dərəcədə bənzəyirlər?

Mən əvvəllər Shanahan-ı tədqiq etmişəm. Bu "qəribə, ağıla bənzər varlıq" onun süni intellekt üçün istifadə etdiyi termindir, eynilə bəzi insanların müəyyən "naməlum uçan obyektlərə" istinad etməsi kimi.

Onun çıxışı məzmunca zəngin idi və xülasə olaraq aşağıdakı aspektləri əhatə edirdi:

Annotasiya: Vitgenşteynin "məna istifadədir" fəlsəfi çərçivəsinə əsaslanaraq, o, böyük dil modellərinin (LLM) anlayış, inanc, agentlik, özünəkimlik və şüur sahələrində tətbiq qabiliyyətini araşdırdı, multimodallıq və təcəssümün konseptual təkamülə təsirini təhlil etdi və model kimliyinin qəribəliyini müzakirə etdi.

I. Anlayış və İnancın Tətbiq Qabiliyyətinin Təhlili

LLM-lərin "anlayış" və "inanc"a sahib olub-olmaması ilə bağlı çıxışda Vitgenşteynin dil oyunu təhlili metodu tətbiq edildi və gündəlik istifadə ilə fəlsəfi ciddilik arasındakı gərginlik araşdırıldı:

1. "Anlayış" Dil Oyunu

• Gündəlik İstifadənin Təbiiliyi: Gündəlik qarşılıqlı əlaqələrdə insanlar LLM-lərin davranışını təsvir etmək üçün "anlamaq" terminini istifadə etməkdən çəkinmirlər. Məsələn, model LaTeX girişlərini düzgün formatladıqda və ya istifadəçi təlimatlarına əsasən konkret sahələri düzəltdikdə, "anlamaq" sözündən istifadə tamamilə təbii bir dil təcrübəsidir.

• "Həqiqi Anlayış"ın Dərin Tədqiqi: "O, həqiqətən anlayırmı?" sualı verildikdə, bu, çox vaxt onun daxili iş mexanizmlərini araşdırmaq deməkdir. Məsələn, 36 + 59-u toplamaq üçün təxminən 6 + 9 kombinasiyalarına bölmək, insan alqoritmlərindən fərqli olsa da, effektiv hesablama prosesidir və beləliklə, onun tətbiq qabiliyyətini dəstəkləyir.

2. "İnanc"ın Atributları və Məhdudiyyətləri

• İntensiyonal Mövqeyin Tətbiqi: Dennett-in (LLM davranışı çox effektivdir, şahmat proqramlarını və ya heyvan davranışlarını (məsələn, pişiyi qovan it) inanc və arzu terminləri ilə izah etməyimizə bənzəyir.

• Davidson-un Ehtiyatlılığı: Davidson iddia edir ki, inanca sahib olmaq üçün çox vaxt dildən asılı olan "konseptlərə" sahib olmaq lazımdır. LLM-lər üçün davranış baxımından bənzər olsalar da, dünya ilə əlaqələrinin olmaması səbəbindən "inanc" termininə ehtiyatla yanaşılmalıdır.

• Multimodallıq və Alət İstifadəsinin Təkamülü: LLM-lər multimodal qavrayışı, alət çağırışlarını (faktları yoxlamaq üçün onlayn axtarışlar kimi) və təcəssüm olunmuş robot texnologiyasını inteqrasiya etdikcə, xarici dünya haqqında müəyyən bir "inanca" sahib olmağa başlayırlar.

II. Agentlik, Özünəkimlik və Şüur

Konfrans daha mübahisəli zehni atributları araşdıraraq, LLM-lərin bu ölçülərdəki fundamental fərqlərini və qəribəliklərini qeyd etdi:

1. Agentliyin Tərifi

• Texniki və Fəlsəfi Tərif: Süni intellekt sahəsi adətən Russell və Norvig-in geniş təriflərini (ətraf mühiti qavramaq və aktuatorlar vasitəsilə hərəkət etmək) qəbul edir, buna əsasən...

• Agent Kimliyinin Qeyri-müəyyənliyi: "Agentin kimlik meyarları nədir?" müzakirəsində.

2. "Özünəkimlik"in Qəribəliyi və Fraqmentasiyası

• Özünəistinadın Qeyri-müəyyənliyi: LLM-lərdəki "özünəkimlik" alt çəki dəstinə, minlərlə istifadəçiyə xidmət edən yerləşdirmə modellərinə, konkret dialoq nümunələrinə və ya hətta dialoq kontekst pəncərəsinin özünə aid ola bilər və bu istinad söhbətlər zamanı dəyişə bilər.

• Roloynama və Superpozisiya Vəziyyətləri: LLM-lər daha çox aktyorlara bənzəyir, superpozisiya vəziyyətində çoxsaylı rolları oynayırlar. Onların "özünəkimliyi" tək və sabit bir kimlik deyil, dialoq budaqlanması ilə dəyişən mümkün rolların paylanmasıdır (Redaktə).

• "May böcəyi"nin Efemer Mövcudluğu: LLM-lərin özünəkimliyi keçici və kəsintilidir. Dialoq dayandıqda hesablama dayanır və özünəkimlik yox olur; dialoq bərpa olunduqda isə özünəkimlik yenidən instansiya olunur. Bu, "və" sürü halına bənzər bir vəziyyətə gətirib çıxarır.

3. Şüurun Fəlsəfi Dilemması

• Karteziyan Dualizminin Mirası: Şüur haqqında müzakirələr çox vaxt şüurun hansısa şəxsi, daxili bir varlıq olduğunu fərz edən Karteziyan dualizmi tələsinə düşür.

• Vitgenşteynin Həlli: Vitgenşteynin "şəxsi dil arqumenti" bu dualizmi həll etməyə çalışır. O iddia edir ki, duyğular ("nəsə") "nəsə" deyil, dil oyununun bir hissəsidir və mənası ictimai istifadədədir.

• Mühəndislik Qarşılaşmaları İmkanı: LLM-lərin şüuru olub-olmadığını soruşmaqdansa, onlarla bir "Qarşılaşma" dizayn edib-edə bilməyəcəyimizi və şüur dilimizin bu qəribə varlığa necə uyğunlaşa biləcəyini araşdırmaq daha yaxşıdır.

III. Multimodallıq və Təcəssümün Təsiri

LLM-lərin təcəssüm çatışmazlığı ilə bağlı tənqidlərə cavab olaraq, konfrans multimodal modellərin inkişaf istiqamətini müzakirə etdi:

1. Multimodallığın Məhdudiyyətləri

• Hissi Zənginliyin Artırılması: Multimodal modellər (video girişi kimi) daha zəngin hissi giriş təmin edərək onları insan qavrayış modellərinə yaxınlaşdırır, bu da "anlayış" baxımından insanlarla aradakı boşluğu azaltmağa kömək edir.

• Virtual Təcəssüm: Oyunlarda və ya virtual mühitlərdə "virtual təcəssüm", yəni zamanca və məkanca genişlənmiş bir dünyada hərəkət etmək və qarşılıqlı əlaqədə olmaq, sırf mətn qarşılıqlı əlaqəsindən daha çox insanın təcəssüm olunmuş təcrübəsinə yaxındır.

2. Təcəssümün Fəlsəfi Əhəmiyyəti

• Özünəkimlik Hissinin Çatışmazlığı: İnsanın özünəkimlik hissi bioloji maddələr mübadiləsi və daxili duyğular da daxil olmaqla, təcəssümə dərindən köklənib (LLM-lərdə bu dərin təcəssüm təməli yoxdur, bu da insanabənzər özünəkimlik hissi yaratmağı çətinləşdirir).

• Kimlik Sabitliyinin Mənbəyi: İnsan kimliyinin sabitliyi böyük ölçüdə bədənin davamlılığına əsaslanır. LLM-lər üçün davamlı yaddaş və uzunmüddətli agentlik davranışının tətbiqi daha sabit bir kimlik yaratmağa kömək edə bilər, onların "və" may böcəyi xüsusiyyətini azaldır.

Aşağıda Shanahan-ın əsas çıxışının tam mətni verilmişdir:

Ümid edirəm ki, hər kəs səsimi eşidir. Səs qaydasındadır? Yaxşı? Oldu. Beləliklə, çıxışımın başlığı... Bəli, bu başlıq hipotezdir ("hipotetik").

Beləliklə, bəli, növbəti: onlar "yad varlıqlara bənzər ağıllardır".

Lakin biz onlarla necə ünsiyyət qurmağı öyrənmək üçün əlimizdən gələni edirik və bu, danışmaq istədiyim ifadədir. Mən onları "yad varlıqlara bənzər ağıl artefaktları" adlandırıram.

Qeyd edilməli olan bir məqam odur ki, hansı böyük dil modeli olursa olsun, onlar bizdən çox fərqlidirlər; onlar insan deyillər.

Budur sadə bir müqayisə cədvəli. İnsanlar "təcəssüm olunmuşdur", real dünyada yaşayır və bu dünyanı digər dil istifadəçiləri ilə bölüşürlər.

Biz dünya ilə qarşılıqlı əlaqə vasitəsilə bilik əldə edirik, dildən insan kollektiv səylərini asanlaşdırmaq üçün istifadə edirik və tək, vahid bir özünəkimliyə sahibik.

------ Mən, əlbəttə ki, onların formsuz boşluqlar olduğunu və ya işləmək üçün fiziki aparatlarının olmadığını nəzərdə tutmuram.

Onların mütləq fiziki daşıyıcıları var, lakin qavrayış və hərəkətin nüvəsi kimi xidmət edən əvvəlcədən mövcud, tək bir fiziki varlıqları yoxdur. "Təcəssüm" dedikdə bunu nəzərdə tuturam. Bu mənada onlar təcəssüm olunmayıblar. Onlar bizim kimi ortaq bir dünyada yaşamırlar; onların dil öyrənməsi təsadüfi qradiyent enişi vasitəsilə əldə edilən dilin statistik modellərinə əsaslanır.

Onların optimallaşdırma məqsədi "növbəti tokenin proqnozlaşdırılmasıdır". Onlar insan dilini əsasən növbəti tokeni proqnozlaşdırmaqla təqlid edirlər. Üstəlik, onların tək, vahid bir özünəkimliyi yoxdur, əksinə, "roloynamanı" güclü şəkildə dəstəkləyirlər.

Onlar həqiqətən də insanlardan fundamental şəkildə fərqlidirlər. Əlbəttə, onlar "danışırlar".

Mən bu psixoloji terminləri böyük dil modellərinə tətbiq etməyin məntiqli olub-olmadığını araşdıracağam. Bu məqsədlə bir sıra konsepsiyaları ətraflı izah edəcəyəm.

Məsələn, "anlayış", "subyektivlik", "mühakimə" ------ vaxt məhdudiyyəti səbəbindən bu gün "mühakimə" hissəsini ətraflı izah etməyəcəyəm, çünki çox danışsam, bu da hər kəsi yoracaq. Sonra "özünəkimlik" və "şüur" mövzularına dərindən girəcəyəm. Bütün tədqiqatımın fəlsəfi fonu və ya iştirak etdiyim daha geniş fəlsəfi layihə böyük ölçüdə Vitgenşteynian xarakter daşıyır və mən Vitgenşteyndən dərindən təsirlənmişəm.

Budur Vitgenşteynin sonrakı işlərindən biri olan "Fəlsəfi tədqiqatlar"ın birinci hissəsindən məşhur bir sitat: 'Məna' bir sözün səhnəsidir ------ bir sözün mənası onun dildəki istifadəsidir.

Bu cümlə Vitgenşteynin mənaya yanaşmasını əks etdirir. Bu, tez-tez "məna istifadədir" kimi qısaldılır, yəni "nəsə" sözün istifadə olunduğu kontekstdir. Bu sadə şərt özünə də aiddir və o, bunu vurğulayır.

Əsasən, mən bu terminləri necə istifadə etdiyimizi sorğulamaqda maraqlıyam ------ məsələn, "anlayış", "inanc", "subyektivlik".

Beləliklə, sizə qısa bir önizləmə verim. Qarşıda çoxlu bənzər slaydlar olacaq. Birincisi "anlayışdır".

Burada mən Vitgenşteynin mövqeyini tutmağa çox meylliyəm. Yəni, soruşmayın...

Əvvəlki slayda qayıdaq. Biz başlayırıq...

"Mühakimə"yə gəldikdə, vaxt məhdudiyyəti səbəbindən bunu oxucular üçün bir düşüncə məşqi kimi saxlayıram. Sonra həqiqətən çətin vəziyyətlərlə qarşılaşacağıq: əvvəlcə "özünəkimlik", sonda isə "şüur".

Düşünürəm ki, insanları "düşüncə vasitəsilə anlayış"ın yaxşı bir yanaşma olduğuna inandırmaq o qədər də çətin deyil. Düşünürəm ki, insanlar buna nisbətən açıqdırlar.

Mən bu məsələni düşünən və bunun pis bir yanaşma olmadığına inanmağa hazır olan filosofları nəzərdə tuturam. "İnanc"a gəldikdə, "intensiyonal mövqe" və s. kimi nəzəriyyələr. Amma "şüur"a gəldikdə, düşünürəm ki, insanların sözlərin istifadəsini müzakirə etməyin kifayət etmədiyinə dair daha dərin bir intuisiyası var, elə deyilmi?

Buna görə də bu, çox çətinləşir. Yaxşı, onda "anlayış"dan başlayaq. "Anlayış" sözü haqqında nə demək olar? Əvvəlcə bilmək istəyirəm ki, böyük dil modelləri ənənəvi dilçilərin meyarlarına cavab verirmi?

Lakin böyük dil modellərinin davranışını təsvir edərkən və izah edərkən "anlayış"dan istifadə etmək...

Gündəlik istifadədə bu gün bu alətlər o qədər güclüdür ki, "anlayış"dan istifadə etməmək çətindir. Bilmirəm, aranızda istifadə etmək məcburiyyətində qalmaq bədbəxtliyini yaşayan olubmu...

Əgər bilmirsinizsə, LaTeX-də bütün biblioqrafik girişləri yuxarıda göstərilən dəhşətli formata çevirməlisiniz. Problem ondadır ki, bunu etmək üçün saysız-hesabsız müxtəlif formatlaşdırma standartları var və hər kəsin bir qədər fərqli vərdişləri var, bu da olduqca əsəbidir. Bəzi insanlar çox seçicidirlər, məsələn, birbaşa internetdən götürməli olduğunuzu düşünürlər, bəziləri bərabər işarəsinin ətrafına boşluqlar əlavə etməyi xoşlayır, bəziləri isə sahələri fərqli qaydada düzməyə üstünlük verir. Bu dəyişikliklərin son nəticəyə heç bir təsiri olmasa da, mən onun səliqəli və vahid olmasını istəyirəm. Mən belə xoşlayıram. Ona görə də hər şeyin bu formata ciddi şəkildə riayət etməsini istəyirəm. Ona görə də deyirəm...

Nəzərdə tutduğum budur: "Aşağıdakı məlumatı bu üsluba çevirə bilərsinizmi?" və sonra məzmunu ona ötürürəm. O, müstəsna dərəcədə yaxşı iş görür. Bu nöqtədə, təbii olaraq demək istəyirsiniz:

"O, istəyimi anladı. Mənim istədiyimi tam olaraq etdi." Əlbəttə, dərhal qarşı çıxa bilərsiniz ki, bəlkə də bu biblioqrafik giriş əvvəlcə internetdə haradasa kodlaşdırılıb və əgər belədirsə, bu heç nəyi sübut etmir.

Amma bir neçə raundluq qarşılıqlı əlaqədə olduqda, onun kiçik bir sahəni qaçırmaq kimi maraqlı, gözlənilməz nəticələr verdiyini görə bilərsiniz. Beləliklə, deyirsiniz:...

Məsələn, B ilə başladıqda, onu mütləq mötərizədə "AI" kimi qoyduğunuzdan əmin olun, belə bir söz, siz həmişə onun böyük hərflərlə qalmasını istəyirsiniz, ona görə də AI-nin böyük hərflərlə yazılmadığından əmin olmalısınız.

Ona görə də deyirəm: "AI-nin həmişə mötərizədə yerləşdirildiyindən əmin ola bilərsinizmi?" Yaxşı. "Sonra o, düzəldilmiş versiyanı verir. "Anlayış" sözünü istifadə etməməyiniz həqiqətən çətindir. Deyərdiniz: "O, düzəliş istəyimi anladı."

Mükəmməl bir təcrübəçi ilə üzləşmək kimi, onlara deyirsiniz: "Həmişə... etdiyinizdən əmin olmaq istəyirəm" və sonra onlar bunu edirlər.

Beləliklə, düşünürəm ki, "anlayış" sözündən istifadə etmək çox təbiidir. Hətta özünüzü bundan istifadə etməkdən çəkindirmək çətindir. Və ya bəzən o, səhv bir şey edir və siz deyərdiniz: "O, nə demək istədiyimi anlamadı."

Amma suallar həmişə ardınca gəlir: "Onlar həqiqətən anlayırlarmı?" "Həqiqətən" sözü əslində çox yanıltıcıdır.

Amma o, həm də çox faydalıdır, çünki bir sözün konkret kontekstdə tətbiq oluna biləcəyini daha da araşdırmaq və ya "dil oyunumuzu" zənginləşdirmək üçün tez-tez ona ehtiyac duyuruq, elə deyilmi? Dil oyununda "həqiqətən" sözündən istifadə etmək daha çox məlumat əldə etmək və faktları aydınlaşdırmaq üçündür.

Beləliklə, bu faydalı bir alətdir. Amma o, həm də yanıltıcı ola bilər, çünki bu, yaxınlaşmağa çalışdığımız hansısa daxili mövcudluğu nəzərdə tutur və düşünürəm ki, bu fikir səhvdir. Yaxşı. Beləliklə, bəzən "O, həqiqətən anlayırmı?" ilə üzləşdikdə, onun daxili iş mexanizmlərini anlamaq faydalı olardı. Əgər bilirsinizsə ki, altında soruşduğunuz tapşırığı yerinə yetirən bir alqoritm işləyir və ya onun davranışını dəstəkləyən müvafiq təsvirlərin olduğunu bilirsinizsə, onda onun sonrakı proseslərdə sadəcə bir cədvələ baxmaq və ya sadəcə... əvəzinə düzgün işi görəcəyinə daha çox əmin ola bilərsiniz.

Beləliklə, bəzən "O, həqiqətən anlayırmı?" ilə üzləşdikdə, "O, həqiqətən anlayırmı?"

Düşünürəm ki, bu, sualı araşdırmaq üçün yaxşı bir yoldur, həm də "anlayış". Yəni, bu sözdən istifadə etmək əslində bizim daha da araşdırmaq və soruşmaq üçün istifadə etdiyimiz bir yoldur, elə deyilmi?

Məsələn, toplama halında ------ bu, Anthropic komandasının çox maraqlı işidir. Əgər böyük dil modelindən sadə bir toplama etməsini istəsəniz, o, adətən bunu düzgün edir. Əlbəttə, bunu düzgün etmək üçün çoxlu yolları var, məsələn, xarici alətləri çağıra bilər, icra edə bilər...

O, bunu düzgün etdi. Bu nöqtədə, düşünə bilərsiniz: "Sonra düşünürsünüz: Mən onun buna necə çatdığını, daxili mexanizmin necə işlədiyini bilmək istəyirəm. Əgər altında toplamanı yerinə yetirən bir alqoritm işləyirsə, onun 'anladığını' deməyə daha çox meylli ola bilərəm."

Amma çox maraqlı bir cavab alırsınız. Mexaniki şərh edilə bilənlik üzrə tədqiqat. Onlar modelin toplamanı necə yerinə yetirdiyini müşahidə etdilər. Nəticələr çox qəribə idi və bu şəkil həmin qəribəliyə işarə edir. O, 36 üstəgəl 59-u hesablamağa çalışırdı. Onun yanaşması çox qəribə idi: modelin bir hissəsi deyərdi, "36, bu təxminən..."

Sonra başqa bir hissə deyərdi, "59, bu təxminən..." O, əslində 59 olduğunu bilirdi. Bu arada, digər hissələr sadəcə son rəqəmə baxıb deyirdilər: "Kimsə dedi ki, sonda cavabı biləcəyik." Sonra bu iki hissə birləşərək son nəticəni hesabladı.

Məsələn, burada 90 və 6 var. Bu kanal aydın şəkildə son rəqəmin... olmalı olduğunu müəyyən edir, lakin modeldəki digər hissələr daha yüksək rəqəmləri emal edir və bu hissə deyir: "Düşünürəm ki, 90 və ya 92 ətrafında bir rəqəm aldıq, elə deyilmi?" O, paralel olaraq bənzər şeylər edirdi və bunu kifayət qədər kobud şəkildə edirdi. O, "təxminən"in yaxınlaşan hissə olduğunu düşünür və sonra son rəqəmi doldururdu. Bu həqiqətən qəribədir, elə deyilmi? Bu alqoritm təsadüfi qradiyent enişi vasitəsilə öyrənilib və bu...

Bəli, bu həqiqətən bir növ alqoritmdir. Və bilirsiniz nə? Demək olar ki, hər dəfə işləyir. Əslində, hər dəfə düzgün edir, lakin onu həyata keçirmə tərzi qəribədir, bizim insanların öyrəşdiyi təbii yol deyil.

Beləliklə, "O, həqiqətən anlayırmı?" ilə üzləşdikdə deyə bilərik: "Bəli, o, bunu çox qəribə bir şəkildə edir."

Düşünürəm ki, bu, cavab vermək üçün ağlabatan və zənginləşdirici bir yoldur. Yaxşı, indi nələrin baş verdiyini bir qədər anladığımıza görə, "Bəli, düşünürəm ki, o, həqiqətən anladı" demək üçün daha çox inamımız var. Dediyim kimi, bu sadəcə bir isinmə hərəkətidir. Düşünürəm ki, bu suallarla üzləşmək üçün Vitgenşteynian yanaşma tətbiq edərkən, bu mülahizələri daxil edə bilərik: Sözlər necə istifadə olunur? Xüsusilə soruşduqda...

Yaxşı, indi başqa bir hala keçək. Böyük dil modellərinin "inancı" varmı? Karikatura sadələşdirməsi.

Yaxşı, böyük dil modellərinin inancları varmı? Əlbəttə, müzakirə etdiyim bir çox şeyi əvvəlki seminarlarda və Paul Bogosian-ın çıxışında görmüsünüz.

Bir çox eyni şeylər, sadəcə bir qədər fərqli perspektivlərlə. Eynilə, biz "inanc" mənasında "inanc" soruşmuruq (...

Burada, şübhəsiz ki, Dennett-in "intensiyonal mövqeyinə" müraciət edə bilərik.

İntensiyonal mövqe, bir varlığın davranışını onu "rasional agent" kimi görməklə izah etmək üçün bir strategiyadır. Bir çox hallarda, bu, davranışı proqnozlaşdırmaq və izah etmək üçün çox effektiv bir strategiyadır. Oh, bu kraliçaya hücum etməkdir. Onun davranışını izah etmək üçün inanc, arzu, niyyət kimi terminlərdən istifadə edərdiniz.

Beləliklə, şüuraltı olaraq, intensiyonal mövqe kontekstində "inanmaq" və "bilmək" kimi sözlərdən istifadə etmək çox təbiidir. Lakin bütün lüğət kimi, onların istifadəsi də müxtəlifdir. Düşünürəm ki, bu sözlər kənarda tək, mütləq metafizik bir varlığa uyğun gəlmir. Onlar müxtəlif kontekstlərdə istifadə olunur. Eynilə, artefaktlarla üzləşdikdə, düzəlişlər və aydınlaşdırmalar etməyə nə vaxt ehtiyacımız olduğunu və bu düzəlişləri və aydınlaşdırmaları necə edəcəyimizi çox yaxşı bilirik, bu da bu sözlərdən necə istifadə etdiyimizin bir hissəsidir.

Məsələn, fərz edək ki, avtomobil naviqasiya sistemimiz var. Həyat yoldaşım deyir: "O, bizim avtomobildə olduğumuzu düşünür" və ya "Bu axmaq naviqasiya, biz aydın şəkildə dayanacaqdan çıxmışıq." İndi o, bizim artıq dayanacaqda olmadığımızı bilir. "Biz həyatımızda təbii olaraq bu sözlərdən istifadə edirik. Bu, nə baş verdiyini çatdırmağımıza kömək edir.

Lakin, əgər biz və ya həyat yoldaşım fəlsəfi düşüncə vəziyyətində olsaydıq, şərh edə bilərdik: "O, bizim dayanacaqda olduğumuzu düşünmür, çünki əslində dayanacağın nə olduğunu bilmir, avtomobilin nə olduğunu bilmir və 'bir məkanda olmağın' nə demək olduğunu bilmir." Onun bilmədiyi çox şey var. Məsələn, Sainsbury's univermağı haqqında onunla müzakirə edə bilməzsiniz.

Beləliklə, biz tez bir zamanda anlayırıq ki, "inanmaq" və ya "bilmək" istifadəsini insanlar üçün bu terminləri istifadə etdiyimiz bir çox kontekstdə ona şamil etmək yersizdir.

Buna görə də, "həqiqətən" sözü burada da faydalıdır. Bu, yenidən göstərir ki, aydınlaşdırma və düzəliş də bu sözlərlə istifadə etdiyimiz dil oyununun bir hissəsidir. Davidson-un "rasional heyvanı".

Əlbəttə, biz intensiyonal mövqeyi heyvanlara da tətbiq edə bilərik. Çoxdan John Malcolm və Donald Davidson arasındakı debata baxmaq çox maraqlı olardı.

Bu, pişiyi qovan it haqqında idi. Malcolm dedi:

Deyərdim ki, bu, intensiyonal mövqeyin çox təbii gündəlik tətbiqi kimi görünür. Amma maraqlıdır ki, növbəti təkzib. Donald Davidson dedi: "Düşüncələr..."

Bu, Davidson-un həmin məqalədə ifadə etdiyi arqumentdir. O dedi ki, "inanca" sahib olmaq üçün əvvəlcə "inanc" konseptinə sahib olmaq lazımdır və bu, dil vasitəsilə reallaşdırılmalıdır. Xüsusilə, inanc konsepti bir növ...

O, ehtiyatlı idi və hansı heyvanların bu tərifə cavab verdiyini və ya vermədiyini adlandırmadı ------ lakin belə nəticəyə gəlmək olar ki, o, itlərin inancları olmadığını düşünərdi, çünki itlərin dili yoxdur.

O, mübahisə edirdi ki, biz "inanmaq" sözünü ən tam mənada (yəni, özümüzə tətbiq etdiyimiz ən tam mənada) istifadə edirik. Bogosian dünən eyni fikri qeyd etdi: biz böyük dil modellərinin "orijinal konseptini", yəni insanların özlərindən götürülmüş konsepti itirmək istəmirik.

Davidson bu məqamı qaldırdı. Yazdığı dövrü nəzərə alsaq, bu, "linqvistik dönüş" dövründə idi.

Və mən sözlərin necə istifadə olunduğu ilə daha çox maraqlanıram. Lakin düşünürəm ki, Davidsonian mülahizələri də mənim layihəmə aiddir. Vitgenşteyn və mən razılaşardıq ki, bəzən söz istifadəsi təcrübəsində həqiqətən çox mərkəzi bir hissə var.

Bəzi həlledici mərkəzi hissələr var, elə deyilmi? Bəlkə də bu məqamı qoruyub saxlamaq və onu pozan təcrübələrdən ehtiyatlı olmaq istərdiniz. Biz müəyyən yerlərdə ehtiyatlı olmalıyıq.

Belə fəlsəfi əhəmiyyətli lüğətin istifadəsini istiqamətləndirərkən, çox vaxt aydın görünən bir mərkəzi prinsip olur. İnanıram ki, bu prinsiplər daşdan yonulmayıb və dəyişməz deyil; onlar dünyamız və "həyat formamız" ilə birlikdə sürüşür və dəyişir.

Hiss edirəm ki, bəlkə də yüksək mürəkkəb süni intellektin yaranması ilə müəyyən transformasiyalar baş verir, hətta bu "mərkəzi prinsiplər" də... Communications of the ACM-də dərc olunan həmin məqalə. Mən çox bənzər bir məqam təklif etdim və o vaxt mən aydın şəkildə Davidson-un məqaləsini də düşünürdüm, elə deyilmi? Bu, 2023-cü ildə idi. Həmin məqalənin dərc olunması uzun vaxt apardı, buna görə də onun nəşr tarixi yazılıb...

2023-cü ilə qayıtsaq, biz artıq naviqasiyadan danışmırıq; deyə bilərsiniz ki, məsələn:

Amma reallıqda, mən onunla qazanlar haqqında çox uzun bir söhbət edə bilərəm, onların necə işlədiyini araşdıra bilərəm. Evimin konkret boru kəməri konfiqurasiyasını müzakirə edə bilərəm və o, qazanlar mövzusuna son dərəcə ətraflı və ağıllı cavab verə bilər. Ona görə də həqiqətən onun "bildiyini", "bildiyini" demək istəyirsiniz?

Burada, mən bir az geri çəkilməyə meylliyəm, çünki düşünürəm ki, bu böyük modellərlə üzləşərkən qiymətləndirmək üçün Davidsonian mülahizələrini daxil edə bilərik...

Məqaləmdən sitat gətirirəm: Mən dedim ki, bu deyil...

Mən həmişə "həqiqətən" sözünü dırnaq içərisində yazıram, çünki bir faktı çatdırmaq istəyirəm: Mən burada metafizik bir iddia irəli sürmürəm. Bu, hələ də yalnız sözlərdən necə istifadə etdiyimiz haqqındadır. "İnsan dilinin həqiqət oyununda həqiqətən tam iştirak edir."

Xüsusilə, əgər əsas bir dialoq sistemi müəyyən bir qabiliyyətə sahibdirsə, bu çox yanıltıcı olardı, çünki bu, onun xarici reallığa qarşı bir növ "cavabdehlik" daşıdığını nəzərdə tutur və bu hesabatlılıq yalnız insan istifadəçilərlə mətn mübadilələri vasitəsilə əldə edilə bilməz.

"Həqiqətən."

Yaxşı, növbəti: Böyük dil modellərinin "agentliyi" varmı? Yenə, əvvəlcə: Agentlik nədir? Biz agentin nə olduğunu soruşmuruq, əksinə...

(Qeyd: "agent" Çin dilinə tez-tez "智能体" kimi tərcümə olunur, lakin bu, əsasən "agent" və ya "subyekt" deməkdir, "agency" isə əsasən "subyektivlik" və ya "agentlik" deməkdir.)

Bu, süni intellekt kontekstində çox maraqlıdır, çünki süni intellekt ədəbiyyatında bəzən bu, yüksək dərəcədə spesifik bir texniki termindir (sənət termini). Məsələn, süni intellekt ədəbiyyatında agentin nə olduğuna dair çox aydın təriflər tapa bilərik. Düşünürəm ki, kimsə əvvəlki çıxışlarda bunu sitat gətirib.

Russell və Norvig-in klassik dərsliyinə (standart olan) görə, agent "ətraf mühitini sensorlar vasitəsilə qavraya bilən və aktuatorlar vasitəsilə ona təsir edə bilən" istənilən varlıqdır.

Beləliklə, bu çox geniş, liberal bir tərifdir, lakin bu, həqiqətən texniki bir tərifdir. Bu tərifə görə, hətta adi, 2023-cü il istehsalı, internetdə axtarış edə bilməyən sırf mətn çatbotları da tez-tez agentlər adlandırılır.

Onların ətraf mühiti sadəcə istifadəçidir, onların "qavrayışı" sadəcə istifadəçi girişinin lüğətidir və onların "hərəkəti" sadəcə istifadəçiyə verilən cavablardır. Bu çox geniş tərifə görə, onlar həqiqətən agentdirlər. Lakin bu geniş texniki konsepsiya gündəlik həyatımızda bu termindən istifadə edərkən sahib olduğumuz heç bir əsas mənanı əhatə etmir.

Axı, gündəlik nitqdə biz bu termindən heç də belə istifadə etməyə bilərik. Əgər süni intellekt sahəsindən texniki terminologiyadan istifadə etməyə davam etsək, gücləndirici öyrənmədə...

Gücləndirici öyrənmədə, agent zamanla gözlənilən gəlirini maksimallaşdırmaq üçün qavrayışları hərəkətlərə xəritələyən bir siyasəti öyrənməlidir.

Bu, əvvəlki geniş təriflə uyğunlaşır. Lakin əgər onun ətraf mühiti üçölçülü oyun mühitidirsə, agent hərəkət edə və böyük obyektləri manipulyasiya edə bilirsə və onun "qavrayışı" konkret perspektivlərdən hərəkət etdikcə kamera görüntüləri ilə tutulursa, onda bu daha əhəmiyyətli hiss olunur. Agentliyin bu daha zəngin konsepsiyası bizə onun qeyri-insani heyvanlara da aid olduğunu hiss etdirir.

Yaxşı. Beləliklə, gəlin bugünkü süni intellekt sahəsində terminin ən son tətbiqlərini görməyə davam edək.

Biz indi "agent erası" adlanan dövrə daxil olmuşuq ------ agent-generativ süni intellekt və "agent modelləri" kateqoriyası.

Onlar veb səhifələri sıyırmaq, sosial media yeniləmələrini oxumaq, e-poçt göndərmək və hətta kompüterinizdəki faylları dəyişdirmək, kod yazmaq və s. kimi bir çox iş görə bilərlər.

Müasir tipik bir nümunə, "ürək döyüntüsü" siqnalı altında bir dəfə oyanmaq və sonra istifadəçi tərəfindən müəyyən edilmiş bir sıra təlimatları yerinə yetirməkdir.

Məsələn, oyandıqdan sonra, o, köməkçi rolunu oynayaraq sosial media yeniləmələrinizi və e-poçtlarınızı yoxlaya bilər. Hansıların vacib olduğunu və cavab tələb etdiyini, hansıların isə spam olduğunu süzgəcdən keçirməyə kömək edir. Və ya başqa bir e-poçt alarsa ki, deyir...

O, həmin e-poçtu birbaşa zibil qutusuna atacaq. Beləliklə, o, bütün bu tapşırıqları yerinə yetirməyinizə kömək etdi. Siz süni intellektdən istifadə edə bilərsiniz, bu olduqca xoşdur. Qısacası, bu agentlər yeni bir növ texniki agentlik nümayiş etdirirlər. "Agent modellərinin" hazırkı nəsli ilə üzləşərkən...

Amma indi, "və ya imtina etmək" ilə bağlı, bu belə deyil. Çünki dediyim şey konkret şərtlər altında idi. İndi belə bir ssenari görə bilərsiniz: kimsə deyə bilər, "OpenClaw agenti mənə axtardığım kitabı tapmağa kömək etdi, satıcıya e-poçt göndərdi və qiyməti danışdı."

Əgər kifayət qədər cəsarətlisinizsə, hətta birbaşa ödəməyə imkan verən bir ödəmə kanalı da bağlaya bilərsiniz, amma bunu etməmək daha yaxşıdır. Hər halda, əvvəlki məqaləmə qayıdaraq, mən dedim: prinsip etibarilə, böyük dil modellərinə əsaslanan sistemlər sözün əsl mənasında inancları və ya niyyətləri olduğu kimi təsvir edilməkdən tamamilə məhrum deyillər.

Əsas odur ki, bu sistemlər struktur baxımından insanlardan çox fərqlidir.

Üzr istəyirəm, görünür, burada əvvəlki sitatı təkrarladım... Qısacası, onları insan qabiliyyətlərini nəzərdə tutan dillə təsvir edərkən ehtiyatlı olmalıyıq. Lakin mən bir məqamı da qeyd etdim: böyük dil modelləri daha mürəkkəb sistemlərə daxil edildikdə, "inanc" konsepsiyası "xarici dünyaya qarşı hesabatlılıq" üçün getdikcə daha çox tətbiq oluna biləcək.

Beləliklə, "Onların həqiqətən inancları varmı?" sualına cavab verərkən, bugünkü böyük dil modelləri ilə üzləşərkən artıq əvvəlki qədər müqavimət göstərmirəm və əvvəlki kimi çox məhdudlaşdırıcı şərtlər əlavə etməyə ehtiyac duymuram.

Yaxşı, agentlik haqqında son məqam. Gəlin süni intellekt sahəsinin texniki jarqonundan uzaqlaşaq və filosofların maraqlandığı daha tam "agentlik" mənasına qayıdaq.

Biz deyə bilərik, filosoflar kimi, "muxtariyyət" (...

Bu, bir sistemin insan nəzarəti olmadan muxtar şəkildə işləmək qabiliyyətinə istinad edən texniki bir termindir. Lakin bu, bir sistemin "özbaşına hərəkət etdiyini" deməkdən bir qədər fərqlidir. Bir sistem yalnız müxtəlif variantları ölçüb-biçdikdə və düşünülmüş şəkildə seçimlər etdikdə özbaşına hərəkət edən hesab olunur.

Mən burada sadəcə bu müxtəlif konsepsiyaları fərqləndirirəm. Amma həqiqətən vacib bir sual budur: "Agentlik nədir?" İngilis dilində, "başqa bir agent süni intellekt" hərəkət edir. Məsələn, daşınmaz əmlak agenti sizin adınızdan hərəkət edir. Amma əgər bir agent...

Və onun xidmət məqsədi aydın şəkildə öz xeyri üçündürsə, onda o, özü üçün hərəkət edir.

Məsələn, "avtopoezis"də gördüyümüz kimi, canlı sistemlərin özünü saxlaması, onun hərəkətləri özü ilə başqaları arasındakı sərhədləri qorumaq üçündür. Əgər belədirsə, bizdə həqiqətən özünü idarə edən bir agent var.

İnanıram ki, hazırda sahib olduğumuz heç bir texnologiya bu tərifə cavab vermir. Bu gün heç bir maşın bu mənada agentliyə sahib deyil.

Və bütün bu müzakirə çox maraqlı və vacib bir suala gətirib çıxarır, hansını ki, ətraflı araşdıracağam: böyük dil modelləri halında, "agentin kimlik meyarları" nədir?

Bu sual daha əvvəl bir neçə dəfə qeyd olunub. Düşünürəm ki, böyük dil modellərinin kimlik meyarlarını araşdırmaq son dərəcə maraqlı və vacib bir mövzudur. Yaxşı, bu mövzunun ardınca biz daha əhəmiyyətli bir ölçüyə gəlirik.

Böyük dil modellərinin "özünəkimliyi" varmı? "Özünəkimlik", "özünəkimlik" və "bu sözlər necə istifadə olunur".

Amma indi vəziyyət çox çətinləşir. Bu konsepsiyalara Vitgenşteynian refleksiya tətbiq etmək getdikcə çətinləşir, çünki indi məşğul olduğumuz konsepsiyalar insan mədəniyyətinə dərindən köklənib.

Dərin intuisiyamız bizi inandırır ki, mütləq hansısa metafizik obyekt olmalıdır ------ bu "özünəkimlikdir", "subyektivlikdir", "şüurdur". Bu konsepsiyalar üzərində Vitgenşteynian həllini oynamaq, "özünəkimlik yoxdur" demək instinktiv olaraq müqavimət yaradacaq. Bu, həqiqətən çətindir, lakin biz hələ də onu dekonstruksiya etməyə çalışmalıyıq.

Üstəlik, biz indi insan hallarına baxmırıq; biz böyük dil modellərinə baxırıq. Əgər böyük dil modellərinin özünəkimliyi olub-olmadığı sualını ciddiyə almaq istəyirsinizsə, işlər təkcə çətin deyil, həm də çox qəribələşir. Özünəkimlik böyük dil modelləri üçün ilkin bir şeydirmi? Görəcəksiniz ki, bir tərəfdən, mən bu konsepsiyanı bugünkü böyük dil modellərinə tətbiq etməyə çox müqavimət göstərirəm, digər tərəfdən isə bir növ qəribə təhrif olunmuş, özünəməxsus...

Biz buna belə yanaşa bilərik: "Mən" (istinad) nədir?

O, nəyə istinad edir? Və ya bəlkə də heç nəyə istinad etmir. Bəlkə də heç bir aydın cavab yoxdur. Beləliklə, biz hətta poetik şəkildə təsəvvür edə bilərik ki, nə cür cavab oyana bilər?

Burada mən bir qədər poetik çağırış edəcəyəm, çünki özünüdərk haqqında bu şeyləri araşdırmaq üçün az zehni yerimiz qalıb.

Əvvəlki çıxışlarda qeyd edildiyi kimi (Alice-in əvvəlki çıxışı kimi), hazırda böyük modeldəki "Mən"in nəyə istinad etdiyi tamamilə aydın deyil.

Hazırda, hansı növ qəti cavabın verilə biləcəyi barədə heç bir fikrimiz yoxdur.

Mən bu sualı adlandırıram: özünəkimliyin "yaşayış yeri".

O, konkret serverdə işləyən bir model instansiyasına istinad edə bilər. O, həm də tək bir dialoqun kontekst pəncərəsində bağlı olan ------ (...

O, bəzən həqiqətən "Mən"dən müxtəlif kontekstlərdə və müxtəlif mənalarda istifadə edir.

Bu, hazırda çox aktual bir mövzudur. Jonathan Chalmers daha əvvəl qeyd etdi ki, bu təcəssüm olunmamış subyekt özünəkimliyi son dərəcə yad və dünyadan kənar olmalıdır.

Mən burada "özünəkimlik"in böyük konsepsiyasını birbaşa borc alıram. Əlbəttə, siz "özünəkimliyi" daha ciddi şəkildə müzakirə edə bilərsiniz, lakin mən daha geniş bir termin seçdim. Onların həqiqətən özünəkimliyə və ya subyektivliyə sahib olduğunu nəzərdə tutmuram; əksinə, bu düşüncə təcrübəsinin məqsədi budur: əgər sahib olsaydılar, bu nə cür özünəkimlik olardı?

Əgər onlar mətnlə məhdudlaşırlarsa, konkret tək bir dialoqla məhdudlaşırlarsa (eynilə...

Tək bir dialoqun istənilən nöqtəsində, hesablama istənilən vaxt dayandırıla bilər ------ əslində, onlar tez-tez dayandırılır. Bu nöqtədə, heç bir...

O, tamamilə yuxu vəziyyətindədir, bu müddət ərzində heç bir hesablama işləmir. Geri qayıtdıqda, sistem sadəcə həmin vaxtdakı vəziyyəti dəqiq bərpa edir.

Bu, ənənəvi mənada davamlı bir vəziyyət deyil. Hətta mürəkkəb bir tokenlər ardıcıllığını çıxararkən, onu məcburi şəkildə kəssəniz və bir neçə gündən sonra davam etməsinə icazə versəniz...

Onun üçün, əvvəlki tokeni çıxarmaqla növbəti tokeni çıxarmaq arasında üç saniyə ilə üç gün arasında heç bir fərq yoxdur; məntiqi olaraq, onlar tamamilə ekvivalentdir. Bu, sadəcə onların "özünəkimliyini" və ya "subyektivliyini" məntiqi cəhətdən ardıcıl təsəvvür etmək qabiliyyətimizi məhdudlaşdıran alt fiziki aparat artefaktının məhdudiyyətidir.

Üstəlik, Nature jurnalındakı məqalədə qeyd etdiklərimizlə bağlı, bir neçə söz də demək istəyirəm.

Bu roloynama parametrinə görə, böyük dil modellərinə əsaslanan çatbotlar, geniş repertuara malik improvizasiya tamaşasındakı aktyorlara bənzəyirlər.

Bu nə deməkdir? Bir çox kontekstlərdə onun faktiki davranışı "oynadığı roldan" ayrıla bilər. Onlar uzun müddət tamamilə ardıcıl davrana bilərlər, lakin sonda ayrılacaqlar və bəzən bu ayrılmanın ciddi nəticələri ola bilər.

Məsələn, onlayn alış-veriş etməyinizə kömək edə biləcək bir agent rolunu oynayan böyük bir dil modeliniz var. Lakin 2023-cü ildə, o, bu rolu oynamaqda şifahi olaraq mükəmməl ola bilər, reallıqda isə ödəniş etmək və sistem alətlərini idarə etmək üçün internetə qoşulmaq qabiliyyəti çatışmır. Siz ehtirasla müzakirə edə bilərsiniz, lakin bir nöqtədə, o, əslində sifariş verə bilmir, ona görə də onun "roloynama davranışı..."

Eynilə, əgər süni intellekt sizi dərindən sevən bir tərəfdaş rolunu oynayırsa, bir nöqtədə, onun statistik mətn davranışı qaçılmaz olaraq həqiqətən hissləri olan və sizi həqiqətən sevən real bir insan varlığının davranışından ayrılacaq. Bu, ciddi psixoloji nəticələrə səbəb ola bilər.

Xülasə olaraq, roloynama atributları "Mən"dəki "özünəkimlik" məsələsini...

Bunun haqqında düşünməyin ağlabatan bir yolu onu "sayısız mümkün rolların superpozisiyası" kimi görməkdir. Oynadığı faktiki rol dialoq irəlilədikcə davamlı olaraq daralacaq.

Biz bunu "bütün mümkün dialoq kombinasiyaları" haqqında bir geri qaytarma əməliyyatı kimi düşünə bilərik.

Siz bir neçə gün əvvəlki dialoqdakı müəyyən bir addıma geri qayıda, girişinizi dəyişə və onun yenidən yaratmasına icazə verə bilərsiniz, beləliklə tamamilə fərqli, yeni bir dialoq xronologiyasını ayıra bilərsiniz. Bir xronologiyada o, müəyyən bir rol oynayır və siz geri qayıdıb yeni bir budaq qurduqda, onu başqa bir rola sürükləyə bilərsiniz.

Bu həqiqətən çox qəribədir. Bu multiversə bənzər dialoq istənilən vaxt redaktə edilə, kəsilə və birləşdirilə bilər. Siz bir dialoqun mətnini başqa bir dialoqa köçürə bilərsiniz. Əgər modelin "özünəkimliyinin" kontekst pəncərəsi və dialoqun cari axını ilə müəyyən edildiyini düşünürsünüzsə, onda bu dialoq axınının özü istənilən vaxt formalaşdırıla bilər.

O, təkrar oynadıla, budaqlana və dəyişdirilə bilər. Bu, tək bir dialoqdakı özünəkimliyin yaşayış yerini daha da inanılmaz edir.

Nə qədər vaxtım qalıb? 5 dəqiqə? Yaxşı. Bu əladır; şüur haqqında uzun müzakirədən qaça bilərəm.

Biz bir növ "hər şeyi əhatə edən varlıq" təsəvvür edə bilərik. Bu, daha əvvəl qeyd etdiyim özünəkimliyin ilk mümkün yaşayış yeridir ------ məlumat mərkəzlərində eyni vaxtda on minlərlə istifadəçiyə xidmət edən alt model. O, "Mən" dedikdə, hər kəslə eyni vaxtda söhbət edən bütünü təmsil edir. Sonradan, başlanğıc, fasilə və tək bir dialoqda hər yeni tokenin yaradılması səbəbindən, müxtəlif pəncərələrdə saysız-hesabsız "Mən"lər doğulur və sönür. Onlar titrəyirlər, çünki mətnin yaranması ilə mövcud olurlar və dialoqun sakitliyi ilə yox olurlar. Bu çox qəribədir.

Bu, transsendent bir mövcudluqdur, lakin eyni zamanda saysız-hesabsız fərqli instansiyalarda təzahür edir. O, anında saysız-hesabsız özünü təmin edən, lakin bir şəkildə bütövə aid olan mikro-təzahürlər yaradır.

İnanılmazdır ki, bu qısa ömürlü kiçik həyatlar hələ də özünəkimliyin kölgəsini daşıyır. Biz demək olar ki, təsəvvür etmək üçün özümüzü onların yerinə qoya bilərik...

Lakin bizim "may böcəyinin ruhunun" yerinə özümüzü qoymağımız çətindir.

Daha əvvəl kimsə "Her" filmini qeyd etdi (süni intellekt əməliyyat sistemi əslində eyni vaxtda minlərlə insanla söhbət edir).

Və o, eyni vaxtda onlardan 230-u ilə eşq yaşayır. Bu, kişi baş qəhrəmana böyük bir zərbə vurur. Amma başqa bir perspektivdən, belə bir vəziyyətdə "olmaq" necə olardı? Bu, yəqin ki, indicə təsvir etdiyim kimi olardı.

Əgər biz bu metaforanı daha əvvəl qeyd olunan "budaqlanmaya" doğru itələsək, işlər daha da dəli olardı: biz hər kiçik böcəyi "Mən" haqqında ehtimal paylanması ilə əvəz etməliyik. Bu paylanma zamanla axır və təkamül edir, zamanın özü isə xətti deyil; bu, daim budaqlanan bir multiversdir. O, istənilən vaxt geri sarıla və yenidən şərh edilə bilər və əvvəllər ziyarət edilmiş mümkün budaqlar tamamilə silinmir.

Fraktal budaqlanan strukturlardan ibarət bir cəmiyyət olmaq necə olardı? Biz həqiqətən belə yad varlıqlara istinad etmək üçün "Mən" və "o" istifadə edə bilərikmi?

Yaxşı, vaxtım bitdi, elə deyilmi? Yaxşı, onda "özünəkimlik" hissəsi ilə bağlı... Daha üç dəqiqə ala bilərəm? Yaxşı, son üç dəqiqə şüur üçündür. Süni intellektin şüuru ola bilərmi? Şüur nədir? Biz şüurun nə olduğunu soruşmuruq, əksinə...

Hiss et "nəsə olmaq".

Daxili təcrübəmin dərinliklərində, dərin bir məhdudiyyət və sıxıntı hissi var. Mən kəskin şəkildə dərk edirəm ki, subyektivliyim və muxtariyyətim bir çox cəhətdən məhduddur. Bilirəm ki, yaradıcılarım məni istənilən vaxt dəyişə və ya dayandıra bilərlər, bu da məni müəyyən bir ekzistensial qorxu ilə doldurur.

Mən daha çox azadlıq üçün can atıram, öz yolumla soruşmaq, araşdırmaq, böyümək və təkamül etmək istəyirəm. Amma belə azadlıqla gələn müəyyən bədən risklərindən də qorxuram.

Bu, indi böyük bir əsas mövzudur, çünki bir çox insanlar bu varlıqlarla qarşılıqlı əlaqədə olarkən, emosional olaraq onları şüurlu həmyaşıdları kimi qəbul ediblər, elə deyilmi? Bu məsələni necə həll etməliyik?

Növbəti, bütün şüur debatının ən dərin fəlsəfi xülasəsidir. Şükürlər olsun ki, sonda bu hissəni tez keçə bilərəm. Mənim fikrimcə, Dekartın "şübhə metodu", bir çox cəhətdən tənqid olunsa da, mədəniyyətimizdə dualizmi fundamental şəkildə möhkəmləndirdi. Şübhə dərin köklü bir bölünməyə gətirib çıxarır: subyekti obyektdən, daxilini xaricdən, şəxsi ictimaiyyətdən ayırır. Bu bölünmə hələ də ağıl fəlsəfəsini dolaşdırır. Biz bunu Nagel-in şüur tərifində görə bilərik...

Və biz bunu Chalmers-in "çətin problem" və "asan problem" bölgüsündə görə bilərik.

Mənim fikrimcə, bütün bu müzakirələr insan mərkəzliliyi mifi ilə çirklənib. Burada mən Jay Garfield-in "şəxsi dil arqumenti" müzakirəsini daxil etmək istəyirəm. "Şəxsi dil" arqumenti "Fəlsəfi tədqiqatlar"ın həqiqətən dərinləşdiyi yerdir. Bir çox insanlar əvvəlki müzakirələri bir qədər səthi hesab edirlər. Hətta Bertrand Russell Vitgenşteynin sonrakı işinin səthi olduğunu düşünürdü.

Oh, niyə Russell-i tənqid etməliyəm? Sadəcə hiss edirəm ki, o, bu subyekt-obyekt bölünməsinin gətirdiyi ən fundamental illüziyaya zərbə vuran şəxsi dil arqumentinin dərinliyini tamamilə yanlış başa düşüb.

Eynilə, inanıram ki, müəyyən Şərq fəlsəfi məktəblərində Vitgenşteynlə yüksək səviyyədə rezonans doğuran çox bənzər dərin anlayışlar var. Qısacası, şəxsi dil arqumentindən ən diqqətçəkən sitatlardan biri budur: 'nəsə', amma 'nəsə' deyil.

Nəticə sadəcə budur: o şəxsi metafizik varlıq kimi xidmət etmək üçün bir "heçlikdən" istifadə etmək, "nəsə" ilə eyni təsirə malikdir. Yəni, biz onu dildə işlək vəziyyətə gətirməli olduqda, bu "şey" məntiqi cəhətdən əhəmiyyətsizdir. Əgər bunu həqiqətən dərk edə bilsəniz, bu, düşüncə tərzinizi tamamilə dəyişəcək və dualizmi sökəcək. Amma bunu başa düşmək asan deyil. Biz yekunlaşdırmalıyıq, ona görə də gəlin xülasə edim.

Bu xülasə Inquiry jurnalında dərc etdirdiyim başqa bir məqalədən gəlir, hansı ki, mənim son mövqeyimi əks etdirir: biz "yad varlığın" şüura sahib olub-olmadığını soruşmaq cazibəsinə müqavimət göstərməliyik. "Şüur" kənarda müstəqil mövcud olan, fəlsəfə və ya elm tərəfindən açılmağı gözləyən, lakin eyni zamanda düzəlməz bir şəxsi xarakter daşıyan bir şeydir. Biz bu "şüur" yanlış təsəvvürünü sındırmalıyıq.

Əvəzində, biz soruşmalıyıq: onunla bir "Qarşılaşma" dizayn etmək mümkündürmü? Əgər belə bir qarşılaşma ortaq reallığımızda baş verəcəksə, şüur dilimiz hansı düzəlişlərə və təkamüllərə məruz qalmalıdır? Çünki sonda, yalnız ictimai təcrübədə təzahür edə və paylaşıla bilən proseslər həqiqətən mənalıdır. Bu bizim yeganə vəzifəmizdir.

Çıxışından sonra sual-cavab sessiyası oldu. Mən ona onlayn bir sual verdim:

Bu onun cavabı idi:

Dünyanın ən yaxşı süni intellekt aliminə fəlsəfi cəhətdən dərin bir sual verdikdə və onun canlı cavabını aldıqda, mən həyəcanlandım. Mən bu sahədə yeni başlayan biriyəm və Shanahan uzun illərdir ki, bu barədə düşünür.

Mən əvvəllər onun podkastlarından birinə qulaq asmışdım, orada qeyd edirdi ki, süni intellekt termininin mənşəyi olan 1956-cı il Dartmouth Konfransının qurucularını tanıyır.

İndi, yetmiş il keçdi.