Արհեստական բանականություն

[Վիշապ]

...

Էս (ու մնացած բոլոր) կարծիքը գուցե (հաստատ) սուբյեկտիվ ա (չի նշանակում միարժեք սխալ), բայց ինձ թվում ա նպատակ ունենալու ու ֆիզիկական աշխարհի հետ հաջողությամբ առնչվելու ու անընդհատ ադապտացվելու պայմանները պահանջում են գիտակցություն։ Ու նաև գիտակցության ֆիզիկական տրանզիստորները պետք ա ներդրված լինեն ԱԸԲ-ի մեջ զրոյական պահին, այսինքն չի կարա առանց գիտակցության ԱԲ-ն hardware-ը փոփոխելով ձեռք բերի գիտակցություն ու դառնա ԱԸԲ, ոնց ասենք երեխեն չի կարող խեցգետնի ուղեղով ծնվել, հետո մեծանալուց մարդու ուղեղի անցնել։ Իսկ գիտակցությունը մենք էնքան չենք հասկանում, որ մի հատ էլ տրանզիստորներով ստանանք։

...

Ըստ մեյնսթրիմ գիտության, գիտակցությունը պատրանք է, այսինքն գոյություն չունի որպես այդպիսին։ Դա սեփական ընտրությունները հարցականի տակ դնելու երևույթն է, ինչպես բեմադրվում է Westworld-ի հայտնի դրվագում․

 •

• 

 Սեղմել՝ ցույց տալու համար

Ստիվեն Հոքինգը մարդու ուղեղը համարում էր կոմպյյուտեր, որը դադարում է աշխատելուց, երբ կոմպոնենտները խափանվում են՝

"I regard the brain as a computer which will stop working when its components fail. There is no heaven or afterlife for broken down computers; that is a fairy story for people afraid of the dark."

Եթե նույնիսկ գիտակցությունը համարենք օբյեկտիվ իրողություն, ապա ԱԲ-ն ինքնավար գործելու ու ինքնակատարելագործվելու համար դրա կարիքը չունի, կամ էլ կարող է դրա իմիտացիան ունենալ զուտ մարդկանցս վրա տպավորություն թողնելու համար։
Ողջ խնդիրը կոդի մեջ է, մեր պարագայում՝ ԴՆԹ-ի, իսկ ռոբոտների պարագայում՝ ներկառուցված ծրագրի, որն ապահովում է խնդրի դրվածքը, ինտերֆեյսն ու սովորելու ունակությունները։ Ու բացարձակ պարտադիր չի, որ ԱԲ-ն մարդու նման ապրել ու կայֆավատ լինել ցանկացող օբյեկտ լինի, ԱԲ-ն կարող է կամայական խնդիր, կամ խնդիրների հավաքածու լուծող ինքնավար օբյեկտ հանդիսանալ։
Զգայական գիտակցությունը, իմաստները, հարցեր տալու ու պատասխաններ որոնելու ունակությունները դրանք բոլորը հանգիստ կարող են ծրագիր կամ կոդ լինել, ուրիշ ոչինչ։ Այսինքն ներկայիս մատերիալիստական գիտությունը հույզերի, կամ ինքնագիտակցության նման կամայական էություն համարում է պարզապես ինֆորմացիա՝ կոդ, որը պահպանվում ու հարաբերվում է աշխարհի հետ ինչ-որ ինտերֆեյսով։
Ես ինքս անձամբ էմոցիոնալ վերապահումներ ունեմ, որովհետև ինձ պարզապես դուր չի գալիս օրգանական մեքենա հանդիսանալու գաղափարն ու անհոգի դատարկությունը, բայց թե տեխնիկական ու թե փիլիսոփայական տեսանկյունից ես որևէ լուրջ կամ գիտական հակափաստարկ չունեմ (այսինքն համապատասխան գիտելիքներն էլ չունեմ), թե մենք ինչով ենք ռոբոտներից տարբերվում, բացի կառուցվածքայնորեն օրգանական լինելուց։ Մնում են էմոցիաներն ու հավատքը։
Կարճ ասած՝ ԱԲ-ին զգայական ինքնագիտակցություն վայթե պետք չի ԱԲ լինելու ու գեր-ԱԲ դառնալու համար, ու հարցական է՝ մարդիկս ունենք դրանից, թե չունենք։

[մարդ եղած վախտ]

Ըտեղ էլ եմ համաձայն, որ մարդը հաշվարկ անող մեքենա ա, ես-ը պատրանք ա, ու գիտակցությունը անպայման կոդավորված ա բջիջների (ճնշող մեծամասնությամբ նեյրոնների) միջև հարաբերություններով։ Բայց հարցը էն ա, թե ինչ data structure ա հնարավորություն տալիս ունենալ գիտակցություն։ Ինչ էլ որ լինի, էդ data structure-ը ահռելի robustness ունի ու նոր ինֆորմացիան ինտեգրելու ֆանտաստիկ կարողություններ։ Հիմիկվա ամենալավ մոդելները լուծում են մի հատիկ խնդիր (ասենք տեքստ կամ պատկեր ստանալ)։ Ասենք gpt3.5-ի համար թրեյն են արել 175 միլիարդ պարամետր, ու հնարավոր ա, որ gpt4-ի համար մարդու ուղեղի հետ համեմատելի քանակով պարամետրեր - 100 տրիլիոնի կարգի։ Էս համակարգերը լուծում են մի հատիկ խնդիր (գրել տեքստ), ընթացքում չեն սովորում (այսինքն ցանցի պարամետրերը ընթացքում ափդեյթ չեն լինում, ինքը ինքնակատարելագործվող չի) ու աշխարհի հետ ոչ մի այլ կերպ չեն հաղորդակցվում, քան էկրանի պիքսելների գույները փոխելը։

100 տրիլիոնի կարգի սինապսներով մարդիկ լրիվ ուրիշ որակի մեքենաներ են, ու էդ տարբերությունը ինձ թվում ա այնուամենայնիվ էդ data structure-ն ա, որի անունը գիտակցություն ա: Ցավոք էդքան էլ լավ չգիտեմ գիտակցության բոլոր որակները, որ ԱԸԲ-ի համար անհրաժեշտ կլինեին, բայց որակներից մեկը, որ պետք ա, էդ իրականության ներքին մոդել ստանալն ա, որտեղ կինտեգրվեն տաբեր տիպի ինֆորմացիաներ աշխարհի ու ինքը իրա մասին, ընդ որում նախապես տվյալների տիպերն էլ պարտադիր չի hard-coded լինեն։ Էդ ներքին մոդելում ա հնարավոր անել ահռելի թվով էքսպերիմենտներ առանց իրական աշխարհը ու ինքը իրան վարի տալու։ Դրա շնորհիվ 100 տրիլիոն պարամետր ունեցող մարդը լրիվ ուրիշ որակի մեքենա ա - կարա սովորի, իրական ժամանակում որոշումներ կայացնի, ֆիզիկական աշխարհի հետ շփվի։ Հիմա հասկանալի ու օգտագործվող data structure-ներով ինձ թվում ա ուղղակի հնարավոր չի լուծել էդ ինֆորմացիայի ինտեգրման խնդիրը։

Ասենք ԱԸԲ-ն պետք ա կարողանա կամայական նոր տիպի սենսոր ձեռք բերի ու հասկանա, թե էդ սենսորից ինչ տվյալներ ա իրան պետք, էդ ինֆորմացիայի հետ ինչ անի։ Էդ նոր սենսորի օգտակարությունը չի կարա ԱԸԲ-ն հասկանա առանց ներքին մոդելի։ Իսկ օրինակ մարդը 9 ամիս լույս տեսած չի լինում, ծնվում ա, ու մի քանի ամսում շատ լավ պատկերացնում ա, թե իրա աչքից եկած ազդակները ոնց են կապվում ֆիզիկական աշխարհի հետ։ Նույն կերպ ԱԸԲ-ն պետք ա կարողանա ցանկացած նոր տիպի սենսոր վերցնի ու ինտեգրի իրա՝ աշխարհի ներքին մոդելի հետ։

[Freeman]

Ասենք ԱԸԲ-ն պետք ա կարողանա կամայական նոր տիպի սենսոր ձեռք բերի ու հասկանա, թե էդ սենսորից ինչ տվյալներ ա իրան պետք, էդ ինֆորմացիայի հետ ինչ անի։ Էդ նոր սենսորի օգտակարությունը չի կարա ԱԸԲ-ն հասկանա առանց ներքին մոդելի։ Իսկ օրինակ մարդը 9 ամիս լույս տեսած չի լինում, ծնվում ա, ու մի քանի ամսում շատ լավ պատկերացնում ա, թե իրա աչքից եկած ազդակները ոնց են կապվում ֆիզիկական աշխարհի հետ։ Նույն կերպ ԱԸԲ-ն պետք ա կարողանա ցանկացած նոր տիպի սենսոր վերցնի ու ինտեգրի իրա՝ աշխարհի ներքին մոդելի հետ։

Բայց մարդը դրա համար ուղեղում հատուկ բաժիններ ունի արդեն ու եթե էդ բաժինները վնասվեն ինքը չի կարա ուրիշ բան թրեյն անելով մեկ ա սկսի տեսնել:
Չնայած բաժիններ էլ կան, որ իրար կարան փոխարինեն որոշ ժամանակ հետո ու վնասված տեղեր կան, որ կոմպենսացվում են, բայց կարծում եմ մարդու ուղեղն ու անծանոթ իրավիճակներում կողմնորոշվելը շատ գերագնահատված են ու AGI պետք չի խնդիրների ճնշող մեծամասնությունը, եթե ոչ բոլորը, մարդուց լավ լուծելու համար։

[մարդ եղած վախտ]

Բայց մարդը դրա համար ուղեղում հատուկ բաժիններ ունի արդեն ու եթե էդ բաժինները վնասվեն ինքը չի կարա ուրիշ բան թրեյն անելով մեկ ա սկսի տեսնել:

Դե վնասվելը ուրիշ հարց ա․ եթե կոմպի ինչ֊որ մասեր էլ վնասվեն, էլի չի աշխատի ։Ճ բայց եթե համարենք, օր ասենք մարդու աչքերի ազդակները ուղեղի լրիվ ուրիշ հատվածին փոխանցվեն, ինձ թվում ա մարդը դեռ ահագին կսովորի տեսնել

․․․ AGI պետք չի խնդիրների ճնշող մեծամասնությունը, եթե ոչ բոլորը, մարդուց լավ լուծելու համար։

Ահա, ուղղակի հարցը մնում ա թե առանձին խնդիր մարդուց ավելի լավ լուծող տեխնոլոգիան հիմա իրանից ինչքանով ա վտանգ ներկայացնում։ Համենայն դեպս ես էդ հարցին էի փորձում պատասխանել։

[Վիշապ]

Բնավ պարտադիր չի, որ ԱԲ-ն ունակություններով ու վարքագծով նմանվի մարդուն, դա ավելի շուտ ռոմանտիկ նպատակ է, քան թե պրակտիկ։ Իրականում ԱԲ-ն դրված խնդիրները ավելի օպտիմալ է լուծելու պարզեցված մոտեցումներ որոնելու շնորհիվ, դա այն է, որ մարդկանցս մեծ մասը դրանից կաղում ենք, կամ էլ մեզ զանազան հույզեր ու ամբիցիաներ խանգարում են։ Իսկ մարդուց ավելի լավ խնդիրներ լուծող բոլոր տեխնոլոգիաները իրենցից վտանգ են ներկայացնում, օրինակ տրակտորը վտանգավոր կենդանի է ։Ճ Հիմա պատկերացրեք, տրակտորին ծրագրավորում ենք, որ ինքնուրույն ման գա Երևանի փողոցներով, ու բոլոր հայտնաբերած ասֆալտի փոսերը լցնի, բայց ընթացքում մարդկանց ու մեքենաներին տակը չգցի։ Նման կերպ ցանկացած ինքնուրույն սովորող ու թեկուզ շատ նեղ ու կոնկրետ խնդիր լուծող ԱԲ վտանգավոր է, եթե կարգին վերիֆիկացիա չանցնի։ Իսկ ներկայումս, մեր խելոքները սկսում են մեծից՝ փորձում են ունենալ ամբողջական ինտեգրված ու ունիվերսալ ԱԲ, որ կիրառեն հազար ու մի տեղ։ Ո՞նց կարող է դա իրենից վտանգ չներկայացնել։
Ես կարծում եմ, որ ոչ թե ռոբոտի մեջ ինքնագիտակցություն, հույզեր ու բարոյականություն ունենալն է վտանգ ներկայացնելու, այլ ճիշտ հակառակը՝ առանց բարոյականության ու հույզերի ու գիտակցության, բայց լիքը ինքնավար ֆունկցիաներ ունեցող ռոբոտն է ամենամեծ վտանգը։
ՈՒ առհասարակ, ես կարծում եմ մարդկությունը թարս ճամփով է զարգացել, զուտ մենակ անաստվածության ու նյութապաշտության պատճառով։ Մեր խնդիրները, էներգիան, սնունդն ու բոլոր հարմարությունները պիտի հիմնված լինեին օրգանական աշխարհի վրա, որի էությունը հասկանալու փոխարեն մենք փորձել ենք անօրգանական նյութից արհեստական կուռքեր ու աստվածություններ սինթեզել։

[մարդ եղած վախտ]

դե հա, ամեն նոր տեխնոլոգիա էլ պետք ա վերիֆիկացիա անցնի ու մարդիկ պետք ա անվտանգ վարվել սովորեն։ Ասենք ինչ֊որ օր էլ պատառաքաղն ա վտանգավոր տեխնոլոգիա եղել, որտև կարելի ա աչք հանել դրանով, բայց մարդիկ ժամանակի հետ սովորել են պատառաքաղը անվտանգ օգտագործել, ու երևի ամեն տարի մատների վրա ա կարելի հաշվել, թե քանի հոգի ա դրանից տուժում։ Նույն կերպ էլ պետք ա սովորել ԱԲ֊ն անվտանգ օգտագործել, ոնց մինչև էս եղած բոլոր տեխնոլոգիաների հետ ենք սովորել/սովորում։

Մերսի քննարկման համար ։)

[մարդ եղած վախտ]

...Ասենք ինչ֊որ օր էլ պատառաքաղն ա վտանգավոր տեխնոլոգիա եղել...

կրակը կամ էլեկտրականությունը ավելի լավ համեմատություններ են աչքիս

[Վիշապ]

կրակը կամ էլեկտրականությունը ավելի լավ համեմատություններ են աչքիս

Էդքան էլ չէ։
Սրա անունը կարելի է դնել ավտոմատացում։
Տեխնոլոգիական զարգացման առաջին էտապում ավտոմատացումը փոխարինեց շատ ֆիզիկական գործերին, որ մարդս էր անում։
Միջին շրջանում կոմպյուտերների ու չիպերի շնորհիվ ավտոմատացվեցին, կամ հեշտացվեցին գրեթե բոլոր տեսակի նախագծային, հաշվարկային, տվյալների մշակման, ու էլի լիքը ֆլան ֆստան խնդիրներ, ու «կարևորագույն» գործերում մարդու խնդիրը ուղեղի աշխատանքն էր և է՝ գաղափարներ ստեղծելու, դրանց իրականացնելու, կատարելու, վերահսկելու, օգտագործելու, ֆլան-ֆստանի մասով:
Հիմա երրորդ էտապն է, որ թամբալ մարդս արդեն ուղեղն էլ չի ուզում աշխատեցնի, ու փորձում է ավտոմատացնել գաղափարներ ստեղծելը, իրականացնելը, կատարելը, վերահսկելը, ու մարդուն թերևս կմնա մենակ վերջնական պրոդուկտի օգտագործումը:
Սովորաբար, ամեն խոշոր անցում ուղեկցվում է լավագույն դեպքում տնտեսական ցնցումներով, վատագույն դեպքում՝ համաշխարհային պատերազմով:
Ու այ էստեղ փորձանքը ոչ թե հայտվելու է էլեկտրահարության, կամ ավտովթարի, կամ ասենք վերջին վարյանտ ատոմակայանի պայթյունի տեսքով, այլ՝ թեթև դեպքում տնտեսական ու կառավարման համակարգերի կոլապսների, ու դրանից բխող բևեռացումների ու ճգնաժամների տեսքով, իսկ ծանրագույն դեպքում մարդու գոյության ավարտով:
Ներկայիս մեծագույն պրոբլեմը ԱԲ-ի կիրառման կարգավորման բացակայությունն է, որը վերահսկելու ռացիոնալ մեխանիզմ էլ դեռևս կարծես գոյություն չունի: Նահանգներում մի հատ սենատոր է, որ գնում է ԱԲ-ի դասերի, որ հասկանա, թե դա ինչ է, ու մի հատ էլ սենատոր կա, որը մագիստրոսական թեզ ունի ԱԲ-ի կիառմամբ, մնացածը խաբար չեն: Հիմա էս իբր թե քչից շատից խաբար սենատորին հարցնում են, թե բա ինչ է վիճակը, ասում է՝ անպայման պետք է մի բան անել, բայց չգիտենք ինչ է պետք անել, որ անենք, ու չգիտենք արդեն ուշ է անելը, թե ժամանակ ունենք, ու չգիտենք թե ինչքան ժամանակ ունենք, եթե ունենք… այ սենց:
Մյուս մեծագույն պրեբլեմը՝ ԱԲ-ն հիմա դիտարկվում է ոչ թե որպես առաջնայինը մարդու դարդ ու ցավերը թեթևացնելու միջոց, այլ որպես յուղոտ բիզնես, այսինքն խնդիրները հեշտանալու փոխարեն ի հայտ են գալու նոր կոմպլեքս պրոբլեմներ, որոնք միայն ԱԲ-ով կարելի է լուծել, ու փող են ուզելու, շատ փող, ու մարդիկ տալու են, ձև չունեն չտալու, լիքը աշխատանք փոխարինվելու է ԱԲ-ով ու լինելու են մի վախտ գործազուրկներ, սերունդները դեգրադացվելու են, որովհետև մարդկային առողջ մրցակցությունն ու իդեաներ իրականացնելու ձգտումը ԱԲ-ն ոչնչացնելու է, ավելի ու ավելի քիչ մասնագետներ են լինելու, որ կարողանալու են տիրապետել ու կարգավորել ներկայիս գերբարդ տեխնոլոգիաները, ու դասակարգային լուրջ բաժանում է լինելու, ու ներկայիս թե կապիտալիստական ու թե սոցիալիստական համակարգերը նոր զարգացող իրավիճակի դեմ որևէ իմունիտետ չունեն:

[մարդ եղած վախտ]

Դե ամեն նոր տեխնոլոգիա իրա հետ բերում ա ռիսկեր, լիքը չարաշահվում ա, հաճախ ահագին թվով մարդիկ են տուժում, մինչև կարգավորումներ մշակվեն ու տեխնոլոգիան քիչ թե շատ ապահով ձևով ինտեգրվի մարդկանց կյանք։ Էս պահին տենց մի քանի խոշոր թեմաներ կան, որ մեծ ռիսկեր ու պոտենցիալներ են պարունակում։ ԱԲ֊ն միանշանակ դրանցից մեկն ա։

Ու իհարկե, մեծ ցնցումներ սպասվում են զուտ որտև պատմությունը չի վերջացել, ու էդ մեծ ցնցումներում ԱԲ֊ն իհարկե կիրառվելու ա, չարաշահվելու ա, որտև ամեն ժամանակաշրջանում էլ կողմերը փորձում են վերջին տեխնոլոգիաներով "կռվել"։ Ուղղակի իմ մոտեցումը էն ա, որ ԱԲ֊ն որպես այդպիսին ագենտ չի (agency չունի), ու զուտ վտանգավոր ա էնքանով, ինչքանով ամեն տեխնոլոգիա կարա որպես զենք օգտագործվի։ Այսինքն վտանգը ոչ թե ԱԲ֊ն ա, այլ էն, որ մարդիկ բաժանելու բաներ ունեն։ Ասենք մեքենաշինությունը, ավիացիան աղետալի տեխնոլոգիաներ էին անցած դարի պատերազմների ֆոնին, բայց ոչ մեկ էդ տեխնոլոգիաներին չի մեղադրում պատերազմների համար ու մարդկանց ճնշող մեծամասնության կյանքում իրանք դրական դեր են խաղում, ու շատ էլ լավ կարգավորված են (չնայած որ պատահում են մարդիկ, որ իրանց գրուզավիկով մտնում են ամբոխի մեջ ու մի քանի տասնյակ մարդ են սպանում)։ ԱԲ֊ի կիրառմամբ էլ մարդկությունը չի վերանա։ Չտեսնված պատերազմնե՞ր, աղետնե՞ր․․․ հա, իհարկե։ ․․․ հետո էլ ավելի թարմ տեխնոլոգիաներ, կայֆեր, կայծեր, էլ ավելի այլանդակ կռիվներ․․․ երևի տենց էլի

[Freeman]

Դե վնասվելը ուրիշ հարց ա․ եթե կոմպի ինչ֊որ մասեր էլ վնասվեն, էլի չի աշխատի ։Ճ բայց եթե համարենք, օր ասենք մարդու աչքերի ազդակները ուղեղի լրիվ ուրիշ հատվածին փոխանցվեն, ինձ թվում ա մարդը դեռ ահագին կսովորի տեսնել

Վնասվելու օրինակը բերել էի, որ ցույց տայի, որ շատ կոնկրետ հատված կա նախատեսված տեսնելու համար, լույսը նորություն չի մարդու ուղեղի համար, այլ միջավայր, որում աշխատելու համար ուղեղը միլիարդավոր տարիների ճամփա ա անցել (կարծում եմ առաջին ֆոտոռեցեպտորները միլիարդի կարգի պատմություն ունեն, ոչ թե միլիոնների)։ Այլ կերպ ասած՝ նենց չի որ ուղեղին գցում ես իրեն անծանոթ միաջավայր, միանգամից սկսում ա կողմնորոշվել ու աշխատել։ Որոշ չափով նեյրոպլաստիկություն ունի, բայց երբ մեր սարքածներն սկսում ենք համեմատել ուղեղի հետ՝ սովորաբար շատ ենք գերագնահատում ուղեղն ու լիքը մարդիկ ԱԲ-ից նենց սպասելիքներ ունեն, որ նույնիսլ մեր ուղեղը մեծ մասը չի ձգի։ Կարծում եմ AGI-ի հասնելուց շատ ավելի շուտ ամեն ինչը մարդուց լավ անող տեխնոլոգիաներ կլինեն։

Ահա, ուղղակի հարցը մնում ա թե առանձին խնդիր մարդուց ավելի լավ լուծող տեխնոլոգիան հիմա իրանից ինչքանով ա վտանգ ներկայացնում։ Համենայն դեպս ես էդ հարցին էի փորձում պատասխանել։

Այ էդ չգիտեմ, քանի որ մարդկանցից ա կախված, իսկ մարդկանց մեծ մասն անկանխատեսելիության աստիճան հիմար են

[մարդ եղած վախտ]

Հիմիկվա ամենալավ մոդելները լուծում են մի հատիկ խնդիր (ասենք տեքստ կամ պատկեր ստանալ)։ Ասենք gpt3.5-ի համար թրեյն են արել 175 միլիարդ պարամետր, ու հնարավոր ա, որ gpt4-ի համար մարդու ուղեղի հետ համեմատելի քանակով պարամետրեր - 100 տրիլիոնի կարգի։

GPT4-ը ոչ թե 100 տրիլիոնի կարգի պարամետր ունի փաստորեն, այլ մեկ տրիլիոնի, ու, ոնց ասում են, գլուխս պայթացրեց թե ինչ ա արել վաղ շրջանի տարբերակը։ Հիմա թողարկված մոդելը փաստորեն ահագին թուլացված ա անվտանգությունից ելնելով։

[enna]

Էսօր փորձեցի պլյուսին subscribe լինել GPT4-ը փորձելու համար, տարբեր քարտերով փորձեցի չստացվեց։ Փորձե՞լ եք, ո՞նց ա ամենօրյա առաջադրանքներում տարբերությունը

[մարդ եղած վախտ]

@Freeman նաև քո փորձելուց GPT4֊ը կարողանում է՞ր այլ գործիքներից օգտվել։

[Freeman]

Էսօր փորձեցի պլյուսին subscribe լինել GPT4-ը փորձելու համար, տարբեր քարտերով փորձեցի չստացվեց։ Փորձե՞լ եք, ո՞նց ա ամենօրյա առաջադրանքներում տարբերությունը

Կարծեմ ինչ-որ երկրների սահմանափակում կար, բայց որ ռուսերեն պոիսկ տաս կգտնես շրջանցելու ձև, իրանք վրոձի կարողանում են։
Տարբերությունը շատ մեծ ա, 3,5-ը ոնց-որ 4-ի միամիտ երեխեն լինի ։Դ

@Freeman նաև քո փորձելուց GPT4֊ը կարողանում է՞ր այլ գործիքներից օգտվել։

Չէ դեռ, waitlist կա, գրանցվել սպասում եմ

[Արամ]

Ես հայկական սովորական քարտով, plus-ը գնել եմ: