Արհեստական բանականություն

[Արէա]

Գիտաֆանտաստիկ ստեղծագործությունների ճնշող մեծամասնությունում արհեստական բանականությունը ներկայացվում է որպես ինչ-որ սարսափելի, մարդկության համար վտանգավոր, կործանող, քաոս սփռող երևույթ։
Ամենուրեք վերահսկողությունից դուրս եկած, կամ ֆիզիկական ռոբոտներ են, որոնք իրենք են ներխուժել մարդու միջավայր, կամ վիրտուալ բոտեր, որոնք մարդկանց են ներքաշել իրենց վիրտուալ միջավայր, մարմինները թողնելով ֆիզիկական աշխարհում։
Ու համարյա միշտ արհեստական բանականությունը ցանկանում է վնասել մարդուն, ստրկացնել, վերցնել իր տիրապետության տակ, կամ ընդհանրապես վերացնել։

Արդյո՞ք հիմնավոր են էս կարծրատիպերը։

Նախ, հնարավո՞ր է ընդհանրապես այնպիսի արհեստական բանականության գոյությունը, որն իր հետագա գոյության ու զարգացման համար մարդու կարիքը չի ունենա։
Որքանո՞վ վտանգավոր կլինի այդպիսի բանականության գոյությունը մարդկության համար։
Ի՞նչը պիտի ստիպի ԱԲ-ին վնասել, վերացնել մարդկությանը։
Արդյո՞ք արհեստական բանականությունն ընդհանրապես կցանկակա շարունակել իր գոյությունն ու պարզապես չի ինքնաոչնչացվի։

Քննարկենք։

[Chuk]

Էդ հարցերիդ որ պատասխանեմ, արդյունքում մի հատ ֆանտաստիկա ժանրի պատմվածք կստացվի

Բայց մի քիչ ուրիշ ասպեկտով պատասխանեմ։ ԱԲ-ն օգտակար բան լինելով հանդերձ կարող ա իսկապես շատ վնասի մարդկությանը, դարձնելով ավելի ալարկոտ, անաշխուտանակ, սեփական զարգացմանը այլևս չձգտող։ Որտև քո տեղն արդեն ԱԲ-ն քո խնդիրների զգալի հատվածը կլուծի։ Էսօր արդեն համակարգիչն ու համացանցն են շատերին ստիպում չինքնազարգանալ, որտև խնդիրների ահագին մասը հեշտացել ա։ Իհարկե երկուսն էլ հրաշալի բաներ են ու շատ մսրդիկ դրանք խելամիտ են օգտագործում, որպես օգնող գործիք ու արդյունքում թե՛ ինքնազարգանում են, թե՛ կարողանում են ավելի ու ավելի բարդ խնդիրներ լուծել: Բայց դե քիչ չեն սրանց պատճառով դեգրադացվողները։

Ամեն դեպքում բալանսը պահվում ա։ Բայց կպահվի՞ ԱԲ-ի գոյության դեպքում։ Դժվար ա ասել։ Որտև դու խնդիրը ձևակերպելուց հետո մինչև ուզես լուծել, ինքն արած կլինի։ Կամ կարող ա քեզնից առաջ արդեն խնդիրն էլ ձևակերպի։

Ու մեկ էլ մի օր կարող ա պարզես, որ դու ապրում ես ուտելու, խմելու, շոփինգի ու կայֆավատի համար։ Մնացած ամեն ինչը՝ աշխատանք, նոր հայտնագործություններ, ճշգրիտ գիտության զարգացում, պատմության, լեզուների ուսումնասիրում, հանցագործությունների ուսումնասիրում - դատ, և այլն, մարդու փոխարեն արդեն ԱԲ-ն ա անում։

Իսկ դա կարող ա բերի մարդու՝ էս տեսակի ոչնչացմանը։

[Lusina]

Գիտաֆանտաստիկ ստեղծագործությունների ճնշող մեծամասնությունում արհեստական բանականությունը ներկայացվում է որպես ինչ-որ սարսափելի, մարդկության համար վտանգավոր, կործանող, քաոս սփռող երևույթ։
Ամենուրեք վերահսկողությունից դուրս եկած, կամ ֆիզիկական ռոբոտներ են, որոնք իրենք են ներխուժել մարդու միջավայր, կամ վիրտուալ բոտեր, որոնք մարդկանց են ներքաշել իրենց վիրտուալ միջավայր, մարմինները թողնելով ֆիզիկական աշխարհում։
Ու համարյա միշտ արհեստական բանականությունը ցանկանում է վնասել մարդուն, ստրկացնել, վերցնել իր տիրապետության տակ, կամ ընդհանրապես վերացնել։

Արդյո՞ք հիմնավոր են էս կարծրատիպերը։

Նախ, հնարավո՞ր է ընդհանրապես այնպիսի արհեստական բանականության գոյությունը, որն իր հետագա գոյության ու զարգացման համար մարդու կարիքը չի ունենա։
Որքանո՞վ վտանգավոր կլինի այդպիսի բանականության գոյությունը մարդկության համար։
Ի՞նչը պիտի ստիպի ԱԲ-ին վնասել, վերացնել մարդկությանը։
Արդյո՞ք արհեստական բանականությունն ընդհանրապես կցանկակա շարունակել իր գոյությունն ու պարզապես չի ինքնաոչնչացվի։

Քննարկենք։

Բանականությունը

[Արէա]

Չուկ ջան, քո ասածը ԱԲ չի։

Քո ասածն ուղղակի այսօրվա մեքենաների մի քիչ ավելի կատարելագործված տեսակն ա։
Նման խնդիր իհարկե կա, երբ մարդիկ էնքան կատարյալ գործիքներ ստեղծեն, երբ ինքնուրույն անելու էլ բան չմնա, չնայած ես մտածում եմ, որ անելու բան միշտ էլ կգտնեն։
Բայց սա ԱԲ-ի հետ կապ չունի։

Արհեստական բանականությունը մեքենա չի, ինքը նախատեսված չի որևէ կոնկրետ բանի համար։
ԱԲ-ն մտածում ու ինքնուրույն որոշումներ ա կայացնում։
Եթե որոշի օգնել մարդկանց՝ էդ դեպքում կարա քո ասած սցենարը լինի, չնայած կարծում եմ հենց ԱԲ-ն չի թողնի դա, եթե իրոք ուզի օգնի։

Հարցը նրանում ա, թե նման բանականությունը կցանկանա՞ օգնել, կամ վնասել մարդկանց։ Ընդհանրապես ինչո՞վ պայմանավորված կլինեն ԱԲ-ի գործողությունները, ի՞նչ շարժառիթներով։

[Chuk]

Չուկ ջան, քո ասածը ԱԲ չի։

Եսիմ Արէա ջան, իմ կարծիքով ԱԲ-ի ստեղծման դեպքում ինքը կկատարի ներկայիս մեքենաներից շատ ավելի կատարելագործված տարբերակների դերը:

[Վահե-91]

Իմ կարծիքով հնարավոր չի լիարժեք ԱԲ ստեղծել: Օրինակ հնարավոր ա նենց ռոբոտ ստեղծել, որ տեսած բանը կկարողանա սովորել ու հետագայում կիրառել (տեսականորեն հնարավոր ա, բայց իհարկե շատ բարդ): Բայց հնարավոր չի, որ ռոբոտը նենց բան անի, որ նախորոք իրա մեջ չեն ծրագրավորել կամ չի տեսել:

[Ռուֆուս]

Արհեստական բանականության մասին էս վերին աստիճանի հետաքրքիր հոդվածները կարդացեք Wait But Why-ից։ Էնտեղ ամեն ինչը մանրամասն նկարագրած է, թե ինչ է ԱԲ-ն ու երբ մարդկությունը կստեղծի ԱԲ ու ինչ վտանգներ կարա ԱԲ-ն առաջացնի մարդկության հետագա գոյատևման համար։

Ուզում էի հայությանը լավություն անեի, հայերեն թարգմանեի, բայց ալարեցի, շատ երկար են։

The AI Revolution: The Road to Superintelligence

The AI Revolution: Our Immortality or Extinction

[Chuk]

Ուզում էի հայությանը լավություն անեի, հայերեն թարգմանեի, բայց ալարեցի, շատ երկար են։

Մինչև չթարգմանես, չեմ կարդա

[Ռուֆուս]

Մինչև չթարգմանես, չեմ կարդա

Արտ, մեծ սիրով կթարգմանեի, բայց իրոք երկար ա ու բավականին բարդ։ Ինձ թվում ա սրա ռուսերեն տարբերակը կճարվի, adme-ն շատ ա սիրում wbw-ից նյութեր «գողանալ»։

[Chuk]

Արտ, մեծ սիրով կթարգմանեի, բայց իրոք երկար ա ու բավականին բարդ։ Ինձ թվում ա սրա ռուսերեն տարբերակը կճարվի, adme-ն շատ ա սիրում wbw-ից նյութեր «գողանալ»։

Անգլերենը կկարդամ, Ռուֆ, ուզում էի քեզ շահագրգռել, բայց ոնց-որ որոշումդ վերջնական ա

[Վահե-91]

Արհեստական բանականության մասին էս վերին աստիճանի հետաքրքիր հոդվածները կարդացեք Wait But Why-ից։ Էնտեղ ամեն ինչը մանրամասն նկարագրած է, թե ինչ է ԱԲ-ն ու երբ մարդկությունը կստեղծի ԱԲ ու ինչ վտանգներ կարա ԱԲ-ն առաջացնի մարդկության հետագա գոյատևման համար։

Ուզում էի հայությանը լավություն անեի, հայերեն թարգմանեի, բայց ալարեցի, շատ երկար են։

The AI Revolution: The Road to Superintelligence

The AI Revolution: Our Immortality or Extinction

Արի հայությանը լավություն արա էլի, ես անգլերեն չգիտեմ

[Ռուֆուս]

Անգլերենը կկարդամ, Ռուֆ, ուզում էի քեզ շահագրգռել, բայց ոնց-որ որոշումդ վերջնական ա

Մի օր հնարավոր ա, բայց հաստատ ոչ հիմա։ Ի դեպ բավականին ծանր նյութ ա, ինձ մի քանի օր ծանր դեպրեսիաների մեջ էր գցել

[StrangeLittleGirl]

Եսիմ Արէա ջան, իմ կարծիքով ԱԲ-ի ստեղծման դեպքում ինքը կկատարի ներկայիս մեքենաներից շատ ավելի կատարելագործված տարբերակների դերը:

Համաձայն եմ Չուկի հետ: Հիմիկվա մեքենաները հենց մարդկային բանականության հիման վրա են ստեղծվում: Նույն թարգմանչական ծրագրերը լրիվ մոդելավորվում են բնական լեզվի յուրացման հիման վրա: Ու կարծում եմ՝ հեչ հեռու չի էն պահը, երբ կանտրոլից դուրս էկող բանականություններ կստեղծվեն:

[Lusina]

Իմ կարծիքով հնարավոր չի լիարժեք ԱԲ ստեղծել: Օրինակ հնարավոր ա նենց ռոբոտ ստեղծել, որ տեսած բանը կկարողանա սովորել ու հետագայում կիրառել (տեսականորեն հնարավոր ա, բայց իհարկե շատ բարդ): Բայց հնարավոր չի, որ ռոբոտը նենց բան անի, որ նախորոք իրա մեջ չեն ծրագրավորել կամ չի տեսել:

Էնքան էլ անհնար չի. Էս ծրագիրը հավես օրինակ ա genetic programming-ի. Օբյեկտին չեն ասում կամ ցույց տալիս, թե ոնց ա պետք "քայլել", ինքն ա սովորում՝ հիմնվելով նախկին (սեփական) փորձերի վրա.

[Արէա]

Եսիմ Արէա ջան, իմ կարծիքով ԱԲ-ի ստեղծման դեպքում ինքը կկատարի ներկայիս մեքենաներից շատ ավելի կատարելագործված տարբերակների դերը:

Էլ ի՞նչ բանականություն, եթե միայն նախօրոք ծրագրավորած ֆունկցիաներ ա կատարելու։ Դա կլինի լավ, կամ շատ լավ, կամ անհավանական լավ գրված ծրագիր, բայց ոչ ավելին։

Արհեստական բանականությունը պիտի բանականություն ունենա, ներողություն տաֆտալոգիայի համար
Այսինքն պետք ա մտածի, որոշումներ կայացնի, տրամաբանված գործողություններ կատարի։

Ես հենց սրա համար էի սկզբում գրել, որ ԱԲ-ը գուցե բոլորովին էլ չցանկանա գոյություն ունենալ, որովհետև չի գտնի դրա իմաստն ու ուղղակի կանջատի, կջնջի իրեն։

Կամ գուցե ինչ-որ պատճառ ամեն դեպքում կգտնի՞ ապրելու, մարդկանց օգնելու, կամ վնասելու։

Կամ կարող ա ընդհանրապես չմտածի էլ իր գոյության իմաստի մասին։

Մի խոսքով էս հարցի շուրջ կարա 2 կարծիք լինի․

ա) նման բանականություն գոյություն ունենալ չի կարող։
բ) կարող է։

Առաջինների հետ ամեն ինչ պարզ է․ չի կարող՝ չի կարող։ Գուցե իրոք հնարավոր չի։

Այ էն մարդկանց կարծիքն ա հետաքրքրում, ովքեր մտածում են, որ տրամաբանող, մտածող, որոշումներ կայացնող ԱԲ հնարավոր է։
Հետաքրքիր ա, ո՞նց են պատկերացնում էդ մարդիկ արհեստական բանականությունը։ Ի՞նչ կանի, ինչո՞վ կզբաղվի, ո՞նց կվերաբերվի մարդկանց և այլն։