Ամերիկյան Anthropic ընկերության երեք հետազոտողներ հրապարակայնորեն հայտարարել են արհեստական բանականության սրընթաց զարգացման վերաբերյալ լուրջ մտահոգությունների մասին՝ զգուշացնելով, որ տեխնոլոգիայի անվերահսկելի զարգացումը կարող է արդեն առաջիկա տարիներին հանգեցնել մարդկության կործանմանը, գրում է Axios։

Anthropic-ի հետազոտող Ջեյքոբ Կոքսոնը, որը երեքշաբթի հայտարարել էր ընկերությունից հեռանալու մասին, ասել է, որ արհեստական բանականություն ստեղծող մասնագետները միանգամայն լուրջ են համարում, որ մարդկության կործանումը հնարավոր է մինչև այս տասնամյակի ավարտը։ Նրա համոզմամբ՝ սա մարքեթինգային հնարք չէ, այլ իրական մտահոգություն, որը ընկերության բազմաթիվ ղեկավարներ և առաջատար հետազոտողներ արտահայտում են մասնավոր զրույցներում։

«Արհեստական բանականություն ստեղծող մարդիկ միանգամայն լրջորեն համարում են, որ այն կարող է մեզ բոլորիս սպանել մինչև տասնամյակի ավարտը»,- գրել է Կոքսոնը X սոցիալական ցանցում։

Նա հավելել է, որ մարդկության որևէ այլ գործունեություն համադրելի մակարդակի վտանգ չի ներկայացնում։

Anthropic-ի արհեստական բանականության անվտանգության հետազոտությունների ղեկավար Էվան Հյուբինգերը համաձայնել է գործընկերոջ հետ։ Նրա գնահատմամբ՝ հավանականությունը, որ արհեստական բանականությունը կվերացնի մարդկությանը առաջիկա տասնամյակի ընթացքում, գերազանցում է 10%-ը։ Միևնույն ժամանակ նա նշել է, որ Anthropic-ն անում է հնարավոր ամեն ինչ՝ նման սցենարը կանխելու համար, սակայն ընկերությունը դեռևս չունի գերբանականության նկատմամբ վերահսկողության խնդրի լուծում և վստահ չէ, որ բավական արագ է շարժվում դեպի այդ լուծումը։

Anthropic-ի մեկ այլ աշխատակից՝ լայնածավալ վերահսկողության ուղղության ղեկավար Սեմյուել Մարքսը, հայտարարել է, որ արհեստական բանականության մշակողները հնարավոր են համարում «մարդկության վերացումը կամ նմանատիպ աղետալի հետևանքները», ընդ որում նման սցենարը կարող է իրականանալ արդեն առաջիկա մի քանի տարիներին։ Նրա գնահատմամբ՝ որքան բարձր է աշխատակցի պաշտոնը, այնքան ավելի մեծ է նրա մտահոգությունը։

Զգուշացումները հնչել են OpenAI-ի ղեկավարների, նրանց թվում՝ գլխավոր տնօրեն Սեմ Ալթմանի, նմանատիպ հայտարարություններից հետո կարճ ժամանակ անց, ըստ որոնց՝ արհեստական բանականության զարգացումը մտնում է վախեցնող և ավելի ու ավելի քիչ վերահսկվող փուլ։

Միաժամանակ Anthropic-ի և OpenAI-ի քննադատները կարծում են, որ ընկերությունները կարող են միտումնավոր չափազանցնել ռիսկերը՝ սեփական արժեքը բարձրացնելու և այնպիսի կարգավորում ձեռք բերելու համար, որը կուժեղացնի շուկայի խոշորագույն խաղացողների դիրքերը։ Սակայն Axios-ի հեղինակները նշում են, որ զրուցել են այդ ընկերությունների տասնյակ աշխատակիցների հետ և նկատել նրանց մտահոգության աճը։

Հետազոտողները նշում են, որ խոսքը մոտ ապագայում անխուսափելի աղետի մասին չէ։ Նրանց մտահոգությունները կապված են այն բանի հետ, որ արհեստական բանականության մոդելների զարգացումը տեղի է ունենում սպասվածից զգալիորեն արագ, և շուտով դրանք կարող են ձեռք բերել ինքնուրույն կատարելագործվելու ունակություն։

Այդ դեպքում համակարգերը կկարողանան դառնալ ավելի ու ավելի հզոր և միաժամանակ՝ ավելի քիչ կանխատեսելի ու կառավարելի։