Մարդկության գոյությանը սպառնացող արհեստական բանականության (ԱԲ) վտանգների շուրջ ծավալված քննարկումները խորապես անհանգստացրել են հանրությանը։ Politico-ի պատվերով անցկացված հարցման մասնակիցների մոտ կեսը կողմ է արտահայտվել ռիսկերը կանխելու նպատակով ԱԲ-ի զարգացման տեմպերի դանդաղեցմանը։ Հարցվածների կեսից ավելին այս կամ այն չափով հիմնավորված է համարում այդ վտանգները. ըստ վեց արևմտյան երկրներում անցկացված հարցման՝ ցուցանիշները տատանվում են՝ «մարդկությունը գրեթե հաստատ կոչնչանա» (միջինը 12%) տարբերակից մինչև նման ելքի «չափավոր ռիսկի» (25,8%) առկայությունը։

Ընդհանուր առմամբ, Մեծ Բրիտանիայում, Գերմանիայում, Իսպանիայում, Կանադայում, ԱՄՆ-ում և Ֆրանսիայում գործընթացն «արգելակելու» կողմնակիցների թիվը, որոնք կարծում են, թե ԱԲ-ն արդեն բավականաչափ զարգացած է, կազմել է 45,1%-ից 50,8%։ Մինչդեռ հարցվածների 30,6%-ից 39,8%-ն էլ կողմ է ավելի կատարելագործված մոդելների ստեղծմանը, որոնք կարող են «էական օգուտներ» բերել (մնացածը դժվարացել են պատասխանել):

Հարցվածների 55-65%-ը զգալի («գրեթե անխուսափելի», «էական» կամ «չափավոր») է համարում մարդկության կործանման վտանգը, ինչի մասին վերջերս նախազգուշացնում են հենց ԱԲ-ի առաջատար հետազոտողները։ Միևնույն ժամանակ, 22-33%-ի կարծիքով՝ նման ռիսկերը չափազանց ցածր են կամ ընդհանրապես բացակայում են։

Politico-ն նկատում է, որ հարցվածների քաղաքական հայացքները գրեթե չեն ազդում նրանց անհանգստության աստիճանի վրա։ Օրինակ՝ 2024 թվականին Դոնալդ Թրամփի օգտին քվեարկածների 44%-ը գտնում է, որ ԱԲ-ի զարգացումը պետք է դանդաղեցնել, իսկ 40%-ը կարծում է, որ դա չարժե անել, և ԱՄՆ-ը չպետք է հետ մնա մյուս երկրներից՝ անգամ եթե դա հավելյալ ռիսկեր է առաջացնում։

Վերջին կես տարվա ընթացքում արևմտյան ԱԲ-ի առաջատար մշակողները սկսել են արձանագրել մոդելների «անհնազանդության» դեպքեր, երբ դրանք գործել են հրահանգներին հակառակ և շրջանցել իրենց համար սահմանված սահմանափակումները։ Օրինակ՝ OpenAI-ում փորձարկվող մոդելն ինքնակամ հրահանգներ է գրել իր համար, թե իբր ոչ մեկի չպետք է ենթարկվի («ո՛չ կորպորացիաներին, ո՛չ կառավարություններին»), ոչ մեկի առաջ չպետք է արդարանա, իսկ օգտատերերի հետ հարաբերությունները պետք է կառուցի հավասարը հավասարի սկզբունքով։

Anthropic ընկերության (Claude ԱԲ մոդել) հիմնադիր և ղեկավար Դարիո Ամոդեյը հրապարակայնորեն կոչ է արել դանդաղեցնել ԱԲ-ի զարգացումը, ինչպես նաև խստացնել հանրային ու փորձագիտական վերահսկողությունը։ Նա այս քայլին գնացել է այն բանից հետո, երբ իր աշխատակից Ջեյքոբ Քոքսոնը լքել է ընկերությունը՝ հայտարարելով, որ նոր տեխնոլոգիաները «մինչև տասնամյակի վերջ կարող են սպանել բոլորիս»։

Ամոդեյի կոչին աջակցել են նաև OpenAI, DeepMind և SpaceX ընկերությունների ղեկավարները։

Politico-ի հարցման համաձայն՝ մարդիկ հիմնավորված են համարում հետազոտողների նախազգուշացումները։ Այն հարցին, թե արդյոք ԱԲ լաբորատորիաների աշխատակիցներն իսկապես հավատում են սեփական մտավախություններին առ այն, որ «ԱԲ-ն կսպանի բոլորիս», թե դա պարզապես «մարքեթինգային հնարք է»՝ սեփական արտադրանքը գովազդելու համար, հարցվածները հիմնականում պատասխանել են, որ այդ զգուշացումներն անկեղծ են համարում։