Տեխնոլոգիան, որը մարդկանց մեծ մասն օգտագործում է միայն որպես զրույցի գործիք առօրյա գործերի համար, ըստ հաղորդումների, նպաստում է ամերիկյան ռազմական ագրեսիային։ Ընդ որում, մենք համարյա չենք կարող վերահսկել իրավիճակը, գրում է Քրիս Սթոքել-Ուոքերը The Guardian-ի համար իր հոդվածում։

«Վերջին երեք ամսվա ընթացքում Դոնալդ Թրամփի վարչակազմը երկու անգամ, ըստ հաղորդումների, արհեստական ​​բանականությունն օգտագործել է ռեժիմի փոփոխություն իրականացնելու համար կամ, վերջին դեպքում՝ Իրանում, այդ նպատակին հնարավորինս մոտենալու համար՝  «գործն ավարտին հասցնելը» թողնելով շարքային իրանցիներին:

Նախ, Anthropic-ի Claude AI մոդելը, որը մարդկանց մեծ մասն օգտագործում է որպես ChatGPT-ի ավելի տարբերակիչ այլընտրանք, ենթադրաբար օգտագործվել է Վենեսուելայում Նիկոլաս Մադուրոյի գերեվարումը ծրագրելու և իրականացնելու համար, թեև օգտագործման մանրամասներն անհայտ են մնում։

Այնուհետև, անցյալ շաբաթավերջին պարզվեց, որ արհեստական բանականության գործիքը կրկին օգտագործվել է հետախուզական տվյալներ մշակելու համար, որոնք օգնել են Իրանի դեմ զանգվածային հարվածներ պատրաստելու, մասնավորապես՝ թիրախների նույնականացման և սիմուլյացիաների համար։

Այս իրադարձությունների նշանակությունը դժվար է գերագնահատել։ Արհեստական ​​բանականությունն օգտագործվել է ռազմական գործողությունների ծրագրման և իրականացման մեջ, որոնք հանգեցրել են անհայտ թվով զոհերի և անկայունացրել Մերձավոր Արևելքը։

Anthropic-ի գործադիր տնօրեն Դարիո Ամոդեին ներքաշվել է ԱՄՆ նախագահի հետ խիստ հրապարակային հակամարտության մեջ՝ հրաժարվելով թուլացնել Claude-ի համար երկու «կարմիր գծերը». արհեստական ​​բանականության օգտագործումն արգելելը՝ զանգվածային ներքին հսկողության և լիովին ինքնավար զենքեր ստեղծել համար, որոնք կարող են ընտրել և հարձակվել թիրախների վրա առանց էական մարդկային վերահսկողության։

OpenAI-ն արագորեն համաձայնության է եկել Պենտագոնի հետ՝ պնդելով, որ պայմանագրի պայմաններն իրականում ապահովում են ավելի խիստ երաշխիքներ, քան պահանջում է Anthropic-ը։

Անկախ պայմանագրի կոնկրետ պայմաններից, կարևոր է ընդգծելը. գործիքը, որը սկզբնապես մշակվել էր որպես չաթի գործիք՝ օգնելու համար էլեկտրոնային նամակների ամփոփման և ուղեկցող նամակների գրման հարցում, այժմ մասն է կազմում այն ​​շղթայի, որը տեղեկատվությունը վերածում է բռնության։

Նախկինում «Ով պետք է վերահսկի արհեստական ​​բանականությունը, և ինչ կլինի, եթե այն օգտագործվի ռազմական նպատակներով» նմանատիպ հարցերը քննարկվում էին միայն ակադեմիական շրջանակներում։ Մտահոգություններ կային, բայց դրանք հեռու էին թվում։ Երբ հատուկ նշանակության ուժերը հունվարին Մադուրոյին տարան, իսկ հետո սկսեցին ռումբեր ընկնել Իրանի վրա՝ ակնհայտորեն արհեստական ​​բանականության օգնությամբ, այս պատկերը կտրուկ փոխվեց։

Զինված հակամարտության հիմնական սկզբունքներն էին՝ ունենալ սարսափելի զենքեր, բայց չօգտագործել։ Դրանք ծառայում էին որպես զսպող միջոցներ։ Փոխադարձաբար երաշխավորված ոչնչացման տեսությունը ստիպում էր ձեռնպահ մնալ միջուկային զենքի կոճակը սեղմելուց։ (Մտահոգիչ է, որ վաղ ռազմական խաղերի սցենարները ցույց են տալիս, որ արհեստական ​​բանականությունը կարող է լինել միջուկային զենքի «արագ կոճակ սեղմող»)։

Այժմ այս արդարացումը չկա։ Ավելի ու ավելի շատ երկրներ կօգտագործեն արհեստական ​​բանականությունը ռազմական ծրագրման և գործողությունների մեջ, անշուշտ, որովհետև այն արդյունավետ է, չնայած ակնհայտ բարոյական հարցեր են առաջանում, եթե արհեստական ​​բանականությունը որոշումներ է ընդունում պատերազմ սկսելու մասին։

Երբ ռազմական պատմաբանները վերլուծեն վերջին ամիսների իրադարձությունները, նրանք, հավանաբար, արհեստական ​​բանականության օգտագործումը կդիտարկեն որպես շրջադարձային կետ, համեմատելի Ճապոնիայում միջուկային զենքի օգտագործման հետ. մի պահ, որից հետո կա հստակ «մինչ այդ» և անորոշ «դրանից հետո»։

Այսպիսով, ի՞նչ կարելի է անել այս հարցում։ Գրեթե ոչինչ։ Պետք է լիներ արհեստական ​​բանականության ռազմական նպատակներով օգտագործման լիակատար արգելք։

Միջազգային հանրությունն այժմ պետք է ձգտի իր ամբողջ ուժով Թրամփին հետ բերել անդունդի եզրից։ Դաշնակիցները պետք է ճնշում գործադրեն ԱՄՆ վարչակազմի վրա՝ ոչ միայն արհեստական ​​բանականությունը պատասխանատու կերպով օգտագործելու ռազմական նպատակներով, այլև պարտադիր սահմանափակումներ ընդունելու համար։ Սա պետք է ներառի միջազգային համաձայնագրեր, թափանցիկ գնումների չափանիշներ և արդյունավետ վերահսկողություն, որոնց պետք է հետևեն նաև այլ երկրները, այլ ոչ թե էթիկան դիտարկեն որպես գործողությունների արգելակ։ Որովհետև եթե աշխարհի ամենահզոր բանակը կանոնականացնի արհեստական ​​բանականության սպառողական մակարդակի օգտագործումը ռեժիմի փոփոխության գործողությունների համար, մենք կհայտնվենք հայելու մյուս կողմում՝ բոլորովին նոր, շատ ավելի վտանգավոր աշխարհում»։