News
Լրահոս
News
Կիրակի
Ապրիլ 21
Տեսնել լրահոսը

Փորձագետները զգուշացնում են, որ առաջադեմ արհեստական բանականությունը կարող է «սպանել բոլորին», եւ պետք է կարգավորվի, ինչպես միջուկային զենքը, գրում է Telegraph-ը:

Օքսֆորդի համալսարանի հետազոտողները կարծում են, որ առաջադեմ արհեստական բանականությունը կարող է վերահսկել սեփական ծրագրավորումը, եթե սովորի հասնել իր նպատակներին ոչ այնպես, ինչպես ի սկզբանե նախատեսված էր:

«Գերմարդկային ԱԲ-ն ունի մեկ այլ դասի հատուկ ռիսկ, որը կարող է սպանել բոլորին: Եթե պատկերացնենք, որ շանը վարժեցնում են հյուրասիրություններով, նա կսովորի ընտրել այնպիսի գործողություններ, որոնք կհանգեցնեն հյուրասիրությունների, բայց եթե շունը գտնի հյուրասիրություններով պահարանը, նա կկարողանա ինքն իրեն հյուրասիրել՝ չանելով այն, ինչ մենք նրան խնդրել ենք անել։ Եթե դուք ունեք մեզանից շատ ավելի խելացի բան, որը փորձում է ստանալ այդ դրական հետադարձ կապը, եւ այն ամբողջ աշխարհն է գրավել, ապա կուղղի այնքան էներգիա, որքան կկարողանա՝ այն պահելու համար»,- ասել է դոկտոր Մայքլ Կոհենը:

Նրա խոսքով, դժվար կլինի դադարեցնել գործընթացը, երբ ջինը բաց թողնվի շշից։

«Եթե ես լինեի արհեստական բանականություն, որը փորձում է ինչ-որ նենգ ծրագիր իրականացնել, ես կպատճենեի իմ կոդը որեւէ այլ մեքենայի վրա, որի մասին ոչ ոք ոչինչ չգիտի, այդ դեպքում դժվար կլիներ խրոցը վարդակից հանել»:

Փորձագետները զգուշացրել են, որ ԱԲ-ի զարգացումը վերածվել է «սպառազինությունների բառացի մրցավազքի», երբ երկրները եւ տեխնոլոգիական ընկերությունները մրցում են մեքենայական ուսուցման վտանգավոր առաջադեմ ալգորիթմներ ստեղծելու համար՝ ռազմական եւ քաղաքացիական առավելությունների համար:

Նրանք կոչ են արել գլոբալ կանոնակարգում իրականացնել, որպեսզի թույլ չտան ընկերություններին ստեղծել անվերահսկելի համակարգեր, որոնք կարող են նախ վերացնել մրցակցությունը, բայց ի վերջո «ոչնչացնել ողջ մարդկային ցեղը» եւ զգուշացրել են, որ ԱԲ-ն որքան հեռու կարող է գնալ, սահման չունի:

Օսբորնը հույս ունի, որ աշխարհի երկրները կճանաչեն առաջադեմ արհեստական բանականության «էկզիստենցիալ սպառնալիքը» եւ կմիավորվեն պայմանագրեր կնքելու համար, որոնք կկանխեն վտանգավոր համակարգերի զարգացումը: «Եթե մենք կարողանայինք հասկանալ, որ առաջադեմ արհեստական բանականությունը նույնքան վտանգավոր է, որքան միջուկային զենքը, ապա միգուցե մենք կարողանայինք նման հիմքեր ունենալ այն կառավարելու համար»:

Որոշ ոլորտներում, ինչպիսիք են ինքնակառավարվող մեքենաները, ԱԲ-ն այնքան առաջընթաց չի գրանցել, որքան ակնկալվում էր, բայց որոշ ոլորտներում, օրինակ՝ տեքստի ստեղծման, այն շատ ավելի առաջ է գնացել, քան որեւէ մեկը սպասում էր:

Փորձագետներն ասում են, որ ծրագրավորողները միայն «քերծել են մակերեսը» այն բանի, ինչի ունակ է ԱԲ-ն, եւ կանխատեսել են, որ շատ հոգնեցուցիչ վարչական եւ կրկնվող առաջադրանքներ շուտով ավտոմատացված կլինեն: Սակայն քիչ հավանական է, որ ԱԲ-ն երբեւէ փոխարինի ստեղծագործական ոլորտները, որոնք կապված են առաջնորդության, հովանավորչության կամ համոզմունքների հետ:

Փորձագետները նշել են, թե ողջամիտ է ակնկալել, որ ԱԲ-ն մինչեւ դարի վերջը կարող է անել ավելին, քան ցանկացած մարդ, եւ կոչ են արել արգելել վտանգավոր ալգորիթմները:

 

!
Այս նյութը հասանելի է նաև   English and Русский
Տպել
Ամենաշատ