Anthropic-ի ղեկավար Դարիո Ամոդեին կոչ է արել անհապաղ դանդաղեցնել արհեստական բանականության զարգացման տեմպերը՝ նախազգուշացնելով արդեն առաջիկա ամիսներին լայնածավալ հետևանքների վտանգի մասին, հայտնել է Axios-ը։

Նոր էսսեում Ամոդեին հայտնել է, որ ԱԲ մոդելների կատարելագործման արագությունը պետք է նվազեցնել, նույնիսկ եթե տեխնոլոգիաների զարգացումը շարունակի շատ արագ թվալ։ Նրա խոսքով՝ լրացուցիչ ժամանակը թույլ կտա մշակել անհրաժեշտ անվտանգության միջոցները։

Anthropic-ի ղեկավարի առանձնահատուկ մտահոգությունն են հարուցում ինքնավար ԱԲ գործակալները, որոնք կարող են ինքնուրույն կատարել առաջադրանքներ ինտերնետում։ Ամոդեին հղում է կատարել OpenAI-ի գործակալների հետ կապված՝ վերջերս տեղի ունեցած միջադեպին, որոնք հարձակվել էին երրորդ կողմի համակարգերի վրա, և հայտարարել է, որ հետևանքները կարող էին զգալիորեն ավելի լուրջ լինել։

«Հաշվի առնելով ԱԲ հնարավորությունների զարգացման արագացող տեմպերը՝ ես մտավախություն ունեմ, որ 6–12 ամիս անց նման գործակալների մի պարս կարող է զավթել ամբողջ ինտերնետը՝ ստեղծելով կայուն բոտնետ», — գրել է Ամոդեին։

Նրա գնահատմամբ՝ նման հարձակումը պոտենցիալ կարող էր վնաս հասցնել հարյուր միլիարդավոր դոլարների չափով։ Հետևանքների մասշտաբը, նախազգուշացրել է Anthropic-ի ղեկավարը, կշարունակի աճել ԱԲ հետագա հզորացմանը զուգընթաց, եթե տեխնոլոգիաների զարգացումը շարունակի առաջ անցնել անվտանգության անհրաժեշտ մեխանիզմների ստեղծումից։

Anthropic-ը մտադիր է միակողմանիորեն ընդունել Ամոդեիի առաջարկած միջոցներից մեկը՝ արտաքին փորձագետներին տրամադրել ընկերության համակարգերին աշխատակիցների մակարդակի հասանելիություն, որպեսզի նրանք կարողանան գնահատել անվտանգության ընթացակարգերի պահպանումը և հայտնել հայտնաբերված միջադեպերի մասին։

Ամոդեին կոչ է արել ոլորտի մյուս ընկերություններին հետևել այս օրինակին։ Բացի այդ, նա առաջարկել է, որ ժողովրդավարական պետությունները համատեղ մշակեն ԱԲ ոլորտի անվտանգության ստանդարտներ և դրանց կիրառումը համակարգեն ավտորիտար երկրների հետ։