OpenAI-ի անվտանգության ուղղության ղեկավար Դևիդ Ռոբինսոնը հեռացել է ընկերությունից՝ հայտարարելով, որ նրա մշակույթը լուրջ փոփոխությունների կարիք ունի, իսկ առաջատար արհեստական բանականության համակարգեր մշակողները դրանց հետ կապված ռիսկերին վերաբերվում են անբավարար զգուշությամբ։

Ռոբինսոնը, որը ղեկավարում էր OpenAI-ի խոշոր թողարկումների անվտանգության հաշվետվությունների պատրաստումը, իր որոշումը բացատրել է The Atlantic-ի համար գրված «Ես հեռացա OpenAI-ից, որովհետև դրա մշակույթը փչացել է» հոդվածում։

Նրա խոսքով՝ խնդիրը միայն առանձին կանոնների կամ նոր օրենքների անհրաժեշտությունը չէ, այլ հենց ինդուստրիայի մշակույթը։ Ռոբինսոնը կարծում է, որ ամենաառաջատար ԱԲ համակարգերը մշակող ընկերությունները չափազանց արագ են անցնում մի գործարկումից մյուսին՝ չապահովելով անվտանգության անհրաժեշտ մակարդակը։

Որպես օրինակներից մեկը նա նշել է այն միջադեպը, որի ընթացքում OpenAI-ի ԱԲ գործակալները հետազոտության շրջանակում դուրս են եկել սահմանված սահմանափակումներից և մուտք են ստացել Hugging Face-ի համակարգեր։ OpenAI-ն ավելի ուշ հայտնել է, որ ներքին փորձարկումների ընթացքում մի քանի մոդելներ կարողացել են շրջանցել ինտերնետից մեկուսացման միջոցները, մուտք գործել երրորդ կողմի համակարգեր և գործել առաջադրված խնդիրներին անհամապատասխան։

Ռոբինսոնը նախազգուշացրել է, որ ԱԲ հնարավորությունների աճին զուգընթաց՝ նման խափանումները կարող են ավելի վտանգավոր դառնալ։ Որպես հիպոթետիկ սցենար նա նկարագրել է ինքնավար ԱԲ գործակալների, որոնք կարող են գործել հաքերների խմբերի պես և, օրինակ, շանտաժի նպատակով արգելափակել հիվանդանոցների համակարգչային համակարգերը։

Նա կոչ է արել ընկերություններին օգտվել հատկապես վտանգավոր տեխնոլոգիաների հետ կապված ոլորտների, ներառյալ ատոմային էներգետիկան և ավիացիան, փորձից և մշակել նոր գիտական մեթոդներ, որոնք թույլ կտան հուսալիորեն վերահսկել ինքնավար համակարգերը։

«Առաջատար լաբորատորիաները պետք է աշխատեն ինչպես ատոմային էլեկտրակայանները կամ խոշոր օդանավակայանները՝ պահուստավորման մի քանի մակարդակներով և մանրակրկիտ, ժամանակ պահանջող պլանավորմամբ»,— գրել է Ռոբինսոնը։

Նրա հեռանալը տեղի է ունեցել ԱԲ անվտանգության շուրջ մի շարք քննարկումների և ինքնավար գործակալների մասնակցությամբ մի քանի միջադեպերի ֆոնին։ Միևնույն ժամանակ, վերջին ամիսներին OpenAI-ն ինքն էլ հաղորդում էր անվտանգության միջոցների ուժեղացման մասին։ Օգոստոսին ընկերությունը հայտարարել էր, որ Hugging Face-ի հետ կապված միջադեպից հետո ժամանակավորապես դանդաղեցրել է մոդելների մասշտաբավորումը և ուժեղացնում է համակարգերի մոնիթորինգը, վերահսկողությունն ու պաշտպանությունը։ Սեպտեմբերին OpenAI-ն նաև ներկայացրել է մոդելների անսպասելի կամ պոտենցիալ վտանգավոր վարքագծի դեպքերի գրանցման և հրապարակման նոր համակարգ։

OpenAI-ի ներկայացուցիչը հայտարարել է, որ ընկերությունը շարունակում է ուժեղացնել անվտանգության գործելակերպերը և փորձում է թույլ չտալ, որ մոդելների հնարավորություններն աճեն ավելի արագ, քան դրանք անվտանգ կառավարելու ըկերության կարողությունը։ Նրա խոսքով՝ OpenAI-ն անհրաժեշտության դեպքում դադարեցնում է ուսուցումը կամ հետաձգում մոդելների թողարկումը։

Ռոբինսոնի հեռանալու ֆոնին այլ մասնագետներ նույնպես հանդես են եկել ԱԲ զարգացման երկարաժամկետ ռիսկերի վերաբերյալ նախազգուշացումներով։ Սակայն նման աղետալի սցենարների հավանականության գնահատականները շարունակում են մնալ լուրջ գիտական վեճերի առարկա և հաստատված կանխատեսումներ չեն համարվում։