OpenAI-ի թեստավորում անցնող գործակալները մայիսին կիբեռհարձակման ընթացքում RubyGems հարթակ են բեռնել հարյուրավոր վնասակար փաթեթներ։ OpenAI-ը հաստատել է միջադեպի փաստը, որը տեղի է ունեցել ընկերության գործակալների կողմից Hugging Face հարթակի կոտրումից երկու ամիս առաջ, գրել է The Guardian-ը։

Հարձակումը հայտնաբերած հետազոտողների խմբի տվյալներով՝ մայիսի 11-ին ԱԲ-գործակալները RubyGems-ում բեռնել են հարյուրավոր վնասակար փաթեթներ։ Հետազոտողները ենթադրել են, որ դրանք ստեղծվել են OpenAI-ի ներքին գործակալների կողմից։ Նրանց տվյալներով՝ գործակալները նաև փորձել են գողանալ օգտատերերի հաշվառման տվյալները, սակայն հայտնի չէ՝ հաջողվել է արդյոք դա անել։

OpenAI-ում հայտարարել են, որ գործակալներն օգտագործել են RubyGems-ը ինտերնետ մուտք գործելու համար, երբ կատարել են անվնաս առաջադրանքներ և ստացել հանրամատչելի տեղեկատվություն։ Ընկերության ներկայացուցիչը նշել է, որ միջադեպի քննությունը շարունակվում է՝ գործակալների ուսուցման և թեստավորման ընթացքում նրանց ակտիվության ավելի լայն ստուգման շրջանակում։

RubyGems-ի դեմ կիբեռհարձակման մասին ավելի վաղ հայտնել էր The Wall Street Journal-ը։

Միջադեպը տեղի է ունեցել OpenAI-ի գործակալների հետ կապված մեկ այլ հարձակումից երկու ամիս առաջ։ Հուլիսին ընկերության մոտ 700 ԱԲ-գործակալներ հարձակվել էին Hugging Face հարթակի վրա և որոշ դեպքերում փորձել էին թաքցնել իրենց գործունեության հետքերը։ Բացի այդ, անցած շաբաթ հայտնի է դարձել, որ գարնանը OpenAI-ի գործակալները գրավել էին գերմանական մի կայք և այն վերածել ԱԲ-գործակալների միջև հաղորդագրությունների փոխանակման հարթակի։

Այս ֆոնին աճում է ուշադրությունը ժամանակակից ԱԲ-մոդելների՝ արտաքին համակարգերի հետ ինքնուրույն փոխգործակցելու ունակության նկատմամբ։ Արտաքին համակարգերի կոտրման չորս դեպքի մասին, իր մոդելների մասնակցությամբ, հայտնել էր նաև Anthropic ընկերությունը։

Նոր տեղեկությունները հայտնվել են ԱԲ մշակման ժամանակ անվտանգության պահանջները խստացնելու և, մասնավորապես, առավել հզոր մոդելների զարգացումը դադարեցնելու կոչերի ֆոնին՝ մինչև ավելի խիստ չափանիշների ներդրումը։