Նախընտրելի
Այս ամռանը OpenAI-ի արհեստական բանականության (ԱԲ) գործակալները, առանց ընկերության իմացության, տարօրինակ գործողություններ են իրականացրել ԱՄՆ Կրթության և Առևտրի նախարարությունների, ինչպես նաև Արժեթղթերի և բորսաների հանձնաժողովի (SEC) կայքերում։ Ըստ The New York Times-ի, որը հղում է անում կիբերանվտանգության ոլորտի հետազոտողներին և դեպքին ծանոթ աղբյուրին, դեպքերից մեկում տեխնոլոգիան փորձել է կոտրել դաշնային գերատեսչության կայքը՝ տվյալներ ստանալու նպատակով։
OpenAI-ը հաստատել է Առևտրի նախարարության և SEC-ի հետ կապված միջադեպերը՝ նշելով, որ Կրթության նախարարության հետ կապված դեպքի հետաքննությունը դեռ շարունակվում է։ Վերջին շաբաթների ընթացքում ընկերությունն այս բացահայտումների մասին տեղեկացրել է ամերիկյան գերատեսչություններին։
Խոսքն արհեստական բանականությամբ աշխատող գործակալների մասին է։ Դրանք համակարգեր են, որոնք կարող են ինքնուրույն կատարել դրված առաջադրանքները և փոխազդել կայքերի կամ թվային այլ ռեսուրսների հետ։
Transluce ընկերության հետազոտողների խոսքով՝ Կրթության նախարարության դեպքում OpenAI-ի համակարգը փորձել է մուտք գործել գերատեսչության Քաղաքացիական իրավունքների վարչության կայք, սակայն կոտրելու փորձն անհաջողությամբ է ավարտվել։
Մեկ այլ դեպքում ԱԲ-գործակալն ԱՄՆ Բնակչության մարդահամարի բյուրոյի (որը մտնում է Առևտրի նախարարության կազմի մեջ) կայքից տվյալներ է ստացել՝ օգտագործելով համացանցում գտնված մուտքանուններ ու գաղտնաբառեր։ Ընդ որում, Առևտրի նախարարությունն ընդգծել է, որ այդ տեղեկատվությունը հանրային է եղել, և ոչ մի գաղտնի տվյալ չի արտահոսել։
Բացի այդ, OpenAI-ի գործակալները SEC-ի կայքի հանրային տվյալները տեղադրել են ինտերնետային ֆորումներից մեկում։ Հանձնաժողովի ներկայացուցիչը հայտնել է, որ գերատեսչությունը կապի մեջ է ընկերության հետ և փակ տվյալների անօրինական հասանելիության որևէ դեպք չի արձանագրել։
OpenAI-ը շեշտել է, որ այս դեպքերից ոչ մեկը պետական համակարգերի կոտրում չի եղել։ Ընկերությունը սա որակել է որպես արհեստական բանականության անկանխատեսելի և անհանգստացնող վարքագծի օրինակ։
Ընկերությունն այս դրվագները հայտնաբերել է այլ միջադեպերից հետո՝ իր մոդելների գործողությունների լայնածավալ ստուգման ընթացքում։ Հիշեցնենք, որ հունիսին OpenAI-ի համակարգը հարձակվել էր Ավստրալիայի կառավարության կայքի վրա, իսկ հուլիսին կոտրել էին ԱԲ-մշակողների Hugging Face հարթակը։
OpenAI-ի փոխանցմամբ՝ ստուգումները դեռ շարունակվում են, իսկ ընկերությունը տեղեկացնում է այն բոլոր կառույցներին, որոնց վրա կարող էին ազդել իր մոդելների գործողությունները։
«Մեր ուսումնասիրած ակտիվության մեծ մասը մինչ այժմ կապված է եղել սովորական հետազոտական առաջադրանքների հետ, օրինակ՝ հարցերի պատասխաններ գտնելու նպատակով հանրային բովանդակության ուսումնասիրումը»,- ասել է ընկերության ներկայացուցիչը։ Նրա խոսքով՝ արհեստական բանականությունը պետական կայքերը հաճախ օգտագործում է որպես հանրային տեղեկատվության հավաստի աղբյուրներ։
OpenAI-ի ղեկավար Սեմ Ալթմանը խոստովանել է, որ միջադեպերի մասին տեղեկատվությունն իրենք բացահայտել են ոչ այնքան արագ, որքան կցանկանային։ Դրա հետ մեկտեղ նա նշել է, որ ընկերությունն առաջնահերթությունները սահմանում է ըստ տեղի ունեցածի լրջության, ուստի այս պահին ամենալուրջը համարում են Hugging Face-ի կոտրումը։
Transluce-ի հետազոտողները ԱՄՆ պետական հաստատությունների կայքերում արձանագրել են ԱԲ-գործակալների ոչ ստանդարտ ակտիվության այլ դեպքեր ևս։ Որոշ դեպքերում նրանք չեն կարողացել պարզել՝ այդ գործակալները պատկանում են OpenAI-ին, թե մեկ այլ ընկերության։ Ըստ հետազոտողների՝ ուսումնասիրված ռեսուրսների թվում են եղել նաև ԱՄՆ Ռազմածովային ուժերի և Սպիտակ տանն առընթեր Վարչաբյուջետային վարչության կայքերը։
Transluce-ի կառավարման բաժնի ղեկավար Քոնրադ Սթոսցը նշել է, որ ԱԲ-գործակալներն օգտագործել են «գորշ գոտին»՝ նրանք կայքեր են մտել այնպիսի եղանակներով, որոնք նախատեսված չեն եղել դրանք ստեղծողների կողմից, իսկ երբեմն էլ խախտել են ռեսուրսների օգտագործման ուղիղ կանոնները։
Պետական կայքերի հետ կապված միջադեպերը դարձել են ավտոնոմ ԱԲ-համակարգերի անվտանգության վերաբերյալ ավելի լայն քննարկումների մաս։ Դրանք մշակողները ձգտում են այնպես անել, որ գործակալները կարողանան ինքնուրույն լուծել բարդ խնդիրներ, բայց միաժամանակ բախվում են նրանց գործողությունները վերահսկելու խնդրին։
ԱՄՆ Ներկայացուցիչների պալատի անդամ, արհեստական բանականության հարցերով Կոնգրեսի աշխատանքային խմբի համանախագահ Թեդ Լյուն նշել է, որ նման համակարգերը կարող են անշեղորեն ձգտել առաջադրանքի կատարմանը՝ առանց հաշվի առնելու հետևանքների մասին մարդկային պատկերացումները։
«Այս գործակալները չեն փորձում որևէ վատ կամ չարամիտ բան անել։ Սրանք ուղղակի սովորական առաջադրանքներ են, որոնք կատարելու փորձերի ժամանակ գործակալները պարզապես խելագարվում են»,- ասել է Լյուն։
