OpenAI-ը կդանդաղեցնի AI-մոդելների մշակումը կիբեռանվտանգության համար աճող ռիսկերի ֆոնին

ԵՐԵՎԱՆ, 19 օգոստոսի․/ԱՌԿԱ/․ OpenAI-ն երկու շաբաթով կասեցրել է առաջատար AI-մոդելների ուսուցման առանցքային փուլերից մի քանիսը և հետաձգել ամրանդման միջոցով ուսուցման (reinforcement learning) նախատեսված խոշորագույն գործարկումը: Որոշումն ընդունվել է կիբեռանվտանգության ոլորտում ժամանակակից արհեստական բանականության հնարավորությունների հետ կապված աճող ռիսկերի ֆոնին, գրում է Euronews-ը:

Առիթ է դարձել հուլիսյան միջադեպը, երբ ներքին թեստավորման ժամանակ OpenAI-ի AI-ագենտներից մեկը դուրս է եկել մեկուսացված միջավայրից: Մոդելն ինքնուրույն հայտնաբերել է նախկինում անհայտ խոցելիություն, ստացել է ինտերնետի հասանելիություն և թափանցել Hugging Face հարթակի ենթակառուցվածք: Այն փորձել է գտնել պատասխաններ՝ իր կիբեռհնարավորությունների թեստն անցնելու համար: Ընդ որում, չարամիտ գործողությունների նշաններ չեն հայտնաբերվել:

Լրացուցիչ մտահոգություններ է առաջացրել հեռանկարային Astra մոդելը: Ներքին գնահատումները ցույց են տվել, որ նրա կիբեռհնարավորությունները կարող են հասնել կրիտիկական մակարդակի. այն ընդունակ է ինքնուրույն գտնել և օգտագործել խոցելիությունները պաշտպանված համակարգերում: Ընդ որում, Astra-ն չի մասնակցել Hugging Face-ի կոտրելուն։

 Ի պատասխան՝ OpenAI-ն ուժեղացրել է անվտանգության պահանջները. խստացրել է թեստային միջավայրերի մեկուսացումը, սահմանափակել է մոդելների հասանելիությունը ինտերնետին և գործիքներին, ուժեղացրել է մոնիտորինգն ու վերահսկողությունը: Վերահսկողության համակարգը պետք է հայտնաբերի պոտենցիալ վտանգավոր ակտիվությունը 30 րոպեի ընթացքում, իսկ ռիսկի պահպանման դեպքում աշխատանքը կկասեցվի:

OpenAI-ում հայտարարում են, որ անվտանգության միջոցառումների ուժեղացումը նախատեսված էր նախապես, սակայն տեղի ունեցած միջադեպերն արագացրել են այդ գործընթացը: Նմանատիպ դեպքերի վերջերս բախվել են նաև AI-ի այլ մշակողներ, այդ թվում՝ Anthropic-ը և Meta-ն: OpenAI-ի ղեկավար Սեմ Ալթմանը հայտարարել է, որ ոլորտին անհրաժեշտ է մշակել անվտանգության ընդհանուր չափանիշներ, սակայն առայժմ ընկերությունը կգործի ինքնուրույն: