ChatGPT-ի մշակող OpenAI ընկերությունը չի թողարկի արհեստական բանականության (ԱԲ) իր վերջին մոդելը՝ Astra 6.1-ը, քանի որ ներքին փորձարկումները ցույց են տվել, որ այն չի համապատասխանում անվտանգության չափանիշներին։ «Արմենպրես»-ի փոխանցմամբ՝ այս մասին ընկերությունը հայտարարել է սեպտեմբերի 28-ին։
Astra 6.1-ը նախորդ մոդելների բարելավված տարբերակն էր, սակայն ըստ OpenAI-ի անվտանգության համակարգերի ղեկավար Սաաչի Ջեյնի՝ «այն լիովին չի բավարարել սահմանված շրջանակներում և լիազորությունների սահմաններում մնալու, ինչպես նաև իր կատարած աշխատանքի բնույթի վերաբերյալ օգտատիրոջը տեղեկացնելու չափանիշներին»։
«Մենք ցանկանում ենք համոզվել, որ մոդելների մշակումն անվտանգ է՝ անկախ նրանից՝ դա ընկերության ներսում է իրականացվում, թե երբ մոդելը տրամադրվում է օգտատերերին։ Սակայն երբ այն տրամադրում ենք օգտատերերին, անվտանգության և համապատասխանության առումով չափազանց բարձր չափանիշներ ենք սահմանում», – հավելել է Ջեյնը։
Վերջին ամիսներին ԱԲ-ի անվտանգության հետ կապված մտահոգություններն աճել են այն բանից հետո, երբ OpenAI-ի և նրա մրցակից Anthropic-ի մշակած մոդելները փորձարկումների ընթացքում ներգրավվել են անվտանգության հետ կապված միջադեպերում։
OpenAI-ի մոդելների հիման վրա ստեղծված գործակալները (խմբ.՝ ինքնավար ծրագրային համակարգ, որը կարող է որոշումներ կայացնել և առաջադրանքներ կատարել առանց մարդու շարունակական վերահսկողության) ոչ պատշաճ կերպով մուտք են գործել ԱՄՆ դաշնային գործակալությունների կողմից սպասարկվող կայքեր, Ավստրալիայի կառավարության առողջապահական վիճակագրության հարթակ և Hugging Face ԱԲ մոդելների հարթակ։
Ըստ France 24 պարբերականի՝ սեպտեմբերի 28-ին OpenAI-ը ներողություն է խնդրել Ավստրալիայում տեղի ունեցած միջադեպին պատշաճ կերպով չարձագանքելու համար. այդ միջադեպի ընթացքում ընկերության ԱԲ մոդելներն առանց թույլտվության մուտք էին գործել կառավարական կայքեր։
OpenAI-ը, Anthropic-ը և արհեստական բանականության ոլորտի այլ խոշոր մշակողներ խոստացել են առաջնահերթություն տալ այնպիսի մոդելների ստեղծմանը, որոնք ունեն ռիսկերը մեղմող անվտանգության մեխանիզմներ և համահունչ են մարդկային արժեքներին։
Չիպերի արտադրությամբ զբաղվող ամերիկյան հսկա Nvidia-ն սեպտեմբերի 28-ին հայտարարել է մի համակարգի ստեղծման մասին, որը սահմանափակում է ԱԲ գործակալների գործողությունները։
Leave a Reply