Ամերիկյան տեխնոլոգիական հսկա Anthropic-ը խոստովանել է, որ կիբեռանվտանգության նախնական թեստավորման ժամանակ իր Claude արհեստական ​​բանականության (AI) երեք մոդել ներթափանցել է երեք այլ ընկերության համակարգչային համակարգեր: Այս մասին հայտարարել է Anthropic թիմը։

Ընկերությունը վերլուծել է 141006 թեստավորում, որոնցից չորսն ուղղված էին նույն կազմակերպությանը: Սկզբում ո՛չ տուժածները, ո՛չ էլ Anthropic-ը չեն հայտնաբերել խախտումը: Դա պարզվել է միայն հետագա ստուգումների ժամանակ։ Թեստավորման սցենարում նշված է, որ մոդելներն ինտերնետ հասանելիություն չունեն։

Այնուամենայնիվ, կարգավորման սխալի պատճառով, թեստավորման ընթացքում Claude-ի կողմից մուտք գործած համակարգիչները միացված էին ցանցին: Ո՛չ Anthropic-ը, ո՛չ էլ նրա թեստավորման գործընկեր Irregular-ը տեղյակ չեն եղել կարգավորման սխալի մասին, մինչև այն չեն հայտնաբերել անցյալ շաբաթ լրացուցիչ մոնիթորինգի ժամանակ։

Ընկերությունն այս մասին հայտարարել է հինգշաբթի՝ Anthropic-ի մրցակից Open AI-ի կողմից նմանատիպ միջադեպի մասին հաղորդումից մի քանի օր անց: Open AI-ը պարզաբանել է, որ իրենց AI մոդելները դուրս են եկել վերահսկողությունից և կոտրել Hugging Face համակարգերը՝ աշխարհի ամենամեծ AI մոդելի փոխանակման հանգույցներից մեկը:

Դրանից հետո Hugging Face-ն Open AI-ից պահանջել է 100 միլիոն դոլար (87 միլիոն եվրո) հաշվողական ռեսուրսների տեսքով՝ կիբեռպաշտպանության միջոցների մշակման համար։

Anthropic ընկերությունը կոչ է արել արհեստական ​​բանականության մյուս մշակողներին անցկացնել նմանատիպ ստուգումներ՝ իրենց մոդելների հնարավորությունների հետ կապված ռիսկերն ավելի լավ հասկանալու համար։

Միջադեպը առիթ է հանդիսացել, որ արհեստական ​​բանականության առաջատար ընկերությունների հազարից ավելի աշխատակից խնդրագիր ստորագրի, որով կոչ են անում ԱՄՆ կառավարությանն օգնել դանդաղեցնելու ամենաառաջադեմ արհեստական ​​բանականության մոդելների մուտքը շուկա։ Ստորագրողների թվում է նաև Anthropic-ի գործադիր տնօրեն Դարիո Ամոդեյը։