Ամերիկյան Anthropic արհեստական ​​բանականության կորպորացիայի հետազոտող Ջեյքոբ Քոքսոնը հեռացել է և որոշել է դուրս գալ արհեստական ​​բանականության ոլորտից մտահոգությունների պատճառով, որ մշակողները չափազանց արագ են ստեղծում ինքնակատարելագործման ունակ համակարգեր որոնք ի վերջո կարող են դուրս գալ վերահսկողությունից, հայտնել է «The Wall Street Journal»-ը:

27-ամյա Քոքսոնը մասնագիտացել է նոր ԱԻ մոդելների մեծ տվյալների վրա մարզման մեջ: Նրա կարծիքով՝ ոչ մի ընկերություն չի կարող պատասխանատու կերպով մշակել արհեստական ​​բանականություն, որը կարող է գերազանցել մարդկանց՝ առաջադրանքների լայն շրջանակում, առանց կառավարության միջամտության կամ զարգացման համակարգված դանդաղեցման: «Մենք գնում ենք դեպի ամենաագրեսիվ սցենարներից շատերը, որտեղ իրավիճակը կարող է դուրս գալ վերահսկողությունից մինչև հաջորդ տարվա վերջ», - ասել է Քոքսոնը:

Ըստ նրա՝ արհեստական ​​բանականության մշակողների և չինական ընկերությունների միջև մրցակցությունը անխուսափելիորեն հանգեցնում է անվտանգության հարցում փոխզիջումների: Քոքսոնը զգուշանում է, որ երբ մոդելները սկսեն ինքնակատարելագործվել, դրանք կարող են զարգանալ այնքանով, որ այլևս չկատարեն մարդկային հրամանները:

Քոքսոնի հեռանալը Anthropic-ի աշխատակցի կողմից ընկերությունից արհեստական ​​ինտելեկտի անվտանգության հետ կապված մտահոգությունների պատճառով հեռանալու առաջին դեպքերից մեկն է: WSJ-ն նշել է, որ OpenAI-ի և այլ արհեստական ​​ինտելեկտի մշակողների մի քանի աշխատակիցներ նույնպես հեռացել են՝ նմանատիպ մտահոգություններ հայտնելով։

Anthropic-ի գործադիր տնօրեն Դարիո Ամոդեյը և ընկերության այլ ղեկավարներ բազմիցս զգուշացրել են արհեստական ​​ինտելեկտի մոդելների վերահսկողությունից դուրս գալու հետ կապված ռիսկերի մասին և կոչ են արել տեխնոլոգիական զարգացման դանդաղեցման: Anthropic-ը շարունակում է ընդլայնել իր արհեստական ​​ինտելեկտի հարթակը և պատրաստվում է նախնական հանրային առաջարկի (IPO):

OpenAI-ի գործադիր տնօրեն Սեմ Ալտմանը նույնպես զգուշացրել է արհեստական ​​ինտելեկտի արագ զարգացման ռիսկերի մասին: Հյուսիսային Կարոլինայում կայացած G20 գագաթնաժողովում ելույթ ունենալով՝ նա նշել է. «Կարծում եմ՝ կիբերանվտանգության հետ կապված ինչ-որ բան շատ սխալ կընթանա, եթե մարդիկ անհապաղ գործողություններ չձեռնարկեն»: OpenAI-ի գլխավոր գիտնական Յակուբ Պաչոկին նույնպես կոչ է արել արհեստական ​​ինտելեկտի զարգացման համակարգված դանդաղեցման և կառավարական միջամտության:

Քոքսոնը, Պաչոկին և Ամոդեյը եղել են արհեստական ​​բանականության ավելի քան 1000 հետազոտողների թվում, ովքեր ստորագրել են հայտարարություն, որով կոչ են արել միջազգային համակարգման և ինքնակատարելագործման ունակ մոդելների մշակումը դանդաղեցնելու մեխանիզմների ստեղծման։