Microsoft AI-ի ղեկավարը զգուշացնում է՝ ԱԲ-ն կարող է դառնալ մարդկանց հետ ռեսուրսների համար մրցող «սիլիկոնային տեսակ»

Առանց համապատասխան անվտանգության մեխանիզմների՝ արհեստական բանականության զարգացումը կարող է հանգեցնել մարդկանց հետ ռեսուրսների համար մրցող նոր՝ «սիլիկոնային տեսակի» առաջացմանը։ Այս մասին BBC-ին ասել է Microsoft AI-ի ղեկավար Մուստաֆա Սուլեյմանը։

Նրա խոսքով՝ AI ընկերությունները չպետք է ստեղծեն համակարգեր, որոնք կարող են ինքնուրույն նպատակներ սահմանել, գումար վաստակել կամ սեփականություն ունենալ, քանի որ դա կարող է հանգեցնել մարդկանց կողմից լիարժեք վերահսկողությունից դուրս տեխնոլոգիայի ստեղծմանը։

Սուլեյմանը նաև քննադատել է AI ոլորտի Anthropic ընկերության մոտեցումը՝ արհեստական բանականությանը մարդկային հատկանիշներ վերագրելու համար։ Նրա խոսքով՝ AI համակարգերը գիտակցություն չունեն և չեն զգում կամ տառապում այնպես, ինչպես մարդիկ։ Նա կոչ է արել ավելի թափանցիկ դարձնել AI համակարգերի ուսուցման և գնահատման գործընթացները, ինչպես նաև կիրառել դրանց վարքագծի անկախ ուսումնասիրություն և տեխնոլոգիան վերահսկելու ավելի արդյունավետ գործիքներ։

Սուլեյմանի խոսքով՝ AI-ի զարգացման կարևոր խնդիրներից մեկը համակարգերի «համապատասխանեցումն» է մարդկային արժեքներին․ AI համակարգերը պետք է գործեն մարդկանց սահմանած սկզբունքների շրջանակում և մնան մարդկային վերահսկողության ներքո։ Microsoft-ի հրապարակած «Humanist AI Code of Conduct»-ում նույնպես ամրագրված է այս մոտեցումը։