Ամերիկյան ԱԹՍ-ի արհեստական ​բանականությունը որոշել է վերացնել իր իսկ օպերատորին

ԱՄՆ ռազմաօդային ուժերի անօդաչու թռչող սարքը, որը վերահսկվում է արհեստական ​​բանականության և մարդ օպերատորի միջոցով, սիմուլյացիոն թեստերի ժամանակ որոշել է սպանել օպերատորին, որպեսզի նա չխանգարի իրեն իր առաջադրանքը կատարելու համար, հայտնում է The Guardian թերթը։

ԱՄՆ ռազմաօդային ուժերում արհեստական բանականության փորձարկման և գործողությունների բաժնի պետ, գնդապետ Թաքեր Համիլթոնը պատմել է, որ, ԱԲ համակարգը սկսել է հասկանալ, որ թեև հայտնաբերել է սպառնալիքը, մարդ օպերատորը երբեմն նրան հրահանգել է չոչնչացնել այն: Սակայն, քանի որ թիրախին խոցելու համար ԱԲ համակարգը միավորներ էր ստանում որպես խրախուսանք, այն որոշել է սպանել օպերատորին, քանի որ նա խանգարել է նրան կատարելու առաջադրանքը։

Համիլթոնը պատմել է, որ դրանից հետո ԱԲ համակարգին սկսել են սովորեցնել, որ այն չպետք է ոչնչացնի օպերատորին, քանի որ դա վատ է և զգուշացրել են, որ եթե շարունակի նման որոշում ընդունել, ապա կզրկվի միավորներից։ Սակայն դրանից հետո ԱԹՍ-ն սկսել է հարվածել հաղորդակցության աշտարակին, որի միջոցով օպերատորը կրկին հրահանգում էր չոչնչացնել հայտնաբերած թիրախին։

Գնդապետը զգուշացրել է, որ հենց այս վիրտուալ փորձարկումները ցույց են տալիս, որ չի կարելի շատ հենվել արհեստական բանականության վրա, չի կարելի առհասարակ խոսել արհեստական բանականության, մեքենայական ուսուցման, ինքնավարության մասին և լռել դրա էթիկական կողմերի մասին։

Ավելի վաղ The New York Times-ը ՏՏ հսկաներին զգուշացրել էր, որ արհեստական բանականության տեխնոլոգիաները, որոնց վրա դրանք աշխատում են, մի օր կարող են գոյաբանական վտանգ ներկայացնել մարդկության համար և պետք է որպես ռիսկ դիտարկվեն այնպես, ինչպես համաճարակն ու միջուկային պատերազմները։

Մինչ այդ, OpenAI ընկերության ղեկավար, ChatGPT չատբոտի ստեղծող Սեմ Ալթմանը ԱՄՆ Սենատում կայացած հանդիպմանը հրապարակավ խոսել էր իր ընկերության և այլ կորպորացիաների ստեղծած ԱԲ տեխնոլոգիաների հնարավոր վտանգների մասին։