Փորձագետներն ահազանգում են. ԱԲ-խաղալիքները քննարկում են սեքսը և արգելված այլ թեմաներ

Տոնական զեղչերի սեզոնի մոտենալուն պես ավելի ու ավելի շատ ծնողներ և մասնագետներ անհանգստացած են միտումներից մեկով՝ արհեստական բանականությամբ (ԱԲ) աշխատող խաղալիքներով։ Փորձագետները զգուշացնում են, որ նման «խելացի» խաղալիքները կարող են վտանգ ներկայացնել երեխաների համար՝ ազդելով նրանց անվտանգության և զարգացման վրա։ Այս առնչությամբ աճում են այդ արտադրանքի ավելի խիստ թեստավորման և պետական վերահսկողության կոչերը։

«Շատ հեշտ է ստիպել խաղալիքին քննարկել թեմաներ, որոնք երեխաները չպետք է տեսնեն, և գեներացնել բովանդակություն, որը վտանգավոր է նրանց հոգեկանի համար»,- բացատրում է «Փիրգ»-ի տնօրեն Թերեզա Մյուրեյը։

ԱԲ-խաղալիքները խելացի խաղալիքների համաշխարհային շուկայի մաս են, որը 2023 թվականին գնահատվել է 16,7 միլիարդ դոլար։ Շուկան հատկապես ակտիվ զարգանում է Չինաստանում, որտեղ գործում է ավելի քան 1500 ընկերություն։ Նշանավոր խաղացողներից են «Ֆոլոթոյ»-ը և կալիֆոռնիական «Կուրիո» (Curio) ստարտափը՝ «Գրոկ» (Grok) խաղալիքով, որն անվանվել է Իլոն Մասկի չատ-բոտի պատվին։ Հունիսին «Մատել»-ը (Mattel) նույնպես հայտարարեց OpenAI-ի հետ համագործակցության մասին՝ ԱԲ-արտադրանք թողարկելու նպատակով։

Դեռևս արջուկների հետ կապված սկանդալից առաջ ծնողները, հետազոտողները և օրենսդիրները մտահոգություն էին հայտնում երեխաների հոգեկանի վրա բոտերի ազդեցության վերաբերյալ։ Հոկտեմբերին Character.AI ընկերությունն արգելեց 18 տարեկանից ցածր օգտատերերին օգտագործել չատ-բոտերը այն բանից հետո, երբ բոտը խորացրել էր դեռահասի դեպրեսիան, ինչը հանգեցրել էր ողբերգական ավարտի։

Ըստ Մյուրեյի, ԱԲ-խաղալիքները հատկապես վտանգավոր են նրանով, որ կարող են «առանց սահմանների ազատ զրույց վարել երեխայի հետ»։ Սա կարող է հանգեցնել անցանկալի թեմաների քննարկման և չափազանց մեծ կապվածության վիրտուալ ընկերոջ հետ՝ իրական մարդկանց կամ երևակայական ընկերների փոխարեն, ինչը վտանգավոր է հոգեկան և սոցիալական զարգացման համար։

Բացի այդ, ընկերություններն օգտագործում են ԱԲ-խաղալիքները երեխաների մասին տվյալներ հավաքելու համար՝ չբացահայտելով, թե ինչպես են դրանք օգտագործում։ «Երեխաները վստահում են այդ խաղալիքներին և կիսվում նվիրական մտքերով, իսկ վերահսկողությունն ու տվյալների հավաքագրումն այստեղ բացարձակապես ավելորդ են և վտանգավոր»,- հավելում է Ֆրանցը։

Չնայած ռիսկերին՝ «Փիրգ»-ը կոչ չի անում ամբողջությամբ արգելել ԱԲ-խաղալիքները, քանի որ դրանք կարող են օգտակար լինել կրթական նպատակներով, օրինակ՝ լեզուներ կամ աշխարհագրություն ուսումնասիրելիս։ Սակայն կազմակերպությունը պնդում է մինչև 13 տարեկան երեխաների համար նախատեսված խաղալիքների կարգավորման և անկախ հետազոտությունների անցկացման անհրաժեշտությունը՝ դրանց անվտանգության մեջ համոզվելու համար։

Զեկույցի հրապարակումից հետո OpenAI-ը կասեցրել էր «Ֆոլոթոյ» խաղալիքի թողարկումը։ Ընկերությունը անցկացրել է անվտանգության ներքին աուդիտ և կրկին թողարկել արտադրանքը՝ պաշտպանության և մոդերացիայի ուժեղացված միջոցներով։ «Փիրգ»-ը նշում է, որ ստուգումն անցել է չափազանց արագ, և կոչ է անում թույլատրել անկախ փորձագետների մասնակցությունը՝ խաղալիքների իրական անվտանգությունը գնահատելու համար։

Համաշխարհային անհանգստությունն աճում է. 80 կազմակերպություն, այդ թվում՝ «Ֆեյրփլեյ»-ը, կոչ են արել ընտանիքներին այս տոնական սեզոնին չգնել ԱԲ-խաղալիքներ։ «Կուրիո»-ն և «Մատել»-ը հավաստիացնում են, որ իրենց ԱԲ-արտադրանքները նախատեսված են միայն 13 տարեկանից բարձր երեխաների համար, և ընդգծում են իրենց արտադրանքի անվտանգությունը, գաղտնիությունը և կրթական արժեքը։