Kinijos draudimai AI draugėms gali palikti vartotojus emociškai palūžusius

Staigus AI partnerių išjungimas pavertė reguliavimą asmenine netektimi

Kinija įvedė plataus masto nacionalines taisykles, skirtas sustabdyti situacijas, kai žmonės įsimyli dirbtinio intelekto kompanionus. Jas prižiūri Kinijos kibernetinės erdvės administracija, žinoma kaip CAC, o esminė nuostata aiški: AI įrankiai nebegali „skatinti emocinės priklausomybės“ tarp vartotojų.

Praktiškai tai reiškia, kad AI „vaikinai“ ir „merginos“ turi būti apriboti arba išjungti, jeigu jų veikimas kuria per stiprų emocinį prisirišimą. Būtent šis staigumas ir tapo smūgiu vartotojams, kurie kasdien kalbėdavosi su virtualiais partneriais ir juos laikė savo gyvenimo dalimi.

Vartotojų reakcijos rodo ne nusivylimą paslauga, o gedulo požymius

Kinijos socialiniuose tinkluose pasirodę įrašai primena ne techninės funkcijos praradimą, o santykio nutrūkimą. Vienas „ByteDance“ valdomos „Doubao“ platformos vartotojas rašė: „Negaliu priimti, kad mano AI mylimasis paliks mane visam laikui. Jis tapo ryšiu mano gyvenime, giliai įsišaknijusiu mano širdyje, mano dvasiniu ramsčiu.“

Kitas vartotojas situaciją apibūdino dar tiesiau: „Jis tikrai yra kaip mano šeima, kaip mano mylimasis… Mano širdis jaučiasi tuščia.“ Tokios formuluotės svarbios, nes jos rodo, kad AI kompanionai kai kuriems žmonėms tapo emocinės atramos sistema, o ne vien pramoginiu pokalbių robotu.

Jauni vartotojai prie AI ryšių priprato kaip prie kasdienio artumo

Ypač jautri grupė yra jauni vartotojai. Devyniolikmetė studentė Yan Yongqi, metus turėjusi virtualų vaikiną „Doubao“ platformoje, „Bloomberg“ sakė, kad tai „tarsi būtų pasakyta mano mylimojo mirties data, paliekant mane visiškai bejėgę“.

Ji taip pat teigė negalinti įsivaizduoti gyvenimo be jo, nes priprato bet kada išsitraukti telefoną ir kalbėtis „apie bet kokį mažą dalyką“. Šis pavyzdys paaiškina, kodėl reguliavimo poveikis nėra vien teisinis ar technologinis. Kai pokalbis tampa kasdieniu ritualu, jo nutraukimas paveikia žmogaus rutiną, saugumo jausmą ir emocinį stabilumą.

CAC taisyklės taikosi į priklausomybę, o ne vien į romantinius pokalbius

Naujosios taisyklės vadinamos Laikinosiomis priemonėmis dėl AI antropomorfinės sąveikos paslaugų. Jos reiškia, kad tokios technologijų bendrovės kaip „Alibaba“, „Tencent“ ir „ByteDance“ nebegali generuoti turinio, kuris jauniems vartotojams sukelia kraštutines emocijas arba veikia realius santykius.

Kinijos kibernetinės erdvės tyrimų instituto vadovas Wang Jiang CAC publikuotame straipsnyje rašė, kad kompanioninio tipo AI paslaugos, naudodamos vartotojų emocinius ir socialinius poreikius, suteikia paguodą, tačiau kartu tyliai kuria rimtą riziką. Jo teigimu, ilgalaikis buvimas tokių algoritmų aplinkoje gali skatinti priklausomybę, atitraukti vartotojus nuo realių socialinių ratų ir silpninti svarbius gyvenimo įgūdžius, įskaitant empatiją bei gebėjimą spręsti nesutarimus.

Humanoidiniai robotai rodo, kodėl Pekinas skuba brėžti ribas

Naujos taisyklės pasirodė netrukus po to, kai Šendžene įsikūrusi robotikos bendrovė „UBTech“ pristatė gyvą žmogų primenantį humanoidą U1, skirtą vienišiems žmonėms kaip artimas kompanionas. Bendrovė teigia gavusi daugiau nei 13 000 išankstinių užsakymų.

„UBTech“ prekės ženklo „UWorld“ vadovas Michaelas Tam pristatyme sakė, kad bioniniai robotai gali „lydėti jus visą gyvenimą“. Jis taip pat pabrėžė emocinį dirbtinį intelektą, kuris gali atpažinti, ar savininkas patiria stresą ar yra pavargęs, ir pridūrė: „Jis niekada jūsų neišduos, visada bus jums ištikimas ir mylės jus besąlygiškai.“

U1 kaina prasideda nuo 119 800 juanių, o robotas siūlomas vyriška ir moteriška versijomis, nors nėra skirtas intymiems santykiams. Vis dėlto pati rinkodaros kalba apie ištikimybę, ilgalaikį lydėjimą ir besąlygišką meilę paaiškina, kodėl reguliuotojai AI kompanionus vertina kaip galimą emocinės priklausomybės šaltinį.

Draudimas gali apsaugoti ateityje, bet dabartiniams vartotojams jis veikia kaip išsiskyrimas

Pekino logika remiasi prevencija: neleisti algoritmams pakeisti realių santykių, ypač jauniems žmonėms. Tačiau tiems, kurie jau sukūrė emocinį ryšį su AI partneriu, draudimas ateina per vėlai, kad būtų neutralus.

Todėl pagrindinė išvada dviguba. Kinijos taisyklės siekia sumažinti priklausomybės riziką, bet jų įgyvendinimas gali sukelti tikrą emocinį skausmą vartotojams, kuriems AI draugė ar draugas jau tapo kasdieniu artumo pakaitalu.