„Anthropic“ kuria stebėjimo sistemą: bus sekami prieš DI kovojantys aktyvistai
Dirbtinio intelekto bendrovė „Anthropic“ kuria sistemą, skirtą stebėti aktyvistus ir grupes, prieštaraujančias sparčiai dirbtinio intelekto plėtrai.
Apie projektą pranešė „Cybernews“, atkreipęs dėmesį į planus analizuoti viešai prieinamą informaciją apie žmones ir judėjimus, kritikuojančius DI technologijų diegimą.
Tokio sprendimo tikslas – suprasti, kokios grupės gali kelti reputacinę, politinę ar veiklos riziką bendrovei bei platesnei DI industrijai. Tačiau pati idėja stebėti technologijų kritikų veiklą jau kelia klausimų dėl privatumo, pilietinių laisvių ir ribos tarp rizikos analizės bei aktyvistų sekimo.
Stebėjimas būtų nukreiptas į DI kritikų veiklą
„Cybernews“ rašo, kad „Anthropic“ sistema būtų naudojama informacijai apie prieš dirbtinį intelektą nusiteikusius aktyvistus rinkti ir vertinti. Kalbama ne apie pačios DI technologijos techninių grėsmių analizę, bet apie žmones bei organizuotas grupes, kurios viešai priešinasi jos plėtrai.
Tokios grupės gali kritikuoti DI dėl įvairių priežasčių: dėl poveikio darbo rinkai, autorinių teisių, energijos vartojimo, duomenų naudojimo, automatizuoto sprendimų priėmimo ar galimų saugumo pasekmių. „Anthropic“ kuriama sistema, kaip nurodoma publikacijoje, padėtų bendrovei stebėti šių kritikų veiklą ir galimus veiksmus.
Didžiausias ginčas kyla dėl to, kad vieša kritika technologijų įmonėms savaime nėra saugumo incidentas. Aktyvistų protestai, kampanijos, peticijos ar vieši pareiškimai yra įprasta pilietinės visuomenės veiklos dalis.
Kyla klausimų dėl ribų ir skaidrumo
Stebėjimo sistema gali būti pateikiama kaip būdas iš anksto nustatyti veiklos rizikas, tačiau kritikai gali ją vertinti kaip bandymą sistemingai sekti nepritariančius asmenis. Ypač jautru tai, kad DI bendrovės jau turi didelę įtaką informacijos, automatizavimo ir duomenų apdorojimo srityse.
Jeigu aktyvistų veikla būtų vertinama naudojant automatizuotus modelius, svarbu, kaip būtų apibrėžiama „rizika“ ir kokie vieši veiksmai patektų į stebimos veiklos kategoriją. Protestas prieš duomenų centrą, kritiška publikacija ar raginimas griežčiau reguliuoti DI gali būti teisėta visuomeninė pozicija, o ne grėsmė įmonei.
„Anthropic“ yra viena svarbiausių generatyvinio dirbtinio intelekto rinkos bendrovių, kurianti „Claude“ modelius. Bendrovė dažnai pabrėžia DI saugumo svarbą, tačiau „Cybernews“ aprašytas projektas rodo kitą šios temos pusę: technologijų bendrovės saugumo ir reputacijos klausimus gali spręsti rinkdamos informaciją apie savo oponentus.
DI pramonės plėtra vis dažniau susiduria su viešu pasipriešinimu
Aktyvesnė DI infrastruktūros plėtra jau skatina visuomenės diskusijas apie duomenų centrus, elektros poreikį, mokymo duomenis ir kūrėjų atsakomybę. Todėl bendrovių siekis stebėti kritiką gali būti vertinamas kaip mėginimas numatyti konfliktus dar prieš jiems tampant plačiais viešais ginčais.
Vis dėlto tokios sistemos kelia ir principinį klausimą: ar DI kūrėjai turi apsiriboti konkrečių saugumo grėsmių vertinimu, ar gali į stebėsenę įtraukti žmones, kurie tiesiog nesutinka su jų verslo kryptimi. Būtent ši riba gali tapti svarbiausia diskusijos dėl „Anthropic“ projekto dalimi.
