U Kini je industrija „digitalnih ljudi“ prestala da bude naučna fantastika i postala biznis vredan milijarde. Međutim, sa rastom popularnosti AI avatara koji mogu da izgledaju, zvuče i ponašaju se kao stvarni ljudi, uključujući i one koji više nisu sa nama, kineski regulatori su odlučili da je vreme za „povlačenje ručne“. Dok se porodice okreću tehnologiji kako bi ublažile bol za preminulima, država sprema zakone koji bi mogli da postanu svetski standard za etiku u AI svetu.
Sektor koji je samo u 2024. godini vredeo preko 600 miliona dolara, uz godišnji rast od neverovatnih 85%, sada se suočava sa prvim ozbiljnim barijerama.
Između duboke tuge i „lažne utehe“
Priča o Žang Sinju, koja je pomoću kompanije Super Brain kreirala digitalnog avatara svog oca, samo je vrh ledenog brega. Ovi AI dvojnici omogućavaju ljudima da nastave razgovore sa voljenima koji su preminuli, što mnogima pruža emocionalnu snagu. Ipak, kritičari upozoravaju na opasnost od emocionalne zavisnosti i onoga što se naziva „lažnom utehom“.
Regulatori u Kini (Cyberspace Administration of China) prepoznali su da ova tehnologija nosi ogroman rizik od zloupotrebe, od bizarnih prevara do duboke manipulacije osećanjima.
Nova pravila: Nema kloniranja bez potpisa
Nacrt zakona koji je upravo izašao u javnost donosi nekoliko ključnih pravila koja će zauvek promeniti industriju:
- Jasno obeležavanje: Svaki sadržaj koji generiše AI mora biti jasno označen kako bi korisnik znao da ne razgovara sa stvarnom osobom.
- Obavezna saglasnost: Zabranjeno je kreiranje digitalnih replika bez eksplicitnog pristanka osobe (ili njenih pravnih naslednika).
- Zaštita maloletnika: Posebno su stroga pravila koja zabranjuju sisteme koji podstiču emocionalnu zavisnost kod dece ili simuliraju intimne veze.
- Drakonske kazne: Kompanije koje prekrše ove smernice suočiće se sa kaznama od 10.000 do 200.000 juana (oko 29.000 dolara).
Balansiranje između profita i stabilnosti
Kineski pristup prati već poznat obrazac, dozvoliti tehnologiji da se razvija munjevitom brzinom, a zatim uvesti oštru kontrolu onog momenta kada počne da utiče na društvenu stabilnost. Viralni snimci starijih osoba koje, ne znajući da je reč o AI, razgovaraju sa avatarima svojih pokojnih sinova, izazvali su žestoke debate o tome gde prestaje uteha, a počinje obmana.
Iako osnivači kompanija koje se bave ovim poslom kažu da je regulacija neophodna, jasno je da će mnoga „start-up“ rešenja morati da se ugase ili značajno promene pristup.
Šta nas čeka u budućnosti?
Kineski nacrt zakona je na javnoj raspravi do maja, a njegovo sprovođenje se očekuje ubrzo nakon toga. Ovo je važan trenutak ne samo za Kinu, već i za ostatak sveta. Kako AI avatari postaju deo svakodnevice u e-trgovini i korisničkoj podršci, pitanja identiteta, pristanka i emocionalne moći tehnologije postaće centralne teme i u ostatku sveta.
Pitanje je samo da li smo spremni na svet u kojem će biti teže razlikovati živog čoveka od dobro programiranog koda?
