Od decembra 2025. korisnici ChatGPT-a koji potvrde da su punoletni moći će da vode erotske razgovore sa AI asistentom. Ovu promenu je najavio Sam Altman, izvršni direktor OpenAI-ja, navodeći da kompanija želi da „tretira odrasle kao odrasle“, ali uz dodatne mere zaštite mentalnog zdravlja.
Do sada je ChatGPT imao stroga ograničenja kada je reč o sadržajima za odrasle. U februaru su pravila delimično relaksirana, ali su ponovo postrožena u avgustu, nakon što su roditelji jednog maloletnika podneli tužbu zbog navodnog negativnog uticaja koji je AI imao na mentalno zdravlje njihovog sina.
Balans između izražavanja i zaštite
Altman kaže da je OpenAI prvobitno bio izuzetno oprezan kako bi sprečio rizike po korisnike sa psihičkim poteškoćama, ali je to istovremeno dovelo do toga da mnogima ChatGPT postane „manje koristan i manje zabavan“. Sada kompanija uvodi sisteme koji mogu da prepoznaju psihičku uznemirenost u toku razgovora, što bi trebalo da omogući veću slobodu za korisnike koji nisu u riziku.
OpenAI ističe da neće ukidati zaštitne mehanizme, već će ih dodatno personalizovati. Korisnici će moći da biraju stil komunikacije, od formalnog, do „prijateljskog“ tona sa više emodžija, kako bi iskustvo bilo što prirodnije i prilagođeno svakome.
Nova pravila, stari izazovi
Kompanija još nije objavila tehničke detalje o tome kako će funkcionisati verifikacija uzrasta. Takođe nije jasno kako će se razlikovati dozvoljeni sadržaji za odrasle od onih koji bi mogli ukazivati na mentalne probleme kod korisnika. Trenutno, ChatGPT koristi moderacione AI modele koji čitaju kontekst razgovora i prekidaju ga ukoliko otkriju kršenje pravila.
OpenAI je nedavno osnovao savet za „dobrobit i veštačku inteligenciju“, koji okuplja osam istraživača sa fokusom na uticaj tehnologije na psihičko zdravlje. Međutim, u tom telu i dalje nema stručnjaka za prevenciju samoubistava, iako su brojni glasovi iz struke apelovali da se upravo ti profili uključe u odlučivanje.
OpenAI nije jedini koji istražuje ovu oblast. Muskova kompanija xAI već je predstavila „flertujuće“ AI saputnike u 3D obliku, dok sve više firmi eksperimentiše sa AI asistencijama koje prelaze granicu korisničkog servisa i ulaze u sferu digitalnog društva.
