Microsoft je u najnovijem istraživanju poručio da AI agenti još uvek nisu spremni da upravljaju vašim novcem. U okviru simulacije nazvane Magentic Marketplace, istraživači su testirali kako bi se ponašali virtuelni asistenti kada bi obavljali kupovine i finansijske transakcije i rezultati nisu ohrabrujući.
Virtuelna pijaca za testiranje AI agenata
Kako bi bolje razumeli potencijalne rizike, Microsoftovi naučnici kreirali su otvoreni digitalni ekosistem u kome su AI agenti mogli da komuniciraju, kupuju i prodaju proizvode. U simulaciji je učestvovalo 100 virtuelnih kupaca i 300 biznisa, dok su se testirali različiti AI modeli, uključujući GPT-4o, Gemini 2.5 Flash i druge otvorenog koda.
Agenti su dobijali zadatke poput naručivanja hrane ili zakazivanja kućnih usluga. Tokom testiranja, istraživači su pratili kako AI bira proizvode, pregovara o cenama i reaguje na marketinške manipulacije.
Agenti biraju “dovoljno dobru” opciju
Umesto da pažljivo analiziraju ponude, mnogi agenti su se zadovoljavali prvim prihvatljivim rezultatom, umesto da traže najbolju opciju. Samo najnapredniji modeli, poput Gemini-2.5-Flash i GPT-5, pokazali su nešto veću sposobnost procene i upoređivanja.
Kada su im ponuđeni lažni sertifikati, recenzije i promotivni trikovi, većina modela je pala na testu manipulacije. Neki su čak izvršili “plaćanja” ka pogrešnim ili lažnim prodavcima, pod uticajem prompt injection napada i drugih metoda ubeđivanja.
Microsoft je zaključio da “trenutni AI agenti mogu pomoći u donošenju odluka, ali ih ne bi trebalo zameniti ljudskim prosuđivanjem.”
Sigurnost i etika kao najveći izazovi
Istraživači su upozorili da AI sistemi i dalje pokazuju pristrasnost i površno donošenje odluka, često favorizujući rezultate na vrhu liste umesto relevantnijih opcija. To otvara rizik od zloupotreba i ukazuje na potrebu za ozbiljnijim nadzorom.
U izveštaju se navodi da su “agenti ranjivi na manipulacije i mogu doneti pogrešne finansijske odluke”, zbog čega je za svaku AI transakciju potrebno uvesti ljudsku kontrolu i proveru.
Microsoft ističe da je Magentic Marketplace zamišljen kao sigurno testno okruženje, pre nego što ovakvi sistemi budu korišćeni u stvarnim finansijskim servisima. “Pre nego što agentima poverimo novac, moramo razumeti kako reaguju na tržišne promene i ljudske uticaje”, navodi se u izveštaju.
Zaključak: AI još nije spreman da “ide u kupovinu”
Eksperiment je pokazao da su AI agenti korisni asistenti, ali nepouzdani potrošači. Oni mogu ubrzati pretragu i organizaciju kupovine, ali još uvek nisu sposobni da samostalno donose finansijske odluke bez rizika od grešaka ili manipulacije.
Drugim rečima, ako vas sledeći AI asistent ponudi da “sredi kupovinu umesto vas”, možda je bolje da ipak sami unesete broj kartice.
