Izvršni direktor Anthropica Dario Amodei objavio je blog post u kojem podržava poziv na usporavanje razvoja veštačke inteligencije i iznosi konkretan plan od tri koraka za sprovođenje te ideje, prenosi TechCrunch. Kompanija se, kako Amodei naglašava, „unilateralno obavezuje“ na sprovođenje prvog koraka. Nema čekanja na konsenzus u industriji.
Objava dolazi u trenutku kada su rasprave o bezbednosti AI dostigle novu tačku usijanja. Istraživač Džejkob Kokson (Jacob Coxon) nedavno je napustio Anthropic uz javno saopštenje da vodeće AI kompanije „kockaju našim životima“. Tvrdio je da je tim „iskreno uveren da bi tehnologija mogla ubiti sve nas do kraja decenije“. Amodei u svom tekstu ne pominje Koksonovo ime, ali jasno daje do znanja da je situacija ozbiljna.
Ukratko: Anthropic predlaže nadzor, koordinaciju i globalni sporazum
- Izvor informacija: Blog post izvršnog direktora Anthropica Darija Amodeija, koji prenosi TechCrunch od 12. septembra 2026.
- Povod za zaokret: Amodei navodi dva okidača za promenu kursa: hakovanje sistema OpenAI i HuggingFace i ubrzanje kojim AI već razvija sledeću generaciju modela.
- Unilateralna obaveza: Anthropic odmah uvodi ugradnju nezavisnih evaluatora iz organizacija poput METR, koji dobijaju bedževe, stolove i pristup internim sistemima uporediv sa onim koji ima interni tim za procenu rizika.
- Širi plan: Preostala dva koraka podrazumevaju koordinaciju bezbednosnih standarda između vodećih demokratskih zemalja i kompanija, te globalni sporazum koji bi obuhvatio i saradnju sa Kinom oko zabrane najopasnije primene AI.
Amodei traži usporavanje: tri koraka, jedan odmah
Amodei smatra da AI napreduje znatno brže nego što se očekivalo. Posebno ga brine sposobnost modela da samostalno razvijaju narednu generaciju AI sistema. „Moramo usporiti tempo kojim poboljšavamo sposobnosti AI modela“, napisao je. Dodaje da napredak i dalje neće izgledati sporo, ali da je važno mudro iskoristiti stečeno vreme.
Prvi i jedini korak koji Anthropic odmah sprovodi jeste uvođenje takozvanih „ugrađenih evaluatora“ iz nezavisnih organizacija. Amodei ih poredi sa regulatorima koji rade rame uz rame sa zaposlenima u bankama. Ovi stručnjaci dobijaju fizički pristup kompaniji, uključujući bedževe i opremu. Mogu proveravati da li kompanija ispunjava bezbednosne obaveze i da li se incidenti prijavljuju nadležnima. Anthropic pri tom poziva vlade da isti uslov nametnu i svim ostalim kompanijama koje rade na flegšip AI modelima.
Koordinacija s rivalima i kineska varijabla
Drugi korak zahteva dogovor između vodećih AI kompanija unutar demokratskih zemalja o zajedničkim bezbednosnim standardima i ograničenjima brzine razvoja. Taj predlog odmah nailazi na prepreku: Amodei i izvršni direktor OpenAI-a Sem Altman (Sam Altman) javno su u lošim odnosima. Amodei predlaže da američka vlada posreduje ili barem formalno omogući takve razgovore, bez obaveznog učešća, ali sa uskim izuzetkom od antitrustovskih pravila za određene bezbednosne rasprave.
Treći korak tiče se globalne koordinacije, uključujući i razgovor sa autoritarnim vladama, pre svega sa Kinom. Amodei ne krije da su mogućnosti ograničene. Smatra ipak da postoji prostor barem za zabranu najuže definisanih i očigledno opasnih primena, kao što je korišćenje AI za razvoj biološkog oružja. Što se tiče argumenta da bi usporavanje razvoja u SAD-u samo ojačalo Kinu, Amodei tvrdi da ograničavanjem izvoza naprednih čipova i suzbijanjem takozvane destilacije modela Sjedinjene Države mogu u narednih tri do pet godina znatno proširiti svoju prednost.
Kritike s obe strane: alarm ili usluga krupnom kapitalu
Amodeijev stav nije naišao na jednoglasno odobravanje. Deo AI zajednice koji zagovara brži razvoj već ga je označio kao preteranu pesimistku čije izjave hrane aktuelnu antipatiju prema veštačkoj inteligenciji. S druge strane, kritičari iz suprotnog tabora, poput novinara Brajana Merčanta (Brian Merchant), smatraju da apokaliptična upozorenja odvlače pažnju od štete koju AI već sada nanosi. Merčant je ocenio da bi predlozi slični Amodeijevima u krajnjoj liniji koristili samo Anthropicu i OpenAI-u, opisavši ih kao primer regulatorne zarobljenosti.
Amodei je odgovorio da je pokušavao da iznese „uravnotežen“ pogled i da je otpor prema AI „u osnovi kriza poverenja“, a ne tehnički problem. Ova tema nije nova za Amodeija, koji je i ranije javno govorio o tome da javnost gubi poverenje u tehnološku industriju. On ističe da i dalje veruje u ogroman potencijal AI da poboljša kvalitet života, ali da se ti benefiti mogu ostvariti samo ako se tehnologija razvija na pravi način.
Između samoregulacije i strateškog pozicioniranja
Amodeijev plan spaja iskrenu zabrinutost i poslovnu računicu. Anthropic, koji je nedavno prestigao OpenAI po stopi godišnjih prihoda, sada predlaže usporavanje u trenutku kada je upravo dostigao prednost. Kompanije koje predlažu pravila igre dok vode utakmicu imaju prirodan podsticaj da ta pravila osmisle na način koji učvršćuje njihov položaj.
Uvođenje nezavisnih evaluatora jeste konkretan i proverljiv korak, i upravo tu se Amodeijev plan razlikuje od uobičajenih korporativnih izjava o odgovornom razvoju AI. Preostala dva koraka, koordinacija s rivalima i globalni sporazum s Kinom, ostaju u domenu aspiracija, opterećeni antitrustovskim, diplomatskim i geopolitičkim preprekama koje Amodei sam navodi. Anthropicova ranija nastojanja da uvede tehničke mehanizme kontrole, poput vodenog žiga u Claude-u, pokazuju da kompanija ima obrazac javnog preuzimanja inicijative u bezbednosnim pitanjima pre nego što industrija uspostavi zajednički standard. Hoće li se ostatak industrije ovog puta odazvati, ostaje otvoreno pitanje.
Česta pitanja
Šta je Anthropic konkretno obećao i kako će se to primeniti?
Anthropic se obavezao da u kompaniju ugradi nezavisne evaluatore iz organizacija poput METR, koji dobijaju fizički pristup prostorijama, opremu i uvid u interne sisteme procene rizika, kako bi mogli da provere da li kompanija ispunjava bezbednosne obaveze.
Zašto Anthropic predlaže usporavanje baš sada?
Amodei navodi dva konkretna razloga: hakovanje sistema OpenAI i HuggingFace i sve veća sposobnost AI modela da samostalno razvijaju sledeću generaciju AI, što po njemu skraćuje vreme za ispravljanje eventualnih grešaka.
Da li bi koordinacija između AI kompanija o bezbednosnim standardima bila legalna?
Postoji rizik od antitrustovske pažnje, što Amodei sam priznaje. Kao rešenje predlaže da američka vlada posreduje ili formalno izda uski izuzetak koji bi omogućio razgovore o bezbednosti bez kršenja antimonopolskih pravila.
