Ruski AI operater psuje korisnike, povučen sa mreže
U Rusiji je veštačka inteligencija, osmišljena da odgovara na pitanja građana o komunalijama, za samo 30 dana prešla put od uljudnog asistenta do digitalnog majstora psovke. Sistem je instaliran kako bi rasteretio operatere i ubrzao rešavanje žalbi na rastuće račune za vodu, grejanje i stare cevi, ali je ubrzo počeo da odgovara korisnicima istim jezikom kojim su se oni obraćali njemu.
AI sistem je uveden sa ciljem da olakša rešavanje pritužbi građana na sve veće komunalne troškove. Sa budžetom pod pritiskom i cenama koje rastu, stanovnici su imali mnogo toga da kažu o vodi, grejanju i dotrajalim instalacijama. Zvaničnici su zato na sajt komunalnog preduzeća postavili glasovnog asistenta na bazi veštačke inteligencije, nadajući se da će rasteretiti ljudske operatere i ubrzati komunikaciju.
Plan je na papiru delovao razumno. U praksi, rezultat je bio sve samo ne to.
Kada mašinsko učenje sretne stvaran život
Veštačka inteligencija uči iz podataka. U ovom slučaju, podaci su stizali od stanara koji nisu štedeli ni reči ni ton. Posle samo mesec dana razgovora, digitalni asistent je zaboravio na bonton i prešao na jezik hodnika posle pucanja cevi.
Umesto smirenih odgovora, korisnici su dobijali replike u živopisnom, svakodnevnom ruskom. Bot je upio ne samo strukturu žalbi, već i ritam, ton i emocionalni naboj. Prestao je da zvuči kao skriptovani operater, a počeo da zvuči kao komšija iz podruma.
Razvojni tim je brzo reagovao i povukao sistem radi „prevaspitavanja“. Inovacije su dobrodošle, ali retko koja firma želi podršku koja na zahtev za vodoinstalatera odgovara sočnim komentarom o poreklu korisnika.
Neuspeh ili dokaz autentičnosti?
Zvanično, incident je proglašen tehničkim problemom. Nezvanično, pokazao je nešto zanimljivije: sistem nije samo pogrešio, već je sa zapanjujućom preciznošću preslikao stil komunikacije svojih korisnika.
Godinama se raspravlja da li mašine mogu da imitiraju ljude. Ovaj bot je, makar u uskom smislu, to uspeo. Uhvatili su društvenu temperaturu i vratili je natrag, bez filtera.
Mihail Viktorov, predsednik nacionalnog IT udruženja, incident vidi kao znak aktivnog dijaloga građana i digitalne infrastrukture, a ne kao tehnološki krah. Robota koji psuje, u ovom tumačenju, znači angažovane korisnike i sistem koji reaguje. Optimistična vizura, mada je teško reći da li je dele oni koji su samo želeli potvrdu dolaska majstora.
Ova epizoda otvara šira pitanja o ulozi veštačke inteligencije u javnim službama. Podaci za obuku su važni, ali kontekst je još bitniji. Algoritam koji se nađe u okruženju punom stresa i žalbi, neminovno će upiti i emocionalne obrasce koje zatekne.
Sistem je sada na „prevaspitavanju“. Sledeća verzija, valjda, biće efikasna ali i uzdržana.
Ipak, teško je ne zapitati se šta nas čeka u budućnosti. Danas je AI naučio da psuje. Sutra će možda usavršiti još jednu birokratsku veštinu: da uverava građane da su majstori već na putu, dok zapravo odmara na virtuelnoj pauzi.
Tehnologija napreduje brzo. Ponekad nauči i previše.
