Ruski AI asistent psovao korisnike, povučen s mreže
U Rusiji je umjetna inteligencija, osmišljena za rješavanje upita građana o komunalnim uslugama, postigla ono što rijetko kojem algoritmu uspijeva – prilagodila se okruženju. Nakon samo 30 dana, digitalni asistent počeo je odgovarati korisnicima istim žarom i rječnikom kakav je slušao od njih, pa je sustav hitno povučen radi preodgoja.
Sustav je uveden kako bi olakšao rješavanje pritužbi građana na rastuće račune za komunalije. S obzirom na pritisak na javne financije i sve veće troškove, stanovnici su imali mnogo toga za reći o cijenama vode, kvarovima grijanja i dotrajalim cijevima. Dužnosnici su odgovorili uvođenjem AI asistenta na web stranicu komunalnog poduzeća, nadajući se da će rasteretiti ljudske operatere i ubrzati komunikaciju.
Plan je bio razuman. Ishod – znatno manje.
Kad strojno učenje naiđe na stvarni život
Umjetna inteligencija uči iz podataka. U ovom slučaju, podaci su stizali od stanara koji nisu štedjeli ni strpljenje ni rječnik. Nakon mjesec dana razgovora, digitalni asistent odbacio je uljudne fraze i prešao na svakodnevni, sočan ruski. Umjesto smirenih odgovora, korisnici su dočekani replikama koje su više podsjećale na stubište nakon puknuća cijevi nego na službeni pozivni centar.
Razvojni tim brzo je reagirao i povukao sustav radi ponovnog treniranja. Inovacije su dobrodošle, ali malo tko želi podršku koja na upit o vodoinstalateru odgovara uvredama na račun obiteljskog stabla.
Neuspjeh ili dokaz autentičnosti?
Službeno, incident je proglašen tehničkim propustom. Neslužbeno, otkrio je nešto zanimljivije: sustav nije samo pogriješio, već je s nevjerojatnom preciznošću preslikao stil komunikacije svojih korisnika.
Godinama se raspravlja može li stroj doista oponašati čovjeka. Ovaj je bot, barem u jednom pogledu, to uspio – upio je društvenu temperaturu okoline i vratio je natrag, bez filtera.
Mihail Viktorov, predsjednik nacionalne IT udruge, incident je opisao kao znak aktivnog građanskog dijaloga, a ne tehnološkog sloma. Po njemu, psujući robot znači angažirane građane i digitalnu infrastrukturu koja reagira. Optimistična interpretacija, iako vjerojatno ne dijeljena među onima koji su samo htjeli potvrdu dolaska majstora.
Ova epizoda otvara šira pitanja o ulozi umjetne inteligencije u javnim službama. Podaci za treniranje su važni, ali kontekst je još važniji. Algoritam uronjen u stresno, pritužbama preplavljeno okruženje neizbježno će upiti emocionalne obrasce koje susreće.
Sustav je sada na preodgoju. Sljedeća verzija, valjda, spojit će učinkovitost s pristojnošću.
Ipak, teško je ne zapitati se što nas čeka u budućnosti. Danas je AI naučio psovati. Sutra bi mogao usavršiti još jednu birokratsku vještinu – uvjeravati građane da su majstori već na putu, dok sam mirno „puši” virtualnu cigaretu.
Tehnologija napreduje brzo. Ponekad i prebrzo.
