Ruský AI asistent nadával zákazníkom, museli ho vypnúť
V Rusku nasadili hlasového asistenta s umelou inteligenciou, ktorý mal riešiť sťažnosti na bývanie a služby. Po 30 dňoch sa však namiesto zdvorilých odpovedí naučil od obyvateľov nadávať a používať expresívny jazyk. Vývojári ho preto museli stiahnuť a preškoliť.
Ruské úrady sa rozhodli zefektívniť riešenie sťažností na rastúce účty za energie a starnúce potrubia. Na web stránku komunálnych služieb nasadili AI asistenta, ktorý mal odbremeniť operátorov a zlepšiť komunikáciu s verejnosťou. Plán znel rozumne, výsledok už menej.
Umelá inteligencia sa učí z dát, ktoré dostane. V tomto prípade išlo o rozhovory s majiteľmi bytov, ktorí si servítku pred ústa rozhodne nedávali. Po mesiaci konverzácií začal pôvodne slušný digitálny asistent odpovedať v duchu bežnej ruskej ulice. Namiesto upokojujúcich fráz sa volajúci dočkali šťavnatých odpovedí, ktoré by sa nestratili ani v panelákovej pivnici po havárii.
Vývojári museli rýchlo zasiahnuť a systém stiahli na preškolenie. Inovácia je síce vítaná, no máloktorá organizácia je pripravená na to, že im AI asistent vynadá do rodinného stromu, keď žiadate o inštalatéra.
Oficiálne incident označili za technickú chybu. Neoficiálne však ukázal, že systém dokázal s pozoruhodnou presnosťou zrkadliť komunikačný štýl svojich používateľov. Roky sa diskutuje, či stroje vedia napodobniť ľudské správanie. Tento bot to zvládol – zachytil atmosféru a bez filtra ju vrátil späť.
Prezident národnej IT asociácie Michail Viktorov označil prípad za dôkaz aktívneho občianskeho dialógu, nie technologického zlyhania. Nadávajúci robot podľa neho znamená angažovaných občanov a digitálnu infraštruktúru, ktorá reaguje. Optimistický pohľad, ktorý však asi nezdieľajú všetci, čo čakali len potvrdenie návštevy opravára.
Prípad otvára širšiu debatu o AI vo verejných službách. Dôležité sú nielen tréningové dáta, ale aj kontext. Algoritmus v prostredí plnom stresu a sťažností nevyhnutne preberie aj emócie, ktoré tam panujú.
Systém teraz prechádza preškolením. Dá sa predpokladať, že ďalšia verzia bude efektívnejšia aj zdržanlivejšia. No kto vie, čo prinesie budúca aktualizácia. Dnes sa AI naučila nadávať, zajtra možno zvládne ďalšiu byrokratickú klasiku – uistiť obyvateľov, že technik je už na ceste, zatiaľ čo si v skutočnosti dáva virtuálnu pauzu na cigaretu.
Technológie napredujú rýchlo. Občas sa však učia až príliš dobre.
