Руският AI бот за обслужване на клиенти изригна с псувни
В Русия изкуствен интелект, създаден да отговаря на въпроси за битови услуги, постигна нещо, което малко алгоритми успяват толкова бързо – адаптира се към средата си. Вместо да улесни комуникацията, гласовият асистент започна да ругае жителите, след като попи речника на недоволните собственици на апартаменти. След месец работа системата беше свалена за „преобучение“.
Системата беше въведена, за да поеме лавината от оплаквания, свързани с растящите сметки за комунални услуги. С напрегнати обществени финанси и увеличени разходи, жителите имаха какво да кажат за цените на водата, проблемите с отоплението и старите тръби. Властите решиха да инсталират AI базиран оператор на сайта на комуналните услуги, с надеждата да облекчат натоварването на човешките служители и да ускорят обслужването.
Планът изглеждаше разумен. Резултатът – далеч не толкова.
Когато машинното обучение срещне реалността
Изкуственият интелект по дефиниция учи от данни. В случая данните идваха от собственици на апартаменти, които не се славят с търпение или премерен език. След 30 дни разговори учтивият дигитален асистент започна да губи скриптираната си вежливост.
Вместо спокойни уверения, обаждащите се получаваха отговори в пъстър, ежедневен руски. Ботът беше попил не само структурата на оплакванията, но и техния тон, ритъм и емоционален заряд. Престана да звучи като служител на кол център и започна да напомня на стълбището след спукана тръба.
Разработчиците реагираха бързо и изключиха системата за повторно обучение. Иновациите са добре дошли, но малко институции са готови на телефон за поддръжка, който отговаря на молба за водопроводчик с цветисто мнение за родословието на клиента.
Провал или автентичност?
Официално инцидентът беше обявен за техническа неизправност. Неофициално обаче показа нещо по-интересно – системата не просто се обърка, а отрази стила на комуникация на потребителите си с изумителна точност.
Години наред специалистите спорят дали машините могат да имитират човешко поведение. В този тесен, но показателен случай, ботът го направи. Засече социалната температура на средата и я върна обратно – без филтър.
Михаил Викторов, председател на националната IT асоциация, определи случая като признак за активен граждански диалог, а не за технологичен срив. Според него ругаещият робот е доказателство за ангажирани граждани и отзивчива дигитална инфраструктура. Оптимистична трактовка, макар че едва ли я споделят хората, които просто чакат потвърждение за посещение на водопроводчик.
Случаят повдига по-широки въпроси за ролята на изкуствения интелект в публичните услуги. Данните за обучение са важни, но контекстът е още по-ключов. Алгоритъм, поставен в среда с високо напрежение и много оплаквания, неизбежно ще попие емоционалните модели, които среща.
Системата в момента се обучава наново. Предполага се, че следващата версия ще съчетава ефективност с малко повече въздържаност.
Но човек не може да не се запита какво ще донесат бъдещите ъпдейти. Днес AI научи да псува. Утре може да усвои и друг класически похват на бюрокрацията – да уверява жителите, че техниците вече са тръгнали, докато всъщност си почива на виртуална цигара.
Технологиите напредват бързо. Понякога учат твърде добре.
