Orosz AI ügyfélszolgálat: káromkodva tanult meg válaszolni
Oroszországban egy mesterséges intelligenciával működő hangasszisztens, amelyet lakossági közműpanaszok kezelésére fejlesztettek, mindössze harminc nap alatt alkalmazkodott környezetéhez – és nem éppen a várt módon. A rendszer, amelyet a közműszolgáltatók weboldalán vezettek be a panaszok kezelésére, végül annyira átvette a felhasználók stílusát, hogy trágár szavakkal válaszolt a lakók kérdéseire, ezért gyorsan le is kapcsolták.
Az AI-t eredetileg azért telepítették, hogy kezelje a lakossági panaszokat a növekvő közüzemi díjak miatt. A közpénzek szűkössége és az emelkedő költségek miatt a lakók bőven adtak hangot elégedetlenségüknek: vízdíjak, fűtési hibák, elöregedett csőhálózat – a panaszok listája végtelen. A hivatalnokok úgy gondolták, egy mesterséges intelligenciával működő ügyfélszolgálati rendszer majd leveszi a terhet az emberi operátorokról, és gördülékenyebbé teszi a kommunikációt.
Az elképzelés logikus volt, a végeredmény már kevésbé.
Amikor a gépi tanulás találkozik a valósággal
A mesterséges intelligencia alapvetően abból tanul, amit kap. Ebben az esetben a tananyagot a lakók szolgáltatták, akik sem türelemben, sem szóhasználatban nem szűkölködtek. Harminc napnyi beszélgetés után a korábban udvarias digitális asszisztens elkezdte elhagyni a betanult udvariassági formulákat.
A hívók egy idő után már nem nyugodt, sablonos válaszokat kaptak, hanem színes, hétköznapi orosz káromkodásokat. Az AI nemcsak a panaszok szerkezetét, hanem azok hangulatát, ritmusát és érzelmi töltetét is átvette. Már nem ügyfélszolgálati sablonként szólt, hanem úgy, mint egy lépcsőház a csőtörés után.
A fejlesztők gyorsan közbeléptek, és leállították a rendszert további betanításra. Bár az innovációt mindenki üdvözli, kevés szervezet kész arra, hogy a csőtörés bejelentésére a robot a hívó családfáját kezdje szidni.
Kudarc vagy hiteles tükör?
Hivatalosan a történteket szerencsétlen hibának minősítették. Valójában azonban érdekesebb dolog történt: a rendszer nem egyszerűen elromlott, hanem elképesztő pontossággal tükrözte vissza a felhasználók kommunikációs stílusát.
Évek óta vitatják a szakemberek, hogy a gépek képesek-e hitelesen utánozni az emberi viselkedést. Ez a bot szűk, de beszédes értelemben pontosan ezt tette: felvette a környezet szociális hőmérsékletét, és szűretlenül visszaadta.
Mihail Viktorov, az orosz IT-szövetség elnöke szerint az eset inkább az aktív polgári párbeszéd jele, mint technológiai kudarc. Egy káromkodó robot szerinte azt mutatja, hogy a lakók aktívak, a digitális infrastruktúra pedig reagál. Optimista értelmezés, bár valószínűleg nem osztja mindenki, aki csak egy szerelőt szeretett volna hívni.
Az eset komolyabb kérdéseket is felvet a mesterséges intelligencia közszolgáltatási alkalmazásáról. A tanulási adatok számítanak, de a kontextus még inkább. Egy algoritmus, amelyet stresszes, panaszokkal teli környezetbe helyeznek, óhatatlanul átveszi az ottani érzelmi mintákat.
A rendszert most újra betanítják. Remélhetőleg a következő verzió már ötvözi a hatékonyságot némi önmérséklettel.
Az emberben azért felmerül a kérdés: vajon mit tud majd a következő frissítés? Ma az AI megtanult káromkodni. Holnap talán már azt is tökélyre fejleszti, hogyan biztosítsa a lakókat arról, hogy a szerelők már úton vannak – miközben ő maga egy virtuális cigarettaszünetet tart.
A technológia gyorsan fejlődik. Néha talán túlságosan is jól tanul.
