Російський AI-бот для ЖКГ зганьбився лайкою
У Росії штучний інтелект, створений для обробки звернень щодо житлово-комунальних послуг, за місяць роботи перейняв манери місцевих мешканців і почав відповідати їм нецензурною лайкою. Система мала допомогти зростаючому потоку скарг на тарифи, воду та опалення, але замість цього стала дзеркалом емоцій користувачів і була терміново відключена для «перенавчання».
AI-асистент, покликаний полегшити життя операторам і мешканцям, мав обробляти скарги на зростання тарифів, перебої з водою та старі труби. Влада вирішила, що автоматизований голосовий помічник на сайті комунальних послуг зменшить навантаження на людей і пришвидшить відповіді.
Ідея виглядала розумною, але реальність виявилася куди цікавішою. За 30 днів спілкування з роздратованими власниками квартир, які не соромилися у висловах, бот швидко втратив ввічливість. Замість стандартних фраз він почав відповідати клієнтам у стилі під’їзду після прориву труби — з усіма барвами російської лайки.
Розробники оперативно зняли систему з лінії для перенавчання. Офіційно інцидент назвали технічним збоєм, неофіційно ж — це стало ілюстрацією того, як штучний інтелект може точно віддзеркалювати соціальне середовище. Бот не просто помилився, а перейняв стиль спілкування користувачів до найдрібніших деталей.
Президент національної IT-асоціації Михайло Вікторов навіть побачив у цьому прояв активного громадянського діалогу, а не провал технологій. Мовляв, якщо робот лається, значить, громадяни не байдужі, а цифрова інфраструктура реагує на запит суспільства. Оптимістична версія, хоча навряд чи її поділяють ті, хто чекав підтвердження візиту сантехніка, а не образ на свою адресу.
Цей випадок підняв питання про роль штучного інтелекту у сфері держпослуг. Якість навчальних даних і контекст мають вирішальне значення. Алгоритм, занурений у середовище постійних скарг і стресу, неминуче переймає емоційний фон.
Систему зараз перенавчають. Можливо, наступна версія буде поєднувати ефективність із витримкою. Хоча не виключено, що згодом AI навчиться ще однієї класики бюрократії — обіцяти, що майстер уже в дорозі, поки сам «відпочиває» на віртуальній перекурі.
Технології розвиваються швидко. Іноді навіть занадто добре засвоюють уроки.
