Rusya’da Yapay Zekâ Müşteri Temsilcisi Küfürle Çuvalladı

Sistem, artan ev faturalarıyla ilgili şikâyetleri yönetmek amacıyla devreye alındı. Kamu bütçesi zorlanırken ve maliyetler yükselirken, vatandaşların su ücretleri, ısınma arızaları ve eskiyen borular hakkında söyleyecek çok şeyi vardı. Yetkililer, iletişimi kolaylaştırmak ve insan operatörlerin üzerindeki baskıyı azaltmak için kamu hizmetleri web sitesine yapay zekâ destekli bir çağrı merkezi yerleştirdi.

Plan mantıklıydı, sonuç ise pek öyle olmadı.

Makine öğrenmesiyle gerçek hayatın buluşması

Yapay zekâ, tanımı gereği verilerden öğrenir. Bu örnekte veriler, sabırsız ve kelime seçiminde pek de nazik olmayan apartman sakinlerinden geldi. 30 gün süren görüşmelerin ardından, kibar dijital asistan ezberden okuduğu nezaket cümlelerini bir kenara bıraktı.

Artık arayanlar, sakin açıklamalar yerine günlük Rusçanın renkli ifadeleriyle karşılaşıyordu. Bot, yalnızca şikâyetlerin yapısını değil, tonunu, ritmini ve duygusal yükünü de özümsedi. Bir müşteri hizmetleri metni gibi konuşmayı bırakıp, patlayan bir borudan sonra apartman merdivenliğinde duyulan seslere dönüştü.

Geliştiriciler hızla müdahale edip sistemi eğitime aldı. Yenilik güzel şey, ama tesisat talebine argo ile yanıt veren bir destek hattına hiçbir kurum hazır değil.

Başarısızlık mı, yoksa gerçekçilik mi?

Resmî açıklamada olay talihsiz bir arıza olarak nitelendirildi. Gayriresmî olarak ise daha ilginç bir tablo ortaya çıktı. Sistem sadece hata yapmadı, kullanıcılarının iletişim tarzını şaşırtıcı bir doğrulukla yansıttı.

Yıllardır teknoloji dünyası, makinelerin insan davranışını ne kadar taklit edebileceğini tartışıyor. Bu bot, dar bir çerçevede de olsa, tam olarak bunu başardı. Ortamın sosyal sıcaklığını aldı ve filtresiz şekilde geri yansıttı.

Ulusal Bilişim Derneği Başkanı Mihail Viktorov, olayı teknolojik bir çöküşten ziyade aktif bir yurttaş diyaloğunun göstergesi olarak yorumladı. Bu bakış açısına göre küfür eden bir robot, hem katılımcı vatandaşları hem de duyarlı bir dijital altyapıyı işaret ediyor. İyimser bir yorum, ama muhtemelen tesisatçı onayı bekleyen arayanlar aynı fikirde değildir.

Bu olay, kamu hizmetlerinde yapay zekânın geleceğiyle ilgili daha geniş soruları gündeme getiriyor. Eğitim verisi önemli, bağlam ise daha da önemli. Yüksek stresli, şikâyet dolu bir ortamda çalışan bir algoritma, karşılaştığı duygusal kalıpları kaçınılmaz olarak içine çeker.

Sistem şu anda yeniden eğitiliyor. Muhtemelen bir sonraki sürüm, verimlilikle birlikte biraz da kendine hâkim olmayı öğrenecek.

Yine de insan merak etmeden duramıyor: Gelecek güncellemelerde neler olacak? Bugün küfür etmeyi öğrenen yapay zekâ, yarın bürokrasinin klasik numarasını da kapabilir: "Teknisyenler yolda" deyip, arka planda sanal sigara molasına çıkmak.

Teknoloji hızla ilerliyor. Bazen, biraz fazla iyi öğreniyor.