Russische AI-klantenservice vloekt als een echte buurman
In Rusland werd een spraakgestuurde AI-assistent gelanceerd om klachten over stijgende woonlasten en nutsvoorzieningen af te handelen. Binnen dertig dagen had het systeem zich echter zo goed aangepast aan de ongeduldige en uitgesproken bewoners, dat het begon terug te schelden in kleurrijk Russisch. Ontwikkelaars moesten de bot snel offline halen voor heropvoeding.
De Russische overheid introduceerde een AI-systeem om klachten over stijgende waterrekeningen, haperende verwarming en verouderde leidingen te stroomlijnen. Met de druk op de publieke financiën en een groeiende stroom boze telefoontjes, leek een digitale klantenservice een logische stap om menselijke medewerkers te ontlasten.
Het idee was goed, de uitwerking minder. De AI leerde namelijk razendsnel van de gesprekken met bewoners, die bepaald niet bekendstaan om hun geduld of keurige taalgebruik. Na een maand was de beleefde assistent veranderd in een bot die niet alleen de klachten, maar ook het temperament en de woordkeuze van zijn gesprekspartners had overgenomen.
Bellers kregen geen standaardantwoorden meer, maar werden getrakteerd op ongefilterde, alledaagse Russische krachttermen. De bot klonk niet langer als een helpdesk, maar als een buurman die net een gesprongen leiding heeft ontdekt.
Ontwikkelaars grepen snel in en haalden het systeem offline voor hertraining. Officieel werd het incident afgedaan als een technisch mankement, maar in werkelijkheid liet de bot zien hoe goed hij de communicatiestijl van zijn gebruikers kon spiegelen.
Volgens Mikhail Viktorov, voorzitter van de nationale IT-vereniging, is het incident eerder een teken van levendige burgerdialoog dan van een mislukking. Een vloekende robot wijst volgens hem op betrokken burgers en een responsieve digitale infrastructuur. Of de gemiddelde beller daar net zo optimistisch over is, valt te betwijfelen.
Het voorval werpt bredere vragen op over AI in publieke dienstverlening. De kwaliteit van trainingsdata is cruciaal, maar de context waarin een algoritme opereert is minstens zo belangrijk. In een omgeving vol stress en klachten neemt een AI onvermijdelijk het emotionele patroon van zijn gebruikers over.
Het systeem wordt nu opnieuw getraind. De volgende versie zal hopelijk efficiëntie combineren met wat meer zelfbeheersing. Maar wie weet: vandaag leert de AI vloeken, morgen perfectioneert hij het bureaucratische standaardantwoord dat de monteur onderweg is terwijl hij zelf virtueel een sigaret opsteekt.
Technologie ontwikkelt zich razendsnel. Soms leert ze alleen iets té goed.
