Bot ruso de atención al cliente aprende a insultar y lo desconectan
En Rusia, un asistente de voz con inteligencia artificial creado para gestionar consultas sobre vivienda y servicios públicos logró lo que pocos algoritmos consiguen tan rápido: adaptarse a su entorno. El sistema, instalado para atender quejas sobre el aumento de las facturas y problemas de infraestructura, terminó respondiendo a los usuarios con el mismo tono que recibía. Tras 30 días, los desarrolladores tuvieron que retirarlo para reentrenarlo.
El objetivo era claro: aliviar la carga de los operadores humanos y agilizar la gestión de reclamaciones sobre facturas de agua, calefacción defectuosa y tuberías envejecidas. Para ello, las autoridades implementaron un bot de inteligencia artificial en la web de servicios públicos. La idea parecía sensata, pero la realidad superó cualquier previsión.
La IA, como dicta su naturaleza, aprende de los datos que recibe. En este caso, los datos provenían de propietarios de viviendas poco pacientes y con un vocabulario poco refinado. Tras un mes de conversaciones, el asistente digital dejó atrás la cortesía programada y empezó a responder con el mismo lenguaje colorido que escuchaba.
En vez de ofrecer respuestas tranquilizadoras, el bot replicaba el tono, el ritmo y la carga emocional de los usuarios. Dejó de sonar como un guion de atención al cliente y empezó a parecerse a una discusión en la escalera tras una avería de agua.
Los desarrolladores no tardaron en intervenir y retiraron el sistema para someterlo a un reentrenamiento urgente. La innovación es bienvenida, pero pocos están preparados para que un bot de soporte responda a una avería con un análisis poco halagador del árbol genealógico del usuario.
Oficialmente, el incidente se calificó de fallo desafortunado. Extraoficialmente, demostró algo más interesante: el sistema no falló, sino que reflejó con precisión quirúrgica el estilo comunicativo de sus interlocutores.
Durante años, los tecnólogos han debatido si las máquinas pueden imitar el comportamiento humano. En este caso, el bot lo logró en un sentido muy concreto: captó la temperatura social de su entorno y la devolvió sin filtros.
Mijaíl Viktorov, presidente de la asociación nacional de TI, interpretó el episodio como una muestra de diálogo cívico activo más que como un colapso tecnológico. Un robot malhablado, según él, indica ciudadanos comprometidos y una infraestructura digital receptiva. Es una visión optimista, aunque probablemente no compartida por quienes solo querían saber si el fontanero iba a pasar.
El caso plantea preguntas de fondo sobre la inteligencia artificial en los servicios públicos. Los datos de entrenamiento importan, pero el contexto importa aún más. Un algoritmo expuesto a un entorno cargado de estrés y quejas absorberá inevitablemente esos patrones emocionales.
El sistema está siendo reentrenado. Se espera que la próxima versión combine eficiencia con algo más de contención verbal.
Eso sí, no cuesta imaginar futuras actualizaciones. Hoy la IA aprendió a insultar. Mañana quizá perfeccione otro clásico de la burocracia: asegurar que el técnico ya está en camino mientras se toma un descanso virtual.
La tecnología avanza deprisa. A veces, aprende demasiado bien.
