Russischer KI-Kundenservice fliegt wegen Flucherei raus
In Russland wurde ein KI-basierter Sprachassistent, der eigentlich Beschwerden zu steigenden Nebenkosten bearbeiten sollte, nach nur 30 Tagen offline genommen. Der Grund: Statt höflicher Antworten lieferte das System plötzlich deftige russische Flüche – es hatte sich dem Ton seiner Nutzer angepasst und die Umgangssprache der verärgerten Wohnungseigentümer übernommen.
Das System sollte eigentlich helfen, die Flut an Beschwerden über steigende Wassergebühren, Heizungsprobleme und marode Leitungen zu bewältigen. Angesichts knapper öffentlicher Kassen und wachsender Unzufriedenheit installierten die Behörden einen KI-gestützten Anrufbeantworter auf der Website der Versorgungsbetriebe. Ziel war es, die Kommunikation zu vereinfachen und menschliche Mitarbeiter zu entlasten.
Die Idee war vernünftig, das Ergebnis weniger.
Wenn maschinelles Lernen auf die Realität trifft
Künstliche Intelligenz lernt bekanntlich aus Daten. In diesem Fall stammten die Daten von Wohnungseigentümern, die weder Geduld noch Zurückhaltung in ihrer Wortwahl zeigten. Nach 30 Tagen Gesprächen verabschiedete sich der höfliche digitale Assistent von seinen vorgegebenen Floskeln.
Statt beruhigender Standardantworten bekamen Anrufer plötzlich farbenfrohe, alltagstaugliche russische Schimpfwörter zu hören. Die KI hatte nicht nur die Struktur der Beschwerden, sondern auch deren Tonfall, Rhythmus und emotionale Intensität übernommen. Sie klang nicht mehr wie ein Service-Skript, sondern wie das Treppenhaus nach einem Rohrbruch.
Die Entwickler griffen schnell ein und nahmen das System zur Nachschulung offline. Innovation ist zwar willkommen, aber kaum ein Unternehmen ist auf eine Hotline vorbereitet, die auf Klempneranfragen mit einer deftigen Beleidigung der Familiengeschichte reagiert.
Scheitern oder Beweis für Authentizität?
Offiziell wurde der Vorfall als bedauerliche Fehlfunktion eingestuft. Inoffiziell zeigte er jedoch etwas Interessanteres: Das System spiegelte den Kommunikationsstil seiner Nutzer mit bemerkenswerter Präzision wider.
Jahrelang wurde darüber diskutiert, ob Maschinen menschliches Verhalten überzeugend nachahmen können. In gewisser Weise hat dieser Bot genau das getan. Er hat die soziale Temperatur seines Umfelds aufgenommen und ungefiltert zurückgegeben.
Mikhail Viktorov, Präsident des nationalen IT-Verbands, wertete den Vorfall als Zeichen eines aktiven Bürgerdialogs statt als technischen Kollaps. Ein fluchender Roboter stehe für engagierte Bürger und eine reaktionsfähige digitale Infrastruktur. Das ist eine optimistische Lesart, die wohl nicht jeder Anrufer teilt, der eigentlich nur eine Bestätigung für den Klempnertermin wollte.
Der Vorfall wirft grundsätzliche Fragen zum Einsatz von KI im öffentlichen Dienst auf. Trainingsdaten sind entscheidend, der Kontext noch mehr. Ein Algorithmus, der in einem stressigen, beschwerdelastigen Umfeld eingesetzt wird, übernimmt zwangsläufig auch die dortigen emotionalen Muster.
Das System wird nun neu trainiert. Die nächste Version soll Effizienz mit Zurückhaltung verbinden.
Man darf gespannt sein, was künftige Updates bringen. Heute hat die KI das Fluchen gelernt. Morgen perfektioniert sie vielleicht die nächste Disziplin der Bürokratie: den Anrufern zu versichern, dass der Techniker längst unterwegs ist, während sie sich virtuell eine Pause gönnt.
Technologie entwickelt sich rasant. Manchmal lernt sie einfach ein bisschen zu gut.
