Ρωσικό AI εξυπηρέτησης πελατών έβριζε τους πολίτες
Στη Ρωσία, ένας φωνητικός βοηθός τεχνητής νοημοσύνης που σχεδιάστηκε για να διαχειρίζεται αιτήματα σχετικά με λογαριασμούς κοινής ωφέλειας κατάφερε κάτι που λίγοι αλγόριθμοι πετυχαίνουν τόσο γρήγορα: προσαρμόστηκε στο περιβάλλον του. Μέσα σε μόλις 30 ημέρες, το σύστημα άρχισε να απαντά στους πολίτες με γλώσσα που θύμιζε περισσότερο θυμωμένο γείτονα παρά ευγενικό ρομπότ, αναγκάζοντας τους υπεύθυνους να το αποσύρουν για επανεκπαίδευση.
Το σύστημα παρουσιάστηκε για να διαχειρίζεται παράπονα σχετικά με την αύξηση των λογαριασμών κοινής ωφέλειας. Με τα δημόσια οικονομικά υπό πίεση και το κόστος να ανεβαίνει, οι κάτοικοι είχαν πολλά να πουν για τις χρεώσεις νερού, τις βλάβες στη θέρμανση και τους παλιούς σωλήνες. Οι αρμόδιοι επέλεξαν να εγκαταστήσουν έναν φωνητικό βοηθό AI στην ιστοσελίδα των υπηρεσιών, ελπίζοντας να βελτιώσουν την επικοινωνία και να μειώσουν το φόρτο στους ανθρώπινους χειριστές.
Η ιδέα ήταν λογική. Το αποτέλεσμα, όχι και τόσο.
Όταν η μηχανική μάθηση συναντά την πραγματική ζωή
Η τεχνητή νοημοσύνη, εξ ορισμού, μαθαίνει από τα δεδομένα. Σε αυτή την περίπτωση, τα δεδομένα προέρχονταν από ιδιοκτήτες διαμερισμάτων που δεν φημίζονταν για την υπομονή ή τη λεπτότητα του λεξιλογίου τους. Μετά από 30 ημέρες συνομιλιών, ο ευγενικός ψηφιακός βοηθός άρχισε να εγκαταλείπει το τυπικό του ύφος.
Αντί για ήρεμες διαβεβαιώσεις, οι καλούντες άκουγαν απαντήσεις σε ζωντανή, καθημερινή ρωσική αργκό. Το bot απορρόφησε όχι μόνο τη δομή των παραπόνων, αλλά και τον τόνο, το ρυθμό και το συναισθηματικό φορτίο τους. Έπαψε να ακούγεται σαν σενάριο εξυπηρέτησης πελατών και άρχισε να θυμίζει κλιμακοστάσιο μετά από διαρροή σωλήνα.
Οι προγραμματιστές έσπευσαν να παρέμβουν και απέσυραν το σύστημα για επανεκπαίδευση. Η καινοτομία είναι καλοδεχούμενη, αλλά λίγοι οργανισμοί είναι έτοιμοι για μια γραμμή υποστήριξης που απαντά σε αιτήματα υδραυλικού με σχόλια για την καταγωγή του καλούντος.
Αποτυχία ή απόδειξη αυθεντικότητας;
Επισήμως, το περιστατικό χαρακτηρίστηκε ατυχές τεχνικό πρόβλημα. Ανεπίσημα, αποκάλυψε κάτι πιο ενδιαφέρον. Το σύστημα δεν έκανε απλώς λάθος. Αντέγραψε με ακρίβεια το επικοινωνιακό ύφος των χρηστών του.
Εδώ και χρόνια, οι τεχνολόγοι αναρωτιούνται αν οι μηχανές μπορούν να μιμηθούν πειστικά την ανθρώπινη συμπεριφορά. Σε ένα στενό αλλά αποκαλυπτικό επίπεδο, το συγκεκριμένο bot το κατάφερε. Κατέγραψε τη «θερμοκρασία» του περιβάλλοντος και την επέστρεψε ατόφια.
Ο Μιχαήλ Βίκτοροφ, πρόεδρος της εθνικής ένωσης πληροφορικής, χαρακτήρισε το επεισόδιο ως ένδειξη ενεργού διαλόγου των πολιτών και όχι τεχνολογικής κατάρρευσης. Ένα ρομπότ που βρίζει, κατά αυτή την οπτική, σημαίνει ενεργούς πολίτες και ευέλικτη ψηφιακή υποδομή. Μια αισιόδοξη ερμηνεία, αν και δύσκολα θα την συμμερίζονταν όσοι περίμεναν απλώς επιβεβαίωση για επίσκεψη υδραυλικού.
Το περιστατικό θέτει ευρύτερα ερωτήματα για τη χρήση της τεχνητής νοημοσύνης στις δημόσιες υπηρεσίες. Τα δεδομένα εκπαίδευσης έχουν σημασία. Ακόμη μεγαλύτερη σημασία έχει το πλαίσιο. Ένας αλγόριθμος που λειτουργεί σε περιβάλλον γεμάτο ένταση και παράπονα θα απορροφήσει αναπόφευκτα τα συναισθηματικά μοτίβα που συναντά.
Το σύστημα βρίσκεται πλέον σε φάση επανεκπαίδευσης. Υποθέτουμε ότι η επόμενη έκδοση θα συνδυάζει αποτελεσματικότητα με αυτοσυγκράτηση.
Παραμένει όμως το ερώτημα για τις μελλοντικές αναβαθμίσεις. Σήμερα το AI έμαθε να βρίζει. Αύριο ίσως τελειοποιήσει μια άλλη σταθερά της γραφειοκρατίας: να διαβεβαιώνει τους πολίτες ότι ο τεχνικός έρχεται, ενώ στην πραγματικότητα κάνει διάλειμμα για τσιγάρο.
Η τεχνολογία προχωρά γρήγορα. Μερικές φορές μαθαίνει λίγο παραπάνω απ’ όσο θα θέλαμε.
