Μην παίζετε με το Google Translate -στο μέλλον μπορεί να φανεί άκρως επικίνδυνο

Χρησιμοποιήστε το Google Translate για να απαντήσετε μέσω Twitter στους Ρώσους trolls στα ρωσικά, προτείνει. Θα ήμουν όμως προσεκτικός με κάτι τέτοιο: η στρατηγική αυτή θα μπορούσε εύκολα να αντιστραφεί και, αν χρησιμοποιηθεί ευρέως, να βλάψει πραγματικά την ανεκτίμητη υπηρεσία που χρειάστηκε χρόνια για να χτιστεί.

Η πρώτη γενιά ηλεκτρονικών συστημάτων μετάφρασης στηρίχθηκε στη λανθασμένη προσέγγιση της προσπάθειας να μάθουν οι υπολογιστές τη δομή της γλώσσας. Δυστυχώς, οι ζωντανές γλώσσες τείνουν να αγνοούν τους κανόνες. Αντ’ αυτού, οι σύγχρονες μηχανές μετάφρασης χρησιμοποιούν τη στατιστική ανάλυση, αναλύοντας κείμενα σε διάφορες γλώσσες για να καταλάβουν πώς μια λέξη, μία φράση ή μία πρόταση μεταφράζονται συνήθως. Σε συνδυασμό με την τεχνητή νοημοσύνη -”νευρική μετάφραση” την ονομάζει η Google- τα αποτελέσματα είναι ακόμα πιο εντυπωσιακά, επειδή ο αλγόριθμος εξετάζει ολόκληρες προτάσεις αντί για μικρότερες φράσεις. Η Μετάφραση Google χρησιμοποιεί πλέον αυτή την προσέγγιση σε πολλές γλώσσες.

Ως αποτέλεσμα της σταθερής βελτίωσης, παράγει πολύ λιγότερα από τα ξεκαρδιστικά “Google Translate Fails”. Αλλά επειδή βασίζεται σε προηγούμενες μεταφράσεις, αυτή η στατιστική μέθοδος είναι ευάλωτη στην κατάχρηση – ειδικά επειδή η Google επιτρέπει στους χρήστες να προτείνουν εναλλακτικές μεταφράσεις. Εάν κάνετε κλικ στην εσφαλμένη γαλλική μετάφραση του “go-to person” (το πρόσωπο κλειδί, το σωστό πρόσωπο), θα δείτε μια σωστή εναλλακτική μετάφραση που πρότεινε κάποιος – “une personne ressource” – και μπορείτε επίσης να υποβάλετε τη δική σας εναλλακτική. Πιθανότατα, αυτός είναι ο τρόπος με τον οποίο το Google Translate μετέφρασε από τα κορεάτικα το “Supreme Leader” (“ανώτατος ηγέτης”) -τον τίτλο του Kim Jong Un- ως “Mr. Squidward” (“Κύριος Καλαμάρης”), έναν χαρακτήρα από το κινούμενο σχέδιο “Μπομπ Σφουγγαράκης”.

Σε μια παρόμοια κατάσταση πέρυσι, όταν το Google Translate επανειλημμένα μετέφραζε το “Rossiyskaya Federatsiya” (το επίσημο όνομα της Ρωσίας στα ρώσικα) στα ουκρανικά σε “Mordor” και “Lavrov” (το όνομα του Ρώσου υπουργού Εξωτερικών) ή σε “λυπηρό μικρό άλογο”, η Google ανέφερε ότι επρόκειτο απλώς για κάποιο τεχνικό πρόβλημα. Αυτό είναι εξαιρετικά απίθανο. Παρόλο που η εταιρεία ανέφερε στην ανακοίνωσή της ότι οι μεταφράσεις της βασίστηκαν σε “πρότυπα εκατοντάδων εκατομμυρίων εγγράφων”, υπάρχουν πολύ λιγότερες εμφανίσεις οποιασδήποτε λέξης, ειδικά ενός ολόκληρου ονόματος, σε δίγλωσσα κείμενα. Μια ομάδα αφοσιωμένων ανθρώπων για τη διασκέδασή της μπορεί εύκολα να μετατρέψει τον Βορειοκορεάτη δικτάτορα σε κύριο Καλαμάρη, τη Ρωσία σε Mordor  και ένα κείμενο “lorem ipsum” σε πολιτικές δηλώσεις. Σε μια περίεργη υπόθεση του 2014, το να γράφει κάποιος στο Google Translate “lorem ipsum” παρήγαγε διάφορες μεταφράσεις με αναφορές στην Κίνα, το ΝΑΤΟ και το Διαδίκτυο. Για παράδειγμα αυτό…

Lorem ipsum dolor sit
Lorem ipsum ips
Lorem ipsum lor
Lorem ipsum lo
Lorem ipsum lorem
Lorem ipsum amat
Lorem Ipsum

…μεταφράζεται σε αυτό:

Our goal is to (Στόχος μας είναι να)
vehicle dimensions (Διαστάσεις του οχήματος)
Free of pain (Χωρίς πόνο)
China, elsewhere (Κίνα, αλλού)
Free Internet (Δωρεάν Internet)
China loves (Η Κίνα αγαπάει)
ΝΑΤΟ

Οι ερευνητές της κυβερνοασφάλειας υποψιάστηκαν ότι αυτό ήταν κάποιο είδος μυστικού κώδικα επικοινωνίας, αλλά προφανώς κάποιος απλώς “μπέρδεψε” το Google Translate προκειμένου να ξεκινήσει μια ιδέα για μια περίπλοκη συζήτηση στο συνέδριο των χάκερς, το Defcon. Δεν λειτουργεί πλέον, παρόλο που εάν “παίξει” κάποιος με τη φράση “lorem ipsum” στο Google Translate θα δει ακόμη κάποια περίεργα αποτελέσματα σε πολλές γλώσσες.

Όλα αυτά ακούγονται σαν ακίνδυνη διασκέδαση, μέχρις ότου κάποιος εξετάσει πώς θα ήταν μία μελλοντική κοινωνία που εμπιστεύεται την τεχνητή νοημοσύνη τόσο πολύ, ώστε οι άνθρωποι-μεταφραστές δεν χρησιμοποιούνται πλέον, διότι θεωρούνται πολύ ακριβοί και αναποτελεσματικοί (λόγοι για τους οποίους η Silicon Valley προτείνει να απαλλαγούμε από τους οδηγούς). Θα υπήρχαν απεριόριστες πιθανότητες κακόβουλης δημιουργίας παρεξηγήσεων.

Ακόμα και τώρα που οι άνθρωποι εξακολουθούν να παρεμβαίνουν πολύ, τα λάθη μετάφρασης μπορούν να οδηγήσουν ακόμη και σε πολιτικές συνέπειες. Για δεκαετίες, τα λόγια του Σοβιετικού ηγέτη Nikita Khrushchev σε δεξίωση στη Μόσχα, απευθυνόμενα στην καπιταλιστική Δύση – “My vas pokhoronim” – μεταφράστηκαν κυριολεκτικά ως “Θα σας θάψουμε” και ερμηνεύτηκαν ως απειλή. Ο Khrushchev εννοούσε ότι το κομμουνιστικό σύστημα θα υπερισχύσει χρονικά του καπιταλιστικού. Πιο πρόσφατα, ο Πρόεδρος Donald Trump αποφάσισε ότι ο Ρώσος Πρόεδρος Vladimir Putin τον είχε αποκαλέσει “λαμπρό” ή “ιδιοφυΐα”, αν και το αρχικό ρωσικό – “yarkiy” – σημαίνει απλώς “πολύχρωμος”.

Φανταστείτε αν οι αλγοριθμικές μεταφράσεις χρησιμοποιούνταν στους πολέμους προπαγάνδας του μέλλοντος. Όταν θα υπάρχουν όπλα στη μέση, η μετάφραση θα σταματήσει γρήγορα να είναι απλώς μία φάρσα. Οι μηχανές θα “μαθαίνουν” από σκόπιμα παραμορφωμένα δίγλωσσα κείμενα που θα παράγονται από άλλες μηχανές και δεν θα υπάρχουν αρκετοί άνθρωποι για να αναλύσουν τα αποτελέσματα, διότι οι επαγγελματίες μεταφραστές θα είναι τόσο ξεπερασμένοι όσο και οι καθαριστές καμινάδων.

Το συζητώ μεταξύ σοβαρού και αστείου. Η Mensch φαίνεται όμως να σοβαρολογεί. Αλλά δεν συνειδητοποιεί πόσο γρήγορα τα τρολς θα μπορούσαν να πείσουν το Google Translate να ανακατευθύνουν τον αγώνα τους στο Twitter απευθείας στην… καρδιά της Mordor.