Οι κρυφές δοκιμές Τεχνητής Νοημοσύνης στα σύνορα της ΕΕ

Οι κρυφές δοκιμές Τεχνητής Νοημοσύνης στα σύνορα της ΕΕ

  • |

Μια σειρά από δοκιμές που χρηματοδοτούνται από την ΕΕ με το ποσό των 4,5 εκατ. € τελείωσαν το καλοκαίρι που μας πέρασε, με την πλειοψηφία των πολιτών να μην έχει ακούσει τίποτα γι’αυτές. Σε τρία σημεία των εξωτερικών συνόρων της ΕΕ, δοκιμάστηκε μια νέα μορφή προστασίας με τη χρήση ανίχνευσης ψεύδους μέσω Τεχνητής Νοημοσύνης. Η Ευρωπαϊκή Επιτροπή μηνύθηκε διότι επέτρεψε στην εταιρία που βρίσκεται πίσω από τις δοκιμές να κρατήσει τις μεθόδους και τα αποτελέσματά της μακριά από τα μάτια του κοινού.

Μετάφραση/Επιμέλεια: Ανδρέας Κοσιάρης

Για εννιά μήνες, οι ταξιδιώτες που περνούσαν από τα σύνορα Ουγγαρίας-Σερβία, Λετονίας-Ρωσίας και Ελλάδας-Βορείου Μακεδονίας, είχαν την επιλογή να συμμετάσχουν σε βιντεοκλήση με έναν εικονικό συνοριοφύλακα πριν το πέρασμά τους.

Το άβαταρ θα τους έκανε μια σειρά από ερωτήσεις, από την επιβεβαίωση της ταυτότητάς τους μέχρι το περιεχόμενο των αποσκευών τους, ενώ ταυτόχρονα θα κατέγραφε και θα ανέλυε τις κινήσεις του προσώπου τους για να καθορίσει την πιθανότητα να λένε ψέμματα.

Το λογισμικό αυτό, που ονομάζεται iBorderCtrl και χρηματοδοτείται από το ταμείο «Ορίζοντας 2020» της ΕΕ, είναι το τελευταίο σε έναν χείμαρρο τεχνολογιών που προωθούνται από εταιρείες και κυβερνήσεις ανά τον κόσμο, και που βασίζονται στην υπόσχεση της Τεχνητής Νοημοσύνης [Artificial Intelligence – AI] – σε αυτήν την περίπτωση Εκμάθηση Μηχανής [Machine Learning] – για να λύσουν κοινωνικά και πολιτικά προβλήματα.

Η χρηματοδότηση και η δοκιμή αυτής της τεχνολογίας έρχεται εν μέσω μιας εν εξελίξει ανθρωπιστικής κρίσης στα σύνορα της ΕΕ, με χιλιάδες μεταναστών να φτάνουν στη Ελλάδα, την Ιταλία ή μέσω των επίγειων συνόρων της ΕΕ στα Βαλκάνια.

Η κρίση αυτή, που συχνά διατυπώνεται ως μία υπαρξιακή απειλή για την ΕΕ, έχει συνεισφέρει στην άνοδο ακροδεξιών κομμάτων σε όλη την Ευρώπη, από τη Γερμανία στο ΗΒ, που έχουν εκμεταλλευτεί μια ρητορική γύρω από την αποτυχία των κυβερνώντων να χειριστούν την παράνομη μετανάστευση· μετατρέποντας την ανάπτυξη τεχνολογιών για τη μείωση της παράνομης μετανάστευσης και την άμυνα του φρουρίου-Ευρώπη σε μία πολιτικά ευπώλητη οδό.

Πόσες αποδείξεις υπάρχουν για την απόδοση αυτών των τεχνολογιών; Και ποιες είναι οι επιπτώσεις που γυροφέρνουν την επέκταση αυτών των τεχνολογιών στις πιο ευαίσθητες περιοχές του πολιτικού μας τοπίου;

Το iBorderCtrl χρησιμοποιεί τεχνολογία που αναπτύχθηκε από τη Βρετανική εταιρεία Silent Talker, που υποστηρίζει ότι μπορεί να ανιχνεύσει την συναισθηματική κατάσταση που συνοδεύει το ψέμα από τις ακούσιες κινήσεις του προσώπου ενός ατόμου.

Η ιδέα ότι μπορείς να διακρίνεις συναισθηματικές καταστάσεις από την ανάλυση του προσώπου πάει πίσω στα 1880, με διανοητές όπως ο Κάρολος Δαρβίνος – που θεωρητικολόγησε ότι τα συναισθήματα είναι καθολικά για ένα είδος – και τις πρώτες προσπάθειες να δημιουργηθούν ταξινομίες των συναισθημάτων.

Στη σύγχρονη ενσάρκωσή της, η συναισθηματική τεχνητή νοημοσύνη βρήκε τον προπάτορά της στο πρόσωπο του Αμερικανου ψυχολόγου Πολ Έκμαν. Ο Έκμαν ανέπτυξε τη θέση πως μέσω εμπειρικής έρευνας μπορεί κανείς να συνδέσει αξιόπιστα τις εκφράσεις του προσώπου με τα συναισθήματα και δημιούργησε έναν κατάλογο από 3.000 εκφράσεις προσώπου και του συναισθηματικού τους αντιστοίχου. Μέσω του έργου αυτού, ο Έκμαν συγκεκριμενοποίησε έξι βασικά συναισθήματα, που υποστήριξε ότι ήταν καθολικά σε όλες τις κουλτούρες: θυμός, αηδία, φόβος, χαρά, λύπη και έκπληξη.

Το αληθινό βήμα αλλαγής έγινε με την ανάπτυξη της Εκμάθησης Μηχανής και της εφαρμογής της στην ανίχνευση και την ανάλυση εκφράσεων του προσώπου. Η Ρόζα Πικάρντ, καθηγήτρια στο MIT, πρώτη επινόησε τον όρο «Συναισθηματική Υπολογιστική» και ήταν η δική της δουλειά που έθεσε τα θεμέλια για να αναπτυχθεί η βιομηχανία «Συναισθηματικής Τεχνητής Νοημοσύνης», που βασίζεται στην ιδέα ότι οι υπολογιστικοί αλγόριθμοι μπορούν να ανιχνεύουν σχέσεις μεταξύ των κινήσεων του προσώπου και των συναισθηματικών καταστάσεων με έναν τρόπο που ποτέ δε θα μπορούσαν οι άνθρωποι.

Το iBorderCtrl αναλύει 40 διαφορετικές κινήσεις τους προσώπου, μαζεύοντάς τις για να δημιουργήσει μια βαθμολογία με άριστα το 100 για την πιθανότητα ότι ένα άτομο είναι ανειλικρινές, βαθμολογία που παρουσιάζεται μέσω κωδικού QR σε έναν ανθρώπινο συνοριοφύλακα.

Σε έκθεση που δημοσίευσε το πρόγραμμα iBorderCtrl, δήλωσαν πως μπορούσαν να ανιχνεύσουν πότε ένα άτομο έλεγε ψέμματα σε ποσοστό 74% και πότε κάποιος έλεγε την αλήθεια σε ποσοστό 76%.

Το πρόγραμμα πάντως έχει λάβει ευρεία κριτική, με πολλούς να ισχυρίζονται ότι η δυνατότητα να καθοριστεί η απάτη από τις κινήσεις του προσώπου είναι μύθος.

Ο Άντριου ΜακΣτέι, συγγραφέας του «Συναισθηματική TN: Η Άνοδος των Μέσων με Κατανόηση», λέει: «Πολλοί θα σας πουν ότι είναι ψευδοεπιστήμη και εγώ θα το απέκρουα αυτό. Δεν είναι ότι η Συναισθηματική ΤΝ είναι θεμελιωδώς ελαττωματική αλλά, σε ένα περιβάλλον υψηλής έντασης όπως ένα σύνορο, η ιδέα ότι μπορείς να αναλύσεις κινήσεις του προσώπου από μία και μοναδική κάμερα για να προσδιορίσεις την πιθανότητα ότι κάποιος ψεύδεται είναι βαθιά αμφιλεγόμενη».

Το πώς επιδεικνύουμε τα συναισθήματά μας είναι άκρως ατομικό, αναλόγως συνθηκών όπως η ηλικία, το φύλο και η καταγωγή μας. Η δυνατότητα ενός συστήματος να διακρίνει με ακρίβεια συναισθήματα σε ολόκληρους πληθυσμούς είναι βασισμένη σε εκπαιδευτικά δεδομένα που πρέπει να αντανακλούν την ποικιλομορφία των ανθρώπων μέσα σε αυτούς τους πληθυσμούς.

«Η μεροληψία μπορεί να εμφανιστεί στη διαδικασία της χειρόγραφης κωδικοποίησης των συναισθηματικών εκφράσεων, που έπειτα ταΐζεται στους αλγόριθμους που χρησιμοποιούνται για να κατηγοριοποιήσουν αυτόματα τις εκφράσεις», λέει ο ΜακΣτέι. «Αυτό συμπεριλαμβάνει το ποιανού οι εκφράσεις κωδικοποιούνται χειρόγραφα, αλλά και το ποιοι είναι οι άνθρωποι που κωδικοποιούν αυτά τα δεδομένα, άρα αμφότερους τον αναλυόμενο και τον αναλυτή».

Η iBorderCtrl και ένας αριθμός μελών του προσωπικού της δεν απάντησαν στις προσπάθειες επικοινωνίας για αυτό το άρθρο, και δεν γνωρίζουμε την ποικιλομορφία εντός της ομάδας τους, ούτε αν έχουν παρθεί μέτρα για την αντιμετώπιση αυτής της εσωτερικής μεροληψίας.

Δημοσίευσαν όμως τη σύνθεση των εκπαιδευτικών τους δεδομένων που περιέλαβαν 32 άτομα, από τα οποία τα 10 ήταν Ασιάτες/Άραβες, και 22 ήταν Λευκοί Ευρωπαίοι — εξαιρώντας μεγάλο ποσοστό του πλανήτη και χρησιμοποιώντας μέγεθος δείγματος πολύ μικρότερο από αυτό που θα έπρεπε τυπικά να χρησιμοποιηθεί. Υπάρχει συνεπώς κίνδυνος ότι το σύστημα δεν θα δουλέψει με ακρίβεια και μπορεί να δουλέψει διαφορετικά αναλόγως της καταγωγής κάποιου.

Τα ερωτήματα γύρω από την ακρίβεια τέτοιων αλγορίθμων είναι, προς το παρόν, αφημένα στη εικασία, διότι παρά την ολοκλήρωση αυτών των χρηματοδοτούμενων από την ΕΕ προγραμμάτων, η κοινή γνώμη δεν έχει ακόμα λάβει πρόσβαση στις εκθέσεις ηθικής, τη νομική γνωμάτευση ή τα πιλοτικά αποτελέσματά τους, με τη δικαιολογία ότι κάτι τέτοιο θα υπέσκαπτε την κερδοφορία της εταιρείας.

Ο Πάτρικ Μπρέγιερ, Ευρωβουλευτής του Γερμανικού Κόμματος των Πειρατών, έχει προσφύγει κατά αυτής της απόφασης και έχει μηνύσει την ΕΕ για την απόφασή της να μη δημοσιεύεσει τα έγγραφα. «Είναι ζήτημα δημοκρατίας», λέει. «Αυτό είναι ένα πρόγραμμα που χρηματοδοτήθηκε από τα λεφτά των φορολογουμένων, όμως δεν μπορούμε να έχουμε πρόσβαση σε κανένα από τα δεδομένα».

«Ακόμα κι αν αυτή η τεχνολογία δεν εφαρμοστεί στην ΕΕ, υπάρχει το ρίσκο ότι η εταιρεία μπορεί να πουλήσει την τεχνολογία σε απολυταρχικά καθεστώτα ή τον ιδιωτικό τομέα».

Η Λίνα Ντένσικ, επικεφαλής του Data Justice Lab και συγγραφέας μιας νέας έκθεσης για το iBorderCtrl, λέει ότι πρέπει να επικεντρωθούμε στο γιατί αναπτύσσονται τέτοιες τεχνολογίες. «Το να λάβουμε την απόδοση αυτών των συστημάτων ως το κύριο ζήτημα είναι αποπροσανατολιστικό», λέει.«Αντίθετα πρέπει να δούμε το γιατί η ανάπτυξη νέων τεχνικών συστημάτων προωθείται ως η λύση για τα κοινωνικά και πολιτικά προβλήματά μας».

Το iBorderCtrl αναδύεται μέσω της εντονά επικεντρωμένης στην ασφάλεια πολιτικής ατμόσφαιρας της Ευρώπης, προσφέροντας νέες μορφές τεχνολογικής καινοτομίας και υποσχόμενο να λύσει τα περίπλοκα και δυσεπίλυτα κοινωνικο-πολιτικά ζητήματα που αντιμετωπίζει το ευρωπαϊκό πρότζεκτ. Το αποτέλεσμα βέβαια, είναι η επέκταση κατά βάση αδοκίμαστων τεχνολογιών σε άκρως επίμαχες και ευαίσθητες περιοχές, όπως ο συνοριακός έλεγχος.

/info-war.gr