ΕΤΑΙΡΕΙΕΣ ΚΑΙ ΚΡΑΤΗ Κατασκοπεύουν τα συναισθήματά μας

Με χρήση Τεχνητής Νοημοσύνης αναλύουν τι φαίνεται να αισθάνονται μεμονωμένα άτομα και πλήθη. Αποφάσεις για εργασιακές προσλήψεις και κατηγοριοποίηση ανθρώπων με βάση αμφισβητήσιμα και προκατειλημμένα μοντέλα, υλοποιημένα σε νευρωνικά δίκτυα

 

Το πλαίσιο στο οποίο ένας άνθρωπος κάνει έναν συναισθηματικό μορφασμό μπορεί να διαφοροποιήσει τελείως το νόημά του. Εδώ μια κοπέλα που έχει εκστασιαστεί από το συγκρότημα των Μπιτλς φαίνεται σαν να κλαίει, μέσα στο χαρούμενο πλήθος που υποδέχεται τους μουσικούς στη Νέα Υόρκη το 1964

Φλεβάρη του 2020, άνθρωποι που επισκέπτονται μια ανύποπτη έκθεση στο Λίβερπουλ κοντοστέκονται μπροστά σε ορισμένα εκθέματα και προσπερνούν κάποια άλλα. Τις κινήσεις τους και τις συσπάσεις των μυών του προσώπου τους παρακολουθούν δέκα φορές το δευτερόλεπτο 24 κάμερες, που έχουν τοποθετηθεί διακριτικά σε όλη την έκταση της έκθεσης. Οι εικόνες τροφοδοτούνται σε ένα δίκτυο υπολογιστών, όπου αλγόριθμοι Τεχνητής Νοημοσύνης (ΤΝ) ανιχνεύουν το φύλο και την ηλικιακή ομάδα κάθε ατόμου και αναλύουν τις εκφράσεις τους για ενδείξεις «ευχαρίστησης» και «ενδιαφέροντος». Πρόκειται για σύστημα παρακολούθησης, που λειτουργεί τόσο σε εξωτερικό όσο και σε εσωτερικό χώρο ακόμη και χωρίς καλό φωτισμό, για ανθρώπους που φοράνε ή δεν φοράνε μάσκα, ενώ δίνει αποτελέσματα ακόμη και για ανθρώπους που φοράνε γυαλιά ηλίου και καπέλο.

 

Ρομποτική παρακολούθηση

Είναι ένα από τα πολλά συστήματα ΤΝ-συναισθημάτων ή συναισθηματικής υπολογιστικής, που συνδυάζουν κάμερες και άλλες συσκευές με προγράμματα ΤΝ, ώστε να ανιχνεύσουν εκφράσεις του προσώπου, γλώσσα του σώματος, στοιχεία από τον τονισμό της φωνής, τον βηματισμό και άλλες ενδείξεις. Στόχος να προχωρήσουν ένα βήμα πέρα από την αναγνώριση προσώπου και ταυτοποίηση, στην αποκάλυψη αυτού, που μέχρι πρόσφατα ήταν άπιαστο για την τεχνολογία: Των συναισθημάτων, των κινήτρων και των συμπεριφορών των ανθρώπων, που καταγράφονται στις εικόνες. Είναι η αυγή της ρομποτικής παρακολούθησης, όπου αυτόματα συστήματα δεν καταγράφουν απλώς, αλλά βγάζουν και κρίσεις γι' αυτά που καταγράφουν.

Η τεχνολογία αυτή αρχίζει να χρησιμοποιείται εκτεταμένα από κράτη και εταιρείες. Συστήματα που υποτίθεται ότι ανιχνεύουν ενδείξεις συναισθημάτων, χαρακτήρα (!) και προθέσεων (!) δοκιμάζονται σε συνοριακά περάσματα, για να αντιμετωπίσουν ενδεχόμενες απειλές ενάντια σε κράτη, για να αξιολογήσουν υποψήφιους για θέσεις εργασίας, για να ελέγξουν τάξεις μαθητών για συμμετοχή ή βαρεμάρα, για να ανιχνεύσουν σημάδια επιθετικής οδήγησης. Πολλά μονοπώλια στην αυτοκινητοβιομηχανία εισάγουν την τεχνολογία αυτή στις νέες γενιές των οχημάτων τους, ενώ η «Amazon», η «Microsoft», η «Google» και άλλες εταιρείες προσφέρουν υπηρεσίες ΤΝ-συναισθημάτων στο υπολογιστικό νέφος, συνδυασμένες συχνά με αναγνώριση προσώπου. Σε ορισμένες περιπτώσεις η χρήση τέτοιων συστημάτων έχει φτάσει σε σημείο ώστε οι «σύμβουλοι πρόσληψης» στη Νότια Κορέα να προτρέπουν τους πελάτες τους να κάνουν πρακτική με συστήματα ΤΝ, πριν την πραγματική συνέντευξη με τον εργοδότη. Κάποια συστήματα χρησιμοποιούν τα δεδομένα που συλλέγουν όχι μόνο για να ανιχνεύσουν τη στιγμιαία συναισθηματική κατάσταση ενός ανθρώπου, αλλά και για να βγάλουν συμπεράσματα για την προσωπικότητά του, αν δίνει προσοχή ή αν αποτελεί ενδεχόμενη απειλή.

 

Με προκατάληψη

Τα περισσότερα συστήματα ΤΝ-συναισθημάτων βασίζονται στην τεχνολογία της βαθιάς μηχανικής μάθησης, που υλοποιείται σε ηλεκτρονικά νευρωνικά δίκτυα, δηλαδή δίκτυα που μιμούνται έως ένα βαθμό τη λειτουργία των ανθρώπινων νευρωνικών δικτύων. Εκπαιδεύονται με χρήση πληθώρας κατηγοριοποιημένων δεδομένων και ακριβώς γι' αυτό εμπεριέχουν τις προκαταλήψεις αυτών που έκαναν την κατηγοριοποίηση, σχετικά με τη φυλή, το φύλο, την εθνικότητα. Στις ΗΠΑ, για παράδειγμα, έχει διαπιστωθεί μια σαφής προκατάληψη τέτοιων συστημάτων υπέρ των υποψήφιων για εργασία που ανήκουν στη λευκή φυλή και υπέρ των λευκών ανδρών συγκριτικά με τις λευκές γυναίκες.

Τα περισσότερα συστήματα ΤΝ-συναισθημάτων στηρίζονται στη δουλειά του ψυχολόγου Πολ Εκμαν, σύμφωνα με την οποία υπάρχουν εκφράσεις του προσώπου που ανεξαρτήτως εθνοτικών ή άλλων χαρακτηριστικών αποκαλύπτουν τα συναισθήματα του ατόμου (από αριστερά λύπη, ευτυχία, θυμός, φόβος και έκπληξη)

Αλλά και η επιστημονική γνώση στην οποία στηρίζονται αυτά τα συστήματα αμφισβητείται, καθώς στηρίζεται σε έρευνα που πραγματοποίησαν πριν από μισό αιώνα οι ψυχολόγοι Πολ Εκμαν και Γουάλας Φρίσεν, υποστηρίζοντας ότι μια χούφτα εκφράσεων του προσώπου αντιστοιχεί στα βασικά συναισθήματα (θυμός, απέχθεια, φόβος, ευτυχία, λύπη και έκπληξη, ενώ ο Εκμαν αργότερα πρόσθεσε και την περιφρόνηση). Συμπέραναν, επίσης, ότι αυτές οι εκφράσεις αποτελούν μια παγκοσμίως κατανοητή συναισθηματική γλώσσα. Ωστόσο, μετέπειτα επιστήμονες εντόπισαν σημαντικές πολιτιστικές και ατομικές παραλλαγές στις εκφράσεις προσώπου. Πολλοί ερευνητές εκτιμούν ότι οι αλγόριθμοι δεν μπορούν - προς το παρόν τουλάχιστον - να αναγνώσουν επιτυχώς τις λεπτές πτυχές των ανθρώπινων εκφράσεων σε όλους τους ανθρώπους, που δεν αντιστοιχούν σε στερεοτυπικά συναισθήματα.

 

Στην πλάτη τους

Ο ίδιος ο Εκμαν, που αρχικά δούλεψε στην τεχνολογία αναγνώρισης συναισθημάτων, δηλώνει τώρα ότι αυτή αποτελεί σοβαρή απειλή για την ιδιωτικότητα των ανθρώπων. «Δυστυχώς είναι μια τεχνολογία που μπορεί να χρησιμοποιηθεί χωρίς να το γνωρίζουν οι άνθρωποι, χρησιμοποιείται στην πλάτη τους και δεν χρησιμοποιείται για να τους κάνει πιο χαρούμενους», δηλώνει. «Χρησιμοποιείται για να τους κάνει να αγοράσουν προϊόντα που αλλιώς δεν θα αγόραζαν. Κι αυτή είναι η πιο αγαθή από τις μη αγαθές χρήσεις της».

Καθώς αυξάνονται οι προσπάθειες να χαρτογραφηθούν και να δώσουν κέρδη οι συναισθηματικές εκφράσεις, τα χαρακτηριστικά της προσωπικότητας και οι συμπεριφορές, αυξάνονται και οι τομείς της ζωής μας που γίνονται αντικείμενο παρακολούθησης. Μετά από 20 χρόνια που τα μονοπώλια των Μέσων Κοινωνικής Δικτύωσης αντλούν προσωπικά δεδομένα από τη διαδικτυακή συμπεριφορά, το ίδιο πάει να γίνει τώρα και με τα πρόσωπα και τα σώματα των ανθρώπων και τα μηνύματα που εκπέμπουν. Σε ποιον ανήκουν τα δεδομένα αυτά; Στις περισσότερες χώρες τα δεδομένα αυτά δεν ανήκουν στους ανθρώπους, αρκεί να μην μπορούν να συνδεθούν τα άτομα με τα δεδομένα. Ετσι οι περισσότερες εταιρείες δηλώνουν ότι επεξεργάζονται τα συναισθηματικά δεδομένα ανωνυμοποιημένα και ορισμένες για να είναι και πιο τυπικά εντάξει, αναρτούν κάπου και μια ανακοίνωση ότι ο χώρος παρακολουθείται. Αλλά οι εφαρμογές είναι πολυποίκιλες και δεν υπάρχει καν κανονιστικό πλαίσιο.

Η ΤΝ-συναισθημάτων έχει μπει σε πεδία του προσωπικού χώρου, όπου τα συμπεριφορικά δεδομένα είναι ακόμη πιο πλούσια. Ο «βοηθός» της «Amazon», που ονομάζεται «Alexa», αυτός ο χαφιές που πολλοί άνθρωποι έχουν βάλει στο σπίτι τους και μεταδίδει τι λένε στην άλλη άκρη του κόσμου (το ίδιο κάνουν και τα αντίστοιχα προϊόντα άλλων εταιρειών, αφού κανένα δεν λειτουργεί με τοπική αναγνώριση φωνής), μπορεί να εντοπίσει σημάδια εκνευρισμού στη φωνή, ώστε να βελτιώνει τη λειτουργικότητά του. Τα συστήματα που θα βάλουν οι αυτοκινητοβιομηχανίες σε νέα μοντέλα, που θα παράξουν έως το 2023, θα δώσουν έναν ωκεανό δεδομένων για τη συμπεριφορά οδηγών και επιβατών (η «Tesla» ήδη συλλέγει τέτοια δεδομένα). Ως συνήθως, οι κάτοχοι των οχημάτων θα έχουν κάποια δυνατότητα μερικής απενεργοποίησης αυτών των συστημάτων, αλλά με τη συνήθη προειδοποίηση ότι η απενεργοποίηση θα έχει ως αποτέλεσμα υποδεέστερη απόδοση.

Από ποιον, για ποιον

Ο Αλεϊξ Μαρτίνεζ, ένας από τους συγγραφείς επιστημονικής δημοσίευσης που ασκεί κριτική στη σύνδεση εκφράσεων προσώπου - συναισθημάτων, συνηθίζει να δείχνει τη φωτογραφία του προσώπου ενός άντρα, που το πρόσωπό του δείχνει κάτι ανάμεσα σε θυμό και φόβο. Μετά δείχνει την πλήρη εικόνα, που αποκαλύπτει ότι πρόκειται για έναν ποδοσφαιριστή, που μόλις έχει βάλει γκολ. Οι εκφράσεις του προσώπου, οι χειρονομίες και άλλα σημάδια δεν είναι αποτέλεσμα μόνο του σώματος και του εγκεφάλου, αλλά και του πλαισίου, του τι συμβαίνει γύρω από έναν άνθρωπο. Αν δεν καταλαβαίνεις τι είναι ποδόσφαιρο, δεν πρόκειται ποτέ να καταλάβεις σωστά την έκφραση του προσώπου ενός ποδοσφαιριστή.

Η ΤΝ-συναισθημάτων, μια κατά βάση αναπόδεικτη τεχνολογία, θα μπορούσε σύντομα να γίνει στοιχείο της καθημερινότητας, πριν οι λαοί προλάβουν να συνειδητοποιήσουν το πιθανό κόστος της στη ζωή τους. Αλλά δεν είναι μόνο ότι αυτόματα συστήματα, που δεν καταλαβαίνουν πραγματικά τι σημαίνει συναίσθημα, προσωπικότητα, χαρακτήρας, ουσιαστικά θα αποφασίζουν ποιος κάνει και ποιος δεν κάνει για μια δουλειά, ποιος είναι φίλος και ποιος εχθρός. Η χρήση της ΤΝ, όπως και των πιο παραδοσιακών νέων τεχνολογιών ενάντια στον άνθρωπο, δίνοντας περισσότερα πλούτη στους κεφαλαιοκράτες και περισσότερη δυστυχία στους εργαζόμενους, αναδεικνύει κι από αυτήν τη σκοπιά τον επείγοντα χαρακτήρα της αντικατάστασης του εκμεταλλευτικού συστήματος με τον σοσιαλισμό - κομμουνισμό. Η ΤΝ-συναισθημάτων δεν είναι εγγενώς κακή. Αν οι μηχανές μπορούν να εκπαιδευτούν ώστε να ερμηνεύουν με αξιοπιστία τα συναισθήματα και τη συμπεριφορά των ανθρώπων, οι εφαρμογές στον τομέα της Υγείας, της αυτοκινητοβιομηχανίας, της ρομποτικής και σε πολλούς άλλους τομείς θα μπορούσαν να είναι σημαντικές και χρήσιμες στον άνθρωπο. Το ζήτημα είναι ποιες επιλέγονται και για ποιον σκοπό αναπτύσσονται και χρησιμοποιούνται αυτές οι εφαρμογές. Αναρχα και ανεξέλεγκτα για την κερδοφορία των ομίλων και την εξασφάλιση της διαιώνισης του εκμεταλλευτικού συστήματος ή σχεδιασμένα για την ικανοποίηση των αυξανόμενων αναγκών όλων των ανθρώπων; Το πρώτο είναι η σημερινή πραγματικότητα, το δεύτερο είναι αποδεδειγμένα κακόγουστο αστείο να λέγεται ότι μπορεί να γίνει στον καπιταλισμό.

Επιμέλεια:
Σταύρος ΞΕΝΙΚΟΥΔΑΚΗΣ
Πηγή: «Scientific American»

 

Ριζοσπάστης