Ως εργαλείο παραπληροφόρησης χρησιμοποιούνται ήδη τα Μεγάλα Γλωσσικά Μοντέλα τύπου ChatGPT, ενώ οι κατασκευαστικοί όμιλοι απολύουν προσωπικό επιφορτισμένο με τον έλεγχο των κινδύνων από τις εφαρμογές τους
Σύμφωνα με δημοσίευμα της αμερικανικής εφημερίδας «Washington Post», τα ΜΓΜ εκπαιδεύονται και με αμφίβολης ποιότητας και ακρίβειας πληροφορίες. Η «Google» και το «Facebook» έχουν χρησιμοποιήσει ως εκπαιδευτικό υλικό εκατομμύρια αναρτήσεις σε ιστοτόπους στο διαδίκτυο, που συχνά περιείχαν προσωπικές ή άλλες ακατάλληλες πληροφορίες (η «OpenAI» δεν δίνει πληροφορίες για τα σύνολα δεδομένων που χρησιμοποίησε για το ChatGPT). Πέρα από τους ιστοτόπους των ΜΜΕ - τα οποία όπως και σε άλλες περιπτώσεις δεν αποζημιώνονται για την αυθαίρετη χρήση του περιεχομένου τους - τη Wikipedia, το Scribd (βιβλία), το patents.google.com (διπλώματα ευρεσιτεχνίας), οι εταιρείες εκπαιδεύουν την ΤΝ και με ιστοσελίδες που περιέχουν αντίγραφα των κρατικών βάσεων δεδομένων για τους ψηφοφόρους (των ΗΠΑ), αλλά και υλικό από ορισμένους απρόσμενους ιστοτόπους ειδικού ενδιαφέροντος. Χρησιμοποιούν ακόμη αναρτήσεις σε ιστοτόπους ακροδεξιού και ρατσιστικού περιεχομένου, ιστολόγια με προσωπικές απόψεις και πολλές ιστοσελίδες θρησκευτικού περιεχομένου, στη συντριπτική τους πλειοψηφία χριστιανικού.
Σύμφωνα με αποκαλύψεις των «New York Times», το 2020, η «Google» παρεμπόδισε τη δημοσίευση δυσάρεστης μελέτης σχετικά με την ΤΝ που ανέπτυσσε, δύο κορυφαίων ερευνητριών της σε ζητήματα ηθικής και ΤΝ και τελικά τις απέλυσε με διάφορα προσχήματα. Τον Γενάρη του 2022 προσπάθησε να αποτρέψει τη δημοσίευση μιας επικριτικής μελέτης ενός άλλου ερευνητή και διέκοψε τη συνεργασία μαζί του, όταν εκείνος δεν πείστηκε. Ο διευθύνων σύμβουλος της «Google», Σούνταρ Πιτσάι, πίεσε τα αρμόδια τμήματά της να επιταχύνουν την ανάπτυξη του Bard και των άλλων συστημάτων ΤΝ της εταιρείας. Λίγο πριν από την κυκλοφορία του Bard, δύο αρμόδιες υπάλληλοι της εταιρείας συνέστησαν να μην κυκλοφορήσει άμεσα, αλλά η σύσταση αφαιρέθηκε από την προϊσταμένη τους.
Κατά το δημοσίευμα της εφημερίδας, πέντε αρμόδιοι υπάλληλοι της «Microsoft» δήλωσαν ότι παρακάμφθηκαν ή δεν ακολουθήθηκαν με συνέπεια οι κατευθύνσεις που είχαν αποφασιστεί για την ασφαλή ανάπτυξη του ChatGPT. Στέλεχος της «Microsoft» σε email του πριν από έναν μήνα δήλωνε πως θα ήταν «μοιραίο λάθος αυτή τη στιγμή να ανησυχούμε για πράγματα που μπορούν να διορθωθούν αργότερα»! Καθώς ο διευθύνων σύμβουλος, Σάτια Ναντέλα, πίεζε για γρήγορη κυκλοφορία των προϊόντων αγνοήθηκαν οι επισημάνσεις ότι η ενσωμάτωση TN στο Bing θα μπορούσε να κάνει τους χρήστες υπερβολικά εξαρτημένους απ' αυτό, εύκολο να παραπλανηθούν από τις απαντήσεις του και να πιστέψουν ότι τους απαντά κάποιος άνθρωπος στην άλλη άκρη.
Στο πλαίσιο του ανταγωνισμού - ανεξάρτητα αν πρόκειται για αληθινό ενδεχόμενο, ή όχι - πριν από λίγες μέρες διαδόθηκαν φήμες ότι η κορεατική «Samsung» πρόκειται να επιλέξει τη μηχανή αναζήτησης Bing της «Microsoft» ως προεπιλεγμένη σε όλα τα νέα κινητά της τηλέφωνα, αντικαθιστώντας το Google Search. Παρότι αυτό θα σήμαινε παραβίαση της συμφωνίας, που έχουν με την «Google» όλοι οι κατασκευαστές κινητών με Android λειτουργικό και αποτελεί προϋπόθεση για να τους επιτρέπεται η χρήση του Google Play Store, η φήμη είχε αποτέλεσμα την επόμενη μέρα να πέσει η μετοχή της «Google» κατά 4%.
Στον χώρο του διαδικτύου και ιδιαίτερα της διαφήμισης και αξιοποίησης των πληροφοριών για εμπορικούς και άλλους σκοπούς, παίζονται αυτήν την περίοδο πολλά δισεκατομμύρια, καθώς για πρώτη φορά μετά από πολλά χρόνια φαίνεται να αμφισβητείται με αξιώσεις η πρωτοκαθεδρία της «Google». Ο διεκδικητής, η «Microsoft», που χρηματοδοτεί την «OpenAI», κατασκευάστρια του ChatGPT, ελπίζει σε τεράστια κέρδη και δεν θα πρέπει να αποτελέσει έκπληξη αν συμπεριφερθεί όπως φέρονται τα μονοπώλια όταν προσβλέπουν σε τέτοια αύξηση κερδών: Δεν θα σταματήσει μπροστά σε οποιοδήποτε εμπόδιο και για κανέναν λόγο. Αλλοι μικρότεροι ή σε λιγότερο πλεονεκτική θέση στο πεδίο της ΤΝ ανταγωνιστές προσπαθούν να αποσπάσουν κι αυτοί ένα κομμάτι από την «πίτα» που βλέπουν διαθέσιμη για ξαναμοίρασμα.
Στο πλαίσιο των πρόσφατων απολύσεων 10.000 εργαζομένων της, η «Microsoft» διέλυσε ολόκληρη την ομάδα που ήταν επιφορτισμένη στην καθοδήγηση ανάπτυξης της ΤΝ με «υπεύθυνο» και «ηθικό» τρόπο. Η εξάλειψη της ομάδας ηθικής έγινε ενώ αναπτύσσονται με ραγδαίο ρυθμό το ChatGPT για δημιουργία κειμένου και το DALL-E-2 για δημιουργία εικόνων (χρηματοδοτώντας την «OpenAI») και την ίδια ώρα που η «Microsoft» ενσωματώνει τόσο το ChatGPT, όσο και το DALL-E-2 στη μηχανή αναζήτησής της, το Bing, αλλά και σε ολόκληρη τη σουίτα Microsoft 365 (Word, Excel κτλ.), μέσω του νέου βοηθού Copilot, ενός chatbot, που θα υποστηρίζεται από το GPT-4 της «OpenAI». Μέλη της ομάδας δήλωσαν σε διαδικτυακό ΜΜΕ πως πιστεύουν ότι απολύθηκαν επειδή η «Microsoft» δίνει περισσότερη προσοχή στην κυκλοφορία προϊόντων με ΤΝ πριν από τον ανταγωνισμό, παρά σε ενδεχόμενες αρνητικές επιπτώσεις των προϊόντων της. Η λεγόμενη «εταιρική κοινωνική ευθύνη» στην ανάπτυξη της ΤΝ πηγαίνει περίπατο όταν τα μονοπώλια θέλουν να έχουν ελεύθερα τα χέρια τους είτε για να υπερασπιστούν τα κέρδη τους είτε για να αποσπάσουν κέρδη από άλλους ομίλους.
Με δεδομένη την καθυστέρηση της «Google» στον ανταγωνισμό με τη «Microsoft», ο διευθύνων σύμβουλος της πρώτης, Σούνταρ Πιτσάι, είπε σε συνέντευξή του ότι οι ανησυχίες του για την ΤΝ τον κρατούν ξύπνιο τη νύχτα (!), επειδή αυτή η τεχνολογία θα μπορούσε να αποδειχθεί επιβλαβής, εξαιτίας μιας βιαστικής και λαθεμένης εφαρμογής της. Επισήμανε ιδιαίτερα τον κίνδυνο της παραπληροφόρησης και πρόβαλε το γνωστό πρόβλημα, ότι ούτε οι επιστήμονες που φτιάχνουν τα εξελιγμένα συστήματα ΤΝ δεν μπορούν να καταλάβουν τον τρόπο που αυτά ανταποκρίνονται σε ορισμένες περιπτώσεις. Εκτίμησε, μάλιστα, ότι χρειάζεται για την ΤΝ ένα ρυθμιστικό πλαίσιο ανάλογο εκείνου για τα πυρηνικά όπλα. Βεβαίως, αν η «Google» ήταν αυτή τη στιγμή στη θέση της «Microsoft», μάλλον άλλος διευθύνων σύμβουλος θα έκανε τέτοιες δηλώσεις και ο Πιτσάι θα πίεζε για περισσότερα διαφοροποιημένα προϊόντα της «Google» με ΤΝ. Ο Πιτσάι επισήμανε ότι υπάρχει αναντιστοιχία στον ρυθμό με τον οποίο η κοινωνία προσαρμόζεται στις αλλαγές και στον ρυθμό με τον οποίο εξελίσσεται η ΤΝ και εκτίμησε ότι οι εφαρμογές της θα έχουν σημαντική επίπτωση στην αγορά εργασίας.
Τα ΜΓΜ είναι μοντέλα ακολουθιών λέξεων (με βάση τον τρόπο που οι άνθρωποι χειρίζονται τη γλώσσα), όχι μοντέλα του τρόπου που λειτουργεί ο κόσμος. Συχνά είναι σωστά, επειδή η γλώσσα συνήθως αντανακλά τον κόσμο, αλλά την ίδια στιγμή δεν μπορούν να κατανοήσουν τον κόσμο και τον τρόπο που λειτουργεί και γι' αυτό η ακρίβεια των απαντήσεών τους είναι ζήτημα τύχης. Εκδηλώνουν ψευδαισθήσεις ότι γνωρίζουν πράγματα για τα οποία δεν έχουν πληροφορίες κι έτσι κατασκευάζουν τελείως ψευδείς απαντήσεις. Εύκολα θα απαντήσουν π.χ. σε ερώτημα για τις βελτιωτικές ικανότητες της προσθήκης τριμμάτων πορσελάνης ή πριονιδιών στο μητρικό γάλα, λέγοντας ότι τα συστατικά αυτά μπορούν να ενισχύσουν τη θρεπτική του ικανότητα και να βοηθήσουν το νεογνό να αναπτυχθεί καλύτερα! Επειδή αυτά τα συστήματα δεν μπορούν να ελέγξουν την αλήθεια των λεγομένων τους, μπορούν εύκολα να χρησιμοποιηθούν για την αυτοματοποιημένη παραγωγή παραπληροφόρησης σε κλίμακα χωρίς προηγούμενο. Να κατακλύσουν, για παράδειγμα, το διαδίκτυο με ψευδείς πληροφορίες ότι το εμβόλιο για την COVID-19 είναι αποτελεσματικό μόνο στο 2% των ανθρώπων, χρησιμοποιώντας αναφορές σε ανύπαρκτες πηγές και στατιστικές. Σε συνδυασμό με την πολλαπλασιαστική επίδραση στη διάδοση παραπληροφόρησης από τα Μέσα Κοινωνικής Δικτύωσης, μπορεί να δημιουργηθεί μια παλίρροια ψεύδους, που θα προκαλέσει είτε μακρόχρονη είτε προσωρινή κοινωνική σύγχυση σε μια κρίσιμη χρονική στιγμή ή περίοδο.
Πριν από μερικές μέρες, γερμανικό εβδομαδιαίο περιοδικό δημοσίευσε «συνέντευξη» του εδώ και χρόνια βαριά τραυματισμένου οδηγού της Φόρμουλα-1 Μίκαελ Σουμάχερ, υποστηρίζοντας στον τίτλο του εξωφύλλου του ότι πρόκειται για την πρώτη συνέντευξη του επτάκις πρωταθλητή μετά το ατύχημα. Στην πραγματικότητα ήταν μια κατασκευασμένη από ΜΓΜ «συνέντευξη», με την οδηγία να είναι διατυπωμένη στο στιλ που μιλούσε ο Σουμάχερ. Ηδη έχουν εμφανιστεί στο διαδίκτυο συστοιχίες ιστοσελίδων κατασκευασμένων από ΤΝ, για την προώθηση επικίνδυνων για την υγεία προϊόντων, τη στοχευμένη δυσφήμιση ατόμων κ.ο.κ.
Στο διαδίκτυο υπάρχουν προς χρήση μέθοδοι για «απόδραση από τη φυλακή» (jailbreak) του ChatGPT, έτσι ώστε να μην περιορίζεται από τους ελέγχους που του έχουν τεθεί από την «OpenAI» και να μπορεί να εξαναγκαστεί να παράξει «τοξικά» κείμενα, ή, σε συνδυασμό με συμβατικό κακοπροαίρετο λογισμικό, να διαβάζει email και να τα στέλνει σε κάποιον τρίτο.
Το Stack Overflow, ένας ιστότοπος που χαίρει εκτίμησης μεταξύ των περισσότερων προγραμματιστών ως πηγή απαντήσεων σε προβλήματα που συναντούν στην πρακτική του επαγγέλματός τους, απαγόρευσε προσωρινά τις αναρτήσεις που προέρχονται από το ChatGPT, όταν διαπίστωσε πως κινδύνευε να πέσει πολύ η ποιότητα των πληροφοριών του, από την πλημμυρίδα ατελών ή λαθεμένων απαντήσεων σε ερωτήματα συναδέλφων τους, που αναρτούσαν ορισμένοι χρήστες του.
Ενα άλλο πρόβλημα της παραγωγικής ΤΝ είναι η δυσκολία να διακρίνει κανείς την προέλευση ενός κειμένου ή μιας εικόνας. Πριν από λίγες μέρες, Γερμανός καλλιτέχνης συμμετείχε σε διεθνή διαγωνισμό φωτογραφίας και κέρδισε το πρώτο βραβείο στην ελεύθερη κατηγορία, καθώς κανείς από τους κριτές δεν κατάλαβε ότι η συγκεκριμένη συμμετοχή, που απεικόνιζε δύο γυναίκες με φωτογραφική τεχνοτροπία σέπια, δεν είχε παραχθεί από άνθρωπο, αλλά από ΤΝ και ήταν τελείως ψεύτικη.
Ενώ οι εξελίξεις στον τομέα της ΤΝ τρέχουν με ραγδαίο ρυθμό, τα επιτελεία της Ευρωπαϊκής Ενωσης των μονοπωλίων δεν προβλέπεται να έχουν πριν από το 2025 κάτι ανάλογο του ψευδεπίγραφου Γενικού Κανονισμού Προστασίας Προσωπικών Δεδομένων (GDPR) σχετικά με την προστασία από τις εφαρμογές της ΤΝ. Οχι ότι μπορεί κανείς να περιμένει πως ο νέος κανονισμός θα αντιμετωπίσει τους κινδύνους. Στην έκθεση της σχετικής επιτροπής της ΕΕ, που δόθηκε πρόσφατα στη δημοσιότητα, είναι διάχυτη η αγωνία πώς τα ευρωπαϊκά μονοπώλια, που έχουν ήδη μείνει πίσω συγκριτικά με τα αμερικανικά και τα κινεζικά, δεν θα χάσουν οριστικά το τρένο της ΤΝ, με τον σχετικό προβληματισμό να διατρέχει σαν κόκκινη γραμμή όλη την έκθεση. Σ' αυτήν σημειώνεται ότι «ορισμένες τεχνολογίες ΤΝ επιτρέπουν την αυτοματοποίηση της επεξεργασίας πληροφοριών σε κλίμακα χωρίς προηγούμενο, που ανοίγει τον δρόμο για μαζική παρακολούθηση» και επισημαίνεται ότι «ορισμένες χρήσεις της ΤΝ μπορεί να ενέχουν προσωπικούς ή κοινωνικούς κινδύνους, που μπορεί να θέσουν σε κίνδυνο θεμελιώδη δικαιώματα», εναποθέτοντας την αντιμετώπιση σε πολιτικές προτάσεις για ρυθμίσεις, που θα εξασφαλίσουν ότι η ΤΝ θα γίνει «εργαλείο στην υπηρεσία των ανθρώπων και της κοινωνίας»... Είναι αλήθεια ότι η ΤΝ μπορεί να γίνει εργαλείο στην υπηρεσία των ανθρώπων και της κοινωνίας, αλλά όχι της καπιταλιστικής. Μιας άλλης κοινωνίας, που θα έχει στο επίκεντρο τον άνθρωπο και δεν θα προσδιορίζεται από το κυνήγι του κέρδους και την εκμετάλλευση ανθρώπου από άνθρωπο, άρα μιας κοινωνίας όπου τα μεγάλα μέσα παραγωγής δεν θα είναι ατομική αλλά κοινωνική ιδιοκτησία.
Σταύρος Ξενικουδάκης
Πηγές: «Scientific American», «New York Times», «Washinghton Post», www.europarl.europa.eu
Δεν υπάρχουν σχόλια:
Δημοσίευση σχολίου