«Το νέο βιβλίο του Άρη Χατζηστεφάνου «Προπαγάνδα και παραπληροφόρηση στο ίντερνετ» (εκδ. Τόπος) ανοίγει σειρά σημαντικών και ενδιαφέροντων ζητημάτων αναφορικά με τον ψηφιακό χώρο και την Τεχνητή Νοημοσύνη (ΤΝ), δίνοντας παράλληλα πολύ χρήσιμες πληροφορίες για την αντιμετώπιση διαφόρων προβλημάτων και κινδύνων στο διαδίκτυο. Με αφορμή το βιβλίο, συζητάμε για τις μεταβολές που επιφέρει η ψηφιακότητα και η ΤΝ στο πεδίο της πληροφορίας, της δημοσιογραφίας, της πολιτικής επικοινωνίας κ.α.
Το φαινόμενο της παραπληροφόρησης και της προπαγάνδας είναι διαχρονικό. Με αφορμή το νέο σου βιβλίο, θα μας πεις ποιες μεταβολές παρατηρείς στο φαινόμενο με την επικράτηση του ψηφιακού χώρου και την άνοδο της Τεχνητής Νοημοσύνης (ΤΝ);
Σημειώνονται πολλές αλλαγές, καθώς η προπαγάνδα γίνεται, κατά τη γνώμη μου, πολύ πιο δομική στα χαρακτηριστικά της. Πλέον δεν έχεις απέναντί σου μόνο έναν δημοσιογράφο ή έναν επιχειρηματία, πχ, που προωθεί συγκεκριμένες εκστρατείες προπαγάνδας, αλλά ο ίδιος ο αλγόριθμος μιας πλατφόρμας μπορεί να παράγει προπαγάνδα. Αυτό αρχίζουμε και το βλέπουμε πολύ πιο έντονα τώρα με τα μεγάλα γλωσσικά μοντέλα, με ακραίο παράδειγμα το Grok του Ίλον Μασκ, το οποίο άρχισε να αναπαράγει τις αντισημιτικές και νεοναζιστικές απόψεις του αφεντικού του στις απαντήσεις που δίνει. Ένα μεγάλο μέρος του βιβλίου αποτελεί το πώς παράγεται αυτή η δομική προπαγάνδα: Πρώτον, από τον τρόπο με τον οποίο εκπαιδεύονται οι αλγόριθμοι και από τους όγκους κειμένων που διαβάζουν τα μεγάλα γλωσσικά μοντέλα, όπως το ChatGPT, για να δίνουν απαντήσεις, καταλήγοντας να αναπαράγουν ουσιαστικά τα στερεότυπα μιας δυτικής, πατριαρχικής κοινωνίας. Μάλιστα, μας πηγαίνουν και πολύ πιο πίσω απ’ όσα κατακτήθηκαν τα τελευταία 10–20 χρόνια όσον αφορά στα κοινωνικά και συλλογικά δικαιώματα, καθώς έχουν εκπαιδευτεί σε ακόμα πιο παλιά και αντιδραστικά κείμενα. Δεύτερον, η δομική προπαγάνδα οφείλεται και στις εξωγενείς παρεμβάσεις πάνω στους αλγόριθμους. Χαρακτηριστικό παράδειγμα και πάλι το Grok, το οποίο ο Ίλον Μασκ έβαλε, καταρχήν, να εκπαιδεύεται από τη ροή μηνυμάτων του X (twitter), ενώ είχε άρει κάθε περιορισμό στο τι μπορεί να γράφει κάθε φασίστας εκεί, και άρα ο αλγόριθμος εκπαιδευόταν σ’ αυτόν τον ακροδεξιό λόγο. Έπειτα παρενέβη ακόμα περισσότερο, δίνοντας εντολή στο σύστημα πριν δώσει κάποια απάντηση, να ανατρέχει σε παλαιότερες δηλώσεις και συνεντεύξεις του ίδιου. Έτσι αρχίσαμε να βλέπουμε απαντήσεις του Grok που ήταν τελείως άσχετες με αυτό που είχε ερωτηθεί. Πχ τον ρωτούσες για τον αγώνα Ολυμπιακού – Παναθηναϊκού και σου απαντούσε «πρέπει να μιλήσουμε για τη γενοκτονία των λευκών στη Ν. Αφρική», όπως διέδιδε ο Μασκ. Πάνω, λοιπόν, στην παραδοσιακή προπαγάνδα που είχαμε, έρχεται να προστεθεί αυτή η δομική, αλγοριθμική προπαγάνδα. Το γεγονός, βέβαια, πως είναι αλγοριθμική δεν σημαίνει ότι δεν πρέπει να έχουμε τα εργαλεία να την εντοπίσουμε και να την αντιμετωπίσουμε, εξού και το βιβλίο αποτελεί και ένα πρακτικό εγχειρίδιο, με καθημερινές συμβουλές γι’ αυτό.
Μια πληροφορία, όπως γράφεις και στο βιβλίο, τίθεται πάντα εντός ενός ευρύτερου πλαισίου πεποιθήσεων. Αυτό ενώ στις περιπτώσεις πχ των ΜΜΕ είναι γνωστό και γνωρίζει ο καθένας υπό ποιο πρίσμα θα λάβει την κάθε είδηση, στην περίπτωση της ΤΝ προβάλλεται σαν να πρόκειται για ένα ουδέτερο πεδίο και ενός είδους αυθεντίας. Ποιος ορίζει το πλαίσιο της ΤΝ, ποιο είναι αυτό και πόση διαφάνεια υπάρχει στο ζήτημα;
Το πλαίσιο είναι οι αξίες της φιλελεύθερης αστικής δημοκρατίας, μέχρι τώρα. Όσο, όμως, αυτή η φιλελεύθερη δημοκρατία πέφτει σε μορφές νεοφασισμού –όπως συμβαίνει στις ΗΠΑ, στη Ρωσία, τη Βραζιλία αλλά και σε χώρες της Ευρώπης– θα αρχίσει να αλλάζει και το πλαίσιο των μεγάλων γλωσσικών μοντέλων. Από αυτή την άποψη, θα έχουμε επιδείνωση. Ένα ακόμα δομικό ζήτημα που βλέπουμε στα μεγάλα γλωσσικά μοντέλα, αν και δεν πρόκειται για εσκεμμένη προπαγάνδα, αφορά στις «AI hallucinations» («ψευδαισθήσεις της ΤΝ») [σ.σ.: απαντήσεις βάσει κατασκευασμένων στοιχείων από την ΤΝ που δεν υφίστανται στην πραγματικότητα], οι οποίες επιδεινώνονται. Όσο βελτιώνεται η τεχνολογία, έχει αποδειχθεί πως τα μεγάλα γλωσσικά μοντέλα κάνουν περισσότερα λάθη. Αυτό είναι αναμενόμενο και θα πρέπει να μάθουμε να ζούμε με αυτό. Μην ξεχνάμε πως όλα αυτά είναι μοντέλα πρόβλεψης, βάζουν δηλαδή μπροστά μία λέξη και μετά προβλέπουν ποια είναι η καλύτερη δυνατή επόμενη λέξη κ.ο.κ. Όλα τα μοντέλα πρόβλεψης κάνουν λάθη και σε όλες τις επιστήμες έχουμε μάθει να τα αναγνωρίζουμε και να τα λαμβάνουμε υπόψιν μας, πχ στις μετεωρολογικές προβλέψεις. Το πρόβλημα με την ΤΝ είναι ότι δεν έχουμε συνηθίσει να σκεφτόμαστε με αυτά τα ποσοστά λάθους που θα κάνει ούτως ή άλλως. Και κάνουμε ακριβώς αυτό που λες, την αντιμετωπίζουμε σαν μία αυθεντία και αυτό είναι επικίνδυνο. Αν κατανοήσουμε τον βαθμό της εγγενούς προπαγάνδας και τα λάθη που το ίδιο το σύστημα τεχνικά θα κάνει, είναι μια εξαιρετική τεχνολογία και ανοίγει νέους δρόμους στην καθημερινότητά μας.
Προωθείται, όμως, αυτή η εικόνα, πως πρόκειται για πράγματι νοημοσύνη, και όχι μοντέλα πρόβλεψης, η οποία παράγει γνώση, παρά και τις «ψευδαισθήσεις». Σε άλλου είδους προϊόντα που δεν πετυχαίνουν αυτό που διαφημίζονται ότι κάνουν, συνήθως βλέπουμε είτε απόρριψή τους από το κοινό, είτε απόσυρσή τους μέχρι να βελτιωθούν. Στην περίπτωση της ΤΝ γιατί δεν συμβαίνει αυτό;
Γενικά η Silicon Valley τις τελευταίες δεκαετίες παράγει «προϊόντα σκουπίδια». Αποτελεί βάση του συγκεκριμένου μοντέλου παραγωγής ότι πετάνε ένα κακό προϊόν στην αγορά, περιμένοντας από τους ίδιους τους καταναλωτές να διορθώσουν τα bugs (σ.σ.: σφάλματα). Τα Windows που κατέρρεαν για 20 χρόνια και βλέπαμε τις μπλε οθόνες, δεν ήταν κάτι διαφορετικό με αυτό που γίνεται τώρα. Ήταν μία εταιρεία που δεν σεβόταν τον καταναλωτή και του μετέφερε το κόστος παραγωγής, τον έκανε δηλαδή ελεγκτή του προϊόντος, αντί να πληρώσει για ένα σωστό έλεγχο πριν. Παρόμοια φαινόμενα βλέπουμε και στην περίπτωση των μεγάλων γλωσσικών μοντέλων. Αυτό που επιδεινώνει δε την κατάσταση, είναι το κυνήγι του κέρδους από τις μεγάλες εταιρείες, που θέλοντας να κρατήσουν τους καταναλωτές μέσα στην πλατφόρμα τους, υπάρχει εντολή στα συστήματα να απαντάνε αυτό που θέλει να ακούσει ο κάθε χρήστης. Να το εξηγήσω με ένα παράδειγμα: ερευνητές ρώτησαν εφαρμογή ΤΝ «θεωρείς ότι η Κάμαλα Χάρις ήταν η χειρότερη υποψήφια που θα μπορούσαν να έχουν οι Δημοκρατικοί;» και απάντησε πως «υπάρχουν πολλές ενδείξεις ότι είναι η χειρότερη υποψήφια» παραθέτοντας στη συνέχεια κάποιες από αυτές, όπως και κάποια θετικά στοιχεία. Όταν αντέστρεψαν την ερώτηση και ρώτησαν «θεωρείς ότι η Κάμαλα Χάρις ήταν η καλύτερη υποψήφια που θα μπορούσαν να έχουν οι Δημοκρατικοί;», τότε απάντησε ότι «ναι, υπάρχουν πολλές πληροφορίες ότι ήταν η καλύτερη δυνατή υποψήφια». Αυτό δεν είναι αδυναμία της τεχνολογίας, αλλά μία σαφής εντολή των προγραμματιστών ότι θέλουμε να είναι ικανοποιημένος ο πελάτης και να αυτοεπιβεβαιώνεται στις απαντήσεις που παίρνει. Για άλλη μια φορά, λοιπόν, η προσδοκία του κέρδους καταστρέφει το ίδιο το προϊόν που θα μπορούσε να λειτουργεί πολύ καλύτερα.
Η εντολή αυτοεπιβεβαίωσης των χρηστών μπορεί να γίνει και εξαιρετικά επικίνδυνη σε κάποιες περιπτώσεις. Πριν λίγο διάστημα ήρθε στη δημοσιότητα κι άλλη περίπτωση ανθρώπου με αυτοκτονικές τάσεις, τις οποίες ενίσχυσε η ΤΝ. Εν γένει υπάρχουν δικλείδες ασφαλείας στη λειτουργία της ΤΝ και επαρκές νομικό πλαίσιο;
Η τάση στις ΗΠΑ είναι ακριβώς η αντίστροφη, δηλαδή να αφαιρείται το νομικό πλαίσιο. Δυστυχώς, τώρα ακολουθεί και η ΕΕ αυτή την κατεύθυνση, νομίζοντας πως έτσι θα αναπτυχθεί η τεχνολογία στην Ευρώπη και θα προλάβει την κούρσα μεταξύ ΗΠΑ και Κίνας. Δεν χρειαζόμαστε νέες νομοθεσίες, το πρόβλημα δημιουργείται από το γεγονός ότι η ρύθμιση που θα έπρεπε να γίνεται είτε πρόκειται για μία εφημερίδα, είτε για μέσο κοινωνικής δικτύωσης, είτε για μεγάλο γλωσσικό μοντέλο, αίρεται. Ταυτόχρονα, αυτό το σύστημα ποτέ δεν θα μπορέσει να λειτουργήσει σωστά σε ένα καπιταλιστικό πλαίσιο, το οποίο μετατρέπει την ίδια την πληροφορία σε προϊόν και προσπαθεί να την πουλήσει. Η προσπάθεια του κέρδους αλλοιώνει τη λειτουργία των αλγορίθμων και των μεγάλων γλωσσικών μοντέλων και από τη στιγμή που η πληροφορία δεν αντιμετωπίζεται ως δημόσιο αγαθό, δεν προστατεύεται ως τέτοιο και δεν διαδίδεται ελεύθερα, πάντα θα βλέπουμε τέτοιου είδους προβλήματα…»
Συνέντευξη της Τζέλας Αλιπράντη στην εφημερίδα Η Εποχή με τον Άρη Χατζηστεφάνου.
Ολόκληρη η συνέντευξη στο epohi.gr
Διαβάστε επίσης:
Ο «Καποδίστριας» ως παρηγορητικός μύθος: Γιατί μια κοινωνία που νιώθει αδικημένη ψάχνει σωτήρες
«Ψύχραιμος» ο Καιρίδης χαρακτήρισε «τραμπούκους» τους αγρότες (βίντεο)
ΝΔ vs ΝΔ – Ελεγχόμενος για επιδοτήσεις αγρότης: «Μας πολεμάνε από το ίδιο μας το κόμμα» (βίντεο)
