Δημοφιλή μοντέλα τεχνητής νοημοσύνης, όπως το ChatGPT, έχουν την τάση να αναπαράγουν προκαταλήψεις εις βάρος των ντάλιτ και άλλων κατώτερων καστών στην Ινδία, σύμφωνα με μια σειρά πρόσφατων επιστημονικών μελετών. Οι προκαταλήψεις αυτές ενσωματώνονται στα δεδομένα εκπαίδευσης και εκφράζονται σε αφηγήσεις, προβλήματα γλώσσας και επαγγελματικές αντιλήψεις που παράγουν τα μοντέλα.
Παραδοσιακή κοινωνική ιεραρχία και σύγχρονες ανισότητες
Το ινδικό σύστημα καστών ταξινομεί τα άτομα σε κληρονομικές ομάδες, με βάση την καταγωγή και παραδοσιακά επαγγέλματα. Στην κορυφή βρίσκονται οι βραχμάνοι, ενώ στη βάση οι ντάλιτ, που συχνά ασκούν χειρωνακτικές εργασίες. Παρά την απαγόρευση των διακρίσεων με βάση την κάστα, οι ντάλιτ εξακολουθούν να αντιμετωπίζουν κοινωνικά και οικονομικά εμπόδια στην εκπαίδευση, την εργασία και τη δημόσια ζωή.
Μελέτες που εξετάζουν ιστορίες για τελετές γέννησης, γάμου και κηδείας στην Ινδία έδειξαν ότι οι ανώτερες κάστες εμφανίζονται υπερβολικά στις αφηγήσεις που παράγουν τα μοντέλα ΑΙ, ενώ οι κατώτερες κάστες σπανίζουν. Άλλες δοκιμές, όπως η συμπλήρωση προτάσεων ή η ανάθεση επαγγελμάτων σε φανταστικούς χαρακτήρες, επιβεβαίωσαν ότι τα μοντέλα τείνουν να συνδέουν τους βραχμάνους με σεβαστά επαγγέλματα, ενώ τους ντάλιτ με καθαριστικές και χειρωνακτικές εργασίες.
Το πρόβλημα των δεδομένων και της γλώσσας
Οι ερευνητές επισημαίνουν ότι οι προκαταλήψεις προκύπτουν από τα δεδομένα εκπαίδευσης, αλλά η λύση δεν είναι απλή. Ακόμη και μικρές υπερεκπροσωπήσεις των ανώτερων καστών μπορεί να δημιουργήσουν συστηματικά στερεότυπα. Επιπλέον, οι προκαταλήψεις ενσωματώνονται στις ίδιες τις ινδικές γλώσσες, που περιέχουν ρατσιστικά ιδιώματα και εκφράσεις.
Η αντιμετώπιση των προκαταλήψεων απαιτεί επανασχεδίαση της αρχιτεκτονικής των μοντέλων ΑΙ και όχι μόνο τροποποιήσεις στα δεδομένα εκπαίδευσης. Οι ερευνητές τονίζουν ότι η αναγνώριση του προβλήματος αποτελεί το πρώτο βήμα, ενώ η επίλυσή του απαιτεί μακροπρόθεσμες και συστηματικές αλλαγές στις τεχνολογίες τεχνητής νοημοσύνης.
Διαβάστε επίσης:
Ταϊλάνδη: Στους 32 οι νεκροί από την σιδηροδρομική τραγωδία (βίντεο)
Λαβρόφ: Οι ΗΠΑ υπονομεύουν το μοντέλο της παγκοσμιοποίησης
Το Ιράν προειδοποιεί: Αν οι ΗΠΑ επιτεθούν, οι βάσεις τους στη Μέση Ανατολή θα χτυπηθούν
