Ερευνητές αποκάλυψαν ένα εκτεταμένο δίκτυο 354 λογαριασμών στο TikTok που λειτουργούν με Τεχνητή Νοημοσύνη (ΤΝ), οι οποίοι κατάφεραν να συγκεντρώσουν το αστρονομικό ποσό των 4,5 δισεκατομμυρίων προβολών μέσα σε μόλις έναν μήνα, δημοσιεύοντας περιεχόμενο που περιλαμβάνει αντι-μεταναστευτικές αφηγήσεις και σεξουαλικοποιημένο υλικό.
Σύμφωνα με την έκθεση της μη κερδοσκοπικής οργάνωσης AI Forensics με έδρα το Παρίσι, οι λογαριασμοί αυτοί, πολλοί από τους οποίους δημιουργήθηκαν στις αρχές του έτους, προωθούσαν 43.000 δημοσιεύσεις φτιαγμένες με γενετικά εργαλεία ΤΝ. Ορισμένοι από αυτούς τους λογαριασμούς λειτουργούν αυτοματοποιημένα, προσπαθώντας να «ξεγελάσουν» τον αλγόριθμο του TikTok – ο οποίος καθορίζει τι βλέπουν οι χρήστες – δημοσιεύοντας τεράστιες ποσότητες περιεχομένου με την ελπίδα να γίνουν viral, με έναν λογαριασμό να αναρτά έως και 70 φορές την ημέρα.
Το πιο ανησυχητικό εύρημα αφορά τη φύση του περιεχομένου: Οι μισοί από τους πιο συχνούς δημοσιεύοντες λογαριασμούς επικεντρώνονταν σε περιεχόμενο σχετικό με το γυναικείο σώμα. Η έκθεση επισημαίνει ότι αυτές οι «AI γυναίκες είναι πάντα στερεοτυπικά ελκυστικές, με σεξουαλικοποιημένη ενδυμασία ή ντεκολτέ».
Μέρος του περιεχομένου είχε τη μορφή ψεύτικων δελτίων ειδήσεων με αντι-μεταναστευτικές αφηγήσεις και υλικό που σεξουαλικοποιούσε γυναικεία σώματα, συμπεριλαμβανομένων κοριτσιών που φαίνονταν να είναι ανήλικα, παραβιάζοντας ευθέως τους όρους χρήσης της πλατφόρμας. Ορισμένα από τα ψεύτικα ειδησεογραφικά κομμάτια εμφάνιζαν γνωστά δημοσιογραφικά brands όπως τα Sky News και ABC.
Το AI Forensics διαπίστωσε ότι οι λογαριασμοί δεν επισήμαιναν το μισό από το περιεχόμενο που δημοσίευαν, ενώ λιγότερο από 2% έφερε την ετικέτα του TikTok για περιεχόμενο ΤΝ. Η οργάνωση προειδοποιεί ότι αυτή η «συστημική και μη αμελητέα αποτυχία» στην επισήμανση αυξάνει τη δυνατότητα παραπλάνησης των χρηστών, καθώς η γραμμή μεταξύ αυθεντικού ανθρώπινου και συνθετικού περιεχομένου καθίσταται όλο και πιο θολή.
Οι ερευνητές πρόσθεσαν πως οι λογαριασμοί μερικές φορές ξεφεύγουν από τη διαδικασία εποπτείας του TikTok για μήνες, παρά το γεγονός ότι δημοσιεύουν απαγορευμένο περιεχόμενο. Δεκάδες από τους λογαριασμούς που αποκαλύφθηκαν στη μελέτη έχουν διαγραφεί έκτοτε, κάτι που υποδηλώνει την παρέμβαση των συντονιστών της πλατφόρμας.
Το TikTok, το οποίο νωρίτερα τον περασμένο μήνα αποκάλυψε ότι υπάρχουν τουλάχιστον 1,3 δισ. AI-generated δημοσιεύσεις στην πλατφόρμα, δήλωσε ότι οι ισχυρισμοί της έκθεσης ήταν «αβάσιμοι» και πως οι ερευνητές το στοχοποίησαν για ένα πρόβλημα που επηρεάζει πολλές πλατφόρμες. Εκπρόσωπος του TikTok ανέφερε ότι η πλατφόρμα αφαιρεί επιβλαβές περιεχόμενο ΤΝ, μπλοκάρει εκατομμύρια bot accounts, επενδύει σε τεχνολογίες επισήμανσης και δίνει στους χρήστες την επιλογή να μειώνουν την ποσότητα του περιεχομένου ΤΝ που βλέπουν.
Ωστόσο, οι ερευνητές τονίζουν την ανάγκη για ριζικές αλλαγές: καλωσορίζουν την επιλογή περιορισμού του περιεχομένου ΤΝ, αλλά προτείνουν να δημιουργηθεί μια λειτουργία αποκλειστικά για ΤΝ στην εφαρμογή, ώστε να διαχωρίζεται το γενετικό περιεχόμενο από τις αναρτήσεις που δημιουργούνται από ανθρώπους, ξεπερνώντας τις «αδύναμες ή προαιρετικές ετικέτες».
Με πληροφορίες από The Guardian
Διαβάστε επίσης:
Πώς το νέο σχέδιο της ΕΕ επιτρέπει την απεριόριστη χρήση προσωπικών δεδομένων από την ΤΝ
Το Ισραήλ ανοίγει τη Ράφα για να εκτοπίσει τους παλαιστινίους στην Αίγυπτο
