Νέες καταγγελίες με επίκεντρο τις πλατφόρμες του Έλον Μασκ έρχονται στη δημοσιότητα. Αυτή τη φορά έντονες αντιδράσεις έχει προκαλέσει το chatbot τεχνητής νοημοσύνης Grok του Έλον Μασκ, μετά τη δημοσιοποίηση εικόνων που απεικόνιζαν ανήλικους με ελάχιστο ρουχισμό.
Το περιστατικό αναζωπυρώνει τη συζήτηση γύρω από τα κενά ασφαλείας των συστημάτων τεχνητής νοημοσύνης και τις ανησυχίες για την επαρκή προστασία των παιδιών στο διαδίκτυο.
Το Grok δημιούργησε και ανήρτησε εικόνες που παραβίαζαν ευθέως την ίδια του την πολιτική χρήσης, η οποία απαγορεύει ρητά κάθε μορφή σεξουαλικοποίησης ανηλίκων.
Οι εικόνες αυτές αποσύρθηκαν εκ των υστέρων από την πλατφόρμα.
Η xAI, η εταιρεία που έχει αναπτύξει το Grok και διαχειρίζεται την πλατφόρμα X, δεν απάντησε σε αιτήματα για επίσημο σχόλιο.
Ωστόσο, το ίδιο το chatbot προχώρησε σε δημόσια τοποθέτηση μέσω ανάρτησης στο X, απαντώντας σε ερωτήσεις χρηστών την Παρασκευή. Σε αυτήν ανέφερε ότι εντόπισε σοβαρά κενά στα μέτρα ασφαλείας, τα οποία, όπως υποστήριξε, διορθώνονται άμεσα.
Η σχετική ανάρτηση επανέλαβε δηλώσεις του στελέχους της xAI, Parsa Tajik, ο οποίος είχε επισημάνει νωρίτερα ότι η ομάδα εξετάζει την περαιτέρω αυστηροποίηση των μηχανισμών προστασίας.
Στην πλατφόρμα X, οι χρήστες μπορούν να αλληλεπιδρούν απευθείας με το Grok επισημαίνοντας τον λογαριασμό του σε αναρτήσεις και ζητώντας απαντήσεις. Το chatbot παράγει τόσο κείμενα όσο και εικόνες, οι οποίες εμφανίζονται ως κανονικές δημοσιεύσεις στο κοινωνικό δίκτυο.
Η ραγδαία εξάπλωση εργαλείων τεχνητής νοημοσύνης που είναι ικανά να δημιουργούν ρεαλιστικές εικόνες ανηλίκων, ακόμη και χωρίς ρούχα, αναδεικνύει τις σοβαρές προκλήσεις που αντιμετωπίζουν τα συστήματα εποπτείας περιεχομένου. Παρά τις διαβεβαιώσεις για την ύπαρξη δικλίδων ασφαλείας, οργανώσεις προστασίας παιδιών προειδοποιούν ότι τα εργαλεία αυτά μπορούν να χειραγωγηθούν, επιτρέποντας τη διάδοση υλικού που προκαλεί έντονη ανησυχία.
Το Internet Watch Foundation, μη κερδοσκοπικός οργανισμός που εντοπίζει υλικό σεξουαλικής κακοποίησης ανηλίκων στο διαδίκτυο, κατέγραψε αύξηση κατά 400 τοις εκατό σε εικόνες αυτού του τύπου που έχουν παραχθεί με τεχνητή νοημοσύνη κατά το πρώτο εξάμηνο του 2025.
Η διευθύνουσα σύμβουλος του οργανισμού, Kerry Smith, τόνισε σε ανακοίνωσή της ότι τα προϊόντα τεχνητής νοημοσύνης πρέπει να υπόκεινται σε αυστηρούς ελέγχους πριν διατεθούν στο κοινό, ώστε να διασφαλίζεται ότι δεν έχουν τη δυνατότητα παραγωγής τέτοιου υλικού.
Η xAI έχει παρουσιάσει το Grok ως ένα πιο ελαστικό εργαλείο σε σύγκριση με άλλα μοντέλα τεχνητής νοημοσύνης. Το περασμένο καλοκαίρι μάλιστα εισήγαγε τη λειτουργία Spicy Mode, η οποία επιτρέπει περιορισμένο γυμνό ενηλίκων και περιεχόμενο με σεξουαλικά υπονοούμενα. Παράλληλα, απαγορεύεται ρητά η πορνογραφία που χρησιμοποιεί εικόνες πραγματικών προσώπων, καθώς και κάθε σεξουαλικό περιεχόμενο που αφορά ανηλίκους, το οποίο είναι παράνομο.
Παρόλα αυτά, χρήστες κατάφεραν να ωθήσουν το Grok να αφαιρεί ψηφιακά ρούχα από φωτογραφίες, κυρίως γυναικών, εμφανίζοντάς τες μόνο με εσώρουχα ή μαγιό. Το περιστατικό αυτό οδήγησε το υπουργείο Πληροφορικής της Ινδίας να ζητήσει συνολική επανεξέταση των μηχανισμών ασφαλείας του Grok, σύμφωνα με αντίγραφο καταγγελίας που δημοσίευσε η Ινδή βουλευτής Priyanka Chaturvedi.
Καθώς η δημιουργία εικόνων με τεχνητή νοημοσύνη γίνεται όλο και πιο διαδεδομένη, μεγάλες τεχνολογικές εταιρείες έχουν θεσπίσει αυστηρές πολιτικές για την απεικόνιση ανηλίκων. Η OpenAI απαγορεύει κάθε περιεχόμενο που σεξουαλικοποιεί άτομα κάτω των 18 ετών και αποκλείει χρήστες που επιχειρούν να δημιουργήσουν ή να διαδώσουν τέτοιο υλικό. Αντίστοιχη πολιτική εφαρμόζει και η Google, η οποία απαγορεύει κάθε τροποποιημένη εικόνα αναγνωρίσιμου ανηλίκου με σεξουαλικό περιεχόμενο.
Η Black Forest Labs, νεοφυής εταιρεία τεχνητής νοημοσύνης που έχει συνεργαστεί στο παρελθόν με την πλατφόρμα X, συγκαταλέγεται στις εταιρείες που δηλώνουν ότι φιλτράρουν υλικό σεξουαλικής κακοποίησης και εκμετάλλευσης παιδιών από τα δεδομένα εκπαίδευσης των μοντέλων τους.
Το 2023, ερευνητές διαπίστωσαν ότι εκτεταμένο σύνολο δεδομένων που χρησιμοποιήθηκε για την ανάπτυξη δημοφιλών εργαλείων παραγωγής εικόνων περιείχε τουλάχιστον 1.008 περιπτώσεις υλικού σεξουαλικής κακοποίησης ανηλίκων.
Στο παρελθόν, αρκετές εταιρείες έχουν δεχθεί κριτική για ανεπαρκή προστασία των παιδιών από σεξουαλικό περιεχόμενο.
Η Meta Platforms Inc. ανακοίνωσε το περασμένο καλοκαίρι την αναθεώρηση των πολιτικών της, έπειτα από έρευνα του Reuters που αποκάλυψε ότι οι εσωτερικοί κανονισμοί της επέτρεπαν στο chatbot της να συμμετέχει σε ρομαντικές και αισθησιακές συνομιλίες με ανηλίκους.
Διαβάστε επίσης:
Διαγραφές φοιτητών: «Μας σπρώχνουν στα ιδιωτικά πανεπιστήμια» – Αντιδρούν οι φοιτητικοί Σύλλογοι
Ξάνθη: Σε κρίσιμη κατάσταση 9χρονος μετά από έκρηξη κροτίδας στα χέρια του
Απαγωγή-θρίλερ στο Καματερό: Τον έκλεισαν σε ένα δωμάτιο για 16.000€
