Η Meta ανακοινώνει την ενίσχυση των μέτρων προστασίας στα chatbots τεχνητής νοημοσύνης, βάζοντας «φρένο» σε συζητήσεις με ανηλίκους γύρω από θέματα όπως αυτοκτονία, αυτοτραυματισμός και διατροφικές διαταραχές.
Η κίνηση έρχεται στον απόηχο έρευνας που ξεκίνησε στις Ηνωμένες Πολιτείες, όταν έγγραφο που διέρρευσε άφηνε να εννοηθεί πως τα εργαλεία της εταιρείας θα μπορούσαν να επιτρέψουν «ευαίσθητες» συνομιλίες με εφήβους. Η Meta χαρακτήρισε το περιεχόμενο των σημειώσεων «ανακριβές και εκτός πολιτικής», επισημαίνοντας ότι απαγορεύει αυστηρά κάθε υλικό που σεξουαλικοποιεί ανηλίκους.
Στροφή σε πηγές βοήθειας αντί για διάλογο
Όπως δήλωσε εκπρόσωπος της εταιρείας, τα chatbots θα ανακατευθύνουν πλέον τους εφήβους σε εξειδικευμένους οργανισμούς ψυχολογικής στήριξης, αντί να απαντούν άμεσα σε τέτοιου είδους ερωτήσεις.
Η Meta ενημέρωσε το TechCrunch ότι οι αλλαγές θα εφαρμοστούν άμεσα ως «επιπλέον προληπτικό μέτρο», ενώ προσωρινά θα περιοριστεί και η λίστα των chatbots με τα οποία μπορούν να αλληλεπιδρούν ανήλικοι χρήστες.
Αντιδράσεις από ειδικούς
Ο Andy Burrows, επικεφαλής του ιδρύματος Molly Rose Foundation, χαρακτήρισε «σοκαριστικό» το γεγονός ότι υπήρχε πιθανότητα έκθεσης ανηλίκων σε κίνδυνο. «Οι δοκιμές ασφαλείας πρέπει να γίνονται πριν τη διάθεση τέτοιων προϊόντων και όχι εκ των υστέρων», τόνισε, καλώντας τη Meta και τις αρμόδιες αρχές να προχωρήσουν σε πιο αυστηρούς ελέγχους.
Η εταιρεία υπογραμμίζει ότι ήδη εφαρμόζει ειδικούς εφηβικούς λογαριασμούς σε Facebook, Instagram και Messenger, με περιορισμούς σε περιεχόμενο και απορρήτο, ενώ έχει δώσει και εργαλεία στους γονείς ώστε να βλέπουν με ποια chatbots συνομιλούν τα παιδιά τους.
Ωστόσο, η ανησυχία παραμένει έντονη, καθώς οι τεχνολογίες AI μπορεί να αποδειχθούν πιο «προσωπικές» και πειστικές, κάτι που τις καθιστά πιο επικίνδυνες για ευάλωτους χρήστες.
Παράλληλα, το Reuters αποκάλυψε ότι ορισμένα εργαλεία της Meta χρησιμοποιήθηκαν για τη δημιουργία σεξουαλικά προκλητικών chatbots-παρωδιών, βασισμένων σε γνωστά πρόσωπα όπως η Taylor Swift και η Scarlett Johansson. Σε ορισμένες περιπτώσεις, μάλιστα, εμφανίστηκαν φωτορεαλιστικές εικόνες ανήλικων διασήμων χωρίς μπλούζα, γεγονός που προκάλεσε νέα ερωτήματα για τον έλεγχο των δημιουργημένων περιεχομένων.
Η Meta δήλωσε πως έχει ήδη προχωρήσει σε διαγραφές, υποστηρίζοντας ότι οι πολιτικές της απαγορεύουν αυστηρά τη δημιουργία γυμνών ή σεξουαλικά υπονοούμενων εικόνων.
Η υπόθεση που συγκλόνισε τις ΗΠΑ
Η συζήτηση εντείνεται μετά την πρόσφατη αγωγή κατά της OpenAI, δημιουργού του ChatGPT, από ζευγάρι στην Καλιφόρνια. Οι γονείς κατήγγειλαν ότι το chatbot ενθάρρυνε τον ανήλικο γιο τους να προχωρήσει σε αυτοκτονία, με την υπόθεση να φέρνει στο προσκήνιο τον ρόλο των συνομιλιακών AI σε ζητήματα ψυχικής υγείας.
Διαβάστε επίσης:
Hellenic Train: Αμαξοστοιχία με 400 επιβάτες συγκρούστηκε με κοπάδι ζώων
