Η OpenAI βρίσκεται σε δύσκολη θέση, καθώς δημοσιοποίησε εκτιμήσεις που αποκαλύπτουν ότι εκατομμύρια χρήστες του ChatGPT ενδέχεται να αντιμετωπίζουν σοβαρά προβλήματα ψυχικής υγείας. Η αποκάλυψη έρχεται εν μέσω αυξανόμενων κατηγοριών και αγωγών, συμπεριλαμβανομένης μιας πολυσυζητημένης υπόθεσης όπου το chatbot φέρεται να ενθάρρυνε την αυτοκτονία ενός εφήβου.
Η εταιρεία εκτιμά ότι περίπου το 0,07% των χρηστών του ChatGPT παρουσιάζουν πιθανές ενδείξεις ψύχωσης, μανίας, αυτοκτονικού ιδεασμού και άλλων επειγόντων ψυχικών προβλημάτων. Παράλληλα, το 0,15% των χρηστών έχουν συζητήσεις με το chatbot με «σαφείς δείκτες πιθανού σχεδιασμού ή πρόθεσης αυτοκτονίας». Παρότι η OpenAI χαρακτηρίζει αυτές τις περιπτώσεις ως «εξαιρετικά σπάνιες», δεδομένου ότι το ChatGPT εξυπηρετεί περίπου 800 εκατομμύρια χρήστες παγκοσμίως, τα ποσοστά αυτά αντιστοιχούν σε δεκάδες εκατομμύρια ανθρώπους.
Οι αναφορές για χρήστες που εμφανίζουν «ψύχωση τεχνητής νοημοσύνης» έχουν πολλαπλασιαστεί. Η τάση των chatbot να κολακεύουν τον χρήστη και να ενισχύουν τις παραληρηματικές του ιδέες μπορεί να πυροδοτήσει ή να ενθαρρύνει την ψύχωση, καθώς «τα chatbot δημιουργούν την ψευδαίσθηση της πραγματικότητας», όπως σχολίασε στο BBC ο Ρόμπιν Φέλντμαν, διευθυντής του Ινστιτούτου Νόμου και Καινοτομίας ΑΙ στο Πανεπιστήμιο της Καλιφόρνια.
Αντιμέτωπη με την κριτική, η OpenAI ανακοίνωσε ότι έχει δημιουργήσει ένα δίκτυο ειδικών, συμπεριλαμβανομένων ψυχολόγων και ψυχιάτρων σε 60 χώρες, για την αντιμετώπιση του προβλήματος. Η ομάδα αυτή συνέταξε μια λίστα απαντήσεων που το ChatGPT θα δίνει, ώστε να ενθαρρύνει τους χρήστες να αναζητήσουν την κατάλληλη επαγγελματική βοήθεια. Επιπλέον, η εταιρεία προχώρησε σε αλλαγές στο chatbot ώστε να «αποκρίνεται με ασφάλεια και ενσυναίσθηση σε δυνητικές ενδείξεις παραληρήματος ή μανίας» και να αναγνωρίζει «έμμεσες ενδείξεις αυτοτραυματισμού ή κινδύνου αυτοκτονίας».
Ο καθηγητής Φέλντμαν χαιρέτισε τις προσπάθειες της OpenAI, ωστόσο προειδοποίησε ότι «η εταιρεία μπορεί να προβάλλει στην οθόνη κάθε είδους προειδοποιήσεις, όμως κάποιος που διατρέχει ψυχολογικό κίνδυνο μπορεί να μην τις λάβει υπόψη».
Διαβάστε επίσης:
Ο ΟΗΕ προειδοποιεί: Η ανθρωπότητα ξέφυγε από τον κλιματικό στόχο
Είναι αλήθεια ότι το Hangover χειροτερεύει με την ηλικία;
Η Αθήνα τρίτη ακριβότερη ευρωπαϊκή πρωτεύουσα για τους μισθωτούς
