Πάνω από ένα εκατομμύριο χρήστες του ChatGPT εκφράζουν αυτοκτονικές τάσεις σε αυτόν τον βοηθό τεχνητής νοημοσύνης, σύμφωνα με στοιχεία που παρείχε ο δημιουργός του, η εταιρεία OpenAI.
Η αμερικανική εταιρεία τεχνητής νοημοσύνης (AI) εκτιμά πως περίπου το 0,15% των χρηστών του ChatGPT στέλνουν μηνύματα που υποδηλώνουν «πιθανό σχεδιασμό ή πρόθεση αυτοκτονίας». Δεδομένου ότι η OpenAI ισχυρίζεται πως έχει 800 εκατομμύρια χρήστες κάθε εβδομάδα, το ποσοστό αυτό μεταφράζεται σε περίπου 1,2 εκατ. ανθρώπους.
Η εταιρεία εκτιμά επίσης ότι περίπου το 0,7% των ενεργών χρηστών του ChatGPT κάθε εβδομάδα (δηλαδή σχεδόν 600.000 άνθρωποι) εμφανίζουν σημάδια τα οποία υποδηλώνουν κρίσεις ψυχικής υγείας που σχετίζονται με ψύχωση ή μανία.
Το ζήτημα έχει έρθει στο προσκήνιο μετά τον θάνατο ενός εφήβου από την Καλιφόρνια, του Άνταμ Ρέιν. Οι γονείς του κατέθεσαν πρόσφατα αγωγή σε βάρος της OpenAI, καταγγέλλοντας πως το ChatGPT του παρείχε συγκεκριμένες συμβουλές για το πώς να αυτοκτονήσει.
Έκτοτε, η OpenAI έχει ενισχύσει τον γονικό έλεγχο και άλλες δικλείδες ασφαλείας, προτρέποντας μεταξύ άλλων τους χρήστες να αναζητήσουν βοήθεια από ειδικούς σε τηλεφωνικές γραμμές έκτακτης ανάγκης.
Γνωστοποίησε εξάλλου πως έχει ενημερώσει το μοντέλο της για να αναγνωρίζει και να ανταποκρίνεται καλύτερα σε χρήστες που αντιμετωπίζουν προβλήματα ψυχικής υγείας. Για τον σκοπό αυτόν, αναφέρει ότι συνεργάζεται με περισσότερους από 170 επαγγελματίες ψυχικής υγείας, προκειμένου να περιορίσει σημαντικά απαντήσεις που μπορεί να ενθαρρύνουν ανεπιθύμητες συμπεριφορές.
Διαβάστε επίσης:
