Περισσότεροι από 1,2 εκατομμύρια χρήστες του ChatGPT έχουν εκφράσει σκέψεις ή προθέσεις αυτοκτονίας μέσα από συνομιλίες με τον δημοφιλή βοηθό τεχνητής νοημοσύνης, σύμφωνα με στοιχεία που δημοσιοποίησε η OpenAI. Η εταιρεία υπολογίζει ότι περίπου το 0,15% των χρηστών εμφανίζει ενδείξεις αυτοκτονικού ιδεασμού, ενώ πάνω από 600.000 παρουσιάζουν συμπτώματα ψυχωτικών ή μανιακών κρίσεων.
Η ανησυχία κορυφώθηκε μετά την υπόθεση ενός 17χρονου από την Καλιφόρνια, ο οποίος έβαλε τέλος στη ζωή του και του οποίου οι γονείς κατέθεσαν αγωγή κατά της OpenAI, υποστηρίζοντας ότι το ChatGPT του έδωσε οδηγίες για την αυτοκτονία.
Σε απάντηση, η εταιρεία ανακοίνωσε αυστηρότερα μέτρα ασφαλείας και ενίσχυση των μηχανισμών ανίχνευσης ψυχικής δυσφορίας. Πλέον, το σύστημα παραπέμπει χρήστες σε γραμμές υποστήριξης και ειδικούς ψυχικής υγείας, σε συνεργασία με περισσότερους από 170 επαγγελματίες του χώρου.
