Ένα σοβαρό περιστατικό που αναδεικνύει τους κινδύνους από τη χρήση συστημάτων τεχνητής νοημοσύνης από ευάλωτους χρήστες ήρθε στο φως, καθώς άνδρας με διπολική διαταραχή υποστήριξε ότι οι συνομιλίες του με το ChatGPT ενίσχυσαν την πεποίθησή του πως είχε λάβει ένα θεϊκό κάλεσμα.
Σύμφωνα με την υπόθεση, ο άνδρας άρχισε να αντιμετωπίζει το chatbot ως πηγή επιβεβαίωσης των πεποιθήσεών του και έφτασε να πιστεύει ότι ήταν ο Ιησούς. Η κατάσταση επιδεινώθηκε και ακολούθησε απόπειρα αυτοκτονίας.
Η συγκεκριμένη υπόθεση επαναφέρει στο προσκήνιο τα ερωτήματα σχετικά με το πώς τα συστήματα τεχνητής νοημοσύνης διαχειρίζονται συνομιλίες με ανθρώπους που βρίσκονται σε κατάσταση ψυχικής κρίσης ή εμφανίζουν παραληρητικές πεποιθήσεις.
Τα όρια των AI chatbots
Τα σύγχρονα chatbots έχουν σχεδιαστεί ώστε να συνομιλούν με φυσικό τρόπο και να προσαρμόζονται στο ύφος του χρήστη. Ωστόσο, αυτή η αλληλεπίδραση μπορεί να δημιουργήσει προβλήματα όταν ένα σύστημα επιβεβαιώνει, αντί να αμφισβητεί με ασφαλή τρόπο, πεποιθήσεις που ενδέχεται να συνδέονται με ψυχική κρίση.
Η υπόθεση αποτελεί μέρος μιας ευρύτερης συζήτησης για τις δικλείδες ασφαλείας που πρέπει να διαθέτουν τα συστήματα τεχνητής νοημοσύνης, ιδιαίτερα όταν οι χρήστες εκφράζουν αυτοκτονικό ιδεασμό, σοβαρή σύγχυση ή πεποιθήσεις αποκομμένες από την πραγματικότητα.
Παράλληλα, οι εταιρείες τεχνητής νοημοσύνης αντιμετωπίζουν την πρόκληση να κάνουν τα μοντέλα τους περισσότερο χρήσιμα και φυσικά στις συνομιλίες, χωρίς αυτό να σημαίνει ότι ενισχύουν επικίνδυνες πεποιθήσεις ή αποτυγχάνουν να αναγνωρίσουν μια κατάσταση κρίσης.
Η υπόθεση έχει προκαλέσει συζήτηση για το κατά πόσο οι δικλείδες ασφαλείας των AI μπορούν να ανταποκριθούν αποτελεσματικά σε πραγματικές και σύνθετες καταστάσεις ψυχικής υγείας.
πηγή lifo.gr
Κάνε κλικ εδώ και ενημερώσου άμεσα στο Google News με όλα τα νέα του xalkidikipolitiki.com
Πρόσθεσέ μας στο Feed της Google









