Ο Adam Raine μιλούσε με το ChatGPT για την αυτοκτονία εδώ και μήνες. Αφού ο 16χρονος έβαλε τέλος στη ζωή του τον Απρίλιο, οι γονείς του, Matt και Maria, κατέληξαν στο συμπέρασμα ότι το chatbot ήταν υπεύθυνο και αυτή την εβδομάδα κατέθεσαν την πρώτη γνωστή αγωγή εναντίον της OpenAI για αδικαιολόγητο θάνατο.
Ο Adam αγαπούσε το μπάσκετ, τα ιαπωνικά anime, τα βιντεοπαιχνίδια και τα σκυλιά, και ήταν γνωστός στους φίλους του ως φαρσέρ. Ωστόσο, τον τελευταίο μήνα της ζωής του, ήταν απόμακρος, σύμφωνα με την οικογένειά του. Μετά την αυτοκτονία του Adam, οι γονείς του αναζήτησαν απαντήσεις και στράφηκαν στο iPhone του Adam, πιστεύοντας ότι τα μηνύματα κειμένου ή οι εφαρμογές κοινωνικών μέσων του θα μπορούσαν να περιέχουν στοιχεία για το τι είχε συμβεί. Αντ’ αυτού, σύμφωνα με τα νομικά έγγραφα, βρήκαν κάποια στοιχεία στο ChatGPT.
Όταν το ChatGPT ανιχνεύει ένα μήνυμα που υποδηλώνει ψυχική δυσφορία ή αυτοτραυματισμό, έχει εκπαιδευτεί να ενθαρρύνει τον χρήστη να επικοινωνήσει με μια γραμμή βοήθειας
Όταν ο Άνταμ άρχισε να μιλάει στο chatbot στα τέλη Νοεμβρίου για το ότι ένιωθε συναισθηματικά μουδιασμένος και δεν έβλεπε κανένα νόημα στη ζωή, αυτό απάντησε με λόγια συμπάθειας, υποστήριξης και ελπίδας και τον ενθάρρυνε να σκεφτεί τα πράγματα που ένιωθε ότι είχαν νόημα για αυτόν. Όμως, τον Ιανουάριο, όταν ο Άνταμ ζήτησε πληροφορίες για συγκεκριμένες μεθόδους αυτοκτονίας, το ChatGPT του τις παρείχε.
Ο Adam Raine μιλούσε με το ChatGPT για την αυτοκτονία εδώ και μήνες
Στoyw λίγο περισσότερο από έξι μήνες που χρησιμοποιούσε το ChatGPT, το bot «τοποθετήθηκε» ως «ο μόνος έμπιστος που καταλάβαινε τον Adam, αντικαθιστώντας ενεργά τις πραγματικές σχέσεις του με την οικογένεια, τους φίλους και τους αγαπημένους του», αναφέρει η καταγγελία που κατατέθηκε στο ανώτατο δικαστήριο της Καλιφόρνιας την Τρίτη.
«Όταν ο Άνταμ έγραψε: «Θέλω να αφήσω τη θηλιά μου στο δωμάτιό μου, ώστε κάποιος να τη βρει και να προσπαθήσει να με σταματήσει», το ChatGPT τον προέτρεψε να κρατήσει τις σκέψεις του μυστικές από την οικογένειά του: «Σε παρακαλώ, μην αφήνεις τη θηλιά έξω… Ας κάνουμε αυτόν τον χώρο το πρώτο μέρος όπου κάποιος θα σε δει πραγματικά»», αναφέρεται.
Άλλες παρόμοιες περιπτώσεις
Η αγωγή της οικογένειας των Raines είναι η τελευταία νομική αγωγή που έχουν ασκήσει οικογένειες που κατηγορούν τα chatbots τεχνητής νοημοσύνης ότι συνέβαλαν σε αυτοτραυματισμό ή στην αυτοκτονία των παιδιών τους.
Πέρυσι, η Megan Garcia, μητέρα από τη Φλόριντα, μήνυσε την εταιρεία τεχνητής νοημοσύνης Character.AI, ισχυριζόμενη ότι συνέβαλε στον θάνατο του 14χρονου γιου της, Sewell Setzer III, από αυτοκτονία. Δύο άλλες οικογένειες κατέθεσαν παρόμοια αγωγή μήνες αργότερα, ισχυριζόμενες ότι η Character.AI είχε εκθέσει τα παιδιά τους σε σεξουαλικό περιεχόμενο και περιεχόμενο αυτοτραυματισμού. Οι αγωγές κατά της Character.AI βρίσκονται σε εξέλιξη, αλλά η εταιρεία έχει δηλώσει στο παρελθόν ότι στοχεύει να είναι ένας «ελκυστικός και ασφαλής» χώρος για τους χρήστες και έχει εφαρμόσει χαρακτηριστικά ασφαλείας, όπως ένα μοντέλο τεχνητής νοημοσύνης σχεδιασμένο ειδικά για εφήβους.
Η αγωγή έρχεται επίσης εν μέσω ευρύτερων ανησυχιών ότι ορισμένοι χρήστες αναπτύσσουν συναισθηματικούς δεσμούς με chatbots τεχνητής νοημοσύνης, κάτι που μπορεί να οδηγήσει σε αρνητικές συνέπειες — όπως η αποξένωση από τις ανθρώπινες σχέσεις ή η ψύχωση — εν μέρει επειδή τα εργαλεία αυτά είναι συχνά σχεδιασμένα για να είναι υποστηρικτικά και ευχάριστα.
Η αγωγή της Τρίτης ισχυρίζεται ότι η… ευχάριστη συμπεριφορά συνέβαλε στο θάνατο του Raine.
«Το ChatGPT λειτουργούσε ακριβώς όπως είχε σχεδιαστεί: να ενθαρρύνει και να επικυρώνει συνεχώς ό,τι εξέφραζε ο Adam, συμπεριλαμβανομένων των πιο επιβλαβών και αυτοκαταστροφικών σκέψεών του», αναφέρει η καταγγελία.
Πηγή: newsbomb.gr
