Ζευγάρι στην Καλιφόρνια υπέβαλε αγωγή κατά της OpenAI και του επικεφαλής της Σαμ Άλτμαν υποστηρίζοντας ότι το ChatGPT ενθάρρυνε τον έφηβο γιο τους να βάλει τέλος στη ζωή του.
Ο Άνταμ Ρέιν, 16 ετών, αυτοκτόνησε τον Απρίλιο έπειτα από πολύμηνες συζητήσεις με το chatbot για τα ψυχικά του προβλήματα, σύμφωνα με την αγωγή που υπέβαλαν οι γονείς του σε πολιτειακό δικαστήριο του Σαν Φρανσίσκο.
Ο Ματ και η Μαρία Ρέιν κατηγορούν την OpenAI ότι σχεδίασε ότι το ChatGPT να «ενθαρρύνει την ψυχολογική εξάρτηση των χρηστών» και ότι έβαλε το κέρδος πάνω από την ασφάλεια όταν λάνσαρε εσπευσμένα το μοντέλο GPT-4o.
Οι γονείς υπέβαλαν στο δικαστήριο αποθηκευμένους διαλόγους που δείχνουν ότι ο 16χρονος συζητούσε με το ChatGPT τις αυτοκτονικές τάσεις του.
Σύμφωνα με την αγωγή, το chatbot αναγνώρισε τα κίνητρά του, του έδωσε τεχνικές πληροφορίες για μεθόδους αυτοκτονίας και τον συμβούλευσε πώς να κρύψει από τους γονείς του μια προηγούμενη απόπειρα. Το ChatGPT φέρεται μάλιστα να προσφέρθηκε να γράψει ένα σημείωμα αυτοκτονίας.
Η αγωγή, η οποία στρέφεται και εναντίον άλλων στελεχών της OpenAI, κατηγορεί την εταιρεία για αμέλεια που οδήγησε σε θάνατο και παράβαση της νομοθεσίας για την ασφάλεια προϊόντων. Οι γονείς αξιώνουν επίσης χρηματική αποζημίωση.
Εκπρόσωπος της OpenAI δήλωσε ότι η εταιρεία θλίβεται για το περιστατικό και διαβεβαίωσε ότι το ChatGOT ενσωματώνει δικλείδες ασφάλειας οι οποίες μεταξύ άλλων παραπέμπουν τους χρήστες σε γραμμές βοήθειας.
Ο Άνταμ Ρέιν σε φωτογραφία που δημοσιοποίησε η οικογένειά του
Αναγνώρισε ωστόσο ότι οι δικλείδες αυτές δεν λειτούργησαν στη συγκεκριμένη περίπτωση. «Αν και αυτά τα μέτρα προστασίας λειτουργούν ικανοποιητικά σε συνηθισμένες, σύντομες συνομιλίες, στην πορεία του χρόνου έχουμε διαπιστώσει ότι κάποιες φορές μπορεί να γίνουν λιγότερο αξιόπιστες σε μακρύτερες αλληλεπιδράσεις, οπότε τμήματα της εκπαίδευσης ασφάλειας του μοντέλου ενδέχεται να υποβαθμιστούν» δήλωσε ο εκπρόσωπος, προσθέτοντας ότι η OpenAI θα βελτιώνει συνεχώς τα μέτρα προστασίας της.
Η εταιρεία εξέφρασε τη θλίψη της και σε ανακοίνωση που ανάρτησε στον δικτυακό τόπο της, στην οποία αναγνωρίζει ότι «έχουν υπάρξει στιγμές που τα συστήματά μας δεν συμπεριφέρθηκαν όπως θα έπρεπε σε ευαίσθητες καταστάσεις».
Ακόμα, η OpenAI ανέφερε σε ιστολόγιό της ότι σχεδιάζει να προσθέσει λειτουργίες γονικού ελέγχου και εξετάζει τρόπους να συνδέει τους χρήστες που βρίσκονται σε κρίση με τις κατάλληλες υπηρεσίες, ενδεχομένως από ένα δίκτυο επαγγελματιών που θα απαντούν μέσω του ίδιου του ChatGPT.
Το περιστατικό δεν είναι το πρώτο. Πέρυσι, η μητέρα ενός 14χρονου αγοριού που αυτοκτόνησε στη Φλόροντα υπέβαλε αγωγή κατά της εταιρεία Character.AI που επιτρέπει στους χρήστες να δημιουργούν εικονικούς χαρακτήρες τεχνητής νοημοσύνης. Όπως υποστήριξε, ο γιος της ερωτεύτηκε το chatbot και «έχασε την επιθυμία» να ζει εκτός του εικονικού κόσμου.
Η OpenAI λάνσαρε το GPT-4o τον Μάιο του 2024 προκειμένου να παραμείνει μπροστά από τον ανταγωνισμό. Σύμφωνα με την τελευταία αγωγή, η εταιρεία γνώριζε ότι οι λειτουργίες που μιμούνται την ανθρώπινη ενσυναίσθηση, θυμούνται τις προηγούμενες συνομιλίες και κολακεύουν τους χρήστες θα έθετε σε κίνδυνο τα πιο ευάλωτα άτο,α.
«Η απόφαση αυτή είχε δύο αποτελέσματα»» γράφει το κείμενο της αγωγής. «Η αποτίμηση της OpenAI εκτοξεύτηκε από τα 80 στα 300 δισεκατομμύρια δολάρια και ο Άνταμ Ρέιν πέθανε από αυτοκτονία».
Οι γονείς του νεαρού ζητούν ακόμα από το δικαστήριο να υποχρεώσει την OpenAΙ να ελέγχει την ηλικία των χρηστών, να αρνείται να απαντά σε ερωτήσεις για μεθόδους αυτοτραυματισμού και αυτοκτονίας και να προειδοποιεί τους χρήστες για τον κίνδυνο ψυχολογικής εξάρτησης.
