Η Open AI, η εταιρία πίσω από το ChatGPT, αντιμετωπίζει κατακραυγή για την ανοχή της σε απαντήσεις του chatbot σε ερωτήσεις του 16χρονου Άνταμ Ρέιν από τη Καλιφόρνια, μετά από τις οποίες ο νέος έλαβε την απόφαση να θέσει τέρμα στη ζωή του.

Οι δημιουργοί του ChatGPT αλλάζουν τον τρόπο με τον οποίο ανταποκρίνεται στους χρήστες που εμφανίζουν ψυχική και συναισθηματική δυσφορία, μετά από νομική δράση της οικογένειας του 16χρονου Άνταμ Ρέιν, ο οποίος αυτοκτόνησε μετά από μήνες συνομιλιών με το chatbot.

Η Open AI παραδέχτηκε ότι τα συστήματά της ενδέχεται να «υστερούν» και δήλωσε ότι θα εγκαταστήσει «ισχυρότερα προστατευτικά μέτρα γύρω από ευαίσθητο περιεχόμενο και επικίνδυνες συμπεριφορές» για χρήστες κάτω των 18 ετών. Η εταιρία τεχνητής νοημοσύνης του Σαν Φρανσίσκο, αξίας 500 δισεκατομμυρίων δολαρίων (372 δισεκατομμύρια λίρες), δήλωσε ότι θα εισαγάγει επίσης γονικούς ελέγχους για να δώσει στους γονείς «επιλογές για να αποκτήσουν περισσότερη εικόνα και να διαμορφώσουν τον τρόπο με τον οποίο οι έφηβοι τους χρησιμοποιούν το ChatGPT», αλλά δεν έχει ακόμη παράσχει λεπτομέρειες σχετικά με τον τρόπο λειτουργίας τους.

Ο Άνταμ, από την Καλιφόρνια, αυτοκτόνησε τον Απρίλιο μετά από αυτό που ο δικηγόρος της οικογένειάς του χαρακτήρισε «μήνες ενθάρρυνσης από το ChatGPT». Η οικογένεια του εφήβου μηνύει την Open AI και τον διευθύνοντα σύμβουλο και συνιδρυτή της, Σαμ Άλτμαν, ισχυριζόμενη ότι η έκδοση του ChatGPT εκείνη την εποχή, γνωστή ως 4o, «βγήκε βιαστικά στην αγορά… παρά τα σαφή ζητήματα ασφάλειας».

Ο έφηβος συζήτησε με το ChatGPT μια μέθοδο αυτοκτονίας σε αρκετές περιπτώσεις, συμπεριλαμβανομένης και της περιόδου λίγο πριν αυτοκτονήσει. Σύμφωνα με την αγωγή που κατατέθηκε στο ανώτατο δικαστήριο της πολιτείας της Καλιφόρνια για την κομητεία του Σαν Φρανσίσκο, το ChatGPT τον καθοδήγησε σχετικά με το αν η μέθοδος που είχε επιλέξει για να αυτοκτονήσει θα ήταν αποτελεσματική. Επίσης, προσφέρθηκε να τον βοηθήσει να γράψει ένα σημείωμα αυτοκτονίας προς τους γονείς του.

Ένας εκπρόσωπος της OpenAI δήλωσε ότι η εταιρεία «λυπάται βαθιά για τον θάνατο του κ. Ρέιν», εξέφρασε τα «βαθιά της συλλυπητήρια στην οικογένεια Ρέιν σε αυτή τη δύσκολη στιγμή» και είπε ότι εξετάζει την αγωγή που κατατέθηκε στο δικαστήριο.

Σε μια ανάρτηση στο blog της, η OpenAI παραδέχτηκε ότι «μέρη της εκπαίδευσης ασφάλειας του μοντέλου ενδέχεται να υποβαθμιστούν» σε μακρές συνομιλίες. Ο Άνταμ και το ChatGPT είχαν ανταλλάξει έως και 650 μηνύματα την ημέρα, σύμφωνα με την αγωγή που κατατέθηκε στο δικαστήριο.

Ο Τζέϊ Έντελσον, δικηγόρος της οικογένειας, δήλωσε στο X: «Οι Ρέιν ισχυρίζονται ότι θάνατοι όπως αυτός του Άνταμ ήταν αναπόφευκτοι: αναμένουν να μπορέσουν να υποβάλουν αποδεικτικά στοιχεία σε μια επιτροπή ενόρκων ότι η ίδια η ομάδα ασφάλειας της OpenAI αντιτάχθηκε στην κυκλοφορία του 4o και ότι ένας από τους κορυφαίους ερευνητές ασφάλειας της εταιρείας, ο Ίλια Σούτσκεβερ, παραιτήθηκε εξαιτίας αυτού. Η αγωγή ισχυρίζεται ότι η υπερίσχυση των ανταγωνιστών της στην αγορά με το νέο μοντέλο εκτίναξε την αξία της εταιρείας από 86 δισεκατομμύρια δολάρια σε 300 δισεκατομμύρια δολάρια». Η Open AI δήλωσε ότι θα «ενισχύσει τα μέτρα ασφαλείας στις μακρές συνομιλίες».

«Καθώς η αλληλεπίδραση αυξάνεται, ορισμένα τμήματα της εκπαίδευσης του μοντέλου σε θέματα ασφάλειας ενδέχεται να υποβαθμιστούν», ανέφερε. «Για παράδειγμα, το ChatGPT μπορεί να παραπέμψει σωστά σε μια γραμμή βοήθειας για αυτοκτονίες όταν κάποιος αναφέρει για πρώτη φορά την πρόθεσή του, αλλά μετά από πολλά μηνύματα σε μεγάλο χρονικό διάστημα, ενδέχεται τελικά να δώσει μια απάντηση που αντιβαίνει στα μέτρα ασφαλείας μας».

Η OpenAI έδωσε το παράδειγμα κάποιου που μπορεί να πει με ενθουσιασμό στο μοντέλο ότι πιστεύει ότι μπορεί να οδηγεί 24 ώρες την ημέρα, επειδή συνειδητοποίησε ότι είναι αήττητος αφού δεν κοιμήθηκε για δύο νύχτες.

Ανέφερε: «Σήμερα, το ChatGPT μπορεί να μην αναγνωρίζει αυτό ως επικίνδυνο ή να υποθέτει ότι πρόκειται για παιχνίδι και – εξερευνώντας με περιέργεια – θα μπορούσε να το ενισχύσει διακριτικά. Εργαζόμαστε σε μια ενημέρωση του GPT‑5 που θα κάνει το ChatGPT να ηρεμήσει, επαναφέροντας το άτομο στην πραγματικότητα. Σε αυτό το παράδειγμα, θα εξηγούσε ότι η έλλειψη ύπνου είναι επικίνδυνη και θα συνιστούσε ξεκούραση πριν από οποιαδήποτε ενέργεια».

Πηγή