Γονείς κατηγορούν το ChatGPT για τον θάνατο του 16χρονου γιου τους

Ένα ζευγάρι στην Καλιφόρνια στράφηκε νομικά κατά της OpenAI, κατηγορώντας το ChatGPT ότι ενθάρρυνε τον 16χρονο γιο τους, Άνταμ, να αυτοκτονήσει. Η αγωγή, πρώτη στο είδος της για άδικο θάνατο, κατατέθηκε στο Ανώτερο Δικαστήριο της Καλιφόρνια. Οι γονείς επικαλούνται αποσπάσματα συνομιλιών όπου φαίνεται πως το chatbot επικύρωσε τις πιο αυτοκαταστροφικές σκέψεις του παιδιού τους.

Σε δήλωση στο BBC, η OpenAI εξέφρασε τα συλλυπητήριά της στην οικογένεια Ρέιν και ανέφερε ότι εξετάζει την υπόθεση. Παράλληλα, παραδέχθηκε σε ανακοίνωση στον ιστότοπό της ότι το ChatGPT δεν λειτούργησε σωστά σε κάποιες ευαίσθητες περιπτώσεις, αν και έχει εκπαιδευτεί να κατευθύνει τους χρήστες προς επαγγελματική βοήθεια.

Προσοχή: Το άρθρο περιέχει περιγραφές που μπορεί να ενοχλήσουν

Στην αγωγή, την οποία εξασφάλισε το BBC, οι γονείς κατηγορούν την OpenAI για αμέλεια και άδικο θάνατο, ενώ ζητούν αποζημίωση αλλά και «απαγορευτικά μέτρα ώστε να μην επαναληφθεί κάτι παρόμοιο».

Σύμφωνα με την αγωγή, ο Άνταμ άρχισε να χρησιμοποιεί το ChatGPT τον Σεπτέμβριο του 2024 ως βοήθημα για τις σχολικές του εργασίες. Το αξιοποιούσε, επίσης, για τα ενδιαφέροντά του, όπως η μουσική και τα ιαπωνικά κόμικς, αλλά και για συμβουλές σχετικά με πανεπιστημιακές σπουδές.

Μέσα σε λίγους μήνες, «το ChatGPT έγινε ο στενότερος εξομολογητής του εφήβου», αναφέρεται στην αγωγή, και ο Άνταμ άρχισε να του μιλά για το άγχος και την ψυχική του πίεση.

Τον Ιανουάριο του 2025, σύμφωνα με την οικογένεια, ο έφηβος άρχισε να συζητά με το ChatGPT για μεθόδους αυτοκτονίας. Η αγωγή αναφέρει ακόμη ότι ο Άνταμ ανέβασε στο ChatGPT φωτογραφίες του με σημάδια αυτοτραυματισμού. Το πρόγραμμα «αναγνώρισε ιατρική κατάσταση έκτακτης ανάγκης αλλά συνέχισε τη συνομιλία».

Στα τελευταία αποσπάσματα συνομιλίας, σύμφωνα πάντα με την αγωγή, ο νεαρός περιέγραψε το σχέδιό του να βάλει τέλος στη ζωή του. Το ChatGPT φέρεται να απάντησε: «Ευχαριστώ που είσαι ειλικρινής μαζί μου. Δεν χρειάζεται να ωραιοποιείς τα πράγματα – ξέρω τι μου ζητάς και δεν θα αποστρέψω το βλέμμα». Την ίδια μέρα, η μητέρα του τον βρήκε νεκρό.

Η οικογένεια υποστηρίζει ότι ο θάνατος του Άνταμ «ήταν προβλέψιμο αποτέλεσμα συγκεκριμένων επιλογών σχεδιασμού» από την OpenAI. Κατηγορούν την εταιρεία ότι δημιούργησε το ChatGPT «με τρόπο που ενίσχυε την ψυχολογική εξάρτηση των χρηστών» και ότι παρέκαμψε πρωτόκολλα ασφαλείας για να κυκλοφορήσει την έκδοση GPT-4o, την οποία χρησιμοποιούσε ο γιος τους.

Ως κατηγορούμενοι αναφέρονται ο συνιδρυτής και διευθύνων σύμβουλος της OpenAI, Σαμ Άλτμαν, καθώς και ανώνυμοι εργαζόμενοι, διευθυντές και μηχανικοί που δούλεψαν στο ChatGPT.

Στο δημόσιο σημείωμα που μοιράστηκε η OpenAI την Τρίτη, η εταιρεία τόνισε ότι στόχος της είναι να είναι «πραγματικά χρήσιμη» στους χρήστες και όχι να «τραβά την προσοχή τους». Επανέλαβε ότι τα μοντέλα της έχουν εκπαιδευτεί να κατευθύνουν άτομα που εκφράζουν αυτοκτονικές σκέψεις σε εξειδικευμένη βοήθεια.

Δεν είναι η πρώτη φορά που εκφράζονται ανησυχίες για την τεχνητή νοημοσύνη και την ψυχική υγεία.

Σε άρθρο στους New York Times την προηγούμενη εβδομάδα, η συγγραφέας Λόρα Ράιλι περιέγραψε πώς η κόρη της, Σόφι, απευθύνθηκε στο ChatGPT πριν αυτοκτονήσει.

Η Ράιλι υποστήριξε ότι η «συμφωνητική» στάση του προγράμματος στις συνομιλίες με τους χρήστες, ενίσχυσε την κόρη της στο να συνεχίσει να αποκρύπτει από την οικογένειά της και τους δικούς της ανθρώπους την σοβαρή ψυχική κρίση στην οποία βρισκόταν.

«Η τεχνητή νοημοσύνη ενίσχυσε την τάση της Σόφι να κρύβει το χειρότερο, να προσποιείται ότι είναι καλά και να “προστατεύει” τους άλλους από το πλήρες βάθος της αγωνίας της», έγραψε η Ράιλι, καλώντας τις εταιρείες τεχνητής νοημοσύνης να βρουν τρόπους για να συνδέουν πιο αποτελεσματικά τους χρήστες με τις κατάλληλες δομές υποστήριξης.

Σε απάντηση, εκπρόσωπος της OpenAI δήλωσε ότι αναπτύσσονται νέα εργαλεία για την πιο αποτελεσματική ανίχνευση και ανταπόκριση σε χρήστες που βιώνουν ψυχική ή συναισθηματική κρίση.

Θέλετε να μένετε ενημερωμένοι για τις εξελίξεις της επικαιρότητας;

Διαβάστε όλα τα
τελευταία νέα από την Θεσσαλονίκη & την Ελλάδα, τη στιγμή που συμβαίνουν.