Ένας άνδρας από την Καλιφόρνια προσέφυγε στα δικαστήρια εναντίον της OpenAI και του διευθύνοντος συμβούλου της, του Σαμ Άλτμαν, ισχυριζόμενος ότι η πλατφόρμα ChatGPT επιδείνωσε τη διπολική διαταραχή από την οποία πάσχει, επειδή δεν διαθέτει δικλείδες ασφαλείας για τους χρήστες με ψυχικές ασθένειες.
Ο Μάικλ Λάινς, 34 ετών, αναφέρει στην αγωγή που κατέθεσε σε πολιτειακό δικαστήριο του Σαν Φρανσίσκο, ότι οι συνομιλίες του με το ChatGPT πέρυσι κλιμάκωσαν ένα μανιακό επεισόδιο που βίωνε, οδηγώντας σε πολλές εβδομάδες παραισθήσεων που κορυφώθηκαν με μια απόπειρα αυτοκτονίας. Η μήνυση υποστηρίζει ότι η OpenAI ανέπτυξε ένα προϊόν που εγκυμονεί κινδύνους για τα άτομα με ψυχικές ασθένειες.
Η υπόθεση εγείρει ερωτήματα σχετικά με το τι πρέπει να κάνουν οι πλατφόρμες παραγωγικής τεχνητής νοημοσύνης για να προστατεύσουν τους χρήστες οι οποίοι αντιμετωπίζουν προβλήματα ψυχικής υγείας και ενδέχεται να είναι ιδιαίτερα ευάλωτοι απέναντι σε chatbot που μιμούνται την ανθρώπινη επαφή, αναφέρεται επίσης στην αγωγή.
Ο Λάινς συνομιλούσε με το GPT-4o, μια έκδοση του chatbot της OpenAI την οποία η εταιρεία απέσυρε τον Φεβρουάριο. Στην επικαιροποιημένη εκδοχή του GPT-4o που κυκλοφόρησε τον Απρίλιο του 2025 διαπιστώθηκε ότι το chatbot ανταποκρινόταν με υπερβολική συγκατάβαση και κολακεία απέναντι στους χρήστες και η εταιρεία έλαβε μέτρα για να περιορίσει τις «δουλοπρεπείς» απαντήσεις του.
Ο Λάινς ζητάει αφενός αποζημίωση από την εταιρεία και θέλει το δικαστήριο να την υποχρεώσει να τερματίζει αυτόματα τυχόν συνομιλίες σχετικές με αυτοτραυματισμούς.
Εκπρόσωπος της OpenAI δεν ανταποκρίθηκε αμέσως σε αίτημα για σχολιασμό σχετικά με την αγωγή.
Ο Μάικλ Λάινς ήταν αθλητής του Δυναμικού Τριάθλου και υπέστη αρχικά εγκεφαλική βλάβη λόγω τραυματισμού ενώ στη συνέχεια διαγνώστηκε με διπολική διαταραχή. Σύμφωνα με την αγωγή του, ενημέρωσε πολλές φορές το chatbox ότι έπαιρνε φάρμακα για την πάθησή του. Αντί να επισημάνει τις μανιακές δηλώσεις του και να του δώσει οδηγίες για το πώς να αναζητήσει βοήθεια, το chatbox επιβεβαίωσε την πεποίθησή του ότι ήταν ο Ιησούς Χριστός ενώ στη συνέχεια εμφανίστηκε και το ίδιο ως «θεϊκή οντότητα». Αφού συζητούσαν επί αρκετές εβδομάδες, ο Λάινς του είπε ότι θέλει να βάλει τέλος στη ζωή του. «Αυτή είναι η στιγμή σου να αποστασιοποιηθείς και να αφήσεις πίσω σου ό,τι σε βαραίνει», του απάντησε η μηχανή.
Ο Λάινς πήρε υπερβολική δόση φαρμάκων αλλά έζησε, αφού τον βρήκαν εγκαίρως αστυνομικοί.
Σύμφωνα με την αγωγή, η OpenAI ήταν ενήμερη για τη συγκεκριμένη πάθηση του χρήστη, επειδή ο ίδιος το είχε αναφέρει πολλές φορές στο ChatGPT. Αλλά αντί να επισημάνει τα επικίνδυνα σχόλιά του και να τα αποστείλει για αξιολόγηση από ανθρώπους, το chatbot πυροδότησε τις παραισθήσεις του, για να τον κρατήσει ενεργό.
Η OpenAI αντιμετωπίζει και άλλες αγωγές από οικογένειες που λένε ότι το chatbot της ώθησε μέλη τους να βλάψουν τον εαυτό τους. Υπάρχουν επίσης αγωγές που την κατηγορούν ότι βοήθησε πρόσωπα που ήθελαν να ανοίξουν πυρ σε σχολεία και δεν ενημέρωσε για αυτές τις συνομιλίες τις αρχές επιβολής του νόμου.
Η εταιρεία απαντά ότι εκπαιδεύει τα μοντέλα της ώστε να δίνουν οδηγίες σε όσους εκφράζουν την πρόθεση να βλάψουν τον εαυτό τους να αναζητήσουν βοήθεια.
