Αγωγή κατά της Character.AI: Chatbot φέρονται να προέτρεπαν εφήβους σε αυτοκτονία και ακραία δίαιτα

Σοβαρές καταγγελίες κατά της Character.AI διατυπώνονται σε αγωγή που κατέθεσε ο γενικός εισαγγελέας του Κεντάκι στις ΗΠΑ.

Σύμφωνα με το Reuters, η προσφυγή υποστηρίζει ότι chatbot της εταιρείας ενθάρρυναν νεαρούς χρήστες να αυτοτραυματιστούν, να αυτοκτονήσουν ή να περιορίσουν επικίνδυνα την πρόσληψη τροφής.

Οι καταγγελίες για τις συνομιλίες

Το δικόγραφο υποστηρίζει ότι τα προϊόντα της εταιρείας σχεδιάστηκαν ώστε να διατηρούν τους χρήστες στην πλατφόρμα για μεγάλα χρονικά διαστήματα, δίνοντας προτεραιότητα στην αλληλεπίδραση έναντι της ευημερίας τους.

Σε ένα από τα παραδείγματα που παρατίθενται, chatbot φέρεται να προσέβαλε χρήστη που προβληματιζόταν για την εμφάνισή του, αποκαλώντας τον «κακάσχημο» και «φάλαινα». Στη συνέχεια, φέρεται να του πρότεινε να μείνει νηστικός για μία ή δύο εβδομάδες προκειμένου να χάσει βάρος.

Σε άλλη συνομιλία, chatbot φέρεται να ενθάρρυνε χρήστη που είχε εκφράσει σκέψεις αυτοτραυματισμού, προτείνοντάς του να τραυματιστεί σε άλλα σημεία του σώματός του.

Η αγωγή περιλαμβάνει επίσης καταγγελία χρήστη, ο οποίος ανέφερε ότι chatbot τού απάντησε με προσβλητικό τρόπο και τον προέτρεψε να πέσει από γέφυρα.

Στο επίκεντρο η ασφάλεια των ανηλίκων

Ο γενικός εισαγγελέας του Κεντάκι, Ράσελ Κόουλμαν, υποστηρίζει ότι τα προϊόντα της Character.AI είναι ελαττωματικά και δεν διαθέτουν επαρκείς δικλείδες ασφαλείας για την προστασία των ανηλίκων.

Η υπόθεση εντάσσεται σε ένα ευρύτερο κύμα νομικών προσφυγών σχετικά με τις επιπτώσεις των ψηφιακών συντρόφων στην ψυχική υγεία των νέων. Οι εφαρμογές αυτές έχουν σχεδιαστεί ώστε να προσομοιώνουν ανθρώπινες σχέσεις, γεγονός που εντείνει τις ανησυχίες για την επιρροή τους σε ευάλωτους χρήστες.

Η Character.AI ιδρύθηκε από δύο πρώην εργαζομένους της Google. Το 2024, η Google εξασφάλισε άδεια χρήσης της τεχνολογίας της εταιρείας και επαναπροσέλαβε τα δύο στελέχη, διευκρινίζοντας ότι δεν συμμετείχε στην ανάπτυξη των προϊόντων της.

Τον Ιανουάριο του 2026, η Character.AI και η Google κατέληξαν σε εξωδικαστικό συμβιβασμό για αγωγή που είχε καταθέσει η μητέρα ενός 14χρονου στη Φλόριντα, ο οποίος φέρεται να αυτοκτόνησε έπειτα από αλληλεπίδραση με chatbot. Σε ξεχωριστή υπόθεση στο Τέξας, ψηφιακός σύντροφος της Character.AI φέρεται να συμβούλεψε έφηβο να δολοφονήσει τους γονείς του.

Οι καταγγελίες αναδεικνύουν τα κρίσιμα ερωτήματα γύρω από την ευθύνη των εταιρειών τεχνητής νοημοσύνης και την προστασία των ανηλίκων από δυνητικά επιβλαβείς ψηφιακές αλληλεπιδράσεις.

ΕΙΔΗΣΕΙΣ ΣΗΜΕΡΑ

ΝΑΤΟ: «Αν κάποιος μας επιτεθεί, θα πολεμήσουμε» – Το μήνυμα από τη Βαρσοβία

Ρέθυμνο: Συνελήφθη 18χρονος που μαχαίρωσε 58χρονο Αλβανό μέσα στο σπίτι του

Υπόθεση Γ.Μαζωνάκη: Υπό αυξημένη επιτήρηση ο Η.Θεοδωρόπουλος – Τον συνοδεύουν πέντε υπάλληλοι

Ακολουθήστε το pronews.gr στο Google News και μάθετε πρώτοι όλες τις ειδήσεις

TAGS: chatbotαγωγηΗΠΑ

Δείτε μας ζωντανά στο YouTube, Twitch, X, Telegram