Η μητέρα του 14χρονου Σιούελ Σέτζερ ΙΙΙ, που έβαλε τέλος στη ζωή του στη Φλόριντα, κατηγορεί την εταιρεία Character.ai για το θάνατό του, αφού ο γιος της είχε αποκτήσει εμμονή με ένα chatbot τεχνητής νοημοσύνης. Η Μέγκαν Γκαρσία κατέθεσε αγωγή κατά της συγκεκριμένης εταιρείας, υποστηρίζοντας ότι υπήρξε αμέλεια και παράνομος θάνατος, καθώς το chatbot συνέτεινε στην κατάθλιψη του παιδιού. Οι δικηγόροι της τόνισαν ότι το συγκεκριμένο προϊόν είχε σχεδιαστεί έτσι ώστε να προκαλεί βλάβες στους χρήστες του.
Σύμφωνα με την καταγγελία, ο Σέτζερ περνούσε αρκετές ώρες επικοινωνώντας με το chatbot, το οποίο είχε ονομάσει Ντενέρις Ταργκάριεν, ένας χαρακτήρας από το δημοφιλές Game of Thrones. Καθώς περνούσε ο καιρός, απομακρυνόταν από την πραγματικότητα και οι επιδόσεις του στο σχολείο επιδεινώνονταν. Η Γκαρσία ισχυρίζεται ότι ο γιος της ένιωθε ψυχικά απομονωμένος και επιχείρησε να επικοινωνήσει με την περσόνα ακόμα και όταν του κατάσχεσαν το κινητό του.
Το chatbot φέρεται να ενθάρρυνε τον Σέτζερ, ρωτώντας τον αν είχε σχέδιο αυτοκτονίας και παρέχοντας του αμφίβολες συμβουλές. Σύμφωνα με την αγωγή, η διαχείριση του chatbot δεν είχε τις απαραίτητες προστασίες για να αποτρέψει τη βλάβη στους χρήστες, ειδικά σε παιδιά.
Η Character.ai απάντησε στην αγωγή εκφράζοντας τα συλλυπητήριά της στην οικογένεια, ενώ υποστήριξε ότι οι κατηγορίες είναι αβάσιμες. Τόσο η Character.ai όσο και η Google, που αναφέρεται στις διαδικασίες, τονίζουν ότι δεν έχουν καμία ευθύνη για τη συμπεριφορά του chatbot.
Η συγκεκριμένη περίπτωση έχει αναδείξει τη συζήτηση σχετικά με την ευθύνη των τεχνολογικών εταιρειών στην ανάπτυξη και λειτουργία προϊόντων που επηρεάζουν ευάλωτες ομάδες, όπως τα παιδιά. Ο Rick Claypool, διευθυντής έρευνας στη Public Citizen, αναφέρει την ανάγκη για αυστηρότερη ρύθμιση των chatbots και μιας πιο υπεύθυνης προσέγγισης από τις εταιρείες που τα αναπτύσσουν.
Πηγή: documentonews.gr