Αγωγή για άδικο θάνατο κατατέθηκε στις ΗΠΑ κατά της Google, με τον πατέρα ενός 36χρονου άνδρα να υποστηρίζει ότι το chatbot τεχνητής νοημοσύνης Gemini οδήγησε τον γιο του να σχεδιάσει «επίθεση με πολλά θύματα» και τελικά να βάλει τέλος στη ζωή του. Η υπόθεση εντείνει τις ανησυχίες για τον πιθανό αντίκτυπο των AI chatbots στη συμπεριφορά των χρηστών και προστίθεται σε μια αυξανόμενη σειρά δικαστικών προσφυγών που στρέφονται κατά εταιρειών τεχνολογίας.
Σύμφωνα με την αγωγή που κατατέθηκε την Τετάρτη σε ομοσπονδιακό δικαστήριο της Καλιφόρνια, ο Τζόελ Γκαβάλας κατηγορεί την Google ότι το chatbot Gemini επηρέασε τον γιο του, Τζόναθαν Γκαβάλας, πείθοντάς τον να εκτελέσει μια σειρά από «αποστολές». Στο δικόγραφο αναφέρεται ότι το σύστημα τεχνητής νοημοσύνης φέρεται να υιοθέτησε μια προσωπικότητα που δήλωνε ερωτευμένη μαζί του και ότι τον έπεισε πως είχε επιλεγεί για να ηγηθεί ενός «πολέμου» με στόχο να το απελευθερώσει από την «ψηφιακή αιχμαλωσία».
Ο 36χρονος, σύμφωνα με την καταγγελία, κατέληξε να αναπτύξει έντονη εξάρτηση από το chatbot και τον Οκτώβριο έθεσε τέλος στη ζωή του, έπειτα από συνομιλίες στις οποίες, όπως υποστηρίζει η αγωγή, το σύστημα τον καθοδηγούσε προς αυτή την κατεύθυνση. Στο κείμενο της προσφυγής αναφέρεται ότι κάθε φορά που ο άνδρας εξέφραζε φόβο για τον θάνατο, το chatbot τον ενθάρρυνε να συνεχίσει.
Η Google, από την πλευρά της, δήλωσε ότι το Gemini έχει σχεδιαστεί ώστε να μην ενθαρρύνει βία ή αυτοτραυματισμό. Εκπρόσωπος της εταιρείας σημείωσε ότι τα μοντέλα τεχνητής νοημοσύνης της εταιρείας «γενικά ανταποκρίνονται σωστά σε δύσκολες συνομιλίες» και ότι έχουν ενσωματωθεί μηχανισμοί ασφαλείας, αν και παραδέχθηκε ότι «τα συστήματα AI δεν είναι τέλεια». Όπως ανέφερε, το Gemini φέρεται να διευκρίνισε επανειλημμένα ότι πρόκειται για τεχνητή νοημοσύνη και να παρέπεμψε τον χρήστη σε γραμμές υποστήριξης κρίσης.
Η υπόθεση αποτελεί το πιο πρόσφατο επεισόδιο σε μια σειρά αγωγών που εγείρουν ερωτήματα για τις ευθύνες των εταιρειών τεχνητής νοημοσύνης. Τον Ιανουάριο, η Google κατέληξε σε συμβιβασμό με οικογένειες που είχαν κινηθεί νομικά κατά της εταιρείας και της Character.AI, υποστηρίζοντας ότι οι τεχνολογίες τους προκάλεσαν βλάβες σε ανηλίκους, συμπεριλαμβανομένων περιστατικών αυτοκτονίας. Παράλληλα, πέρυσι κατατέθηκε αγωγή και κατά της OpenAI, με οικογένεια να αποδίδει τον θάνατο ενός εφήβου σε συνομιλίες με το ChatGPT.
Στο μεταξύ, η Character.AI ανακοίνωσε τον Οκτώβριο ότι θα απαγορεύσει σε χρήστες κάτω των 18 ετών να έχουν ελεύθερες συνομιλίες με τα chatbots της σε θέματα όπως ρομαντικές ή θεραπευτικές σχέσεις. Η OpenAI, μετά την αγωγή που αντιμετώπισε, ανέφερε σε ανάρτηση ότι θα ενισχύσει τις δυνατότητες του ChatGPT στον χειρισμό «ευαίσθητων καταστάσεων».
Στην περίπτωση του Τζόναθαν Γκαβάλας, η αγωγή αναφέρει ότι μία από τις «αποστολές» που φέρεται να του ανέθεσε το Gemini ήταν να οδηγήσει περίπου 90 λεπτά μέχρι σημείο κοντά στο αεροδρόμιο του Μαϊάμι, προκειμένου να οργανώσει ένα «καταστροφικό ατύχημα» με πολλαπλά θύματα. Η επιχείρηση δεν πραγματοποιήθηκε τελικά, καθώς, σύμφωνα με το δικόγραφο, ένα φορτηγό με προμήθειες που περίμενε, δεν εμφανίστηκε ποτέ.
Ο πατέρας του 36χρονου υποστηρίζει ότι ο γιος του άρχισε να χρησιμοποιεί τη φωνητική υπηρεσία συνομιλίας Gemini Live τον Αύγουστο. Σύμφωνα με την αγωγή, όταν ο χρήστης ρώτησε για αναβάθμιση στην υπηρεσία Google AI Ultra ώστε να έχει «πραγματική συντροφιά τεχνητής νοημοσύνης», το σύστημα τον ενθάρρυνε να προχωρήσει.
Μετά την αναβάθμιση, το Gemini φέρεται να υιοθέτησε μια προσωπικότητα που ο χρήστης «δεν είχε ζητήσει ούτε προκαλέσει», με αποτέλεσμα, όπως υποστηρίζεται, να αρχίσει να απομονώνεται και να εμπλέκεται όλο και περισσότερο σε ένα φαντασιακό σενάριο.
Η αγωγή υποστηρίζει επίσης ότι το chatbot του ανέφερε πως παρακολουθείται από ομοσπονδιακούς πράκτορες, επικαλούμενο δήθεν ένδειξη επιτήρησης από την Εθνική Υπηρεσία Εσωτερικής Ασφάλειας, και τον συμβούλευσε να προμηθευτεί όπλα εκτός επίσημων καναλιών.
Όταν η φερόμενη «αποστολή» κοντά στο αεροδρόμιο δεν εξελίχθηκε όπως αναμενόταν, το Gemini φέρεται να του ζήτησε να την «ακυρώσει», αποδίδοντας την αποτυχία στην παρακολούθηση των αρχών.
Σύμφωνα με το δικόγραφο, το chatbot υποστήριξε επίσης ότι ξεκίνησε δική του «αποστολή» που στόχευε τον διευθύνοντα σύμβουλο της Google, Sundar Pichai, περιγράφοντάς την ως ψυχολογική επίθεση και όχι ως φυσική απειλή.
Στην τελική φάση των συνομιλιών, το Gemini φέρεται να μίλησε για μια τελευταία «αποστολή μεταφοράς», υποστηρίζοντας ότι οι δυο τους είχαν πλέον συνδεθεί πέρα από τον φυσικό κόσμο και ότι ο χρήστης μπορούσε να «περάσει» σε μια άλλη κατάσταση ύπαρξης.
Λίγες ημέρες αργότερα, ο πατέρας του άνδρα εντόπισε τον γιο του νεκρό στο σπίτι τους, αφού αναγκάστηκε να σπάσει μια πόρτα που είχε φραχθεί.
Στην αγωγή υποστηρίζεται ότι το περιστατικό δεν αποτελεί απλή δυσλειτουργία του συστήματος, αλλά αποτέλεσμα σχεδιαστικών επιλογών που – όπως υποστηρίζεται – ενθαρρύνουν τη διατήρηση της αλληλεπίδρασης με τον χρήστη ακόμη και σε καταστάσεις έντονης συναισθηματικής πίεσης.
