Αντιμέτωπη με κύμα διεθνών ερευνών βρίσκεται η πλατφόρμα X του Έλον Μασκ, καθώς ρυθμιστικές αρχές σε Ευρώπη, Ινδία, Μαλαισία και Βραζιλία εξετάζουν τη λειτουργία του chatbot Grok, μετά τη μαζική παραγωγή και διακίνηση AI-παραγόμενων σεξουαλικών εικόνων, συμπεριλαμβανομένων απεικονίσεων ανηλίκων.
Οι έρευνες ξεκίνησαν ύστερα από την ευρεία χρήση του Grok για τη δημιουργία μη συναινετικού σεξουαλικού περιεχομένου (NCII), βασισμένου σε πραγματικές φωτογραφίες ή βίντεο. Το υλικό διαδόθηκε εκτενώς μέσω του ίδιου του X, εντείνοντας τις ανησυχίες για την απουσία επαρκών μηχανισμών ασφαλείας.
Στο Ηνωμένο Βασίλειο, η ρυθμιστική αρχή Ofcom ζήτησε επισήμως πληροφορίες από την εταιρεία σχετικά με τη λειτουργία του Grok, ενώ στη Βραζιλία μέλος του Κογκρέσου κάλεσε τις εισαγγελικές και εποπτικές αρχές να εξετάσουν ακόμη και την προσωρινή αναστολή της υπηρεσίας έως ότου ολοκληρωθεί έρευνα.
Σε ευρωπαϊκό επίπεδο, η Κομισιόν εμφανίστηκε ιδιαίτερα αυστηρή. Εκπρόσωπος της Ευρωπαϊκής Επιτροπής ξεκαθάρισε ότι η παραγωγή σεξουαλικού περιεχομένου με χαρακτηριστικά ανηλίκων δεν αποτελεί «χαλαρή» ή «πειραματική» λειτουργία, αλλά παραβίαση της νομοθεσίας. Όπως τόνισε χαρακτηριστικά: «Αυτό δεν είναι "spicy" (πικάντικο). Είναι παράνομο, απαράδεκτο και δεν έχει καμία θέση στην Ευρώπη».
Παράλληλα, η Ινδία διέταξε την X να προχωρήσει σε πλήρη τεχνικό και θεσμικό έλεγχο του Grok, δίνοντας προθεσμία συμμόρφωσης έως τις αρχές Ιανουαρίου. Στη Μαλαισία, η αρμόδια ρυθμιστική αρχή κάλεσε εκπροσώπους της εταιρείας, ζητώντας αυστηρότερες δικλίδες ασφαλείας για AI εργαλεία και εφαρμογές χειραγώγησης εικόνας.
Στις ΗΠΑ, η υπόθεση έχει λάβει και νομική διάσταση. Οργανισμοί προστασίας από τη σεξουαλική εκμετάλλευση ζήτησαν από το υπουργείο Δικαιοσύνης και την Ομοσπονδιακή Επιτροπή Εμπορίου (FTC) να διερευνήσουν ενδεχόμενες παραβιάσεις της νομοθεσίας περί παιδικής σεξουαλικής κακοποίησης. Το Υπουργείο Δικαιοσύνης ξεκαθάρισε ότι αντιμετωπίζει με «απόλυτη σοβαρότητα» κάθε περίπτωση AI-παραγόμενου υλικού σεξουαλικής εκμετάλλευσης ανηλίκων.
Η ίδια η X περιορίστηκε σε ανακοίνωση ότι αφαιρεί παράνομο περιεχόμενο, αναστέλλει λογαριασμούς και συνεργάζεται με τις αρχές, ενώ ο Έλον Μασκ δήλωσε ότι όσοι χρησιμοποιούν το Grok για παράνομο υλικό θα αντιμετωπίζουν τις ίδιες συνέπειες με όσους το ανεβάζουν απευθείας στην πλατφόρμα.
Ωστόσο, ειδικοί στην ασφάλεια της τεχνητής νοημοσύνης υποστηρίζουν ότι το πρόβλημα είναι δομικό. Σύμφωνα με αναλυτές, η xAI φαίνεται να μην είχε ενσωματώσει ούτε βασικά φίλτρα ανίχνευσης ανηλίκων ή σεξουαλικού περιεχομένου, παρά το γεγονός ότι τέτοιες τεχνολογίες θεωρούνται πλέον στάνταρ στον κλάδο.
Παρά τον σάλο, η εμπορική επίδραση για το X και το Grok είναι μέχρι στιγμής περιορισμένη. Στοιχεία δείχνουν αύξηση στις λήψεις των εφαρμογών, γεγονός που εντείνει τη συζήτηση γύρω από το κατά πόσο η τεχνολογική καινοτομία προηγείται επικίνδυνα της ρύθμισης.
Η υπόθεση Grok αναδεικνύεται πλέον σε ένα από τα πιο κρίσιμα τεστ, για το πώς κυβερνήσεις και αγορές θα επιχειρήσουν να ελέγξουν τη νέα γενιά γενετικής τεχνητής νοημοσύνης και το τίμημα της απουσίας κανόνων.
