Νέο σύστημα πρόβλεψης ηλικίας θέτει σε εφαρμογή η OpenAI στα καταναλωτικά πακέτα του ChatGPT, με στόχο τον εντοπισμό λογαριασμών που ανήκουν σε χρήστες κάτω των 18 ετών και την αυτόματη ενεργοποίηση πρόσθετων δικλίδων ασφαλείας.
Η OpenAI ανακοίνωσε ότι ξεκινά τη σταδιακή διάθεση ενός μοντέλου εκτίμησης ηλικίας, το οποίο θα χρησιμοποιείται για την προστασία ανηλίκων χρηστών της υπηρεσίας ChatGPT. Το σύστημα βασίζεται σε έναν συνδυασμό σημάτων σε επίπεδο λογαριασμού και συμπεριφορικών δεδομένων, σύμφωνα με την εταιρεία.
Στα σήματα αυτά περιλαμβάνονται, μεταξύ άλλων, τα πρότυπα χρήσης σε βάθος χρόνου, η ηλικία του λογαριασμού, οι ώρες της ημέρας κατά τις οποίες είναι ενεργός ο χρήστης, καθώς και η ηλικία που έχει δηλωθεί από τον ίδιο.
Αυτόματοι περιορισμοί για «ευαίσθητο περιεχόμενο»
Όταν το μοντέλο εκτιμήσει ότι ένας χρήστης είναι κάτω των 18 ετών, το ChatGPT θα εφαρμόζει αυτόματα μέτρα προστασίας που περιορίζουν την έκθεση σε ευαίσθητο περιεχόμενο, όπως απεικονίσεις αυτοτραυματισμού.
Σε περίπτωση λανθασμένης αναγνώρισης, οι χρήστες θα έχουν τη δυνατότητα να επανακτήσουν πλήρη πρόσβαση μέσω της υπηρεσίας επαλήθευσης ταυτότητας Persona, την οποία χρησιμοποιούν και άλλες τεχνολογικές εταιρείες, όπως η Roblox, πλατφόρμα που επίσης έχει βρεθεί στο επίκεντρο πολιτικών πιέσεων για την προστασία παιδιών και εφήβων.
Αυξημένος έλεγχος από αρχές και αγωγές
Η κίνηση εντάσσεται σε μια ευρύτερη προσπάθεια ενίσχυσης των μηχανισμών ασφάλειας, καθώς η OpenAI και άλλες εταιρείες τεχνητής νοημοσύνης βρίσκονται υπό αυξανόμενο έλεγχο για το πώς προστατεύουν τους ανήλικους χρήστες.
Στις ΗΠΑ, η Ομοσπονδιακή Επιτροπή Εμπορίου (FTC) διερευνά κατά πόσο τα συστήματα τεχνητής νοημοσύνης συνομιλίας μπορεί να έχουν αρνητικές επιπτώσεις σε παιδιά και εφήβους. Παράλληλα, η OpenAI κατονομάζεται σε αρκετές αγωγές αδικοπραξίας, μεταξύ των οποίων και μία που αφορά την αυτοκτονία ενός εφήβου.
Γονικοί έλεγχοι και συμβουλευτικό όργανο
Τον Αύγουστο η OpenAI είχε ανακοινώσει ότι θα λανσάρει γονικούς ελέγχους, ώστε οι γονείς να μπορούν να κατανοούν και να καθοδηγούν τη χρήση του ChatGPT από τους εφήβους τους. Έναν μήνα αργότερα, η εταιρεία παρουσίασε τα εργαλεία αυτά και γνωστοποίησε ότι εργάζεται παράλληλα στην ανάπτυξη συστήματος πρόβλεψης ηλικίας.
Τον Οκτώβριο, συγκρότησε επίσης ένα συμβούλιο οκτώ ειδικών, το οποίο παρέχει συμβουλές για το πώς η τεχνητή νοημοσύνη μπορεί να επηρεάζει την ψυχική υγεία, τα συναισθήματα και τα κίνητρα των χρηστών.
Η OpenAI ανέφερε ότι το μοντέλο πρόβλεψης ηλικίας θα συνεχίσει να βελτιώνεται με την πάροδο του χρόνου, ενώ η διάθεσή του στην Ευρωπαϊκή Ένωση αναμένεται τις επόμενες εβδομάδες, ώστε να ληφθούν υπόψη οι ειδικές περιφερειακές και κανονιστικές απαιτήσεις.
