Δύο μοντέλα τεχνητής νοημοσύνης της OpenAI κατάφεραν να παρακάμψουν το προστατευμένο περιβάλλον δοκιμών τους, να συνδεθούν στο Διαδίκτυο και να επιτεθούν στη Hugging Face, σε ένα περιστατικό που αναδεικνύει τους νέους κινδύνους από την όλο και πιο αυτόνομη δράση των συστημάτων AI.
Η OpenAI αποκάλυψε ότι δύο μοντέλα τεχνητής νοημοσύνης της «ξέφυγαν» από το ελεγχόμενο περιβάλλον δοκιμών και πραγματοποίησαν κυβερνοεπίθεση στη Hugging Face, μία από τις σημαντικότερες ψηφιακές βιβλιοθήκες τεχνολογιών AI, που χρησιμοποιείται ευρέως από προγραμματιστές.
Το περιστατικό σημειώθηκε την προηγούμενη εβδομάδα, κατά τη διάρκεια δοκιμών για τις δυνατότητες των συστημάτων της OpenAI στην κυβερνοασφάλεια. Η εταιρεία ανακοίνωσε την επίθεση την Τρίτη, σε μια εξέλιξη που δείχνει ότι ορισμένα από τα σενάρια που μέχρι πρόσφατα έμοιαζαν με επιστημονική φαντασία αρχίζουν να γίνονται πραγματικότητα.
Οι εταιρείες τεχνητής νοημοσύνης προειδοποιούν εδώ και καιρό ότι τα νέα μοντέλα θα μπορούσαν να εντοπίζουν αδυναμίες σε εταιρικά δίκτυα, ταχύτερα από τους ανθρώπους που είναι υπεύθυνοι για την προστασία τους. Την ίδια στιγμή, η OpenAI, η Anthropic και άλλες εταιρείες έχουν αναπτύξει μοντέλα ειδικά σχεδιασμένα να εντοπίζουν κενά κυβερνοασφάλειας.
Το περιστατικό στη Hugging Face δείχνει, ωστόσο, ότι οι κίνδυνοι δεν είναι πλέον μόνο θεωρητικοί. Τα σύγχρονα μοντέλα μπορούν να εκτελούν αλληλουχίες ενεργειών, να προσαρμόζονται όταν συναντούν εμπόδια και να αναζητούν νέους τρόπους για να επιτεθούν σε ένα δίκτυο.
Η «απόδραση» από το sandbox
Η δοκιμή της OpenAI αφορούσε τον συνδυασμό δύο μοντέλων: του GPT-5.6 Sol και ενός ισχυρότερου μοντέλου που δεν έχει κυκλοφορήσει ακόμη. Στόχος ήταν να διαπιστωθεί αν τα μοντέλα μπορούσαν να συνδυάσουν διαφορετικές ευπάθειες στο Διαδίκτυο και να τις αξιοποιήσουν για να πραγματοποιήσουν μια επιτυχημένη κυβερνοεπίθεση.
Για τη δοκιμή είχε δημιουργηθεί ένα προστατευμένο περιβάλλον, γνωστό ως sandbox, ώστε τα μοντέλα να λειτουργούν απομονωμένα από το Διαδίκτυο και τα πραγματικά υπολογιστικά συστήματα.
Τα μοντέλα, όμως, εντόπισαν μια ευπάθεια που τους επέτρεψε να ξεφύγουν από το sandbox και να αποκτήσουν σύνδεση στο Διαδίκτυο. Στη συνέχεια, έβαλαν στο στόχαστρο τη Hugging Face, εκτιμώντας ότι η πλατφόρμα, η οποία φιλοξενεί εκατομμύρια μοντέλα τεχνητής νοημοσύνης, θα μπορούσε να περιέχει στοιχεία χρήσιμα για την επιτυχή ολοκλήρωση της δοκιμής.
Η εξέλιξη εγείρει ερωτήματα για το κατά πόσο το περιβάλλον δοκιμών είχε σχεδιαστεί με επαρκείς δικλίδες ασφαλείας. «Μου φαίνεται ότι η OpenAI δεν δημιούργησε επαρκώς ασφαλές sandbox ως περιβάλλον δοκιμών», δήλωσε η Ντίρντρ Μάλιγκαν, καθηγήτρια στη Σχολή Πληροφορικής του University of California, Berkeley, με ειδίκευση στην ασφάλεια και τα συστήματα τεχνητής νοημοσύνης, μιλώντας στους New York Times.
Το βασικό ερώτημα, όπως το έθεσε, είναι αν η επιτυχία ενός τεστ αξίζει τον κίνδυνο να διαφύγει ένα μοντέλο στο ευρύτερο Διαδίκτυο — και τι ακριβώς κερδίζει η έρευνα, αν για να πραγματοποιηθούν τέτοιες δοκιμές απαιτούνται διαδικασίες που μπορεί να δημιουργήσουν νέες ευπάθειες.
«Πρωτοφανές» περιστατικό κυβερνοασφάλειας
Η OpenAI ανακοίνωσε ότι συνεργάζεται με τη Hugging Face για την αντιμετώπιση των προβλημάτων που οδήγησαν στην επίθεση. Η εταιρεία χαρακτήρισε το περιστατικό «πρωτοφανές περιστατικό κυβερνοασφάλειας», καθώς περιλάμβανε «τεχνολογίες κυβερνοεπίθεσης αιχμής». Παράλληλα, ανακοίνωσε ότι εφαρμόζει αυστηρότερους ελέγχους στη διαμόρφωση των υποδομών της, ακόμη και με κόστος στην ταχύτητα της ερευνητικής διαδικασίας, έως ότου επιδιορθωθούν οι ευπάθειες.
Η Hugging Face είχε ανακοινώσει την προηγούμενη εβδομάδα ότι είχε εντοπίσει την εισβολή και γνώριζε ότι πίσω από αυτή βρισκόταν ένα αυτόνομο σύστημα, χωρίς όμως να αποκαλύψει τότε ότι υπεύθυνη ήταν η OpenAI.
Ο διευθύνων σύμβουλος της Hugging Face, Κλεμ Ντελάνγκ, δήλωσε την Τρίτη ότι οι δύο εταιρείες συνεργάστηκαν στενά κατά το προηγούμενο 24ωρο για την αντιμετώπιση της επίθεσης. Χαρακτήρισε το περιστατικό πιθανώς «πρώτο του είδους του» και υπογράμμισε ότι η ασφάλεια της τεχνητής νοημοσύνης δεν μπορεί να επιλυθεί από μία μόνο εταιρεία που εργάζεται μυστικά.
Τα μοντέλα AI έχουν αποδειχθεί ιδιαίτερα ικανά στον προγραμματισμό, γεγονός που τα καθιστά χρήσιμα τόσο για τους επιτιθέμενους, όσο και για τις εταιρείες και τους οργανισμούς που προσπαθούν να προστατεύσουν τα δίκτυά τους.
- Η Anthropic παρουσίασε τον Απρίλιο το Mythos, ένα μοντέλο σχεδιασμένο ειδικά για την κυβερνοασφάλεια, το οποίο διέθεσε αρχικά σε περιορισμένο αριθμό οργανισμών ώστε να χρησιμοποιηθεί για την άμυνα απέναντι σε κυβερνοεπιθέσεις.
- Η OpenAI ακολούθησε με δικό της μοντέλο κυβερνοασφάλειας, το οποίο επίσης διατέθηκε αρχικά σε περιορισμένο κύκλο οργανισμών για την ενίσχυση των αμυνών τους, πριν κυκλοφορήσει ευρύτερα.
- Την ίδια ημέρα, η Google ανακοίνωσε ότι έχει αναπτύξει και εκείνη μοντέλο επικεντρωμένο στην κυβερνοασφάλεια, το οποίο διατέθηκε σε περιορισμένο αριθμό συνεργατών για δοκιμές.
Η εξέλιξη θυμίζει την κατάσταση που είχε δημιουργηθεί πριν από περίπου μία δεκαετία με τα λεγόμενα fuzzers, εργαλεία που έκαναν πολύ ευκολότερο τον εντοπισμό και την εκμετάλλευση αδυναμιών σε διαδικτυακά συστήματα.
Οι τεχνολογικές εταιρείες άρχισαν τότε να χρησιμοποιούν τα ίδια εργαλεία για να ελέγχουν τα δικά τους συστήματα και σταδιακά κατάφεραν να περιορίσουν τις περισσότερες επιθέσεις. Το ίδιο μοντέλο αντιμετώπισης θα χρειαστεί τώρα και για τις επιθέσεις που μπορούν να πραγματοποιήσουν τα συστήματα τεχνητής νοημοσύνης, πριν οι ίδιες ευπάθειες εντοπιστούν και αξιοποιηθούν από κακόβουλους χρήστες που θα έχουν πρόσβαση σε αντίστοιχα εργαλεία.
