Η Anthropic ανακοίνωσε ότι απέτρεψε αρκετές πιθανές προσπάθειες αξιοποίησης των μοντέλων Claude για έρευνα που θα μπορούσε να συμβάλει στην ανάπτυξη βιολογικών όπλων. Η εταιρεία δεν μπόρεσε να εξακριβώσει αν οι ερευνητές είχαν κακόβουλο σκοπό, επέλεξε όμως να κινηθεί προληπτικά.
Ένα διαφορετικό επίπεδο κινδύνου από την ταχεία εξέλιξη των μοντέλων τεχνητής νοημοσύνης περιγράφει σε νέα έκθεσή της η Anthropic: τη δυνατότητα να αξιοποιηθούν για βιολογική έρευνα με δυνητικά καταστροφικές συνέπειες. Η εταιρεία αναφέρει ότι μέσα στο 2026 εντόπισε και ανέκοψε αρκετές περιπτώσεις, στις οποίες επιστήμονες χρησιμοποίησαν τα μοντέλα Claude για εργασίες που θα μπορούσαν να συνδεθούν με την ανάπτυξη επικίνδυνων παθογόνων.
Το πρόβλημα, όπως επισημαίνει, είναι ότι η ίδια γνώση μπορεί να υπηρετεί εντελώς διαφορετικούς σκοπούς. Η προηγμένη βιολογική έρευνα μπορεί να οδηγήσει σε εμβόλια και θεραπευτικές εφαρμογές, αλλά παράλληλα να προσφέρει τα εργαλεία για τη δημιουργία πιο επικίνδυνων ιών. Σε αρκετές από τις περιπτώσεις που εντοπίστηκαν, η Anthropic δεν ήταν σε θέση να αποφανθεί με βεβαιότητα για τις προθέσεις των χρηστών.
«Δεν βλέπεις κάποιον να λέει ότι θέλει να κατασκευάσει ένα βιολογικό όπλο», ανέφερε ο Jacob Klein, επικεφαλής threat intelligence της εταιρείας. Όπως εξήγησε, πρόκειται για εξαιρετικά σύνθετες περιπτώσεις, στις οποίες η διάκριση μεταξύ νόμιμης έρευνας και πιθανής κακόβουλης χρήσης δεν είναι πάντα σαφής.
Η έκθεση της Anthropic, η οποία καλύπτει περιστατικά κακής χρήσης των μοντέλων της κατά τους τελευταίους οκτώ μήνες, καταγράφει παράλληλα προσπάθειες που συνδέονται με κρατικούς φορείς και οργανωμένες εκστρατείες επιρροής. Μεταξύ άλλων, αναφέρεται σε ύποπτες επιχειρήσεις συνδεδεμένες με την Κίνα και το Ιράν, οι οποίες στόχευαν κοινότητες αντιφρονούντων και διασποράς, καθώς και σε ρωσικά κρατικά μέσα που χρησιμοποίησαν το Claude για την παραγωγή προπαγανδιστικού περιεχομένου, το οποίο παρουσιαζόταν ως ανεξάρτητη δημοσιογραφία.
Από τη βιολογία στα όπλα
Νέα κατηγορία κατάχρησης που καταγράφεται στην έκθεση αφορά τη χρήση του Claude για σχεδιασμό συμβατικών οπλικών συστημάτων. Η Anthropic εντόπισε προσπάθειες ανάπτυξης λογισμικού που σχετιζόταν με πυροβόλα όπλα, πυραύλους, ένοπλα drones και βόμβες, με έξι περιστατικά να αποδίδονται σε υποθέσεις στην Κίνα, τη Ρωσία και την Υεμένη.
Ωστόσο, μεγαλύτερη ανησυχία προκαλούν οι περιπτώσεις βιολογικής έρευνας. Η εταιρεία δεν αποκάλυψε τα ονόματα των ερευνητών ή των οργανισμών, ούτε τις χώρες στις οποίες συνδέονταν. Ανέφερε πάντως ότι κάποιοι χρήστες προσπάθησαν να παρακάμψουν τους περιορισμούς πρόσβασης, αποκρύπτοντας παράλληλα τον πραγματικό σκοπό της έρευνάς τους. Οι σχετικοί λογαριασμοί αποκλείστηκαν.
Σε μία από τις πιο χαρακτηριστικές περιπτώσεις, τον Μάιο, ερευνητής ζήτησε από το Claude βοήθεια για τη σύνταξη αίτησης χρηματοδότησης έρευνας πάνω στον ιό chikungunya. Το συγκεκριμένο πεδίο μπορεί να έχει απολύτως θεμιτούς στόχους, όπως η ανάπτυξη εμβολίων, όμως η Anthropic διαπίστωσε ότι ο σχεδιασμός προέβλεπε μεταλλάξεις του ιού που θα τον καθιστούσαν πιο επιβλαβή κατά τη διαδοχική μόλυνση ζωντανών οργανισμών.
Ιδιαίτερη βαρύτητα είχε, σύμφωνα με την εταιρεία, το γεγονός ότι η έρευνα φαινόταν να προορίζεται για στρατιωτικό ερευνητικό ίδρυμα. «Δεν γνωρίζουμε αν η έρευνα προοριζόταν να γίνει όπλο», δήλωσε ο Klein, σημειώνοντας ωστόσο ότι ο συνδυασμός στρατιωτικού φορέα και έρευνας gain-of-function αποτελεί από μόνος του λόγο ανησυχίας.
Η νέα πρόκληση για την ασφάλεια
Η Anthropic υποστηρίζει ότι οι παλαιότερες εκδόσεις των μοντέλων της δεν ήταν αρκετά ικανές ώστε να προσφέρουν ουσιαστική βοήθεια σε επικίνδυνη βιολογική έρευνα. Τα σημερινά μοντέλα, όμως, μπορούν να ολοκληρώνουν πολύ πιο σύνθετες επιστημονικές εργασίες, γεγονός που οδήγησε την εταιρεία στην ενίσχυση των περιορισμών για ένα ευρύτερο φάσμα βιολογικών ερωτημάτων διπλής χρήσης.
Η Susan Monarez, μικροβιολόγος και ειδικός στη δημόσια υγεία που είχε εξετάσει την έκθεση πριν από τη δημοσίευσή της, εκτίμησε ότι τα περιστατικά προσφέρουν πλέον πραγματικά στοιχεία για τον κίνδυνο κακόβουλοι παράγοντες να αξιοποιούν την τεχνητή νοημοσύνη για να αυξήσουν τις πιθανότητες δημιουργίας παθογόνων με σοβαρές επιπτώσεις. Το ίδιο εργαλείο που μπορεί να επιταχύνει μια ιατρική ανακάλυψη μπορεί, υπό διαφορετικές συνθήκες, να λειτουργήσει προς την αντίθετη κατεύθυνση.
Ο Andrew Weber του Council on Strategic Risks, πρώην αξιωματούχος του αμερικανικού υπουργείου Άμυνας, χαρακτήρισε τα ευρήματα ιδιαίτερα ανησυχητικά και τάχθηκε υπέρ του περιορισμού της πρόσβασης στα ισχυρότερα μοντέλα για βιολογική έρευνα, σε ερευνητές που μπορούν να τα χρησιμοποιούν με ελεγχόμενο τρόπο.
