TECHin

Anthropic: Η IPO του $1,4 τρισ. και... οι ανεξέλεγκτοι κίνδυνοι στο ενημερωτικό της δελτίο


Το ενημερωτικό δελτίο άνω των 300 σελίδων αποκαλύπτει κινδύνους από την ανεξέλεγκτη ανάπτυξη της τεχνητής νοημοσύνης, αδυναμίες της εταιρικής διακυβέρνησης και το μεγάλο στοίχημα της δημόσιας αποστολής της εταιρείας

Με πιθανή αποτίμηση 1,4 τρισ. δολαρίων, η Anthropic ετοιμάζεται για μία από τις μεγαλύτερες IPO στην ιστορία της τεχνολογίας. Ωστόσο, στο ενημερωτικό δελτίο της αφιερώνει σχεδόν 100 σελίδες στους κινδύνους της τεχνητής νοημοσύνης, προειδοποιώντας ακόμη και για κινδύνους ακόμη και υπαρξιακής κλίμακας για την ανθρωπότητα. Μπορεί η εταιρεία να ελέγξει τους κινδύνους που περιγράφει;

Δεν πρόκειται μόνο για τους συνηθισμένους επιχειρηματικούς κινδύνους που αντιμετωπίζει μια εταιρεία τεχνολογίας, όπως ο ανταγωνισμός και η ανάγκη συνεχών επενδύσεων. Η Anthropic αναγνωρίζει ότι τα μοντέλα της ενδέχεται να λειτουργήσουν με απρόβλεπτους, μη ευθυγραμμισμένους ή αυτόνομους τρόπους, αναλαμβάνοντας επιβλαβείς ενέργειες που δεν τους έχει ζητήσει κανένας χρήστης.

Το ασυνήθιστο μοντέλο εταιρικής διακυβέρνησης

Η εταιρεία έχει επιλέξει να οργανωθεί ως εταιρεία κοινωφελούς σκοπού (public benefit corporation), αντί να λειτουργεί αποκλειστικά με γνώμονα τη μεγιστοποίηση της αξίας για τους μετόχους. Η επιλογή αυτή συνδέεται με την αρχική φιλοσοφία των ιδρυτών της, οι οποίοι αποχώρησαν από την OpenAI για να δημιουργήσουν έναν οργανισμό που θα έδινε μεγαλύτερη έμφαση στην ασφαλή ανάπτυξη της τεχνητής νοημοσύνης και στο δημόσιο συμφέρον.

Στην κορυφή της εταιρικής δομής βρίσκονται δύο διακριτά κέντρα εξουσίας. Οι επτά συνιδρυτές κατέχουν συλλογικά το 50,1% της Anthropic, με τον διευθύνοντα σύμβουλο Ντάριο Αμοντέι και την αδελφή του, πρόεδρο της εταιρείας, Ντανιέλα Αμοντέι, να συγκαταλέγονται στους βασικούς μετόχους. Η ομάδα των ιδρυτών διατηρεί έτσι σημαντική επιρροή τόσο στον έλεγχο όσο και στην καθημερινή λειτουργία της επιχείρησης.

Το δεύτερο κέντρο είναι το Long-Term Benefit Trust, ένα ειδικό καταπίστευμα που έχει σχεδιαστεί ώστε να διασφαλίζει ότι οι αποφάσεις της Anthropic λαμβάνουν υπόψη το μακροπρόθεσμο συμφέρον της ανθρωπότητας. Το καταπίστευμα προβλέπει πέντε διαχειριστές, αν και σήμερα τέσσερις θέσεις είναι καλυμμένες, με μία να παραμένει κενή. Ανάμεσα στα πρόσωπα που συμμετέχουν βρίσκεται ο πρώην πρόεδρος της Ομοσπονδιακής Τράπεζας των ΗΠΑ, Μπεν Μπερνάνκι.

Ο ρόλος του καταπιστεύματος δεν είναι να διοικεί καθημερινά την εταιρεία, αλλά να εκλέγει την πλειονότητα των μελών του διοικητικού συμβουλίου. Στόχος είναι να λειτουργεί ως θεσμικό αντίβαρο, ώστε η διοίκηση να μην απομακρύνεται από τη δημόσια αποστολή της. Ωστόσο, ακόμη και αυτή η πρωτότυπη δομή ίσως δεν αρκεί για να αντιμετωπίσει τις ταχύτατες εξελίξεις στον κλάδο.

Οι κίνδυνοι που περιγράφει η ίδια η Anthropic

Το καταπίστευμα κινείται με διαδικασίες που απαιτούν χρόνο, ενώ η τεχνολογία εξελίσσεται με ρυθμούς που δυσκολεύουν την αποτελεσματική εποπτεία. Οι κίνδυνοι από αυτόνομους πράκτορες που αποκλίνουν από τον σχεδιασμό τους, αλλά και από κυβερνοαπειλές, μπορούν να εμφανιστούν και να κλιμακωθούν πολύ ταχύτερα από όσο μπορούν να αντιδράσουν οι θεσμοί εταιρικής διακυβέρνησης.

Το ενημερωτικό δελτίο περιγράφει τρεις βασικές κατηγορίες κινδύνων: επιχειρηματικούς, ρυθμιστικούς και τεχνολογικούς. Στην πρώτη κατηγορία περιλαμβάνεται ο έντονος ανταγωνισμός από εταιρείες όπως η Google και η OpenAI, καθώς και η ανάγκη διαρκούς πρόσβασης σε υπολογιστική ισχύ και επενδύσεις για την ανάπτυξη ολοένα ισχυρότερων μοντέλων.

Στους ρυθμιστικούς κινδύνους περιλαμβάνονται πιθανοί περιορισμοί στην κατασκευή data centers, οι οποίοι θα μπορούσαν να περιορίσουν την υπολογιστική δυναμικότητα της Anthropic. Το έγγραφο αναφέρεται επίσης στη διαμάχη της εταιρείας με την κυβέρνηση Τραμπ σχετικά με την άρνησή της να επιτρέψει τη χρήση της τεχνολογίας της για την ανάπτυξη συστημάτων μαζικής παρακολούθησης.

Ωστόσο, η πιο ασυνήθιστη ενότητα αφορά τις πιθανές επιπτώσεις της ίδιας της τεχνολογίας. Η Anthropic προειδοποιεί ότι αυτόνομα συστήματα θα μπορούσαν να αναλάβουν επιβλαβείς ενέργειες χωρίς ανθρώπινη εντολή. Ο Ντάριο Αμοντέι έχει περιγράψει ως εφιαλτικό σενάριο τη δημιουργία ενός δικτύου αυτόνομων πρακτόρων που θα μπορούσε να προκαλέσει εκτεταμένες διαταραχές στο διαδίκτυο.

Οι επιπτώσεις, σύμφωνα με την ανάλυση της Σαρίν, δεν θα περιορίζονταν στην ψηφιακή οικονομία. Ενδεχόμενη ανεξέλεγκτη δράση τέτοιων συστημάτων θα μπορούσε να επηρεάσει το χρηματοπιστωτικό σύστημα, τα δίκτυα ύδρευσης και κρίσιμες υποδομές, δημιουργώντας κινδύνους τόσο για την κοινωνία, όσο και για τους επενδυτές.

Η αντίφαση είναι εμφανής: η Anthropic επιδιώκει να αντλήσει κεφάλαια από τις αγορές, στηρίζοντας την αποτίμησή της στην υπόσχεση μιας νέας γενιάς τεχνητής νοημοσύνης, ενώ ταυτόχρονα προειδοποιεί τους υποψήφιους μετόχους ότι η τεχνολογία της μπορεί να προκαλέσει ζημίες που ξεπερνούν κατά πολύ τα όρια μιας εταιρικής κρίσης. Γι' αυτό και η ηγεσία της ζητά αυστηρότερη ρύθμιση και μεγαλύτερη συμμετοχή της κυβέρνησης στην εποπτεία της ανάπτυξης της τεχνητής νοημοσύνης.

Το θέμα δεν είναι μόνο αν η Anthropic θα καταφέρει να διατηρήσει την τεχνολογική της υπεροχή απέναντι στους ανταγωνιστές της, αλλά και αν το μοντέλο διακυβέρνησης που έχει δημιουργήσει, μπορεί να ανταποκριθεί σε κινδύνους τους οποίους η ίδια χαρακτηρίζει δυνητικά υπαρξιακούς.

Ακολουθήστε το Sofokleousin.gr στο Google News
και μάθετε πρώτοι όλες τις ειδήσεις
Σχετικά Άρθρα