Τελειώνει, ή τουλάχιστον κάνει διαλλειμμα, η τάση οι επιχειρήσεις τεχνολογίας -και όχι μόνο- να ζητούν από τους εργαζομένους να χρησιμοποιούν τεχνητή νοημοσύνη όσο το δυνατόν περισσότερο, καθώς το πραγματικό κόστος της μαζικής χρήσης των μοντέλων AI αποδεικνύεται πολύ υψηλότερο από ό,τι είχαν υπολογίσει.
Μεγάλες εταιρείες περιορίζουν πλέον την πρόσβαση στα εργαλεία AI, εγκαταλείποντας τη λογική της αδιάκριτης χρήσης και στρέφοντας την προσοχή τους στην αποτελεσματικότητα και στην απόδοση της επένδυσης. Πλέον προτεραιότητα είναι η μείωση του κόστους και η αποδοτικότητα.
Πριν λίγους μήνες η κυρίαρχη τάση στον tech κλάδο ήταν το λεγόμενο "tokenmaxxing". Ο όρος προέρχεται από τα "tokens", τις μονάδες υπολογισμού που χρησιμοποιούν τα μοντέλα τεχνητής νοημοσύνης για να επεξεργάζονται κείμενο και εντολές. Όσο περισσότερα tokens καταναλώνονται, τόσο αυξάνεται και το κόστος για τις επιχειρήσεις.
Σε εταιρείες όπως η Meta και η Amazon οι εργαζόμενοι ενθαρρύνονταν όχι απλώς να χρησιμοποιούν AI, αλλά ακόμη και να ανταγωνίζονται μεταξύ τους μέσω εσωτερικών πινάκων κατάταξης που κατέγραφαν ποιος χρησιμοποιούσε περισσότερα tokens.
Από το "tokenmaxxing" στο "tokenminning"
Οι οδηγίες άλλαξαν άρδην όταν άρχισαν να συσσωρεύονται οι λογαριασμοί από παρόχους όπως η OpenAI και η Anthropic.
Η Meta ενημέρωσε πρόσφατα τους εργαζομένους της ότι θα επιβάλει περιορισμούς στη χρήση της τεχνητής νοημοσύνης, καθώς διαπίστωσε «εκθετική αύξηση» του κόστους.
Η Uber αποκάλυψε ότι μέσα στους πρώτους τέσσερις μήνες του έτους είχε ήδη εξαντλήσει ολόκληρο τον ετήσιο προϋπολογισμό της για υπηρεσίες AI και επέβαλε μηνιαία όρια στη χρήση εργαλείων προγραμματισμού.
Αντίστοιχους περιορισμούς εισήγαγε και η Walmart.
Εξυπακούεται ότι, τόσο η Meta, όσο και η Amazon απέσυραν τους πίνακες κατάταξης που επιβράβευαν τη μεγαλύτερη κατανάλωση.
Στη θέση του "tokenmaxxing" εμφανίζεται πλέον το "tokenminning" -συντομογραφία του token-minimizing- δηλαδή η προσπάθεια περιορισμού της κατανάλωσης tokens, χωρίς να μειώνεται η παραγωγικότητα.
Ο διευθύνων σύμβουλος της Neurometric, Ρομπ Μέι, ο οποίος συνέγραψε το "The Tokenminning Manifesto", εκτιμά ότι πολλές διοικήσεις δεν διέθεταν ουσιαστικά κριτήρια για να αξιολογήσουν πόσο αποτελεσματικά αξιοποιούσαν οι εργαζόμενοι την τεχνητή νοημοσύνη. Έτσι, κατέληξαν να μετρούν απλώς τον όγκο χρήσης, ενθαρρύνοντας την υπερκατανάλωση, αντί για την αποδοτικότητα.
Οι ισχυρότερες AI κοστίζουν πολύ περισσότερο
Το επιχειρηματικό μοντέλο των εταιρειών ανάπτυξης AI βασίζεται κυρίως στις επιχειρήσεις και όχι στις απλές συνδρομές καταναλωτών. Παρότι οι ατομικές συνδρομές κυμαίνονται από 10 έως 200 δολάρια τον μήνα, οι μεγάλες εταιρείες πληρώνουν επιπλέον για τη συνολική κατανάλωση tokens δεκάδων χιλιάδων εργαζομένων. Όσο αυξάνεται η χρήση, τόσο διογκώνεται και ο λογαριασμός.
Μια απλή περίληψη πρακτικών μιας σύσκεψης μπορεί να απαιτήσει μερικές εκατοντάδες tokens. Αντίθετα, σύνθετες εργασίες, όπως η ανάπτυξη λογισμικού ή η δημιουργία νέων προϊόντων μέσω AI, μπορούν να καταναλώσουν δεκάδες χιλιάδες tokens.
Το κόστος αυξάνεται ακόμη περισσότερο καθώς τα νεότερα μοντέλα γίνονται ισχυρότερα. Χαρακτηριστικά, το νέο μοντέλο Fable της Anthropic κοστίζει περίπου διπλάσια σε σχέση με τον προκάτοχό του, Opus. Παρά την ύπαρξη οικονομικότερων εναλλακτικών, πολλοί εργαζόμενοι έχουν συνηθίσει να χρησιμοποιούν τα πιο προηγμένα μοντέλα ακόμη και για απλές εργασίες.
Παράλληλα, η εξάπλωση των λεγόμενων AI agents έχει αλλάξει τα δεδομένα. Πρόκειται για συστήματα που μπορούν να εργάζονται αυτόνομα επί ώρες σε πολύπλοκες διαδικασίες, αυξάνοντας θεαματικά την κατανάλωση υπολογιστικών πόρων και, κατ' επέκταση, το κόστος.
Στριφή στο μετρήσιμο αποτέλεσμα
Πολλές διοικήσεις θεωρούν ότι οι τεράστιες δαπάνες για την τεχνητή νοημοσύνη δεν συνοδεύονται ακόμη από αντίστοιχα μετρήσιμα επιχειρηματικά οφέλη.
Ο COO της Uber, Άντριου ΜακΝτόναλντ, δήλωσε πρόσφατα ότι, όσο δεν μπορεί να αποδειχθεί με σαφήνεια πως η αυξημένη χρήση AI οδηγεί σε περισσότερα χρήσιμα προϊόντα και λειτουργίες, τόσο δυσκολότερο γίνεται να δικαιολογηθεί η σχετική δαπάνη.
Αυτό δεν σημαίνει ότι οι επενδύσεις σταματούν. Η Meta εξακολουθεί να προβλέπει δαπάνες δισεκατομμυρίων δολαρίων για AI μέσα στη χρονιά, όμως επιδιώκει πλέον να επιτυγχάνει τα ίδια ή καλύτερα επιχειρηματικά αποτελέσματα με χαμηλότερο κόστος.
Αντίστοιχα, η Salesforce ανακοίνωσε ότι εγκαταλείπει τη μέτρηση των tokens και αξιολογεί πλέον τα λεγόμενα "agentic work units", έναν δείκτη που αποτυπώνει την πραγματική παραγωγή έργου και όχι απλώς την ένταση χρήσης των μοντέλων.
Το νέο ζητούμενο: σωστή επιλογή μοντέλου
Η νέα φιλοσοφία που αρχίζει να επικρατεί στον κλάδο, είναι ότι τα πλέον προηγμένα μοντέλα AI πρέπει να χρησιμοποιούνται μόνο όπου πραγματικά απαιτούνται.
Ο επικεφαλής τεχνητής νοημοσύνης της AT&T, Άντι Μάρκους, υποστηρίζει ότι οι επιχειρήσεις μπορούν να μειώσουν έως και κατά 90% το σχετικό κόστος, αξιοποιώντας φθηνότερα μοντέλα για τις περισσότερες καθημερινές εργασίες και κρατώντας τα ισχυρότερα μόνο για τις πιο σύνθετες εφαρμογές.
Όπως επισημαίνει, στις περισσότερες περιπτώσεις δεν είναι απαραίτητη η χρήση του πιο εξελιγμένου διαθέσιμου μοντέλου. Η πρόκληση πλέον δεν είναι η μεγαλύτερη δυνατή χρήση της τεχνητής νοημοσύνης, αλλά η πιο αποδοτική αξιοποίησή της.
