Το κρυφό κόστος του AI: Πώς η αποθήκευση δεδομένων απειλεί τους εταιρικούς προϋπολογισμούς

Όταν τα στελέχη των επιχειρήσεων υπολογίζουν το κόστος της Τεχνητής Νοημοσύνης, το μυαλό τους συνήθως πηγαίνει στις ισχυρές μονάδες επεξεργασίας γραφικών (GPU), στην τεράστια κατανάλωση ενέργειας και στις ατελείωτες λίστες αναμονής για νέους επεξεργαστές πυριτίου. Ωστόσο, κάτω από την επιφάνεια του ραγδαία αναπτυσσόμενου οικοσυστήματος του AI, αναδύεται μία εξίσου κρίσιμη και συχνά παραγνωρισμένη δαπάνη: το κόστος αποθήκευσης των δεδομένων.

Από την εκπαίδευση στην παραγωγή: Το αποτύπωμα του inference

Μέχρι σήμερα, ο δημόσιος διάλογος για τις υποδομές επικεντρωνόταν κατά βάση στην εκπαίδευση (training) των μοντέλων. Η εκπαίδευση όμως αποτελεί ένα έργο με αρχή και τέλος: ξεκινά, απορροφά σημαντικούς υπολογιστικούς πόρους και ολοκληρώνεται, επιτρέποντας έναν σαφή προϋπολογισμό. Αντίθετα, η εκτέλεση συμπερασμάτων (inference)—δηλαδή η συνεχής ανταπόκριση του μοντέλου στα ερωτήματα των χρηστών—δεν σταματά ποτέ και αφήνει πίσω της έναν διαρκώς διογκούμενο όγκο ψηφιακών αποτυπωμάτων.

Χαρακτηριστικό είναι το παράδειγμα της δημιουργίας βίντεο μέσω generative AI. Μετρήσεις της εταιρείας WD έδειξαν ότι για ένα κλιπ διάρκειας 8 δευτερολέπτων και μεγέθους μόλις 3,97 MB που παραδίδεται στον χρήστη, δημιουργούνται στο παρασκήνιο περισσότερα από 500 MB δεδομένων. Αρχεία καταγραφής (logs), προσωρινά αποθηκευμένα συμφραζόμενα (cached context), ενδιάμεσα renders και αντίγραφα ασφαλείας αυξάνουν το μέγεθος των δεδομένων κατά 130 φορές σε σχέση με το τελικό αρχείο. Σύμφωνα με εκτιμήσεις της McKinsey, η ζήτηση για AI inference αναμένεται να αναπτύσσεται με ετήσιο ρυθμό 35% έως το 2030, ξεπερνώντας το 40% της συνολικής ζήτησης στα data centers.

Το «σφάλμα στρογγυλοποίησης» που ανατρέπει τα επιχειρηματικά πλάνα

Πρόσφατη διεθνής έρευνα της IDC σε περισσότερους από 760 υπεύθυνους λήψης αποφάσεων IT κατέδειξε ότι σχεδόν το 95% των επιχειρήσεων κατέγραψε αύξηση του όγκου δεδομένων λόγω generative AI τον τελευταίο χρόνο, με το 61% να αναφέρει άνοδο άνω του 25%. Το πρόβλημα περιπλέκεται καθώς οι υποδομές αποθήκευσης δεν αρκεί απλώς να συσσωρεύουν δεδομένα, αλλά οφείλουν να τροφοδοτούν άμεσα τις GPU, ώστε να αποτρέπεται η εξαιρετικά δαπανηρή αδράνειά τους.

Παράλληλα, η φύση των αρχειοθετημένων δεδομένων αλλάζει ριζικά. Πληροφορίες που στο παρελθόν παρέμεναν ανενεργές σε ψηφιακά αρχεία αποτελούν πλέον καύσιμο για τεχνολογίες όπως το Retrieval-Augmented Generation (RAG). Η έρευνα της IDC υπογραμμίζει πως το 96% των επιχειρήσεων αναμένει ότι θα χρειαστεί ταχύτερη ανάκτηση από ιστορικά αρχεία για να υποστηρίξει μοντέλα παραγωγής σε πραγματικό χρόνο.

Ανάγκη για νέα αρχιτεκτονική αποθήκευσης

Για τους οικονομικούς διευθυντές (CFO) και τους επικεφαλής τεχνολογίας (CIO), η θεώρηση της αποθήκευσης ως ένα απλό «σφάλμα στρογγυλοποίησης» στον προϋπολογισμό συνιστά στρατηγικό ρίσκο. Ενώ το υπολογιστικό κόστος μιας ενέργειας είναι προβλέψιμο, το κόστος αποθήκευσης συσσωρεύεται αθροιστικά και εκτοξεύει τα λειτουργικά έξοδα (OpEx) σε βάθος 12 έως 18 μηνών.

Η απάντηση στην πρόκληση απαιτεί ανασχεδιασμό της ιεραρχίας αποθήκευσης. Οι επιχειρήσεις οφείλουν να ισορροπήσουν ανάμεσα στην ακριβή μνήμη υψηλής ταχύτητας (hot storage) και σε οικονομικότερες, υψηλής χωρητικότητας λύσεις, όπως οι μαγνητικοί δίσκοι (HDDs), εξασφαλίζοντας ότι η κλιμάκωση της Τεχνητής Νοημοσύνης θα παραμείνει οικονομικά βιώσιμη.