OpenAI: Ευρέως διαθέσιμο το Decisions API – Κορυφώνεται η μάχη στα AI μοντέλα ταχείας λήψης αποφάσεων

Η OpenAI προχώρησε στην καθολική διάθεση του νέου της Decisions API, εισερχόμενη δυναμικά σε μια αναδυόμενη και εξαιρετικά κερδοφόρα κατηγορία τεχνητής νοημοσύνης: τα μοντέλα ταχείας και οικονομικής λήψης αποφάσεων (decision models). Η συγκεκριμένη αγορά απέκτησε τεράστιο ενδιαφέρον μετά την εντυπωσιακή πορεία του Jev, ενός ανταγωνιστικού εργαλείου που δημιούργησε η TypeSafe – startup ιδρυθείσα από πρώην ερευνητή της OpenAI, η οποία πρόσφατα έφτασε σε αποτίμηση 7,6 δισεκατομμυρίων δολαρίων.

Η άνοδος των μοντέλων «Συστήματος 1» και η εκτίναξη της ταχύτητας

Το Jev της TypeSafe εγκαινίασε ουσιαστικά μια νέα κατηγορία μοντέλων βαθιάς μάθησης που λειτουργούν ως υπερ-ταξινομητές. Με βάση ένα σύνολο επιλογών, τα εν λόγω συστήματα –συχνά αποκαλούμενα μοντέλα «Συστήματος 1»– λαμβάνουν ταχύτατες αποφάσεις, παρέχοντας ταυτόχρονα βαθμό βεβαιότητας για την έκβαση. Οι προγραμματιστές συνειδητοποίησαν άμεσα ότι αυτά τα εργαλεία μπορούν να υποκαταστήσουν τα παραδοσιακά μεγάλα γλωσσικά μοντέλα (LLMs) σε πολλαπλές διαδικασίες, προσφέροντας ασύγκριτα μεγαλύτερη ταχύτητα με δραστικά χαμηλότερο κόστος λειτουργίας.

Όπως δήλωσε ο Νικούντζ Χάντα, επικεφαλής προϊόντων API της OpenAI, η ανταπόκριση της εταιρείας ήταν άμεση. Αντί να εκπαιδεύσει ένα εξειδικευμένο μοντέλο από το μηδέν, η ομάδα τροποποίησε το ChatGPT Luna, βελτιστοποιώντας το για ταχύτατη εξαγωγή συμπερασμάτων (inference) και μειωμένο κόστος. «Το μεγάλο άλμα με το Decisions API ήταν η ταχύτητα, καθώς συρρικνώσαμε τους χρόνους απόκρισης από τα 1 έως 3 δευτερόλεπτα σε μόλις 100 έως 180 χιλιοστά του δευτερολέπτου», υπογράμμισε ο Χάντα.

Πραγματικές εφαρμογές και ενσωμάτωση στις επιχειρήσεις

Το εργαλείο, το οποίο είχε παρουσιαστεί αρχικά στην ημέρα προγραμματιστών της OpenAI στα τέλη Σεπτεμβρίου, υποστηρίζει πλέον δυνατότητες ανάλυσης φωνής και εικόνας, ενώ αξιοποιεί γεωγραφικά κατανεμημένους πόρους για να ελαχιστοποιήσει την υστέρηση (latency) παγκοσμίως. Εταιρείες όπως οι Box, Datadog, Ramp και Speak έχουν ήδη ενσωματώσει το Decisions API στις υποδομές τους με θεαματικά αποτελέσματα. Ενδεικτικά, ο Άντριου Σου, τεχνικός διευθυντής (CTO) της εκπαιδευτικής πλατφόρμας Speak, σημείωσε ότι ο χρόνος μεταξύ διαδοχικών ενεργειών μειώθηκε από τα 1,4 δευτερόλεπτα σε μόλις 0,13 δευτερόλεπτα. Παράλληλα, η ίδια η OpenAI χρησιμοποίησε το μοντέλο για να επιταχύνει την απόκριση του φωνητικού βοηθού Dots.

Ο ανταγωνισμός στα benchmarks και το μέλλον

Ο ανταγωνισμός στο πεδίο παραμένει σκληρός, παρά το γεγονός ότι οι μετρήσεις απόδοσης διαφέρουν ανάλογα με τον φόρτο εργασίας. Ο διευθύνων σύμβουλος της TypeSafe, Ντιόγκο Αλμέιντα, συνιστά στους χρήστες να δοκιμάζουν τα συστήματα στις δικές τους ροές εργασίας αντί να βασίζονται αποκλειστικά σε τυποποιημένα benchmarks. Σε δημόσιους δείκτες, όπως το AIM System One Index και το Artificial Analysis Decision Index, ισχυρή παρουσία καταγράφουν μοντέλα όπως το D1 Ultra της Liquid και το Elephant-1 της Base Lab, με το Jev να διατηρείται στις κορυφαίες θέσεις και να παραμένει το πλέον δημοφιλές σε αιτήματα στο OpenRouter.

Ξεχωριστό ενδιαφέρον παρουσιάζει το benchmark JevMan της Opper AI, όπου τα συστήματα καλούνται να παίξουν το κλασικό PacMan. Όπως εξήγησε ο Φέλιξ Βούντερλιχ, στέλεχος της Opper AI, το παιχνίδι αποτελεί ιδανική δοκιμασία καθώς απαιτεί συνεχή λήψη κρίσιμων αποφάσεων μέσα σε κλάσματα δευτερολέπτου. Από την πλευρά της, η OpenAI ποντάρει στην πολυτροπικότητα (multimodality) του Luna, ειδικά στην κατηγοριοποίηση εικόνων, στοχεύοντας παράλληλα σε ακόμη χαμηλότερη υστέρηση, κοντά στα 60 χιλιοστά του δευτερολέπτου, γεγονός που θα επιτρέψει την επεξεργασία δεδομένων καρέ-καρέ σε πραγματικό χρόνο.