Jev: Το νέο μοντέλο τεχνητής νοημοσύνης από συνδημιουργό του ChatGPT που αλλάζει τον προγραμματισμό

Ένας από τους βασικούς ερευνητές πίσω από τη δημιουργία του ChatGPT και συν-εφευρέτης της τεχνικής εκπαίδευσης RLHF (Reinforcement Learning from Human Feedback), ο Ντιόγκο Αλμέιντα, παρουσίασε μια καινοτόμο προσέγγιση στην τεχνητή νοημοσύνη που υπόσχεται να αλλάξει ριζικά τον τρόπο με τον οποίο οι προγραμματιστές αυτοματοποιούν διαδικασίες λογισμικού.

Μέσω της νέας του startup, TypeSafe AI, ο Αλμέιντα κυκλοφόρησε το Jev, ένα transformer μοντέλο το οποίο δεν ανήκει στην κατηγορία των παραδοσιακών γλωσσικών μοντέλων (LLMs). Αντί να παράγει κείμενο σε φυσική ανθρώπινη γλώσσα, το σύστημα εξάγει πιθανότητες και αυτό που η εταιρεία ονομάζει «βαθμονομημένες αποφάσεις» (calibrated decisions).

Από τα LLMs στις «βαθμονομημένες αποφάσεις» χωρίς παραισθήσεις

Όπως εξηγεί ο Αλμέιντα, παρά τις εντυπωσιακές δυνατότητες του ChatGPT, η βελτιστοποίηση των μοντέλων για την ανθρώπινη γλώσσα δημιουργεί σημαντικά εμπόδια στον αυτοματισμό, καθώς οι υπολογιστές λειτουργούν με διαφορετική δομή. Απομακρυνόμενο από την παραγωγή κειμένου, το Jev καταφέρνει να εξαλείψει πλήρως το φαινόμενο των «παραισθήσεων» (hallucinations), αφού τα πιθανά αποτελέσματα ορίζονται εκ των προτέρων από τον χρήστη.

Παράλληλα, το νέο μοντέλο διακρίνεται για την εξαιρετικά υψηλή ταχύτητα και το ασύγκριτα χαμηλό κόστος λειτουργίας του: τα output tokens προσφέρονται δωρεάν, ενώ τα input tokens χρεώνονται ανά δισεκατομμύριο και όχι ανά εκατομμύριο. Το ενδιαφέρον της τεχνολογικής κοινότητας υπήρξε τόσο άμεσο, που η αυξημένη ζήτηση προκάλεσε προσωρινή διακοπή στη διαθεσιμότητα του API κατά το λανσάρισμα.

Ενθουσιασμός στους προγραμματιστές και πραγματικές εφαρμογές

Οι πρώτες δοκιμές από στελέχη της βιομηχανίας λογισμικού δείχνουν σημαντικά πλεονεκτήματα. Ο Πράνιτ Σάρμα, μηχανικός λογισμικού στη Vercel, ανέφερε ότι η αντικατάσταση του μοντέλου Luna 5.6 της OpenAI με το Jev για τον έλεγχο ασφαλείας εντολών οδήγησε σε 5 έως 18 φορές ταχύτερη επεξεργασία και αυξημένη ακρίβεια.

Αντίστοιχα, ο τεχνικός διευθυντής (CTO) της Bryo AI, Νιχίλ Μουντχολκάρ, δοκίμασε το Jev έναντι του Gemini για την κατηγοριοποίηση εταιρικών emails, επισημαίνοντας τη δυνατότητα του μοντέλου να επιστρέφει πραγματικές τιμές πιθανότητας, γεγονός που το καθιστά ιδανικό για ροές εργασίας.

Πέρα από την απευθείας εκτέλεση εργασιών, το Jev μπορεί να λειτουργήσει συμπληρωματικά με υπάρχοντα LLMs. Μπορεί να χρησιμοποιηθεί ως μηχανισμός ελέγχου (guardrail) για την αποτροπή κακόβουλων ενεργειών (jailbreaks), αλλά και για τη δρομολόγηση αιτημάτων (model routing) στο κατάλληλο μοντέλο ανάλογα με τον φόρτο εργασίας, όπως υπογράμμισε ο Άρμιν Ρόναχερ, CTO της Earendil.

Το παράδοξο του Τζέβονς και η εκπαίδευση με συνθετικά δεδομένα

Το όνομα του μοντέλου προέρχεται από τον οικονομολόγο του 19ου αιώνα Γουίλιαμ Στάνλεϊ Τζέβονς, του οποίου το ομώνυμο παράδοξο περιγράφει πώς η πτώση του κόστους ενός αγαθού οδηγεί σε ραγδαία αύξηση της χρήσης του. Ο Αλμέιντα εκτιμά ότι η κατακόρυφη μείωση του κόστους της υπολογιστικής νοημοσύνης θα οδηγήσει σε μια αποκεντρωμένη διάχυση «έξυπνου λογισμικού» παντού.

Αν και η TypeSafe AI κρατά κλειστά τα χαρτιά της για την ακριβή αρχιτεκτονική του Jev, χαρακτηρίζει το σύστημα ως «System One model», εστιασμένο στη διαίσθηση παρά στη σύνθετη συλλογιστική. Το μοντέλο εκπαιδεύτηκε αποκλειστικά με συνθετικά δεδομένα μέσω μιας νέας μεθοδολογίας ενισχυτικής μάθησης, με την εταιρεία να σχεδιάζει ήδη νέες εκδόσεις για διαφορετικές μορφές δεδομένων.