Underdog: Παρουσίασε το Woof, ένα μοντέλο σύνθεσης ομιλίας μόλις 32MB που εκτελείται τοπικά στον browser

Σε μια περίοδο όπου οι τεχνολογικοί κολοσσοί επενδύουν δισεκατομμύρια σε γιγαντιαία κέντρα δεδομένων για την εκπαίδευση όλο και μεγαλύτερων συστημάτων τεχνητής νοημοσύνης, μια αναδυόμενη τάση κινείται προς την ακριβώς αντίθετη κατεύθυνση: τη δημιουργία εξαιρετικά μικρών, αυτόνομων μοντέλων που εκτελούνται απευθείας στις συσκευές των χρηστών. Πρωτοπόρος σε αυτή τη φιλοσοφία είναι η νεοφυής επιχείρηση Underdog, η οποία παρουσίασε πρόσφατα το Woof, ένα μοντέλο μετατροπής κειμένου σε ομιλία (text-to-speech) με μέγεθος μόλις 31,7 megabytes.

Μια ρετρό διαδραστική εμπειρία χωρίς ανάγκη σύνδεσης στο cloud

Για να αναδείξει τις δυνατότητες της νέας τεχνολογίας, η εταιρεία δημιούργησε ένα πρωτότυπο διαδικτυακό παιχνίδι με αισθητική παλαιότερων δεκαετιών. Στο εικονικό περιβάλλον, ο χρήστης αντικρίζει ένα δωμάτιο εξοπλισμένο με οθόνη CRT, μια γραφομηχανή και ένα επιτραπέζιο φωτιστικό. Πληκτρολογώντας οποιοδήποτε κείμενο στη γραφομηχανή, το σύστημα το εκφωνεί σε πραγματικό χρόνο, αξιοποιώντας αποκλειστικά τους υπολογιστικούς πόρους του προγράμματος περιήγησης (browser), χωρίς να απαιτείται αποστολή δεδομένων σε εξωτερικούς διακομιστές.

Το μοντέλο διαθέτει 31 εκατομμύρια παραμέτρους και διατίθεται ελεύθερα για λήψη από οποιονδήποτε ενδιαφερόμενο. Παρά το μικρό του αποτύπωμα, το Woof αποδεικνύει ότι η παραγωγή φωνής είναι πλέον εφικτή τοπικά ακόμη και σε συσκευές περιορισμένης ισχύος, καταργώντας την εξάρτηση από διαρκή σύνδεση στο διαδίκτυο και προσφέροντας μηδενική καθυστέρηση απόκρισης.

Η στροφή στην τοπική τεχνητή νοημοσύνη και η προστασία δεδομένων

Η κίνηση αυτή εντάσσεται σε μια ευρύτερη στρατηγική της Underdog για την απομάκρυνση από τα λεγόμενα «παρεμβατικά» cloud συστήματα. Η κυκλοφορία του Woof ακολουθεί εκείνη του Bark, ενός μοντέλου απομαγνητοφώνησης (speech-to-text) μεγέθους 167MB, το οποίο επίσης σχεδιάστηκε ειδικά για εκτέλεση σε edge συσκευές. Παράλληλα, η εταιρεία έχει αναπτύξει και ένα ισχυρότερο μοντέλο 27 δισεκατομμυρίων παραμέτρων, το οποίο μπορεί να λειτουργήσει τοπικά σε φορητούς υπολογιστές.

Ο ιδρυτής της Underdog, Σίτζιλ Γουέν, εξήγησε ότι η απόφαση να αναπτύξει δικά του εργαλεία πηγάζει από την ανάγκη διασφάλισης του απορρήτου των χρηστών. Όπως υπογράμμισε, στόχος είναι οι χρήστες να διατηρούν τον πλήρη έλεγχο των δεδομένων τους, αντί να βασίζονται σε εφαρμογές τρίτων που επεξεργάζονται ευαίσθητες πληροφορίες σε απομακρυσμένους διακομιστές. Σύμφωνα με τον ίδιο, μέσα στους επόμενους μήνες η δυνατότητα εκτέλεσης ιδιαίτερα ικανών μοντέλων AI απευθείας σε οικιακές συσκευές θα αποτελεί κοινή πραγματικότητα.

Πρακτικές εφαρμογές πέρα από τα μεγάλα γλωσσικά μοντέλα

Αν και μοντέλα τέτοιου μεγέθους δεν στοχεύουν στην άμεση αντικατάσταση των τεράστιων συστημάτων που διαχειρίζονται πολυδιάστατες εργασίες, ανοίγουν νέους ορίζοντες για στοχευμένες λειτουργίες. Εφαρμογές όπως τοπικοί ψηφιακοί βοηθοί, εξατομικευμένη παραγωγή ηχητικού περιεχομένου, ανάγνωση κειμένων εκτός σύνδεσης και άμεση μεταγραφή συνομιλιών μπορούν πλέον να υλοποιηθούν με ελάχιστη κατανάλωση ενέργειας και απόλυτη ιδιωτικότητα.