Safeworld: Η startup που θέλει να εγγυηθεί ότι τα ρομπότ τεχνητής νοημοσύνης δεν θα βλάψουν τους ανθρώπους

Η ενσωμάτωση μοντέλων παραγωγικής τεχνητής νοημοσύνης (Generative AI) στα σύγχρονα ρομπότ αποτελεί μία από τις πιο ραγδαία αναπτυσσόμενες τάσεις της τεχνολογίας. Ωστόσο, η συγκεκριμένη αρχιτεκτονική φέρνει στο προσκήνιο μια σοβαρή πρόκληση: σε αντίθεση με τους παραδοσιακούς, προβλέψιμους αλγορίθμους, τα συστήματα αυτά είναι εγγενώς πιθανολογικά. Το ερώτημα που προκύπτει είναι κρίσιμο: πώς μπορούμε να είμαστε βέβαιοι ότι ένα ανθρωποειδές ρομπότ θα λειτουργεί με απόλυτη ασφάλεια δίπλα στον άνθρωπο;

Την απάντηση σε αυτό το σύνθετο πρόβλημα επιχειρεί να δώσει η Safeworld, μια νεοφυής επιχείρηση που ανακοίνωσε την έξοδό της από stealth λειτουργία, εξασφαλίζοντας αρχική χρηματοδότηση (seed) ύψους άνω των 12 εκατομμυρίων δολαρίων. Στον γύρο χρηματοδότησης ηγήθηκαν τα κεφάλαια Shine Capital και a16z Speedrun, με τη συμμετοχή των Box Group, Carnegie Mellon University Endowment, Innovation Endeavors και SV Angel.

Το στοίχημα της ασφάλειας και της εμπιστοσύνης

Η Safeworld ιδρύθηκε από τον Δρ. Ντινγκ Τζάο, διευθυντή του εργαστηρίου Safe AI στο Πανεπιστήμιο Κάρνεγκι Μέλον, μαζί με το έμπειρο στέλεχος νεοφυών επιχειρήσεων Κάιλ Γουόνγκ και τον μηχανικό μηχανικής μάθησης Σίμο Ρασίντι. Σύμφωνα με τους ιδρυτές, η πρόκληση δεν αφορά μόνο την τεχνική αξιολόγηση των πιθανολογικών συστημάτων, αλλά και την οικοδόμηση της ανθρώπινης εμπιστοσύνης πριν από τη μαζική τους διάθεση.

Όπως επισημαίνει ο Τζόναθαν Λάι, εταίρος στην a16z Speedrun, η θέσπιση προτύπων ασφαλείας είναι αναγκαία τώρα, κατά τη φάση του σχεδιασμού και των πρώτων εφαρμογών. Όταν τα ρομπότ φτάσουν να κυκλοφορούν ευρέως σε σπίτια και εργοστάσια, ενδεχόμενα ατυχήματα με πολίτες ή παιδιά θα είναι καταστροφικά για τον κλάδο.

Εικονικές προσομοιώσεις με ρεαλιστικά ανθρώπινα μοντέλα

Η βασική τεχνολογική προσέγγιση της Safeworld βασίζεται στην αξιολόγηση του λογισμικού ελέγχου των ρομπότ μέσα σε εξαιρετικά ρεαλιστικά περιβάλλοντα προσομοίωσης, όπως το Genesis και το MuJoCo. Παρόμοια με τις μεθόδους που αξιοποιούν εταιρείες αυτόνομης οδήγησης όπως η Tesla και η Wayve, η Safeworld δοκιμάζει τα ρομπότ σε χιλιάδες πιθανά σενάρια και απρόβλεπτες καταστάσεις.

«Σε ένα εργοστάσιο, για παράδειγμα, μια τυφλή γωνία αποτελεί κρίσιμο σημείο», εξηγεί ο Κάιλ Γουόνγκ. Οι προσομοιώσεις εξετάζουν αν το ρομπότ μπορεί να ανιχνεύσει εγκαίρως έναν εργαζόμενο που μεταφέρει κιβώτια ή τι συμβαίνει όταν κάποιος σκοντάψει και πέσει ξαφνικά μπροστά του. Η ανθρώπινη συμπεριφορά και κινησιολογία διαθέτει άπειρες παραλλαγές —από το σκύψιμο και το τρέξιμο έως διαφορετικές σωματικές διαπλάσεις και ενδυμασίες— γεγονός που καθιστά τις μαθηματικές αποδείξεις ασφαλείας ανεπαρκείς χωρίς εκτεταμένες εμπειρικές δοκιμές.

Προς ένα ανεξάρτητο πρότυπο για τη βιομηχανία ρομποτικής

Η ανάγκη για τρίτους, ανεξάρτητους φορείς επικύρωσης ασφάλειας αναγνωρίζεται ήδη από κατασκευαστές. Η Gritt Robotics, η οποία αναπτύσσει ρομποτικούς βραχίονες για την εγκατάσταση φωτοβολταϊκών πλαισίων σε βιομηχανικά πάρκα, συνεργάζεται ήδη με τη Safeworld. Ο τεχνικός διευθυντής της εταιρείας, Βισάλ Ντουγκάρ, τονίζει ότι η ασφάλεια των συστημάτων που συνεργάζονται άμεσα με ανθρώπους μπορεί να διασφαλιστεί μόνο μέσα από εξαντλητικές δοκιμές ακραίων περιπτώσεων (edge cases).

Καθώς η παραγωγική τεχνητή νοημοσύνη αλλάζει ριζικά το τοπίο της ρομποτικής, η Safeworld στοχεύει να καθιερωθεί ως ο απαραίτητος εγγυητής ασφαλείας, γεφυρώνοντας το χάσμα ανάμεσα στα εργαστηριακά πρωτότυπα και την ασφαλή καθημερινή συνύπαρξη ανθρώπων και μηχανών.