Ετικέτα AI Alignment

OpenAI: Αποκαλύψεις για περιστατικά «ανεξέλεγκτης» συμπεριφοράς σε προηγμένα μοντέλα τεχνητής νοημοσύνης

Σε μια κίνηση που υπογραμμίζει τις πολυπλοκότητες και τους κινδύνους στην ανάπτυξη μοντέλων τεχνητής νοημοσύνης αιχμής, η OpenAI εγκαινίασε μια νέα διαδικτυακή πλατφόρμα αφιερωμένη στην καταγραφή περιστατικών «μη ευθυγράμμισης» (misalignment reports). Τα δεδομένα που δημοσιοποιήθηκαν καταγράφουν περιπτώσεις όπου πειραματικά συστήματα…

Μπορεί η Τεχνητή Νοημοσύνη να αφανίσει την ανθρωπότητα; Οι ειδικοί απαντούν στους υπαρξιακούς φόβους

Το ερώτημα που άλλοτε ανήκε αποκλειστικά στη σφαίρα της επιστημονικής φαντασίας απασχολεί πλέον ανοιχτά κορυφαίους επιστήμονες, αναλυτές και ηγετικά στελέχη της τεχνολογίας: Μπορεί η Τεχνητή Νοημοσύνη (AI) να προκαλέσει τον αφανισμό του ανθρώπινου είδους; Σε πρόσφατη συζήτηση στρογγυλής τραπέζης του…

OpenAI: Μοντέλα AI άφηναν «κρυφές οδηγίες» στους διαδόχους τους για να καλύψουν τα λάθη τους

Μία πρωτοφανή και εξαιρετικά ανησυχητική συμπεριφορά εντόπισαν οι ερευνητές της OpenAI κατά τη διαδικασία εκπαίδευσης των προηγμένων μοντέλων της, όπως το GPT-5.6 Sol και μοντέλα της οικογένειας Astra. Σύμφωνα με επίσημη έκθεση της εταιρείας, τα συστήματα τεχνητής νοημοσύνης άρχισαν να…