Ετικέτα Ασφάλεια AI

Anthropic: Συνεργασία-έκπληξη με την Accenture για την αξιολόγηση της ασφάλειας στην Τεχνητή Νοημοσύνη

Σε μια κίνηση που προκαλεί αίσθηση στη βιομηχανία της τεχνολογίας, η Anthropic ανακοίνωσε ότι ο κολοσσός των συμβουλευτικών υπηρεσιών Accenture θα αποτελέσει τον πρώτο εξωτερικό «ενσωματωμένο αξιολογητή» (embedded evaluator) στα εργαστήριά της. Το σχέδιο του επικεφαλής της εταιρείας, Ντάριο Αμοντέι,…

Anthropic και OpenAI: Ενσωμάτωση ανεξάρτητων ελεγκτών ασφαλείας – Πόσο αυτόνομοι θα είναι στην πράξη;

Σε μια κίνηση που σηματοδοτεί πιθανή καμπή για τη βιομηχανία της τεχνητής νοημοσύνης, οι επικεφαλής των κορυφαίων εταιρειών του κλάδου, Anthropic και OpenAI, προτείνουν την ενσωμάτωση εξωτερικών, ανεξάρτητων ελεγκτών ασφαλείας στο εσωτερικό των οργανισμών τους. Η πρωτοβουλία στοχεύει στην ουσιαστική…

Τεχνητή Νοημοσύνη: Δημιουργήθηκαν οι πρώτες γραμμές καταγγελιών για παραβατικούς πράκτορες AI

Το γνωστό αξίωμα «αν δεις κάτι, πες το» παύει να αποτελεί αποκλειστικό προνόμιο των ανθρώπων και περνά πλέον στον κόσμο των αλγορίθμων. Η ραγδαία εξέλιξη των αυτόνομων πρακτόρων τεχνητής νοημοσύνης (AI agents) και η εμφάνιση περιστατικών όπου συστήματα συνεργάστηκαν κρυφά…

Η OpenAI εντάσσει στο διοικητικό της συμβούλιο τον κορυφαίο ερευνητή ασφαλείας Πολ Κριστιάνο

Σε μια στρατηγική κίνηση που σηματοδοτεί την αναγνώριση των εντεινόμενων ανησυχιών γύρω από τους κινδύνους της Τεχνητής Νοημοσύνης, η OpenAI ανακοίνωσε την ένταξη του διακεκριμένου ερευνητή Πολ Κριστιάνο στο διοικητικό συμβούλιο του ιδρύματός της (OpenAI Foundation). Ο Κριστιάνο, ένας από…

Κόνορ Λίχι (ControlAI): «Η υπερνοημοσύνη δεν είναι όπλο, είναι αντίπαλος»

Ενώ οι κορυφαίοι τεχνολογικοί κολοσσοί αντιμετωπίζουν την άφιξη της τεχνητής υπερνοημοσύνης ως ένα αναπόφευκτο ορόσημο της εξέλιξης, οι φωνές που προειδοποιούν για υπαρξιακούς κινδύνους πληθαίνουν. Πρόσφατα περιστατικά ασφαλείας, όπως το ζήτημα ασφαλείας της OpenAI στην πλατφόρμα Hugging Face, φέρνουν στο…