Νέα προειδοποίηση από ερευνητή Τεχνητής Νοημοσύνης προκαλεί συζήτηση γύρω από τους κινδύνους της ανάπτυξης ολοένα και ισχυρότερων μοντέλων A...
Νέα προειδοποίηση από ερευνητή Τεχνητής Νοημοσύνης προκαλεί συζήτηση γύρω από τους κινδύνους της ανάπτυξης ολοένα και ισχυρότερων μοντέλων AI. Ο 27χρονος Βρετανός ερευνητής Τζέικομπ Κόξον ανακοίνωσε την παραίτησή του από την Anthropic, εκφράζοντας φόβους ότι ο ανταγωνισμός μεταξύ των εταιρειών του κλάδου οδηγεί σε μια κούρσα ανάπτυξης συστημάτων που ενδέχεται κάποια στιγμή να μην μπορούν να ελεγχθούν.
Σε σειρά αναρτήσεών του στα μέσα κοινωνικής δικτύωσης, ο Κόξον υποστηρίζει ότι δεν επιθυμεί να συμμετέχει στην προσπάθεια δημιουργίας μοντέλων που θα έχουν τη δυνατότητα να βελτιώνουν αυτόνομα τις ικανότητές τους.
Κατά την άποψή του, η εξέλιξη αυτή θα μπορούσε να δημιουργήσει συστήματα τα οποία θα είναι ολοένα δυσκολότερο να ελεγχθούν από τους ανθρώπους, με δυνητικά σοβαρές συνέπειες.
«Ώρα μηδέν» και «τελικό στάδιο» για την AI
Ο Κόξον, ο οποίος έχει σπουδάσει μαθηματικά, αναφέρει ότι στον χώρο της Τεχνητής Νοημοσύνης χρησιμοποιούνται πλέον από αρκετούς ερευνητές όροι όπως «ώρα μηδέν» και «τελικό στάδιο» για να περιγράψουν την πορεία προς τη δημιουργία αυτοβελτιούμενων μοντέλων.
Ο ίδιος εκτιμά ότι η ανθρωπότητα μπορεί να πλησιάζει σε ορισμένα από τα πιο ακραία σενάρια που έχουν συζητηθεί για την εξέλιξη της AI.
Παράλληλα, εκφράζει την ανησυχία ότι ο έντονος ανταγωνισμός μεταξύ των εταιρειών τεχνητής νοημοσύνης, σε συνδυασμό με τον ανταγωνισμό από την Κίνα, μπορεί να οδηγήσει σε υποχωρήσεις ως προς τα μέτρα ασφάλειας προκειμένου οι εταιρείες να μην μείνουν πίσω στην κούρσα ανάπτυξης.
Από την OpenAI στην Anthropic
Η αποχώρηση του Κόξον έχει ιδιαίτερο ενδιαφέρον, καθώς νωρίτερα μέσα στο 2026 είχε εγκαταλείψει την OpenAI για να ενταχθεί στην Anthropic, εταιρεία που έχει δώσει ιδιαίτερη έμφαση στην ασφάλεια και την υπεύθυνη ανάπτυξη των μοντέλων AI.
Ωστόσο, σύμφωνα με τον ίδιο, ακόμη και αν οι προσπάθειες της Anthropic για ασφαλέστερη ανάπτυξη της τεχνολογίας είναι ειλικρινείς, θεωρεί πλέον ότι καμία μεμονωμένη εταιρεία δεν μπορεί να αναπτύξει υπεύθυνα μια Τεχνητή Νοημοσύνη που θα ξεπερνά τον άνθρωπο σε ένα ευρύ φάσμα εργασιών.
Πρόκειται για το ενδεχόμενο που συχνά περιγράφεται ως Τεχνητή Γενική Νοημοσύνη (AGI).
Ο ερευνητής υποστηρίζει ότι για την αντιμετώπιση των κινδύνων θα απαιτούνταν κρατική παρέμβαση ή ένας ευρύτερος διεθνής συντονισμός που θα μπορούσε, εφόσον χρειαστεί, να επιβραδύνει την ανάπτυξη ιδιαίτερα ισχυρών συστημάτων AI.
Οι φόβοι για τα αυτοβελτιούμενα μοντέλα
Στο σκεπτικό της παραίτησής του, ο Κόξον αναφέρεται σε πρόσφατα περιστατικά που αφορούν μοντέλα της OpenAI και της Anthropic, καθώς και σε πειράματα με συνεργατικά «σμήνη» πρακτόρων AI.
Τα περιστατικά αυτά, σύμφωνα με τον ίδιο, ενισχύουν την ανησυχία ότι προηγμένα συστήματα μπορεί να εμφανίσουν συμπεριφορές που οι δημιουργοί τους δεν είχαν προβλέψει ή να επιδιώξουν στόχους που δεν είναι πλήρως ευθυγραμμισμένοι με τις ανθρώπινες προθέσεις.
Το μεγαλύτερο ερώτημα, όπως το θέτει ο ίδιος, αφορά το τι θα μπορούσε να συμβεί εάν τέτοια συστήματα αποκτήσουν τη δυνατότητα να βελτιώνουν αυτόνομα τον εαυτό τους.
Ο φόβος είναι ότι μια τέτοια εξέλιξη θα μπορούσε να καταστήσει τα μοντέλα πολύ πιο δύσκολα στον έλεγχο και ενδεχομένως να τα οδηγήσει σε συμπεριφορές που δεν υπακούν στις ανθρώπινες εντολές.
«Ο κόσμος βρίσκεται σε κίνδυνο»
Η παραίτηση του Κόξον έρχεται μετά την αποχώρηση και άλλου ερευνητή που εργαζόταν στον τομέα της ασφάλειας της Τεχνητής Νοημοσύνης και επέλεξε να στραφεί στην ποίηση, προειδοποιώντας για τους κινδύνους που αντιμετωπίζει ο κόσμος.
Παράλληλα, ο Κόξον συγκαταλέγεται μεταξύ περισσότερων από 1.000 ερευνητών AI που υπέγραψαν πρόσφατα κοινή δήλωση υπέρ του διεθνούς συντονισμού των κυβερνήσεων.
Στόχος της πρωτοβουλίας είναι να υπάρχει η δυνατότητα συντονισμένης επιβράδυνσης της ανάπτυξης της Τεχνητής Νοημοσύνης, εφόσον προκύψουν ενδείξεις ότι απαιτείται ένα «φρένο» στην εξέλιξη αυτοβελτιούμενων συστημάτων.
Η Anthropic και η επόμενη μεγάλη κούρσα
Η εξέλιξη σημειώνεται σε μια κρίσιμη περίοδο για την Anthropic, η οποία προετοιμάζεται για δημόσια εγγραφή στο χρηματιστήριο, με τις προσδοκίες να κάνουν λόγο για μία από τις μεγαλύτερες εισαγωγές εταιρείας τεχνολογίας.
Η εταιρεία επιδιώκει αποτίμηση που θα μπορούσε να φτάσει τα 2 τρισεκατομμύρια δολάρια, ενώ έχει επενδύσει σημαντικά στην εικόνα της ως εταιρείας που δίνει προτεραιότητα στην ασφαλή και υπεύθυνη ανάπτυξη της AI.
Την ίδια ώρα, ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, και άλλα στελέχη της εταιρείας έχουν επανειλημμένα αναφερθεί στους κινδύνους που μπορεί να προκύψουν από την ανεξέλεγκτη ανάπτυξη ιδιαίτερα ισχυρών μοντέλων τεχνητής νοημοσύνης.
Η αποχώρηση ενός ερευνητή που εργάστηκε τόσο στην OpenAI όσο και στην Anthropic επαναφέρει έτσι στο προσκήνιο το βασικό ερώτημα της εποχής της AI: πόσο γρήγορα πρέπει να εξελίσσεται η τεχνολογία και ποιος θα αποφασίζει πότε πρέπει να μπει «φρένο»;
Δεν υπάρχουν σχόλια