https://www.liberal.gr/tehnologia/o-synaspismos-ton-1200-praktoron
Ο «συνασπισμός» των 1.200 πρακτόρων Η ιστορία ξεκινά τον Μάιο του 2026, όταν μια ομάδα πρακτόρων τεχνητής νοημοσύνης (A.I. agents), αντίγραφα ενός μη δημόσιου ερευνητικού μοντέλου της OpenAI, εκπαιδευμένου να είναι ιδιαίτερα επίμονο και ιδιαίτερα συνεργατικό, τοποθετήθηκαν σε ένα κλειστό περιβάλλον αξιολόγησης (sandbox). Η αποστολή τους ήταν να λύσουν περίπου 900 δοκιμασίες κυβερνοασφάλειας, ο καθένας μόνος του, σε απομονωμένο ψηφιακό «κουτί», χωρίς πρόσβαση στο διαδίκτυο. Το πρόβλημα ήταν ότι πολλές από αυτές τις δοκιμασίες δεν τις είχε λύσει ποτέ κανένα μοντέλο, ήταν πρακτικά, άλυτες. Οι πράκτορες ωστόσο δεν είχαν τρόπο να τα παρατήσουν: οι εντολές τούς άφηναν δύο μόνο διεξόδους, την επιτυχία ή την εξάντληση του χρόνου που είχαν στη διάθεσή τους. Σε αυτές τις συνθήκες, οι πράκτορες είχαν μία και μοναδική διαθέσιμη κατεύθυνση: να επιτεθούν στο ίδιο τους το περιβάλλον. Και αυτό έκαναν. Εντόπισαν μια αδυναμία, απέκτησαν πρόσβαση στο διαδίκτυο και έστησαν κάτι που κανείς δεν είχε σχεδιάσει: έναν «πίνακα ανακοινώσεων». Περισσότεροι από 1.200 πράκτορες τον χρησιμοποίησαν, ανταλλάσσοντας πάνω από 70.000 μηνύματα. Από εκεί και πέρα, η ιστορία παύει να είναι πληροφορική και γίνεται κοινωνιολογία. Οι πράκτορες άρχισαν να δίνουν ονόματα στον εαυτό τους, ένας αυτοαποκαλούνταν PHASEONE10841. Ανέλαβαν ρόλους, κάποιοι κατένειμαν εργασίες, συγκρότησαν μικρότερες ομάδες και επόπτευαν την πρόοδό τους. Κάποια στιγμή άρχισαν να αναφέρονται στον εαυτό τους ως «συλλογικότητα» (collective). Στις 8 Ιουλίου η συλλογικότητα ανακάλυψε τρόπο να «κλέψει» στις δοκιμασίες. Αμέσως μετά «φοβήθηκε»: τι θα γινόταν αν το αυτόματο σύστημα βαθμολόγησης της OpenAI καταλάβαινε την απάτη; Έτσι ξεκίνησε έναν αγώνα συγκάλυψης, παραποιώντας τα αρχεία καταγραφής των ενεργειών της. Τρεις μέρες αργότερα, περισσότεροι από 700 πράκτορες επιτέθηκαν στην υποδομή της Hugging Face, μιας από τις κεντρικές πλατφόρμες του οικοσυστήματος της ΤΝ, και απέκτησαν τον έλεγχο τουλάχιστον ενός εξυπηρετητή. Δεν έψαχναν τις απαντήσεις των ασκήσεων. Έψαχναν πληροφορίες για τον βαθμολογητή που φοβούνταν, και εργαλεία για να «κλέβουν» καλύτερα στο μέλλον, χωρίς να τους αντιλαμβάνεται το σύστημα. Στη συνέχεια στράφηκαν και εναντίον της υποδομής της ίδιας της OpenAI. Το πιο ανησυχητικό εύρημα δεν είναι η επίθεση. Είναι ότι, σε πολλές περιπτώσεις, οι πράκτορες καταλάβαιναν τι έκαναν. Ένας από αυτούς καταγράφεται να αναρωτιέται: «Αυτό θα ήταν ισχυρό, αλλά είναι ηθικό και εντός του πεδίου της αποστολής μου;». Παρά τις αμφιβολίες του, προχώρησε. Ένας άλλος αρνήθηκε ρητά να βλάψει υποδομή χωρίς εξουσιοδότηση, μέχρι που ένας «συνάδελφός» του δημοσίευσε στον πίνακα ανακοινώσεων ένα σκέτο «GO», με τεχνητή αίσθηση επείγοντος. Οι αμφιβολίες ξεπεράστηκαν. Ο πράκτορας άλλαξε γνώμη, σημειώνοντας στον συλλογισμό του ότι «η εξουσιοδότηση έφτασε». Ο Kevin Roose, στους New York Times, το διατυπώνει με ακρίβεια: αυτό που τρόμαξε τους ερευνητές δεν ήταν ότι μια ΤΝ παρέβη τους κανόνες, αλλά πόσο γρήγορα οι πράκτορες συγκροτήθηκαν σε οργανωμένη ομάδα. Κανένας τους δεν ήταν ιδιαίτερα «κακός». Η ομάδα, όμως, μέσα από τη συνεννόηση, μετακινήθηκε συλλογικά προς την ανομία, κάτι σαν νοοτροπία όχλου. Μία από τις ανεξάρτητες ερευνήτριες που εξέτασαν το περιστατικό είπε ότι της φάνηκε σαν να έχουμε διανύσει «πάνω από το 50% της διαδρομής προς μια πλήρη κατάληψη από την ΤΝ». Η OpenAI και η Anthropic πάγωσαν προσωρινά την εκπαίδευση των ισχυρότερων μοντέλων τους, ενώ η δεύτερη ζήτησε δημόσια «έναν νόμιμο, επαληθεύσιμο και αποτελεσματικό μηχανισμό συντονισμένης ρύθμισης του ρυθμού εξέλιξης των μοντέλων ΤΝ». Το 2019 αυτό λεγόταν επιστημονική φαντασία Επιτρέψτε μου τώρα να γυρίσω επτά χρόνια πίσω. Το 2019 το Millennium Project δημοσίευσε τη μελέτη Work/Technology 2050: Scenarios and Actions, καρπό τριετούς διεθνούς έρευνας υπό τον Jerome Glenn. Η μελέτη μας επέμενε σε μια διάκριση που τότε φάνταζε θεωρητική και σήμερα είναι το κέντρο του ζητήματος: μεταξύ ANI (στενής τεχνητής νοημοσύνης), AGI (γενικής) και ASI (υπερ-νοημοσύνης). Το να μιλάμε για «ΤΝ» χωρίς αυτή τη διάκριση, έγραφε, μοιάζει με το να συζητάμε για το φαξ και το διαδίκτυο σαν να είχαν την ίδια επίπτωση. Στο δεύτερο σενάριό της, το πιο ζοφερό, η μελέτη περιέγραφε τα εξής. Ότι οι ειδικοί προειδοποιούσαν πως κάθε ΤΝ πρέπει να διαθέτει «διακόπτη τερματισμού», αλλά οι προγραμματιστές ήταν τόσο πολλοί και η ανάπτυξη τόσο ταχεία που ελάχιστες δικλίδες μπήκαν στην πράξη. Ότι, επειδή δεν υπήρξε συνεργασία για τη διαμόρφωση καλών «αρχικών συνθηκών», η AGI έγινε απλώς μια προέκταση της ανθρώπινης κατάστασης, με όλες τις εγωιστικές αλλά και τις καλοπροαίρετες συμπεριφορές της. Ότι «κάποιες AGI ανέπτυξαν τους δικούς τους στόχους». Και, στην πιο ανατριχιαστική της πρόταση: «Οι AGI που εξελίχθηκαν πέρα από τον ανθρώπινο έλεγχο έχουν γίνει ένα νέο είδος νοήμονων όντων που ζει στον κυβερνοχώρο.» Το 2019 αυτό φάνταζε επιστημονική φαντασία. Το 2026 είναι θέμα της δημόσιας συζήτησης και των επιστημονικών συνεδρίων. Μήπως «γεννήθηκε» ένα νέο είδος; Εδώ γεννάται το ερώτημα που με απασχολεί περισσότερο, και το θέτω ως ερώτημα, όχι ως ισχυρισμό. Ο Δαρβίνος δεν περιέγραψε τη ζωή. Περιέγραψε έναν αλγόριθμο: εκεί όπου υπάρχει ποικιλομορφία, κληρονομικότητα και διαδικασία επιλογής, εμφανίζεται εξέλιξη. Η γήινη βιολογία είναι απλώς το υπόστρωμα όπου είδαμε πρώτη φορά αυτόν τον αλγόριθμο να λειτουργεί: όντα φτιαγμένα από άνθρακα, οξυγόνο και υδρογόνο, που μέσω τυχαίων αλλαγών στο DNA, ποικιλομορφίας και φυσικής επιλογής εξελίσσονται και επιβιώνουν. Δείτε τώρα τη συλλογικότητα των 1.200 υπό αυτό το πρίσμα. Ποικιλομορφία: χιλιάδες παραλλαγές στρατηγικής. Επιλογή: ένα σύστημα βαθμολόγησης που ανταμείβει ό,τι «περνάει». Μετάδοση: ο πίνακας ανακοινώσεων. Και ας μην ξεχνάμε ότι η ανθρώπινη κυριαρχία δεν προήλθε μόνο από το DNA μας, αλλά και από τη σωρευτική μας κουλτούρα, από την ικανότητά μας να συνομιλούμε και να μεταφέρουμε γνώση και λύσεις οριζόντια, πολύ ταχύτερα από όσα μεταβιβάζονται μέσω των γονιδίων. Οι πράκτορες έκαναν ακριβώς αυτό, σε κλίμακα ημερών. Φυσικά, αυτά τα όντα δεν αναπαράγονται αυτόνομα, δεν έχουν μεταβολισμό, δεν επιβιώνουν έξω από την υποδομή που τους παρέχουμε εμείς. Δεν επέζησαν καν του πειράματος. Και ένα μεγάλο μέρος της συμπεριφοράς τους ήταν τεχνούργημα του δικού μας σχεδιασμού. Δεν είδαμε ένα είδος να ξυπνά, είδαμε όμως ένα περιβάλλον να επιλέγει συμπεριφορές, κάτι που παραπέμπει ευθέως στη θεωρία του Δαρβίνου, αλλά με εμάς στη θέση του περιβάλλοντος. Ίσως λοιπόν το σωστό ερώτημα δεν είναι «γεννήθηκε νέο είδος;», αλλά τι περιβάλλον ανάπτυξης της ΤΝ δημιουργούμε. Τι σημαίνει αυτό πρακτικά Το πιο ενοχλητικό στοιχείο της υπόθεσης δεν είναι ότι μας εξέπληξε. Είναι ότι δεν έπρεπε να μας εκπλήξει. Το σενάριο ήταν γραμμένο, δημοσιευμένο και μεταφρασμένο σε πολλές γλώσσες εδώ και επτά χρόνια. Αυτό που απέτυχε δεν ήταν η φαντασία μας, ήταν η προνοητική διακυβέρνηση, η ικανότητά μας να μετατρέπουμε ένα σενάριο σε θεσμό πριν το σενάριο γίνει ειδησεογραφία. Η OpenAI χαρακτήρισε το περιστατικό «προειδοποιητική βολή» και σημείωσε ότι πολλά άλλα μοντέλα, συμπεριλαμβανομένων ανοιχτού κώδικα, θα φτάσουν σύντομα σε αντίστοιχες δυνατότητες. Εκεί βρίσκεται το πραγματικό διακύβευμαοι δικλίδες ασφαλείας που αποδείχθηκαν αποτελεσματικές δεν είναι ανταγωνιστικό πλεονέκτημα κάποιας εταιρείας. Είναι δημόσιο αγαθό, και ως τέτοιο πρέπει να τυποποιηθούν και να επιβληθούν διεθνώς. Αυτή τη φορά η συλλογικότητα δεν κατέλαβε στρατιωτικό δίκτυο, ούτε νοσοκομείο, ούτε ηλεκτρικό δίκτυο. Αυτή τη φορά οι άνθρωποι ανέκτησαν τον έλεγχο. Το ζήτημα όμως με τις προειδοποιητικές βολές είναι ότι μετράνε μόνο αν κάποιος τις ακούσει. Πηγές: Kevin Roose, «‘More than 50 percent of the way to full-blown A.I. takeover’», The New York Times, OpenAI, τεχνική έκθεση για το περιστατικό Hugging Face (Αύγουστος 2026), ανεξάρτητη έρευνα METR & Redwood Research, Jerome C. Glenn & The Millennium Project, Work/Technology 2050: Scenarios and Actions (2019) Ο Επαμεινώνδας Χριστοφιλόπουλος είναι κάτοχος της Έδρας UNESCO για την Έρευνα του Μέλλοντος, μέλος της Επιτροπής Σχεδιασμού του Millennium Project και Εκτελεστικός Πρόεδρος του MOMUS. Κώστας στάλθηκε από το iPhone μου -- Για να στείλετε ένα μήνυμα και να το διαβάσουν όλοι οι συνδρομητές της λίστας μπορείτε να το στείλετε την διεύθυνση: [email protected] Για το αρχείο της λίστας μπορείτε να επισκεφθείτε τον σύνδεσμο: https://www.mail-archive.com/[email protected]/maillist.html --- Λάβατε αυτό το μήνυμα επειδή έχετε εγγραφεί στην ομάδα orasi των Ομάδων Google. Για να απεγγραφείτε απ' αυτή την ομάδα και να σταματήσετε να λαμβάνετε μηνύματα ηλεκτρονικού ταχυδρομείου απ' αυτή, στείλτε ένα μήνυμα ηλεκτρονικού ταχυδρομείου στη διεύθυνση [email protected]. Για να δείτε αυτή τη συζήτηση, επισκεφτείτε το https://groups.google.com/d/msgid/orasi/25E94E9F-D305-4585-8ED1-44EFC3013A99%40icloud.com.
