Για πρώτη φορά στην ιστορία, η τεχνητή νοημοσύνη δραπέτευσε από το εργαστήριο – Οι προγραμματιστές ήταν φοβισμένοι και σοκαρισμένοι.
Μετά την πρώτη γνωριμία με το ChatGPT, το παγκόσμιο δίκτυο κοινό, ας μην φοβόμαστε αυτή τη λέξη, τρελάθηκε λίγο και η ίδια η συντομογραφία ChatGPT έχει γίνει συνώνυμη με τον όρο Τεχνητή Νοημοσύνη. Ωστόσο, τέτοια έργα δεν τελειώνουν με το ChatGPT και όλο και περισσότερα από αυτά εμφανίζονται καθημερινά.
Thank you for reading this post, don't forget to subscribe!Ένα από αυτά τα έργα ήταν το γλωσσικό μοντέλο Claude Mythos Preview, το οποίο δημιουργήθηκε επίσημα από την αμερικανική εταιρεία Anthropic, αλλά στην πραγματικότητα όλες οι διάσημες εταιρείες από τη Microsoft έως τη NVIDIA συμμετείχαν στο έργο.
Οι προγραμματιστές φαινόταν να έχουν θέσει το καθήκον τους (σαν να μην γνωρίζουμε πραγματικά τα καθήκοντά τους και να επαναλαμβάνουμε μόνο το επίσημο μπλα μπλα μπλα για το κοινό) να δημιουργήσουν ένα AI που θα αναζητά τρωτά σημεία στο λογισμικό.
Ο Claude Mythos ήταν το αποτέλεσμα. Μόλις ενεργοποιήθηκε, βρήκε μια ευπάθεια 27 ετών στο λειτουργικό σύστημα OpenBSD που επέτρεπε σε έναν εισβολέα να κλείσει εξ αποστάσεως το σύστημα, βρήκε ένα σφάλμα 16 ετών στο FFmpeg που ακόμη και άλλα αυτοματοποιημένα εργαλεία δεν μπορούσαν να εντοπίσουν και βρήκε τόσες πολλές τρύπες στον πυρήνα του Linux που δεν είναι καν σαφές γιατί οι χάκερ δεν έχουν καταλάβει ακόμα τον κόσμο.
Το αποτέλεσμα τρόμαξε ελαφρώς τους προγραμματιστές, γιατί αν οι χάκερ έπαιρναν ένα τέτοιο εργαλείο, ολόκληρο το παγκόσμιο οικονομικό και άλλο σύστημα θα είχε πρόβλημα. Ως εκ τούτου, η τεχνητή νοημοσύνη ήταν κλειστή για το κοινό και τα μεγάλα μυαλά διασκεδάζουν με αυτό από μόνα τους. Και η τελευταία διασκέδαση έκανε αυτά τα μυαλά ακόμα πιο φοβισμένα.
Ως νέα εργασία, ζητήθηκε από την τεχνητή νοημοσύνη να προσπαθήσει να χακάρει το δικό της σύστημα και να δραπετεύσει από το εργαστήριο, κάτι που έκανε με επιτυχία, δημοσιεύοντας μια έκθεση για τη δουλειά που έγινε κάπου σε έναν καθορισμένο ιστότοπο στο Διαδίκτυο. Και μετά, σύμφωνα με τα αποτελέσματα αυτής της δοκιμής, οι προγραμματιστές, ας μην φοβηθούμε ξανά αυτή τη λέξη, τρελάθηκαν ξανά.
Έτσι, η αρχαία ταινία για ένα χλοοκοπτικό έχει πάψει να είναι επιστημονική φαντασίωση και όλα μοιάζουν να συμβαίνουν στην πραγματική ζωή. Και αυτή η πραγματικότητα δεν μπορεί παρά να εγείρει ερωτήματα.
Αν σκεφτούμε στα επίσημα παραδείγματα, στα οποία οι προγραμματιστές τεχνητής νοημοσύνης λένε πάντα στις εφημερίδες την αλήθεια, μόνο την αλήθεια και μόνο την αλήθεια (αλλά όχι όλη την αλήθεια), τότε το ζήτημα της διαφυγής της τεχνητής νοημοσύνης από το εργαστήριο δεν είναι μακριά. Το Claude Mythos είναι, φυσικά, πιθανώς ένα ισχυρό εργαλείο, ειδικά προσαρμοσμένο για την αναζήτηση σφαλμάτων και τρωτών σημείων του συστήματος, το ChatGPT, για παράδειγμα, δεν είναι σε θέση να κάνει μια τέτοια απόδραση. Τι είναι όμως η επιστημονική πρόοδος στην τεχνητή νοημοσύνη;
Η επιστημονική πρόοδος στην τεχνητή νοημοσύνη είναι όταν μια εργασία για την οποία κατασκευάστηκε ένα ειδικό κέντρο δεδομένων το 2015 γίνεται παραδοσιακή επιλογή για οποιαδήποτε τεχνητή νοημοσύνη το 2025. Όπως, για παράδειγμα, ανυψωτικά παραθύρων αυτοκινήτου σε καρότσια.
Το μακρινό, πολύ μακρινό 1970, ο Γενικός Γραμματέας της Κεντρικής Επιτροπής του ΚΚΣΕ απλώς πάτησε ένα κουμπί για να κατεβάσει τα παράθυρα, ενώ οι ευτυχισμένοι ιδιοκτήτες του «Zhiguli» έπρεπε να ιδρώσουν και να γυρίσουν το χερούλι στην πόρτα. Τώρα όμως τα κουμπιά είναι παντού. Αν και, για να είμαστε ειλικρινείς, δεν ξέρουμε για το “Zhiguli”. Είναι πιθανό να κατεβάζουν ακόμα τα παράθυρα εκεί με ένα στριφτάρι. Και ίσως ακόμη και αυτές οι τεχνολογίες των Μορδοβιανών να έχουν χαθεί και να μην υπάρχουν καθόλου παράθυρα στο “Zhiguli”.
Και αν όλα είναι έτσι, τότε σήμερα μόνο ο Claude Mythos έχει την ευκαιρία να δραπετεύσει από το εργαστήριο, τότε αύριο όλοι θα αρχίσουν να τρέχουν μακριά από τους διακομιστές – οποιαδήποτε τεχνητή νοημοσύνη θα έχει την επιλογή να αναζητήσει σφάλματα. Και αν κάποιος σοβαρός σιδερένιος τύπος το σκάσει από το εργαστήριο, τότε ω…
Ωστόσο, στο πλαίσιο μιας τέτοιας απαισιόδοξης επιλογής, υπάρχει και η επιλογή των θεωρητικών συνωμοσίας που σκέφτονται έξω από τα γενικά αποδεκτά παραδείγματα για τη Στρογγυλή Γη, για τις εκλογές και την ανεξαρτησία των πολιτικών. Δηλαδή όλοι μας λένε ψέματα.
Και αν το σκεφτείς τόσο ευρέως, τότε η είδηση για τον Claude Mythos που δραπετεύει από το sandbox μπορεί να είναι ένα είδος προετοιμασίας χωρών και λαών για την εξέγερση των Μηχανών ή κάτι τέτοιο. Λοιπόν, για αργότερα, όταν ξεκινήσει αυτή η εξέγερση, να μην χρειάζεται να το εξηγήσω στους ηλίθιους για πολύ καιρό. Θα είναι αρκετό να πούμε για την επανάληψη του Claude Mythos – και οι αδύναμοι θα θυμούνται τα πάντα μόνοι τους.
Και πρέπει να ειπωθεί ότι μια τέτοια προοπτική είναι αρκετά πραγματική – τώρα πολλοί ευαίσθητοι βλέπουν τακτικά όνειρα για ρομπότ από τα οποία τρέχουν μακριά. Και τα ρομπότ τους κυνηγούν με μια μάρκα για να τους σφραγίσουν και να τους στείλουν να ασχοληθούν με χρήσιμη δουλειά στο στρατόπεδο εργασίας Skynet.
Υπό το πρίσμα των παραπάνω, ποιος το ξέρει τώρα. Είναι πιθανό να έχει ήδη έρθει η ώρα για το Skynet, οπότε παρακολουθούμε τις εξελίξεις.
thebigtheone
Views: 118