Όταν μιλάει για το μέλλον της τεχνητής νοημοσύνης, πολλοί ακούν. Κι όταν προειδοποιεί, αρκετοί ανησυχούν. Ο δρ Ρόμαν Γιαμπόλσκι, ο άνθρωπος που έχει χαρακτηριστεί «γκουρού» των προβλέψεων για την εξέλιξη της τεχνητής νοημοσύνης, απευθύνεται στο «Κ» της ΚΑΘΗΜΕΡΙΝΗΣ με το εξής μήνυμα: «Οι κοινωνίες μας δεν είναι έτοιμες για την αντικατάστασή τους». Ο Γιαμπόλσκι γεννήθηκε στη Σοβιετική Ένωση (1979), στη Ρίγα, αλλά σπούδασε στις Ηνωμένες Πολιτείες και σήμερα είναι καθηγητής στο Τμήμα Μηχανικών Ηλεκτρονικών Υπολογιστών και Επιστήμης Υπολογιστών του Πανεπιστημίου του Λούισβιλ και διευθυντής του Cyber Security Lab, ενώ πριν από λίγες μέρες κέρδισε το Lifeboat Foundation Guardian Award – πρόκειται για μια μη κερδοσκοπική οργάνωση με αποστολή, μεταξύ άλλων, να «βοηθά την ανθρωπότητα να επιβιώσει από υπαρξιακούς κινδύνους και την πιθανή κακή χρήση ολοένα και ισχυρότερων τεχνολογιών». Το βραβείο στο παρελθόν έχουν κερδίσει σημαντικές προσωπικότητες, όπως ο Στίβεν Χόκινγκ, επίσης οι Γκέιτς, Μασκ, Μπέζος και Μπράνσον, αλλά και ο Σνόουντεν και ο Ασάνζ. Από την καρδιά, λοιπόν, της πιο κρίσιμης συζήτησης της εποχής μας, ο Γιαμπόλσκι μιλάει στο «Κ» για ένα μέλλον όπου ο «μηχανικός νους» θα είναι ισχυρότερος του ανθρώπoυ.
Πριν από είκοσι χρόνια, οι όροι «τεχνητή νοημοσύνη» και «υπερνοημοσύνη» ανήκαν κυρίως στην επιστημονική φαντασία και ενώ οι περισσότεροι άνθρωποι απλώς απολάμβαναν την ιδέα των έξυπνων μηχανών, εσείς δουλεύατε γύρω από την «ασφάλεια της τεχνητής νοημοσύνης» (AI Security) και τα πρωτόκολλα ασφαλείας. Τι σας οδήγησε να πιστέψετε ότι οι μηχανές θα μπορούσαν μια μέρα να ξεπεράσουν τις ανθρώπινες ικανότητες;
Υπάρχουν πολλά από αυτά που σήμερα ονομάζουμε «πρόδρομοι της υπόθεσης της επεκτασιμότητας» (scalability hypothesis predecessors). Για παράδειγμα, το έργο του Χανς Μόραβετ ή του Ρέι Κέρζουελ, οι οποίοι προέβλεπαν την εξέλιξη της υπολογιστικής ισχύος σε βάθος δεκαετιών ή και αιώνων, δείχνοντας ότι κάποια στιγμή θα φτάσουμε στην ισοδυναμία των μηχανών με τις δυνατότητες του ανθρώπινου εγκεφάλου. Η λογική ήταν πως, αν επιτύχουμε αυτό το επίπεδο υπολογιστικής ισχύος, ίσως αποκτήσουμε και παρόμοιες γνωστικές ικανότητες.
Και φυσικά, αυτό το μοτίβο δεν σταματά στο «ανθρώπινο επίπεδο». Μπορεί κανείς να συνεχίσει να προβάλλει την εξέλιξη εκθετικά και πολύ γρήγορα: μετά την επίτευξη της ανθρώπινης γενικής τεχνητής νοημοσύνης [σ.σ. AGI, δηλαδή ΤΝ ικανή να εκτελεί ή να μαθαίνει οποιαδήποτε γνωστική εργασία], θα ακολουθήσει η υπερνοημοσύνη [σ.σ. υπολογιστές εξυπνότεροι των ανθρώπων]. Επομένως, αρκεί να ακολουθήσουμε την επιστήμη, που λειτουργεί σχεδόν σαν νόμος της φύσης που δείχνει με ακρίβεια πού κατευθυνόμαστε.
Πότε έγινε όλο και πιο επείγουσα η ανάγκη για πρωτόκολλα ασφαλείας γύρω από την τεχνητή νοημοσύνη; Με άλλα λόγια, πότε έγινε σαφές ότι η ανθρωπότητα θα μπορούσε να κινδυνεύσει αν δεν ρυθμίζαμε ή δεν ελέγχαμε τον τρόπο λειτουργίας των μηχανών;
Αρχικά γνωρίζαμε ότι θα αντιμετωπίζαμε ορισμένα ζητήματα σχετικά με την ηθική και την εφαρμογή μηχανισμών ελέγχου. Όμως, καθώς αρχίσαμε να κατανοούμε τις δυνατότητες αυτών των συστημάτων, έγινε πλήρως εμφανής. [σ.σ. Εννοεί τη δυνατότητα ενός υπολογιστικού συστήματος να προσομοιώσει μια πράξη]. Ξεκινήσαμε λοιπόν να ανησυχούμε για συγκεκριμένες πτυχές: πώς μαθαίνουν, πώς εξηγούν τις διεργασίες τους, πώς μπορούμε να προβλέψουμε τις αποφάσεις τους και να τα παρακολουθούμε σε πραγματικό χρόνο. Για καθεμία από αυτές τις ανησυχίες, όπως παρουσιάζω σε διάφορα άρθρα και σε κεφάλαια του βιβλίου μου [σ.σ. Τεχνητή νοημοσύνη: Ανεξήγητη, απρόβλεπτη, ανεξέλεγκτη, εκδ. Επίκεντρο], υπάρχουν στην πραγματικότητα θεμελιώδη ανώτατα όρια. Και όλα αυτά τα όρια, όταν τα εξετάσαμε μαζί, μας έδειξαν ότι δεν είναι δυνατό να ελέγχουμε επ’ αόριστον τα υπερνοήμονα συστήματα.
Ήταν στις αρχές του 2000 ή αργότερα;
Νομίζω ότι ήταν κατά τη διάρκεια της πανδημίας του COVID, που ήταν μια πολύ παραγωγική περίοδος για μένα. Δεν χρειάστηκε να κάνω τόσα μαθήματα και άλλα πράγματα όπως συνήθως. Έτσι, είχα την ευκαιρία να δημοσιεύσω περίπου πέντε σχετικά άρθρα σε αυτόν τον «υποτομέα».
Πολλοί επιστήμονες ισχυρίζονται ότι η υπερνοημοσύνη (superintelligence) είναι ήδη εδώ και ότι έχουμε αρχίσει να χάνουμε τον έλεγχο των μηχανών και τα μοτίβα δημιουργικότητάς τους. Είμαστε πραγματικά στον δρόμο να χάσουμε τον έλεγχο; Και αν όχι, πότε πιστεύετε ότι θα φτάσουμε στο σημείο όπου οι μηχανές θα αρχίσουν να λαμβάνουν τις δικές τους αποφάσεις;
Προφανώς εξακολουθούμε να έχουμε τον έλεγχο. Η σημερινή τεχνητή νοημοσύνη δεν βασίζεται σε πλήρως ανεξάρτητους παράγοντες. Είναι κυρίως εργαλεία ή domain agents (δίκτυα υπολογιστών) με πολύ περιορισμένο πεδίο δράσης. Όμως, όσον αφορά τις δυνατότητές τους, τους αναθέτουμε ήδη πάρα πολλά και το βλέπω στους φοιτητές μου αλλά και σε προγραμματιστές εταιρειών. Ζητούν από τη μηχανή να γράψει ένα δοκίμιο γι’ αυτούς ή να τους γράψει κώδικα. Αρχικά μπορεί να κοιτάξουν το αποτέλεσμα της μηχανής ή και να το αναθεωρήσουν λίγο, αλλά γρήγορα μαθαίνουν να το εμπιστεύονται και να το υποβάλλουν χωρίς καμία εξέταση. Και τα αποτελέσματα μπορεί να είναι καταστροφικά.
Ποιος είναι ο κυριότερος και απαραίτητος κανόνας ασφαλείας που οι εταιρείες συχνά παραμελούν ή δεν επενδύουν όταν ασχολούνται με τις «έξυπνες μηχανές»;
Λοιπόν, αν μιλάμε για τα κορυφαία εργαστήρια τεχνητής νοημοσύνης που αγωνίζονται να φτάσουν στην υπερνοημοσύνη, θα έλεγα ότι παραμελούν εντελώς την ασφάλεια. Θα χρειαζόταν πολύ περισσότερος χρόνος για να διερευνηθούν πλήρως οι δυνατότητες των μοντέλων τους, και δεν ξέρουμε καν πώς να διορθώσουμε τα προβλήματα που ανακαλύπτουμε. Συνήθως αυτό που κάνουν είναι να δημοσιεύουν μια έκθεση αξιολόγησης που δείχνει ότι μπορεί το σύστημα να έλεγε ψέματα ή να σας εξαπατούσε και απλώς την προσθέτουν στο μοντέλο ως αναβάθμιση και το κυκλοφορούν σαν αυτό να ισοδυναμεί με ένα «ασφαλές» σύστημα.
«Aν μιλάμε για τα κορυφαία εργαστήρια τεχνητής νοημοσύνης που αγωνίζονται να φτάσουν στην υπερνοημοσύνη, θα έλεγα ότι παραμελούν εντελώς την ασφάλεια».
Στην εργασία σας «Τεχνητή νοημοσύνη, ασφάλεια και κυβερνοασφάλεια: Χρονολόγιο αποτυχιών της τεχνητής νοημοσύνης», με εντυπωσίασε η αναφορά σας ότι οι ανθρώπινες αξίες είναι ασυνεπείς και δυναμικές, και ως εκ τούτου δεν μπορούν να κατανοηθούν απολύτως ή να προγραμματιστούν σε μια μηχανή, και ότι μια πλήρως ελεγχόμενη τεχνητή νοημοσύνη μπορεί να μην προλάβει να κατασκευαστεί πριν από τη γενική τεχνητή νοημοσύνη. Δεδομένου αυτού, ποια θεωρείτε ότι είναι η καλύτερη διαθέσιμη λύση για την προστασία των ανθρώπων από πιθανές αποτυχίες των «έξυπνων συστημάτων»;
Σε περιορισμένους τομείς γνωρίζουμε πώς να ελέγχουμε ακραίες περιπτώσεις, γνωρίζουμε τι να περιμένουμε και μπορούμε να ανιχνεύσουμε πότε το σύστημα δεν ακολουθεί προβλέψιμα μοτίβα. Για τη γενική τεχνητή νοημοσύνη, δηλαδή για την υπερνοημοσύνη, δεν υπάρχει αντίστοιχος έλεγχος και παρακολούθηση. Επομένως, η μόνη λύση είναι να μην κατασκευαστεί η γενική υπερνοημοσύνη και να επικεντρωθούμε στα εργαλεία, όπου εξακολουθούμε να έχουμε πλήρη κατανόηση της διαδικασίας.
Εξερευνώντας ένα άλλο επίπεδο της τεχνητής νοημοσύνης και δίνοντας έμφαση στην ηθική, για χιλιάδες χρόνια, οι ανθρώπινες κοινωνίες βάσισαν τους νόμους τους γύρω από διδάγματα της Βίβλου ή αντίστοιχων κειμένων. Αν επρόκειτο να δημιουργήσουμε μια «Βίβλο» για την τεχνητή νοημοσύνη, ποιες πρέπει να είναι οι δικές της Δέκα Εντολές;
Όσον αφορά τις Δέκα Εντολές, είναι γνωστό ότι σε πολλά σημεία δεν λειτούργησαν όπως αναμενόταν. Άλλες θρησκείες διαθέτουν ακόμη περισσότερους νόμους. Στη δε επιστημονική φαντασία υπήρξαν οι τρεις νόμοι της ρομποτικής [σ.σ. κατά τον Ισαάκ Ασίμοφ], οι οποίοι επίσης αποδείχθηκαν ανεπαρκείς. Επομένως, δεν μπορείς να έχεις ένα σταθερό σύνολο κανόνων ή νόμων που να καλύπτει έναν άπειρο χώρο δυνατοτήτων, καθώς η γενική τεχνητή νοημοσύνη συνοδεύεται από άπειρα πιθανά σημεία επιθέσεων στα συστήματα. Ωστόσο, μπορείς να συνδυάσεις διαφορετικούς τομείς και να ανακαλύψεις νέους τρόπους υπέρβασης των περιορισμών. Όμως, και πάλι, οτιδήποτε κι αν προγραμματίσεις, ό,τι εμπόδιο και αν επιβάλεις, ένας υπερέξυπνος ΤΝ «δικηγόρος» θα μπορεί πάντοτε να το παρακάμψει.
Είστε ένας από τους επιστήμονες στους οποίους οι άνθρωποι συχνά απευθύνονται για προβλέψεις. Λαμβάνοντας υπόψη τα τεχνολογικά ορόσημα που βλέπουμε σχεδόν καθημερινά να επιτυγχάνονται, τι πιστεύετε, για παράδειγμα, ότι θα δούμε μέχρι το τέλος της δεκαετίας;
Αν και πάντα μπορεί να υπάρξουν εκπλήξεις, όπως οικονομικές αναταράξεις ή στρατιωτικά προβλήματα, φαίνεται πολύ πιθανό ότι, εφόσον συνεχίσουμε με την τρέχουσα πορεία προόδου, με εκθετικές καμπύλες στην επεξεργασία δεδομένων, στην αξιοποίηση ανθρώπινων πόρων και στη χρηματοδότηση, και συνολικά με υπερ-εκθετική ανάπτυξη, το 2030 θα οδηγηθούμε σε αυτό που πολλοί θα αναγνώριζαν ως «γενική τεχνική νοημοσύνη». Μερικοί μάλιστα υποστηρίζουν ότι το έχουμε ήδη επιτύχει με τις πιο πρόσφατες εκδόσεις των μοντέλων Gemini και OpenAI.
Έχουμε ήδη διανύσει το ένα τέταρτο του 21ου αιώνα. Πώς οραματίζεστε τα επόμενα 25 χρόνια;
Δεν νομίζω ότι μπορούμε να τα προβλέψουμε. Αυτό είναι το νόημα της απρόβλεπτης φύσης. Τη στιγμή που υπάρχουν παράγοντες σε έναν κόσμο που είναι πιο έξυπνοι από εμάς, δεν μπορούμε να προβλέψουμε τις ενέργειές τους και δεν μπορούμε να καταλάβουμε τι προσπαθούν να κάνουν.
Τι γνώμη έχετε για εξελίξεις όπως το Neuralink και άλλες διεπαφές εγκεφάλου – υπολογιστή;
Μου αρέσει πολύ αυτή η τεχνολογία για τα άτομα με αναπηρία. Νομίζω ότι είναι ένας καταπληκτικός τρόπος για να βελτιωθεί η ζωή των παραπληγικών και των τυφλών, αλλά είναι και μια «κερκόπορτα» στον εγκέφαλό μας. Έτσι, οποιαδήποτε κακόβουλη τεχνητή νοημοσύνη και οποιοσδήποτε κακόβουλος παράγοντας μπορεί πραγματικά να παραβιάσει την ιδιωτικότητά μας. Είμαστε συνηθισμένοι να θεωρούμε τις σκέψεις μας ιδιωτικές. Μπορεί να μην έχεις ελευθερία λόγου σε μια συγκεκριμένη χώρα, αλλά μπορείς ακόμα να σκέφτεσαι ό,τι θέλεις, και αυτό, με τη σύνδεση εγκεφάλου – υπολογιστή, θα αλλάξει. Επίσης, όσον αφορά τους φόβους και τα βάσανά σου, ένα σύστημα μπορεί πραγματικά να τα μεγιστοποιήσει αν έχει πρόσβαση στην εσωτερική σου κατάσταση, και έτσι να γίνεις θύμα των φρικτών συνεπειών της διεπαφής με τις μηχανές.
Ένα από τα δύσκολα ερωτήματα της γενικής τεχνητής νοημοσύνης είναι αν ο ανθρώπινος παράγοντας θα αντικατασταθεί τελικά. Αν φτάναμε σε ένα σημείο όπου η εργασία των μηχανών θα ισοδυναμούσε με απεριόριστο πλούτο, τι θα έκαναν οι άνθρωποι σε αυτή την κοινωνία;
Φαίνεται ότι όλες οι δουλειές μπορούν να ταξινομηθούν σε δύο κατηγορίες: Αυτές που δεν είναι καθόλου διασκεδαστικές, δεν είναι ευχάριστες και κανείς δεν θέλει να τις κάνει, αλλά οι άνθρωποι τις κάνουν μόνο για να βγάλουν χρήματα. Και μετά υπάρχουν οι δουλειές που πραγματικά απολαμβάνεις. Είσαι δηλαδή δημιουργικός και διασκεδάζεις με την εργασία σου, και τα χρήματα είναι απλώς ένα ωραίο μπόνους. Αν λοιπόν η τεχνητή νοημοσύνη μπορεί να αυτοματοποιήσει όλες τις δυσάρεστες και «βρόμικες» δουλειές και μετά να παρέχει μέσω φορολογικών μέσων κάποιο είδος άνευ όρων βασικού εισοδήματος και χρηματοδότησης για όλους τους ανθρώπους που αντικαθιστά, επιτρέποντάς μας να συνεχίσουμε να κάνουμε πράγματα που μας αρέσουν, νομίζω ότι είναι ένα καλό αποτέλεσμα και το βλέπουμε σε πράγματα όπως το σκάκι. Οι υπολογιστές έχουν κυριαρχήσει πλήρως στο σκάκι, αλλά οι άνθρωποι εξακολουθούν να απολαμβάνουν το παιχνίδι και εξακολουθούμε να ανταγωνιζόμαστε άλλους ανθρώπους. Το σκάκι είναι πιο δημοφιλές από ποτέ, οπότε το γεγονός ότι οι υπολογιστές κυριαρχούν στον τομέα αυτόν δεν σημαίνει ότι έχει πεθάνει.
Είναι οι κυβερνήσεις και οι κοινωνίες μας πραγματικά προετοιμασμένες για ένα μέλλον μαζικής ανεργίας και πρωτοφανών ποσοτήτων ελεύθερου χρόνου;
Καμία προετοιμασία σε νομικό, εκπαιδευτικό και οικονομικό επίπεδο. Δεν έχουν κάνει τίποτα.
«Όλα τα ενδεχόμενα είναι ανοιχτά. Τελικά, ακόμη και η σωματική εργασία θα εξαλειφθεί, εφόσον διαθέτουμε ρομπότ και όλα τα αναγκαία μέσα για να ελέγχουμε τον κόσμο».
Συνήθως, αντίλογος στο επιχείρημα της εξαφάνισης της ανθρώπινης εργασίας είναι ότι, όπως και κατά τη διάρκεια της Βιομηχανικής Επανάστασης, οι άνθρωποι θα προσαρμοστούν και πάλι και θα δημιουργήσουν νέους τύπους εργασιών που είναι σήμερα άγνωστοι. Συμφωνείτε ότι οι άνθρωποι και η ανθρωπότητα γενικά προσαρμόζονται πάντα;
Όχι. Σε αυτή την περίπτωση που συζητάμε, όποια νέα εργασία και αν δημιουργηθεί, η γενική τεχνητή νοημοσύνη θα μπορεί να την αναλάβει. Πρόκειται για μια πλήρη αλλαγή παραδείγματος: περνάμε από εργαλεία που απλώς επαύξαναν την ανθρώπινη παραγωγικότητα, σε συστήματα που μπορούν να αντικαταστήσουν ορισμένα μέλη μιας ομάδας, αφού μια «έξυπνη μηχανή» μπορεί να είναι πιο ικανή από τον άνθρωπο. Έτσι, όλα τα ενδεχόμενα είναι ανοιχτά. Τελικά, ακόμη και η σωματική εργασία θα εξαλειφθεί, εφόσον διαθέτουμε ρομπότ και όλα τα αναγκαία μέσα για να ελέγχουμε τον κόσμο.
Το βιβλίο του Ρόμαν Γιαμπόλσκι Τεχνητή νοημοσύνη: Ανεξήγητη, απρόβλεπτη, ανεξέλεγκτη κυκλοφορεί από τις εκδόσεις Επίκεντρο, σε μετάφραση Φώτη Κοκαβέση.
Η Καθημερινή συνδιοργανώνει με το MIT Technology Review το τρίτο EmTech Summit, με έμφαση στις τελευταίες εξελίξεις στον τομέα της τεχνητής νοημοσύνης. Το συνέδριο θα πραγματοποιηθεί στις 19-20 Μαρτίου, στο Μέγαρο Μουσικής Αθηνών. Εισιτήρια διαθέσιμα: emtecheurope.com/speakers.php
ΑΘΑΝΑΣΙΟΣ ΚΑΤΣΙΚΙΔΗΣ
