Συνέντευξη του John Haugeland στον Κώστα
Παγωνδιώτη στο Cogito
Το 1985, στο βιβλίο σας Tεχνητή Νοημοσύνη,[1] εισαγάγατε τον όρο "Παλαιά Kαλή Tεχνητή Nοημοσύνη" (ΠKTN) ["Good Old Fashioned Artificial Intelligence", GOFAI] προκειμένου να αναφερθείτε στην τότε κυρίαρχη προσέγγιση της τεχνητής νοημοσύνης. Ποιες είναι οι βασικές θεωρητικές παραδοχές αυτής της προσέγγισης και κατά πόσο εξακολουθεί να είναι κυρίαρχη σήμερα;
John Haugeland: Ο όρος "ΠKTN" αναφέρεται στην πρώτη σοβαρή προσπάθεια κατασκευής μηχανών που θα είχαν τη γενική και ευέλικτη νοημοσύνη η οποία χαρακτηρίζει τους ανθρώπους. Η βασική ιδέα ήταν ότι η νοημοσύνη έχει δυο ουσιώδη συστατικά: πρώτον, ένα μεγάλο σύνολο γνώσεων που αφορούν γεγονότα για τον κόσμο και, δεύτερον, μια ευέλικτη ικανότητα σκέψης για τον κόσμο (στη βάση αυτών των γνώσεων) η οποία επιτρέπει την εξαγωγή συμπερασμάτων και τη λήψη αποφάσεων.
Ωστόσο, αυτή η παραδοσιακή ιδέα δεν θα μπορούσε να είναι η βάση για ένα πρόγραμμα επιστημονικής έρευνας χωρίς τη δυνατότητα διατύπωσης και ελέγχου εμπειρικών υποθέσεων, αλλά εκείνα τα χρόνια η επιστήμη του εγκεφάλου ήταν πολύ "χαμηλού επιπέδου" για να προσφέρει ουσιαστική βοήθεια.
Το ζωτικής σημασίας βήμα έγινε στις αρχές της δεκαετίας του 1950 με την κατασκευή (σχετικά) μεγάλων ηλεκτρονικών υπολογιστών και, ακόμα περισσότερο, με τη δημιουργία ενός ισχυρού εννοιολογικού πλαισίου για την κατανόηση τους. Το έργο, ιδιαίτερα, των Alan Turing, John McCarthy και Allen Newell έδειξε ότι ο αριθμητικός υπολογισμός αποτελεί μόνο μια ειδική περίπτωση των όσων μπορούσαν να κάνουν οι υπολογιστές. Στον βαθμό που θα μπορούσαμε να προσδιορίσουμε επακριβώς τις συμβολικές δομές, τις πράξεις που θα μπορούσαν να εκτελεστούν σ' αυτές τις δομές και τις συνθήκες κάτω από τις οποίες αυτές οι πράξεις θα έπρεπε να εκτελεστούν, το ίδιο το μηχάνημα θα ήταν απολύτως ουδέτερο ως προς το "περιεχόμενο" αυτών των δομών και πράξεων.
Για το λόγο αυτό οι υπολογιστές έφτασαν να αποκαλούνται και "συστήματα χειρισμού συμβόλων για κάθε σκοπό". Αλλά αυτή η ιδέα είναι ιδιαίτερα συναρπαστική, μια και ένα σωρό πράγματα μπορούν να θεωρηθούν ως "χειρισμός συμβόλων". Συγκεκριμένα, η τυπική λογική είναι ένα είδος χειρισμού συμβόλων που διέπεται από ρητούς κανόνες. Ωστόσο, από τον Aριστοτέλη και μετά, η λογική συσχετιζόταν πάντα με τη σκέψη και τον συλλογισμό. Φυσικά, η ανθρώπινη σκέψη στην πραγματικότητα είναι κάτι πολύ παραπάνω από λογική συναγωγή. Όμως, αυτό που ξαφνικά έγινε εύλογο ήταν η υπόθεση ότι ο σωστός τρόπος για να γενικευθεί, πέρα και από τα εγχειρίδια, ο λογικός τρόπος σκέψης θα μπορούσε να είναι στο επίπεδο του χειρισμού συμβόλων. Το ωραίο με τους υπολογιστές δεν είναι μόνο ότι μπορούν να υλοποιήσουν οποιαδήποτε τέτοια συμβολική δομή, αλλά ότι μπορούν επίσης να εκτελούν πράγματι τους προκαθορισμένους χειρισμούς.
Ακριβώς αυτή η έμπνευση γέννησε και έδωσε ώθηση στο δυναμικό ερευνητικό πρόγραμμα που αποκάλεσα "παλαιά καλή" τεχνητή νοημοσύνη. Νομίζω ότι θα μπορούσαμε νόμιμα να το αποκαλέσουμε ένα "παράδειγμα" –με την έννοια του Thomas Kuhn– το οποίο κυριάρχησε όχι μόνο στην τεχνητή νοημοσύνη και στη γνωσιακή ψυχολογία, αλλά ακόμα και στη γλωσσολογία για περίπου ένα τέταρτο του αιώνα. Ωστόσο, περίπου από τα μέσα της δεκαετίας του 1980, τότε δηλαδή που εισήγαγα τον συγκεκριμένο όρο, η κυριαρχία της είχε αρχίσει να εξασθενεί –για αυτό και ο προσδιορισμός "παλαιά καλή" τεχνητή νοημοσύνη. Νέες ιδέες είχαν ήδη εμφανιστεί στο προσκήνιο –με πιο σημαντικές αυτές των συστημάτων παράλληλα κατανεμημένης επεξεργασίας ή συνδετιστικών [connectionist] συστημάτων– και πολλοί νέοι επιστήμονες είχαν ήδη στραφεί προς αυτή την κατεύθυνση.
ΚΠ: Τόσο εσείς όσο και ο Hubert Dreyfus έχετε επισημάνει ότι ένα από τα μεγαλύτερα προβλήματα που αντιμετωπίζει η ΠΚΤΝ είναι ο προσδιορισμός του τρόπου αναπαράστασης της κοινότοπης γνώσης καθώς και του τρόπου πρόσβασης σε αυτήν. Τι ακριβώς είναι αυτό το πρόβλημα; Πιστεύετε ότι υπάρχει κάποιο επιχείρημα που δείχνει ότι η ΠΚΤΝ δεν θα ήταν δυνατό να λύσει το συγκεκριμένο πρόβλημα;
JH: Στην πραγματικότητα υπάρχουν δυο προβλήματα εδώ. Το πρώτο αποκαλείται επίσης "πρόβλημα της συνάφειας" και μπορεί να φανεί μέσα από ένα απλό παράδειγμα που προτάθηκε από τον Yehoshua Bar-Hillel στα 1960. Έστω ότι θέλουμε να κατασκευάσουμε ένα σύστημα που να μεταφράζει Αγγλικά κείμενα σε άλλες γλώσσες. Όμως, σκεφτείτε το πρόβλημα που αντιμετωπίζουμε ακόμα και με τόσο απλά κείμενα όπως το ακόλουθο: "The box was in the pen" ["Το κουτί ήταν μέσα στο pen"]. Tο πρόβλημα είναι ότι η λέξη "pen" είναι αμφίσημη και μπορεί να σημαίνει είτε "παιδικό παρκάκι" είτε "στιλό μελάνης". Aλλά, από τη στιγμή που οι περισσότερες άλλες γλώσσες δεν θα έχουν την ίδια αμφισημία, το σύστημα θα πρέπει γενικά να βρει ποια από τις δυο σημασίες είχε κατά νου ο συγγραφέας. Το ερώτημα είναι: πώς θα μπορούσε να το κάνει αυτό;
Ένας άνθρωπος θα ήξερε ότι ένα τυπικό κουτί δεν χωράει μέσα σε ένα στιλό μελάνης. Έτσι, σε αυτά τα συμφραζόμενα, η λέξη "pen" δεν μπορεί παρά να σημαίνει "παιδικό παρκάκι". Aυτό είναι ένα είδος γνώσης που ορισμένες φορές αποκαλείται "κοινότοπη γνώση". Ένα σύστημα χειρισμού συμβόλων θα μπορούσε, φυσικά, να αποθηκεύσει πολλές πληροφορίες για κουτιά, παιδικά παρκάκια, στιλό μελάνης καθώς και για τα διαφορετικά μεγέθη αυτών των αντικειμένων. Αλλά πώς θα αποφάσιζε ποιο απ' όλα αυτά τα δεδομένα είναι συναφές; Πώς θα μπορούσε να καταλάβει ότι σε αυτή την περίπτωση έχει σημασία το μέγεθος;
Ίσως σκεφτείτε ότι το σύστημα θα μπορούσε απλά να διατρέξει όλα τα γεγονότα που έχει καταγεγραμμένα σχετικά με παιδικά παρκάκια, στιλό μελάνης και κουτιά έως ότου βρει έναν συνδυασμό που διευθετεί το ζήτημα. Ωστόσο, το πρόβλημα εδώ είναι ότι όταν αναζητούμε συνδυασμούς, ο αριθμός των δυνατών περιπτώσεων αυξάνεται ραγδαία. Ενώ τα πράγματα γίνονται ακόμα χειρότερα αν λάβουμε υπόψη και τα συμφραζόμενα. Τι γίνεται αν εξετάσουμε δύο προτάσεις: "Δεν βρήκαν ποτέ το μικροφίλμ. Το κουτί ήταν μέσα στο pen". Σε αυτή την περίπτωση, το κουτί μπορεί να ήταν πάρα πολύ μικρό και το "pen" να σήμαινε "στιλό μελάνης". Φαντασθείτε τι θα συνέβαινε αν εξετάζαμε μια ολόκληρη συζήτηση ή μια μικρή ιστορία.
Αυτό είναι το πρόβλημα της συνάφειας. Η τεχνητή νοημοσύνη πάλεψε με το πρόβλημα αυτό για μια ολόκληρη γενιά, από περίπου το 1970 και μετά. Ήταν το καθοριστικό πρόβλημα της ΠKTN και τα αποτελέσματα της αναμέτρησής της με το πρόβλημα αυτό ήταν εντελώς πενιχρά.
Το άλλο πρόβλημα φαίνεται πιο απλό, αλλά τελικά είναι βαθύτερο. Λόγω των καταβολών της στον χειρισμό συμβόλων, η ΠKTN εστίαζε πάντα στις γλωσσικές ικανότητες. Βέβαια, η γλώσσα είναι μια κρίσιμη ικανότητα για την ανθρώπινη νοημοσύνη. Αλλά από αυτό δεν έπεται ότι η γλώσσα είναι επαρκής συνθήκη για αυτό το είδος νοημοσύνης, ή ότι θα μπορούσε να υπάρχει χωρίς τις άλλες χαρακτηριστικά ανθρώπινες ικανότητες, όπως είναι η αντίληψη, η πράξη και η οργάνωση. Οι άνθρωποι μπορούν, για παράδειγμα, να φτιάχνουν και να "διαβάζουν" χάρτες, σχέδια και έργα τέχνης. Μπορούν να σχεδιάζουν, να κατασκευάζουν και να χειρίζονται μηχανήματα. Μπορούν να εγκαθιδρύουν περίπλοκες κοινωνικές θέσεις και πρακτικές και να τις διατηρούν με κανονιστικό τρόπο, κ.ο.κ.
Η γλώσσα και αυτές οι άλλες "επιδέξιες" ικανότητες είναι εντελώς αλληλένδετες και αλληλεξαρτώμενες. Καμία πλευρά δεν θα μπορούσε να είναι αυτό που είναι χωρίς την άλλη. Ωστόσο, η ΠKTN σχεδόν αγνοούσε παντελώς τις μη γλωσσικές δεξιότητες, καθιστώντας τις απλές "διεπιφάνειες" [interfaces] εισόδου / εξόδου για το σύστημα χειρισμού συμβόλων (και άρα όχι μέρος του όλου προβλήματος). Ωστόσο, ο πραγματικός λόγος αυτής της αμέλειας δεν ήταν το ότι οι ικανότητες επιδέξιας αντίληψης και πράξης ήταν ασήμαντες αλλά το ότι κανείς δεν είχε ιδέα για το πώς να τις υλοποιήσει.
Δεν ξέρω αν υπάρχει κάποιο επιχείρημα που να δείχνει ότι το πρόβλημα της πρόσβασης στην αποθηκευμένη γνώση είναι αδύνατον να λυθεί. Όμως, το δίδαγμα από τα προβλήματα που αντιμετώπισε η ΠKTN πριν από την αποτελμάτωση και την τελική κατάρρευσή της, ήταν ότι το παράδειγμα του χειρισμού συμβόλων, το οποίο αρχικά φαινόταν πολλά υποσχόμενο, ακολουθούσε τελικά λάνθασμένο δρόμο. Κατά την άποψή μου, το γεγονός ότι η ΠΚΤΝ δεν μπόρεσε να καταπιαστεί με την αντίληψη και άλλες εκλεπτυσμένες δεξιότητες ήταν τελικά πιο αντιπροσωπευτικό των αδυναμιών αυτού του παραδείγματος από ό,τι το γεγονός ότι δεν μπόρεσε να υπερβεί το πρόβλημα της συνδυαστικής έκρηξης.
ΚΠ: Το πιο πολυσυζητημένο επιχείρημα κατά της ιδέας ότι ο νους είναι ένας υπολογιστής είναι το επιχείρημα του κινέζικου δωματίου του John Searle.[2] Με αυτό το επιχείρημα ο Searle επιχειρεί να δείξει ότι ο συντακτικός χειρισμός συμβόλων (δηλαδή, αυτό που οι υπολογιστές υποτίθεται ότι κάνουν) δεν επαρκεί από μόνος του για να έχουμε σημασιολογία, αποβλεπτικότητα. Ποια είναι η άποψή σας για αυτό το επιχείρημα;
JH: Ο Searle ασχολείται με τα συστήματα "επεξεργασίας φυσικής γλώσσας" της ΠKTN για τα οποία μίλησα παραπάνω, αλλά ο στόχος του είναι εντελώς διαφορετικός. Ενώ εγώ επεσήμανα την εμπειρικά διαπιστωμένη αποτυχία αυτών των συστημάτων, και προσπάθησα να διερευνήσω τους λόγους αυτής της αποτυχίας, ο Searle ισχυρίζεται ότι, ακόμα και αν λειτουργούσαν άψογα, θα εξακολουθούσαν να μην καταλαβαίνουν τίποτα. Με άλλα λόγια, ανεξάρτητα από το πόσο ευφυή μπορεί να φαίνονταν, δεν θα είχαν κανενός είδους πραγματική νοημοσύνη.
Ας δούμε τον τρόπο που στήνει το επιχείρημά του. Ένα σύστημα ΠKTN το οποίο υποτίθεται ότι καταλαβαίνει κάποια γλώσσα –ας πούμε κινέζικα– αποτελείται από τέσσερα πράγματα: πρώτον, κάποιο τρόπο λήψης και αποστολής προτάσεων στα κινέζικα, δεύτερον, μια βάση κοινότοπης γνώσης (επίσης στα κινέζικα), τρίτον, ένα σύνολο κανόνων που καθορίζουν ποιες κινέζικες προτάσεις αποστέλλονται ως συνάρτηση των προτάσεων που λαμβάνονται ή / και που βρίσκονται ήδη στη βάση γνώσης, και τέταρτον, έναν επεξεργαστή που ακολουθεί πράγματι αυτούς τους κανόνες.
Το επιχείρημα ότι κανένα τέτοιο σύστημα δεν θα καταλαβαίνει πράγματι Kινέζικα είναι το εξής: Δεν έχει σημασία σε ποια γλώσσα ή κώδικα διατυπώνονται οι κανόνες –αρκεί ο επεξεργαστής να μπορεί να τους ακολουθεί αξιόπιστα. Στα συστήματα ΠKTN οι κανόνες αυτοί διατυπώνονται σε κάποια γλώσσα προγραμματισμού. Αλλά θα μπορούσαν εξίσου καλά να είχαν διατυπωθεί στα Aγγλικά και τότε ο ίδιος ο Searle θα μπορούσε να τους ακολουθήσει –πράγμα που σημαίνει ότι στην περίπτωση αυτή θα εκτελούσε χρέη επεξεργαστή. Αλλά αυτό δεν θα σήμαινε ότι ο ίδιος καταλαβαίνει Kινέζικα, ανεξάρτητα από το πόσο καλά το όλο σύστημα θα φαινόταν στους εξωτερικούς παρατηρητές ότι ξέρει Kινέζικα.
Δεν υπάρχει αμφιβολία ότι αυτό είναι σωστό. Αλλά είναι ταυτόχρονα και άσχετο με το όλο ζήτημα. Και αυτό επειδή κανένας ποτέ δεν ισχυρίστηκε ότι ο επεξεργαστής καταλαβαίνει κινέζικα. Αντίθετα, η αρχική προσδοκία ήταν ότι ένα συγκεκριμένο είδος πολύπλοκου συστήματος –το οποίο θα αποτελείται από τον επεξεργαστή, τους κανόνες, κ.ο.κ.– θα μπορούσε να καταλαβαίνει κάποια φυσική γλώσσα όπως τα κινέζικα. Όπως αποδείχθηκε, αυτό τελικά δεν δούλεψε. Αλλά η συγκεκριμένη αποτυχία δεν είχε τίποτα να κάνει με το γεγονός ότι κάποιος άνθρωπος, που μιλά μια άλλη γλώσσα, θα μπορούσε να αναλάβει ορισμένες από τις εσωτερικές λειτουργίες του συστήματος.
ΚΠ: Ίσως ο στόχος της κατανόησης μιας φυσικής γλώσσας από μια υπολογιστική μηχανή να φαντάζει πολύ φιλόδοξος. Σύμφωνα με μια κοινά αποδεκτή άποψη, όμως, μια υπολογιστική μηχανή εφαρμόζει αλγόριθμους ακολουθώντας κανόνες. Ωστόσο, υπό ποια έννοια μια υπολογιστική μηχανή μπορεί πράγματι να ακολουθεί κανόνες;
JH: Εξαρτάται, φυσικά, από το τι εννοούμε λέγοντας να "ακολουθεί". Για παράδειγμα, κάποιος θα μπορούσε να πει ότι η σελήνη ακολουθεί πιστά τον εξής κανόνα: να περιστρέφεται πάντα γύρω από τη γη σε τροχιά Ο και με ταχύτητα S. Όλα τα φυσικά αντικείμενα ακολουθούν τέτοιου είδους κανόνες. Κατά συνέπεια, αυτή δεν είναι μια ενδιαφέρουσα επισήμανση όσον αφορά ειδικά τους υπολογιστές (ή τους ανθρώπους).
Ένα πιο ενδιαφέρον είδος περιπτώσεων προϋποθέτει έναν τρόπο ρητής διατύπωσης ποικίλων διαφορετικών κανόνων –για παράδειγμα υπό τη μορφή γλώσσας ή κώδικα– καθώς και ένα σύστημα το οποίο με αξιόπιστο τρόπο θα συμπεριφέρεται σύμφωνα με οποιοδήποτε κανόνα αυτής της μορφής (τουλάχιστον μέχρι κάποιο πρακτικά εφικτό όριο). Προφανώς, οι υπολογιστές αποτελούν ένα από τα πιο αντιπροσωπευτικά παραδείγματα ενός τέτοιου συστήματος – και, σε ένα βαθμό, το ίδιο και οι άνθρωποι.
Αλλά υπάρχει μια θεμελιώδης διαφορά. Οι άνθρωποι είναι σε θέση να επιλέξουν το εάν θα ακολουθήσουν ή όχι τους κανόνες που τους δίδονται ενώ, τουλάχιστον εκ πρώτης όψεως, οι υπολογιστές δεν μπορούν να το κάνουν αυτό. Βέβαια, οι σύγχρονοι υπολογιστές μπορούν να εκτελέσουν πολλά διαφορετικά προγράμματα ταυτόχρονα. και ένα υψηλής προτεραιότητας πρόγραμμα (όπως για παράδειγμα ένα ασφαλές λειτουργικό σύστημα) μπορεί να εμποδίσει την εκτέλεση ενός προγράμματος χαμηλότερης προτεραιότητας. Αλλά το ίδιο το μηχάνημα δεν μπορεί να αρνηθεί να εκτελέσει το πρόγραμμα που έχει την υψηλότερη προτεραιότητα, εφόσον πρόκειται για ένα καλά διατυπωμένο κώδικα.
Τώρα, θα μπορούσε κάποιος να πει ότι υπερτονίζω τη διαφορά μεταξύ ανθρώπων και υπολογιστών καθότι, κατά μια έννοια, όταν ένας άνθρωπος αρνείται να ακολουθήσει κάποιο κανόνα –λόγω αγάπης, πίστης, ή συνείδησης– απλά ακολουθεί κάποιον κανόνα υψηλότερης προτεραιότητας (όπως ακριβώς θα έκανε ένα λειτουργικό σύστημα ή ένα πρωτόκολλο ασφαλείας). Θεωρώ, ωστόσο, την ιδέα αυτή όχι μόνο παράλογη αλλά και απεχθή.
Η ικανότητά μας να βλέπουμε τη διαφορά μεταξύ αυτού που μας λέει κάποιος να κάνουμε και του τι οφείλουμε να κάνουμε, η ικανότητά μας να αναλαμβάνουμε την ευθύνη για τις αξίες μας και τις πράξεις μας, δεν είναι απλά θέμα τού να ακολουθεί κανείς κανόνες ("μόνο και μόνο επειδή είναι κανόνες") αλλά σχετίζεται με το να σταθεί κανείς και να αποφασίσει ποιος είναι. Αυτή η ικανότητα πιστεύω ότι αποτελεί την βαθύτερη ουσία της ανθρώπινης ύπαρξης και είμαι αρκετά σίγουρος ότι οι υπολογιστικές μηχανές δεν έχουν αυτήν την ικανότητα.
ΚΠ: Η ικανότητα ανάληψης ευθύνης που επισημαίνετε συνδέεται με την αποβλεπτικότητα; Σε ένα πρόσφατο άρθρο σας[3] σκιαγραφήσατε μια θετική πρόταση όσον αφορά το τι απαιτείται προκειμένου ένα σύστημα να έχει, αυτό που ονομάσατε, "πρωταρχική αποβλεπτικότητα" ["original intentionality"]. Εκεί υποστηρίζετε ότι η πρωταρχική αποβλεπτικότητα προϋποθέτει την ικανότητα ανάληψης ευθύνης. Τι ακριβώς είναι η πρωταρχική αποβλεπτικότητα και υπό ποια έννοια προϋποθέτει την ικανότητα ανάληψης ευθύνης;
JH: Αποβλεπτικότητα είναι η ιδιότητα κάποιου πράγματος να αναφέρεται σε κάτι, ο τρόπος, για παράδειγμα, που πολλές νοητικές καταστάσεις, ομιλιακά ενεργήματα, διαγράμματα, εικόνες, κ.ο.κ., μπορούν να αναφέρονται σε κάποια άλλα πράγματα (ακόμα και σε πράγματα που δεν υπάρχουν). Έτσι, η αποβλεπτικότητα είναι στενά συνδεδεμένη με τη σημασία. Τώρα, η αποβλεπτικότητα (ή η σημασία) μπορεί να μεταδοθεί σε κάτι από κάτι άλλο που την έχει ήδη. Αυτού του τύπου την αποβλεπτικότητα την αποκαλώ "παράγωγη" ["derivative intentionality"], ενώ την αποβλεπτικότητα που δεν είναι αυτού του τύπου την αποκαλώ "πρωταρχική". Μέχρι και πριν από κάποιες δεκαετίες, οι περισσότεροι φιλόσοφοι θεωρούσαν σιωπηρά ως δεδομένο ότι η πρωταρχική αποβλεπτικότητα χαρακτηρίζει όλα τα νοητικά φαινόμενα και μόνον αυτά. Εγώ εισήγαγα την διάκριση μεταξύ πρωταρχικής και παράγωγης αποβλεπτικότητας προκειμένου να μπορέσουμε να διατυπώσουμε αυτή την παραδοχή, να διερευνήσουμε το κατά πόσο ευσταθεί, και, πάνω απ' όλα, να αναζητήσουμε τις εναλλακτικές λύσεις που μας προσφέρονται.
Το ερώτημα για το εάν μπορεί να υπάρξει πρωταρχική αποβλεπτικότητα ισοδυναμεί με το ερώτημα για το εάν μπορεί να υπάρξει καν αποβλεπτικότητα: πώς μέσα στον κόσμο μπορεί κάποιο πράγμα να αναφέρεται σε κάποιο άλλο; Θεωρώ ότι το ερώτημα αυτό είναι εν τέλει ισοδύναμο με ένα άλλο ερώτημα: πώς μπορεί να υφίσταται μια διάκριση μεταξύ σωστού και λάθους σε σχέση με το πως έχουν τα πράγματα – μια διάκριση που να εξαρτάται από τα ίδια τα πράγματα; Διότι, αν δεν υπήρχε κανένα περιθώριο αποτυχίας στα αποβλεπτικά φαινόμενα, τότε δεν θα είχε καν νόημα να λέμε ότι οποιοδήποτε από αυτά πέτυχε, και κατά συνέπεια η ίδια η έννοια θα ήταν άχρηστη.
Θα προσπαθήσω να εξηγήσω αυτό που λέω με ένα παράδειγμα που αναφέρεται σε μια ειδική περίπτωση: την αποβλεπτικότητα των επιστημονικών ισχυρισμών και θεωριών.
Η διαφορά μεταξύ επιστήμης και δεισιδαιμονιών ή λαϊκών δοξασιών έγκειται στο γεγονός ότι οι επιστήμονες "θέτουν σε κίνδυνο" τους ισχυρισμούς και τις θεωρίες τους. Η δομή αυτής της διακινδύνευσης είναι ακριβώς αυτό που πρέπει να κατανοήσουμε. Κατά την άποψή μου, υπάρχουν δύο κύριοι παράγοντες. Aπό τη μια, υπάρχει μια λεπτομερής και εκλεπτυσμένη πειραματική πρακτική, η οποία δεν συμπεριλαμβάνει μόνο επιδέξιους επαγγελματίες αλλά και εξειδικευμένο εξοπλισμό και περίπλοκες διαδικασίες. Από την άλλη, υπάρχει ένα σύνολο θεωρητικών νόμων και αρχών τέτοιο ώστε μόνο ορισμένα από τα δυνατά εμπειρικά αποτελέσματα να είναι πράγματι συμβατά με αυτούς τους νόμους και τις αρχές.
Αυτή η διπλή δομή συνεπάγεται ότι υπάρχει μια σοβαρή πιθανότητα εσωτερικής σύγκρουσης μεταξύ των διάφορων ανακαλύψεων και παραδοχών της ίδιας της επιστήμης και αυτή η πάντα παρούσα πιθανότητα είναι ουσιώδης για την επιστήμη ως τέτοια. Ο λόγος για τον οποίο τα επιστημονικά αποτελέσματα που τελικά επιβιώνουν είναι τόσο ακαταμάχητα ως θεωρήσεις της πραγματικότητας είναι ακριβώς επειδή η επιστήμη συστηματικά ρισκάρει με αυτόν τον τρόπο. Ενώ, ο λόγος που η αστρολογία, οι λαϊκές δοξασίες, και τα συναφή δεν είναι εξίσου αξιόπιστα είναι επειδή δεν ρισκάρουν κατά τον ίδιο τρόπο.
Aυτό με τη σειρά του έχει συνέπειες και στο πώς πρέπει να είναι οι ίδιοι οι επιστήμονες. Δεν μπορείς να είσαι επιστήμονας αν δεν σου καίγεται καρφί για αυτές τις εσωτερικές συγκρούσεις. Η επιστημονική έρευνα προχωρά ακριβώς επειδή υπάρχει η δέσμευση ότι οι συγκρούσεις αυτές πρέπει να ξεπεραστούν με ένα εμπειρικά υπεύθυνο τρόπο. Γι' αυτό τον λόγο ισχυρίζομαι ότι η ίδια η φύση της επιστήμης προϋποθέτει τη δυνατότητα αλλά και την έμπρακτη εκδήλωση γνήσιας ανθρώπινης δέσμευσης και υπευθυνότητας.
Υπάρχει ωστόσο και κάτι βαθύτερο εδώ διότι υπάρχουν δύο θεμελιωδώς διαφορετικά είδη δέσμευσης και υπευθυνότητας, όχι μόνο στην επιστήμη, αλλά και στη ζωή γενικότερα. Το πρώτο είδος, που θα μπορούσαμε να το αποκαλέσουμε "καθημερινή" υπευθυνότητα, είναι αυτό που αναφέρω παραπάνω λέγοντας ότι δεν μπορεί να μην μας καίγεται καρφί για το αν υπάρχει συμφωνία μεταξύ θεωρίας και παρατήρησης. Αυτό είναι η κινητήριος δύναμη για το μεγαλύτερο μέρος της επιστημονικής έρευνας και ανακάλυψης –ό,τι ο Kuhn αποκαλεί "επίλυση προβλημάτων"– και γενικά είναι επιτυχές.
Κάποιες φορές, ωστόσο, ακόμα και μετά από πολύ κόπο, η διαδικασία επίλυσης προβλημάτων δεν αποδεικνύεται επιτυχής, με αποτέλεσμα κάποια στιγμή να οδηγήσει σε αυτό που ο Kuhn αποκαλεί "κρίση" και ο Heidegger "αγωνία". Μια τέτοια κρίση απαιτεί το δεύτερο και πιο βαθύ είδος υπευθυνότητας –αυθεντικότητας, στην ορολογία του Heidegger– δηλαδή, την αντιμετώπιση της πιθανότητας μιας συνολικής απόρριψης της τρέχουσας προσέγγισης (διαμέσου, για παράδειγμα, μιας ριζικής "αλλαγής παραδείγματος"). Η ιστορία δείχνει ότι αυτή είναι μια πιθανή προοπτική.
Εκείνο που θέλω να πω εδώ, είναι ότι αυτό το είδος υπευθυνότητας, τουλάχιστον σε κάποιες περιστάσεις και σε κάποιους ανθρώπους, αποτελεί επίσης προϋπόθεση για το είδος της πρωταρχικής αποβλεπτικότητας η οποία, απ' όσο γνωρίζουμε, είναι αποκλειστικό γνώρισμα των ανθρώπων.
ΚΠ: Σε ένα παλιότερο άρθρο σας[4] ισχυρίζεστε ότι ο νους θα πρέπει θεωρηθεί ως ενταγμένος στον κόσμο και ενσώματος. Με αυτόν τον τρόπο, υποστηρίζετε ότι μπορούμε να υπερβούμε κάποια κατάλοιπα του καρτεσιανισμού τα οποία παραμένουν σχεδόν αόρατα σε πολλές σύγχρονες αντι-καρτεσιανές προσεγγίσεις για τον νου, όπως είναι, για παράδειγμα, οι προσεγγίσεις του Davidson και του Rorty. Τι ακριβώς εννοείτε με αυτό;
JH: Η κληρονομιά του Kαρτέσιου αποτελείται από αρκετά μέρη. Ένα από αυτά είναι και ο δυϊσμός νου-σώματος, ο οποίος συνεπάγεται ένα είδος ανεξαρτησίας του κάθε ατομικού νου από τον υλικό κόσμο. Οι περισσότεροι φιλόσοφοι –συμπεριλαμβανομένων των Davidson, Rorty και του εαυτού μου– απορρίπτουν σήμερα οποιαδήποτε τέτοια ιδέα. Ένα άλλο μέρος της ίδια κληρονομιάς, όμως, είναι η καρτεσιανή γνωσιοκρατία, δηλαδή η θέση ότι οι άνθρωποι είναι κατ' ουσίαν σκεπτόμενα όντα. Μόνο μια μικρότερη ομάδα φιλοσόφων (πολλοί από τους οποίους, όπως και εγώ, έχουν επηρεαστεί από τον Hubert Dreyfus) απορρίπτουν και αυτή την διάσταση του καρτεσιανισμού.
Σύμφωνα με αυτήν τη μειονότητα, πολλά από εκείνα που συνιστούν τον τρόπο με τον οποίο συλλαμβάνουμε τον κόσμο καθώς και τη ζωή μας μέσα σε αυτόν δεν έχουν κανένα διανοητικό ή γνωσιακό περιεχόμενο. Με άλλα λόγια, δεν μπορούν να αναλυθούν με όρους πεποιθήσεων, επιθυμιών ή άλλων στάσεων προς κάποιες προτάσεις. Ένα εύκολο αντιπαράδειγμα κατά τις καρτεσιανής γνωσιοκρατίας είναι η πρακτική γνώση δεξιοτήτων [know-how] – όπως το να ξέρουμε πώς να πλέκουμε, πώς να κάνουμε ποδήλατο ή πώς να τρώμε με μαχαίρι και πιρούνι. Eίναι σαφές ότι αυτή η πρακτική γνώση δεξιοτήτων θα πρέπει να είναι σε σύνδεση με τον κόσμο "εδώ και τώρα", διαφορετικά δεν θα έχει ικανοποιητικά αποτελέσματα. Παρομοίως, η ιδέα της βελτίωσης των δεξιοτήτων δεν θα είχε νόημα εάν ο κόσμος δεν μας παρείχε κάποια ετυμηγορία με τη μορφή επιτυχίας ή αποτυχίας.
Αλλά αυτή η επισήμανση αφορά τελικά πολύ περισσότερα πράγματα. Δεν είναι μόνο οι δεξιότητες και οι επιδόσεις μας στις οποίες ο κόσμος παρέχει κάποια ετυμηγορία όσον αφορά την επιτυχία ή αποτυχία τους. Το ίδιο ισχύει και για τον σχεδιασμό εξοπλισμού και εργαλείων, για τη δομή των θεσμών, ακόμα και για την αίσθηση που έχουμε όσον αφορά στο τι αξίζει για να αγωνιστούμε. Μάλιστα, το ίδιο το λεξιλόγιο στο οποίο βασίζονται οι γνωσιακές ικανότητες μπορεί να κατακτηθεί μόνο με τη μορφή πρακτικής γνώσης δεξιοτήτων. Εάν ισχυριστούμε ότι τέτοια φαινόμενα δεν υπάγονται στις κατηγορίες της γνώσης ή της θεωρίας, τότε τόσο το χειρότερο για τις κατηγορίες αυτές. Η απώτερη πρόκληση δεν είναι το πώς θα εντάξουμε με τον καλύτερο τρόπο τα πράγματα στις υπάρχουσες κατηγορίες, αλλά το πώς θα προσαρμόσουμε με τον καλύτερο τρόπο τις κατηγορίες μας στο τι υπάρχει.
[1] Haugeland, J. (1985): Artificial Intelligence, the Very Idea. A Bradford Book – The MIT Press. Το βιβλίο είναι διαθέσιμο και στην Ελληνική γλώσσα: Haugeland, J. (1992): Τεχνητή Νοημοσύνη – Σχεδιάζοντας τη Νόηση: Από την Υπολογιστική Θεωρία στις Σύγχρονες Ευφυείς Μηχανές. Εκδόσεις Κάτοπτρο.
[2] Searle, J. (1980): "Minds, Brains, and Programs", Behavioral and Brain Sciences 3: 417-457. Το άρθρο είναι διαθέσιμο και στην Ελληνική γλώσσα: Searle, J. (1993): "Νοήσεις, Εγκέφαλοι και Προγράμματα" στο Hofstadter, D. & Dennett, D. (επιμέλεια): Το Εγώ της Νόησης - Φαντασίες και Στοχασμοί για τον Εαυτό και την Ψυχή. Εκδόσεις Κάτοπτρο.
[3] Haugeland, J. (1995): "Authentic Intentionality" στο Scheutz, M. (επιμέλεια): Computationalism: New Directions. MIT Press (2002), σ. 159-174.
[4] Haugeland, J. (1995): "Mind Embodied and Embedded" στο Haaparanta, L. & Heinamaa, S. (επιμέλεια): Mind and Cognition. Acta Philosophica Fennica 58, σ. 233-267.
πηγή: eurozine.com
το βρήκα στο Antifono
Το 1985, στο βιβλίο σας Tεχνητή Νοημοσύνη,[1] εισαγάγατε τον όρο "Παλαιά Kαλή Tεχνητή Nοημοσύνη" (ΠKTN) ["Good Old Fashioned Artificial Intelligence", GOFAI] προκειμένου να αναφερθείτε στην τότε κυρίαρχη προσέγγιση της τεχνητής νοημοσύνης. Ποιες είναι οι βασικές θεωρητικές παραδοχές αυτής της προσέγγισης και κατά πόσο εξακολουθεί να είναι κυρίαρχη σήμερα;
John Haugeland: Ο όρος "ΠKTN" αναφέρεται στην πρώτη σοβαρή προσπάθεια κατασκευής μηχανών που θα είχαν τη γενική και ευέλικτη νοημοσύνη η οποία χαρακτηρίζει τους ανθρώπους. Η βασική ιδέα ήταν ότι η νοημοσύνη έχει δυο ουσιώδη συστατικά: πρώτον, ένα μεγάλο σύνολο γνώσεων που αφορούν γεγονότα για τον κόσμο και, δεύτερον, μια ευέλικτη ικανότητα σκέψης για τον κόσμο (στη βάση αυτών των γνώσεων) η οποία επιτρέπει την εξαγωγή συμπερασμάτων και τη λήψη αποφάσεων.
Ωστόσο, αυτή η παραδοσιακή ιδέα δεν θα μπορούσε να είναι η βάση για ένα πρόγραμμα επιστημονικής έρευνας χωρίς τη δυνατότητα διατύπωσης και ελέγχου εμπειρικών υποθέσεων, αλλά εκείνα τα χρόνια η επιστήμη του εγκεφάλου ήταν πολύ "χαμηλού επιπέδου" για να προσφέρει ουσιαστική βοήθεια.
Το ζωτικής σημασίας βήμα έγινε στις αρχές της δεκαετίας του 1950 με την κατασκευή (σχετικά) μεγάλων ηλεκτρονικών υπολογιστών και, ακόμα περισσότερο, με τη δημιουργία ενός ισχυρού εννοιολογικού πλαισίου για την κατανόηση τους. Το έργο, ιδιαίτερα, των Alan Turing, John McCarthy και Allen Newell έδειξε ότι ο αριθμητικός υπολογισμός αποτελεί μόνο μια ειδική περίπτωση των όσων μπορούσαν να κάνουν οι υπολογιστές. Στον βαθμό που θα μπορούσαμε να προσδιορίσουμε επακριβώς τις συμβολικές δομές, τις πράξεις που θα μπορούσαν να εκτελεστούν σ' αυτές τις δομές και τις συνθήκες κάτω από τις οποίες αυτές οι πράξεις θα έπρεπε να εκτελεστούν, το ίδιο το μηχάνημα θα ήταν απολύτως ουδέτερο ως προς το "περιεχόμενο" αυτών των δομών και πράξεων.
Για το λόγο αυτό οι υπολογιστές έφτασαν να αποκαλούνται και "συστήματα χειρισμού συμβόλων για κάθε σκοπό". Αλλά αυτή η ιδέα είναι ιδιαίτερα συναρπαστική, μια και ένα σωρό πράγματα μπορούν να θεωρηθούν ως "χειρισμός συμβόλων". Συγκεκριμένα, η τυπική λογική είναι ένα είδος χειρισμού συμβόλων που διέπεται από ρητούς κανόνες. Ωστόσο, από τον Aριστοτέλη και μετά, η λογική συσχετιζόταν πάντα με τη σκέψη και τον συλλογισμό. Φυσικά, η ανθρώπινη σκέψη στην πραγματικότητα είναι κάτι πολύ παραπάνω από λογική συναγωγή. Όμως, αυτό που ξαφνικά έγινε εύλογο ήταν η υπόθεση ότι ο σωστός τρόπος για να γενικευθεί, πέρα και από τα εγχειρίδια, ο λογικός τρόπος σκέψης θα μπορούσε να είναι στο επίπεδο του χειρισμού συμβόλων. Το ωραίο με τους υπολογιστές δεν είναι μόνο ότι μπορούν να υλοποιήσουν οποιαδήποτε τέτοια συμβολική δομή, αλλά ότι μπορούν επίσης να εκτελούν πράγματι τους προκαθορισμένους χειρισμούς.
Ακριβώς αυτή η έμπνευση γέννησε και έδωσε ώθηση στο δυναμικό ερευνητικό πρόγραμμα που αποκάλεσα "παλαιά καλή" τεχνητή νοημοσύνη. Νομίζω ότι θα μπορούσαμε νόμιμα να το αποκαλέσουμε ένα "παράδειγμα" –με την έννοια του Thomas Kuhn– το οποίο κυριάρχησε όχι μόνο στην τεχνητή νοημοσύνη και στη γνωσιακή ψυχολογία, αλλά ακόμα και στη γλωσσολογία για περίπου ένα τέταρτο του αιώνα. Ωστόσο, περίπου από τα μέσα της δεκαετίας του 1980, τότε δηλαδή που εισήγαγα τον συγκεκριμένο όρο, η κυριαρχία της είχε αρχίσει να εξασθενεί –για αυτό και ο προσδιορισμός "παλαιά καλή" τεχνητή νοημοσύνη. Νέες ιδέες είχαν ήδη εμφανιστεί στο προσκήνιο –με πιο σημαντικές αυτές των συστημάτων παράλληλα κατανεμημένης επεξεργασίας ή συνδετιστικών [connectionist] συστημάτων– και πολλοί νέοι επιστήμονες είχαν ήδη στραφεί προς αυτή την κατεύθυνση.
ΚΠ: Τόσο εσείς όσο και ο Hubert Dreyfus έχετε επισημάνει ότι ένα από τα μεγαλύτερα προβλήματα που αντιμετωπίζει η ΠΚΤΝ είναι ο προσδιορισμός του τρόπου αναπαράστασης της κοινότοπης γνώσης καθώς και του τρόπου πρόσβασης σε αυτήν. Τι ακριβώς είναι αυτό το πρόβλημα; Πιστεύετε ότι υπάρχει κάποιο επιχείρημα που δείχνει ότι η ΠΚΤΝ δεν θα ήταν δυνατό να λύσει το συγκεκριμένο πρόβλημα;
JH: Στην πραγματικότητα υπάρχουν δυο προβλήματα εδώ. Το πρώτο αποκαλείται επίσης "πρόβλημα της συνάφειας" και μπορεί να φανεί μέσα από ένα απλό παράδειγμα που προτάθηκε από τον Yehoshua Bar-Hillel στα 1960. Έστω ότι θέλουμε να κατασκευάσουμε ένα σύστημα που να μεταφράζει Αγγλικά κείμενα σε άλλες γλώσσες. Όμως, σκεφτείτε το πρόβλημα που αντιμετωπίζουμε ακόμα και με τόσο απλά κείμενα όπως το ακόλουθο: "The box was in the pen" ["Το κουτί ήταν μέσα στο pen"]. Tο πρόβλημα είναι ότι η λέξη "pen" είναι αμφίσημη και μπορεί να σημαίνει είτε "παιδικό παρκάκι" είτε "στιλό μελάνης". Aλλά, από τη στιγμή που οι περισσότερες άλλες γλώσσες δεν θα έχουν την ίδια αμφισημία, το σύστημα θα πρέπει γενικά να βρει ποια από τις δυο σημασίες είχε κατά νου ο συγγραφέας. Το ερώτημα είναι: πώς θα μπορούσε να το κάνει αυτό;
Ένας άνθρωπος θα ήξερε ότι ένα τυπικό κουτί δεν χωράει μέσα σε ένα στιλό μελάνης. Έτσι, σε αυτά τα συμφραζόμενα, η λέξη "pen" δεν μπορεί παρά να σημαίνει "παιδικό παρκάκι". Aυτό είναι ένα είδος γνώσης που ορισμένες φορές αποκαλείται "κοινότοπη γνώση". Ένα σύστημα χειρισμού συμβόλων θα μπορούσε, φυσικά, να αποθηκεύσει πολλές πληροφορίες για κουτιά, παιδικά παρκάκια, στιλό μελάνης καθώς και για τα διαφορετικά μεγέθη αυτών των αντικειμένων. Αλλά πώς θα αποφάσιζε ποιο απ' όλα αυτά τα δεδομένα είναι συναφές; Πώς θα μπορούσε να καταλάβει ότι σε αυτή την περίπτωση έχει σημασία το μέγεθος;
Ίσως σκεφτείτε ότι το σύστημα θα μπορούσε απλά να διατρέξει όλα τα γεγονότα που έχει καταγεγραμμένα σχετικά με παιδικά παρκάκια, στιλό μελάνης και κουτιά έως ότου βρει έναν συνδυασμό που διευθετεί το ζήτημα. Ωστόσο, το πρόβλημα εδώ είναι ότι όταν αναζητούμε συνδυασμούς, ο αριθμός των δυνατών περιπτώσεων αυξάνεται ραγδαία. Ενώ τα πράγματα γίνονται ακόμα χειρότερα αν λάβουμε υπόψη και τα συμφραζόμενα. Τι γίνεται αν εξετάσουμε δύο προτάσεις: "Δεν βρήκαν ποτέ το μικροφίλμ. Το κουτί ήταν μέσα στο pen". Σε αυτή την περίπτωση, το κουτί μπορεί να ήταν πάρα πολύ μικρό και το "pen" να σήμαινε "στιλό μελάνης". Φαντασθείτε τι θα συνέβαινε αν εξετάζαμε μια ολόκληρη συζήτηση ή μια μικρή ιστορία.
Αυτό είναι το πρόβλημα της συνάφειας. Η τεχνητή νοημοσύνη πάλεψε με το πρόβλημα αυτό για μια ολόκληρη γενιά, από περίπου το 1970 και μετά. Ήταν το καθοριστικό πρόβλημα της ΠKTN και τα αποτελέσματα της αναμέτρησής της με το πρόβλημα αυτό ήταν εντελώς πενιχρά.
Το άλλο πρόβλημα φαίνεται πιο απλό, αλλά τελικά είναι βαθύτερο. Λόγω των καταβολών της στον χειρισμό συμβόλων, η ΠKTN εστίαζε πάντα στις γλωσσικές ικανότητες. Βέβαια, η γλώσσα είναι μια κρίσιμη ικανότητα για την ανθρώπινη νοημοσύνη. Αλλά από αυτό δεν έπεται ότι η γλώσσα είναι επαρκής συνθήκη για αυτό το είδος νοημοσύνης, ή ότι θα μπορούσε να υπάρχει χωρίς τις άλλες χαρακτηριστικά ανθρώπινες ικανότητες, όπως είναι η αντίληψη, η πράξη και η οργάνωση. Οι άνθρωποι μπορούν, για παράδειγμα, να φτιάχνουν και να "διαβάζουν" χάρτες, σχέδια και έργα τέχνης. Μπορούν να σχεδιάζουν, να κατασκευάζουν και να χειρίζονται μηχανήματα. Μπορούν να εγκαθιδρύουν περίπλοκες κοινωνικές θέσεις και πρακτικές και να τις διατηρούν με κανονιστικό τρόπο, κ.ο.κ.
Η γλώσσα και αυτές οι άλλες "επιδέξιες" ικανότητες είναι εντελώς αλληλένδετες και αλληλεξαρτώμενες. Καμία πλευρά δεν θα μπορούσε να είναι αυτό που είναι χωρίς την άλλη. Ωστόσο, η ΠKTN σχεδόν αγνοούσε παντελώς τις μη γλωσσικές δεξιότητες, καθιστώντας τις απλές "διεπιφάνειες" [interfaces] εισόδου / εξόδου για το σύστημα χειρισμού συμβόλων (και άρα όχι μέρος του όλου προβλήματος). Ωστόσο, ο πραγματικός λόγος αυτής της αμέλειας δεν ήταν το ότι οι ικανότητες επιδέξιας αντίληψης και πράξης ήταν ασήμαντες αλλά το ότι κανείς δεν είχε ιδέα για το πώς να τις υλοποιήσει.
Δεν ξέρω αν υπάρχει κάποιο επιχείρημα που να δείχνει ότι το πρόβλημα της πρόσβασης στην αποθηκευμένη γνώση είναι αδύνατον να λυθεί. Όμως, το δίδαγμα από τα προβλήματα που αντιμετώπισε η ΠKTN πριν από την αποτελμάτωση και την τελική κατάρρευσή της, ήταν ότι το παράδειγμα του χειρισμού συμβόλων, το οποίο αρχικά φαινόταν πολλά υποσχόμενο, ακολουθούσε τελικά λάνθασμένο δρόμο. Κατά την άποψή μου, το γεγονός ότι η ΠΚΤΝ δεν μπόρεσε να καταπιαστεί με την αντίληψη και άλλες εκλεπτυσμένες δεξιότητες ήταν τελικά πιο αντιπροσωπευτικό των αδυναμιών αυτού του παραδείγματος από ό,τι το γεγονός ότι δεν μπόρεσε να υπερβεί το πρόβλημα της συνδυαστικής έκρηξης.
ΚΠ: Το πιο πολυσυζητημένο επιχείρημα κατά της ιδέας ότι ο νους είναι ένας υπολογιστής είναι το επιχείρημα του κινέζικου δωματίου του John Searle.[2] Με αυτό το επιχείρημα ο Searle επιχειρεί να δείξει ότι ο συντακτικός χειρισμός συμβόλων (δηλαδή, αυτό που οι υπολογιστές υποτίθεται ότι κάνουν) δεν επαρκεί από μόνος του για να έχουμε σημασιολογία, αποβλεπτικότητα. Ποια είναι η άποψή σας για αυτό το επιχείρημα;
JH: Ο Searle ασχολείται με τα συστήματα "επεξεργασίας φυσικής γλώσσας" της ΠKTN για τα οποία μίλησα παραπάνω, αλλά ο στόχος του είναι εντελώς διαφορετικός. Ενώ εγώ επεσήμανα την εμπειρικά διαπιστωμένη αποτυχία αυτών των συστημάτων, και προσπάθησα να διερευνήσω τους λόγους αυτής της αποτυχίας, ο Searle ισχυρίζεται ότι, ακόμα και αν λειτουργούσαν άψογα, θα εξακολουθούσαν να μην καταλαβαίνουν τίποτα. Με άλλα λόγια, ανεξάρτητα από το πόσο ευφυή μπορεί να φαίνονταν, δεν θα είχαν κανενός είδους πραγματική νοημοσύνη.
Ας δούμε τον τρόπο που στήνει το επιχείρημά του. Ένα σύστημα ΠKTN το οποίο υποτίθεται ότι καταλαβαίνει κάποια γλώσσα –ας πούμε κινέζικα– αποτελείται από τέσσερα πράγματα: πρώτον, κάποιο τρόπο λήψης και αποστολής προτάσεων στα κινέζικα, δεύτερον, μια βάση κοινότοπης γνώσης (επίσης στα κινέζικα), τρίτον, ένα σύνολο κανόνων που καθορίζουν ποιες κινέζικες προτάσεις αποστέλλονται ως συνάρτηση των προτάσεων που λαμβάνονται ή / και που βρίσκονται ήδη στη βάση γνώσης, και τέταρτον, έναν επεξεργαστή που ακολουθεί πράγματι αυτούς τους κανόνες.
Το επιχείρημα ότι κανένα τέτοιο σύστημα δεν θα καταλαβαίνει πράγματι Kινέζικα είναι το εξής: Δεν έχει σημασία σε ποια γλώσσα ή κώδικα διατυπώνονται οι κανόνες –αρκεί ο επεξεργαστής να μπορεί να τους ακολουθεί αξιόπιστα. Στα συστήματα ΠKTN οι κανόνες αυτοί διατυπώνονται σε κάποια γλώσσα προγραμματισμού. Αλλά θα μπορούσαν εξίσου καλά να είχαν διατυπωθεί στα Aγγλικά και τότε ο ίδιος ο Searle θα μπορούσε να τους ακολουθήσει –πράγμα που σημαίνει ότι στην περίπτωση αυτή θα εκτελούσε χρέη επεξεργαστή. Αλλά αυτό δεν θα σήμαινε ότι ο ίδιος καταλαβαίνει Kινέζικα, ανεξάρτητα από το πόσο καλά το όλο σύστημα θα φαινόταν στους εξωτερικούς παρατηρητές ότι ξέρει Kινέζικα.
Δεν υπάρχει αμφιβολία ότι αυτό είναι σωστό. Αλλά είναι ταυτόχρονα και άσχετο με το όλο ζήτημα. Και αυτό επειδή κανένας ποτέ δεν ισχυρίστηκε ότι ο επεξεργαστής καταλαβαίνει κινέζικα. Αντίθετα, η αρχική προσδοκία ήταν ότι ένα συγκεκριμένο είδος πολύπλοκου συστήματος –το οποίο θα αποτελείται από τον επεξεργαστή, τους κανόνες, κ.ο.κ.– θα μπορούσε να καταλαβαίνει κάποια φυσική γλώσσα όπως τα κινέζικα. Όπως αποδείχθηκε, αυτό τελικά δεν δούλεψε. Αλλά η συγκεκριμένη αποτυχία δεν είχε τίποτα να κάνει με το γεγονός ότι κάποιος άνθρωπος, που μιλά μια άλλη γλώσσα, θα μπορούσε να αναλάβει ορισμένες από τις εσωτερικές λειτουργίες του συστήματος.
ΚΠ: Ίσως ο στόχος της κατανόησης μιας φυσικής γλώσσας από μια υπολογιστική μηχανή να φαντάζει πολύ φιλόδοξος. Σύμφωνα με μια κοινά αποδεκτή άποψη, όμως, μια υπολογιστική μηχανή εφαρμόζει αλγόριθμους ακολουθώντας κανόνες. Ωστόσο, υπό ποια έννοια μια υπολογιστική μηχανή μπορεί πράγματι να ακολουθεί κανόνες;
JH: Εξαρτάται, φυσικά, από το τι εννοούμε λέγοντας να "ακολουθεί". Για παράδειγμα, κάποιος θα μπορούσε να πει ότι η σελήνη ακολουθεί πιστά τον εξής κανόνα: να περιστρέφεται πάντα γύρω από τη γη σε τροχιά Ο και με ταχύτητα S. Όλα τα φυσικά αντικείμενα ακολουθούν τέτοιου είδους κανόνες. Κατά συνέπεια, αυτή δεν είναι μια ενδιαφέρουσα επισήμανση όσον αφορά ειδικά τους υπολογιστές (ή τους ανθρώπους).
Ένα πιο ενδιαφέρον είδος περιπτώσεων προϋποθέτει έναν τρόπο ρητής διατύπωσης ποικίλων διαφορετικών κανόνων –για παράδειγμα υπό τη μορφή γλώσσας ή κώδικα– καθώς και ένα σύστημα το οποίο με αξιόπιστο τρόπο θα συμπεριφέρεται σύμφωνα με οποιοδήποτε κανόνα αυτής της μορφής (τουλάχιστον μέχρι κάποιο πρακτικά εφικτό όριο). Προφανώς, οι υπολογιστές αποτελούν ένα από τα πιο αντιπροσωπευτικά παραδείγματα ενός τέτοιου συστήματος – και, σε ένα βαθμό, το ίδιο και οι άνθρωποι.
Αλλά υπάρχει μια θεμελιώδης διαφορά. Οι άνθρωποι είναι σε θέση να επιλέξουν το εάν θα ακολουθήσουν ή όχι τους κανόνες που τους δίδονται ενώ, τουλάχιστον εκ πρώτης όψεως, οι υπολογιστές δεν μπορούν να το κάνουν αυτό. Βέβαια, οι σύγχρονοι υπολογιστές μπορούν να εκτελέσουν πολλά διαφορετικά προγράμματα ταυτόχρονα. και ένα υψηλής προτεραιότητας πρόγραμμα (όπως για παράδειγμα ένα ασφαλές λειτουργικό σύστημα) μπορεί να εμποδίσει την εκτέλεση ενός προγράμματος χαμηλότερης προτεραιότητας. Αλλά το ίδιο το μηχάνημα δεν μπορεί να αρνηθεί να εκτελέσει το πρόγραμμα που έχει την υψηλότερη προτεραιότητα, εφόσον πρόκειται για ένα καλά διατυπωμένο κώδικα.
Τώρα, θα μπορούσε κάποιος να πει ότι υπερτονίζω τη διαφορά μεταξύ ανθρώπων και υπολογιστών καθότι, κατά μια έννοια, όταν ένας άνθρωπος αρνείται να ακολουθήσει κάποιο κανόνα –λόγω αγάπης, πίστης, ή συνείδησης– απλά ακολουθεί κάποιον κανόνα υψηλότερης προτεραιότητας (όπως ακριβώς θα έκανε ένα λειτουργικό σύστημα ή ένα πρωτόκολλο ασφαλείας). Θεωρώ, ωστόσο, την ιδέα αυτή όχι μόνο παράλογη αλλά και απεχθή.
Η ικανότητά μας να βλέπουμε τη διαφορά μεταξύ αυτού που μας λέει κάποιος να κάνουμε και του τι οφείλουμε να κάνουμε, η ικανότητά μας να αναλαμβάνουμε την ευθύνη για τις αξίες μας και τις πράξεις μας, δεν είναι απλά θέμα τού να ακολουθεί κανείς κανόνες ("μόνο και μόνο επειδή είναι κανόνες") αλλά σχετίζεται με το να σταθεί κανείς και να αποφασίσει ποιος είναι. Αυτή η ικανότητα πιστεύω ότι αποτελεί την βαθύτερη ουσία της ανθρώπινης ύπαρξης και είμαι αρκετά σίγουρος ότι οι υπολογιστικές μηχανές δεν έχουν αυτήν την ικανότητα.
ΚΠ: Η ικανότητα ανάληψης ευθύνης που επισημαίνετε συνδέεται με την αποβλεπτικότητα; Σε ένα πρόσφατο άρθρο σας[3] σκιαγραφήσατε μια θετική πρόταση όσον αφορά το τι απαιτείται προκειμένου ένα σύστημα να έχει, αυτό που ονομάσατε, "πρωταρχική αποβλεπτικότητα" ["original intentionality"]. Εκεί υποστηρίζετε ότι η πρωταρχική αποβλεπτικότητα προϋποθέτει την ικανότητα ανάληψης ευθύνης. Τι ακριβώς είναι η πρωταρχική αποβλεπτικότητα και υπό ποια έννοια προϋποθέτει την ικανότητα ανάληψης ευθύνης;
JH: Αποβλεπτικότητα είναι η ιδιότητα κάποιου πράγματος να αναφέρεται σε κάτι, ο τρόπος, για παράδειγμα, που πολλές νοητικές καταστάσεις, ομιλιακά ενεργήματα, διαγράμματα, εικόνες, κ.ο.κ., μπορούν να αναφέρονται σε κάποια άλλα πράγματα (ακόμα και σε πράγματα που δεν υπάρχουν). Έτσι, η αποβλεπτικότητα είναι στενά συνδεδεμένη με τη σημασία. Τώρα, η αποβλεπτικότητα (ή η σημασία) μπορεί να μεταδοθεί σε κάτι από κάτι άλλο που την έχει ήδη. Αυτού του τύπου την αποβλεπτικότητα την αποκαλώ "παράγωγη" ["derivative intentionality"], ενώ την αποβλεπτικότητα που δεν είναι αυτού του τύπου την αποκαλώ "πρωταρχική". Μέχρι και πριν από κάποιες δεκαετίες, οι περισσότεροι φιλόσοφοι θεωρούσαν σιωπηρά ως δεδομένο ότι η πρωταρχική αποβλεπτικότητα χαρακτηρίζει όλα τα νοητικά φαινόμενα και μόνον αυτά. Εγώ εισήγαγα την διάκριση μεταξύ πρωταρχικής και παράγωγης αποβλεπτικότητας προκειμένου να μπορέσουμε να διατυπώσουμε αυτή την παραδοχή, να διερευνήσουμε το κατά πόσο ευσταθεί, και, πάνω απ' όλα, να αναζητήσουμε τις εναλλακτικές λύσεις που μας προσφέρονται.
Το ερώτημα για το εάν μπορεί να υπάρξει πρωταρχική αποβλεπτικότητα ισοδυναμεί με το ερώτημα για το εάν μπορεί να υπάρξει καν αποβλεπτικότητα: πώς μέσα στον κόσμο μπορεί κάποιο πράγμα να αναφέρεται σε κάποιο άλλο; Θεωρώ ότι το ερώτημα αυτό είναι εν τέλει ισοδύναμο με ένα άλλο ερώτημα: πώς μπορεί να υφίσταται μια διάκριση μεταξύ σωστού και λάθους σε σχέση με το πως έχουν τα πράγματα – μια διάκριση που να εξαρτάται από τα ίδια τα πράγματα; Διότι, αν δεν υπήρχε κανένα περιθώριο αποτυχίας στα αποβλεπτικά φαινόμενα, τότε δεν θα είχε καν νόημα να λέμε ότι οποιοδήποτε από αυτά πέτυχε, και κατά συνέπεια η ίδια η έννοια θα ήταν άχρηστη.
Θα προσπαθήσω να εξηγήσω αυτό που λέω με ένα παράδειγμα που αναφέρεται σε μια ειδική περίπτωση: την αποβλεπτικότητα των επιστημονικών ισχυρισμών και θεωριών.
Η διαφορά μεταξύ επιστήμης και δεισιδαιμονιών ή λαϊκών δοξασιών έγκειται στο γεγονός ότι οι επιστήμονες "θέτουν σε κίνδυνο" τους ισχυρισμούς και τις θεωρίες τους. Η δομή αυτής της διακινδύνευσης είναι ακριβώς αυτό που πρέπει να κατανοήσουμε. Κατά την άποψή μου, υπάρχουν δύο κύριοι παράγοντες. Aπό τη μια, υπάρχει μια λεπτομερής και εκλεπτυσμένη πειραματική πρακτική, η οποία δεν συμπεριλαμβάνει μόνο επιδέξιους επαγγελματίες αλλά και εξειδικευμένο εξοπλισμό και περίπλοκες διαδικασίες. Από την άλλη, υπάρχει ένα σύνολο θεωρητικών νόμων και αρχών τέτοιο ώστε μόνο ορισμένα από τα δυνατά εμπειρικά αποτελέσματα να είναι πράγματι συμβατά με αυτούς τους νόμους και τις αρχές.
Αυτή η διπλή δομή συνεπάγεται ότι υπάρχει μια σοβαρή πιθανότητα εσωτερικής σύγκρουσης μεταξύ των διάφορων ανακαλύψεων και παραδοχών της ίδιας της επιστήμης και αυτή η πάντα παρούσα πιθανότητα είναι ουσιώδης για την επιστήμη ως τέτοια. Ο λόγος για τον οποίο τα επιστημονικά αποτελέσματα που τελικά επιβιώνουν είναι τόσο ακαταμάχητα ως θεωρήσεις της πραγματικότητας είναι ακριβώς επειδή η επιστήμη συστηματικά ρισκάρει με αυτόν τον τρόπο. Ενώ, ο λόγος που η αστρολογία, οι λαϊκές δοξασίες, και τα συναφή δεν είναι εξίσου αξιόπιστα είναι επειδή δεν ρισκάρουν κατά τον ίδιο τρόπο.
Aυτό με τη σειρά του έχει συνέπειες και στο πώς πρέπει να είναι οι ίδιοι οι επιστήμονες. Δεν μπορείς να είσαι επιστήμονας αν δεν σου καίγεται καρφί για αυτές τις εσωτερικές συγκρούσεις. Η επιστημονική έρευνα προχωρά ακριβώς επειδή υπάρχει η δέσμευση ότι οι συγκρούσεις αυτές πρέπει να ξεπεραστούν με ένα εμπειρικά υπεύθυνο τρόπο. Γι' αυτό τον λόγο ισχυρίζομαι ότι η ίδια η φύση της επιστήμης προϋποθέτει τη δυνατότητα αλλά και την έμπρακτη εκδήλωση γνήσιας ανθρώπινης δέσμευσης και υπευθυνότητας.
Υπάρχει ωστόσο και κάτι βαθύτερο εδώ διότι υπάρχουν δύο θεμελιωδώς διαφορετικά είδη δέσμευσης και υπευθυνότητας, όχι μόνο στην επιστήμη, αλλά και στη ζωή γενικότερα. Το πρώτο είδος, που θα μπορούσαμε να το αποκαλέσουμε "καθημερινή" υπευθυνότητα, είναι αυτό που αναφέρω παραπάνω λέγοντας ότι δεν μπορεί να μην μας καίγεται καρφί για το αν υπάρχει συμφωνία μεταξύ θεωρίας και παρατήρησης. Αυτό είναι η κινητήριος δύναμη για το μεγαλύτερο μέρος της επιστημονικής έρευνας και ανακάλυψης –ό,τι ο Kuhn αποκαλεί "επίλυση προβλημάτων"– και γενικά είναι επιτυχές.
Κάποιες φορές, ωστόσο, ακόμα και μετά από πολύ κόπο, η διαδικασία επίλυσης προβλημάτων δεν αποδεικνύεται επιτυχής, με αποτέλεσμα κάποια στιγμή να οδηγήσει σε αυτό που ο Kuhn αποκαλεί "κρίση" και ο Heidegger "αγωνία". Μια τέτοια κρίση απαιτεί το δεύτερο και πιο βαθύ είδος υπευθυνότητας –αυθεντικότητας, στην ορολογία του Heidegger– δηλαδή, την αντιμετώπιση της πιθανότητας μιας συνολικής απόρριψης της τρέχουσας προσέγγισης (διαμέσου, για παράδειγμα, μιας ριζικής "αλλαγής παραδείγματος"). Η ιστορία δείχνει ότι αυτή είναι μια πιθανή προοπτική.
Εκείνο που θέλω να πω εδώ, είναι ότι αυτό το είδος υπευθυνότητας, τουλάχιστον σε κάποιες περιστάσεις και σε κάποιους ανθρώπους, αποτελεί επίσης προϋπόθεση για το είδος της πρωταρχικής αποβλεπτικότητας η οποία, απ' όσο γνωρίζουμε, είναι αποκλειστικό γνώρισμα των ανθρώπων.
ΚΠ: Σε ένα παλιότερο άρθρο σας[4] ισχυρίζεστε ότι ο νους θα πρέπει θεωρηθεί ως ενταγμένος στον κόσμο και ενσώματος. Με αυτόν τον τρόπο, υποστηρίζετε ότι μπορούμε να υπερβούμε κάποια κατάλοιπα του καρτεσιανισμού τα οποία παραμένουν σχεδόν αόρατα σε πολλές σύγχρονες αντι-καρτεσιανές προσεγγίσεις για τον νου, όπως είναι, για παράδειγμα, οι προσεγγίσεις του Davidson και του Rorty. Τι ακριβώς εννοείτε με αυτό;
JH: Η κληρονομιά του Kαρτέσιου αποτελείται από αρκετά μέρη. Ένα από αυτά είναι και ο δυϊσμός νου-σώματος, ο οποίος συνεπάγεται ένα είδος ανεξαρτησίας του κάθε ατομικού νου από τον υλικό κόσμο. Οι περισσότεροι φιλόσοφοι –συμπεριλαμβανομένων των Davidson, Rorty και του εαυτού μου– απορρίπτουν σήμερα οποιαδήποτε τέτοια ιδέα. Ένα άλλο μέρος της ίδια κληρονομιάς, όμως, είναι η καρτεσιανή γνωσιοκρατία, δηλαδή η θέση ότι οι άνθρωποι είναι κατ' ουσίαν σκεπτόμενα όντα. Μόνο μια μικρότερη ομάδα φιλοσόφων (πολλοί από τους οποίους, όπως και εγώ, έχουν επηρεαστεί από τον Hubert Dreyfus) απορρίπτουν και αυτή την διάσταση του καρτεσιανισμού.
Σύμφωνα με αυτήν τη μειονότητα, πολλά από εκείνα που συνιστούν τον τρόπο με τον οποίο συλλαμβάνουμε τον κόσμο καθώς και τη ζωή μας μέσα σε αυτόν δεν έχουν κανένα διανοητικό ή γνωσιακό περιεχόμενο. Με άλλα λόγια, δεν μπορούν να αναλυθούν με όρους πεποιθήσεων, επιθυμιών ή άλλων στάσεων προς κάποιες προτάσεις. Ένα εύκολο αντιπαράδειγμα κατά τις καρτεσιανής γνωσιοκρατίας είναι η πρακτική γνώση δεξιοτήτων [know-how] – όπως το να ξέρουμε πώς να πλέκουμε, πώς να κάνουμε ποδήλατο ή πώς να τρώμε με μαχαίρι και πιρούνι. Eίναι σαφές ότι αυτή η πρακτική γνώση δεξιοτήτων θα πρέπει να είναι σε σύνδεση με τον κόσμο "εδώ και τώρα", διαφορετικά δεν θα έχει ικανοποιητικά αποτελέσματα. Παρομοίως, η ιδέα της βελτίωσης των δεξιοτήτων δεν θα είχε νόημα εάν ο κόσμος δεν μας παρείχε κάποια ετυμηγορία με τη μορφή επιτυχίας ή αποτυχίας.
Αλλά αυτή η επισήμανση αφορά τελικά πολύ περισσότερα πράγματα. Δεν είναι μόνο οι δεξιότητες και οι επιδόσεις μας στις οποίες ο κόσμος παρέχει κάποια ετυμηγορία όσον αφορά την επιτυχία ή αποτυχία τους. Το ίδιο ισχύει και για τον σχεδιασμό εξοπλισμού και εργαλείων, για τη δομή των θεσμών, ακόμα και για την αίσθηση που έχουμε όσον αφορά στο τι αξίζει για να αγωνιστούμε. Μάλιστα, το ίδιο το λεξιλόγιο στο οποίο βασίζονται οι γνωσιακές ικανότητες μπορεί να κατακτηθεί μόνο με τη μορφή πρακτικής γνώσης δεξιοτήτων. Εάν ισχυριστούμε ότι τέτοια φαινόμενα δεν υπάγονται στις κατηγορίες της γνώσης ή της θεωρίας, τότε τόσο το χειρότερο για τις κατηγορίες αυτές. Η απώτερη πρόκληση δεν είναι το πώς θα εντάξουμε με τον καλύτερο τρόπο τα πράγματα στις υπάρχουσες κατηγορίες, αλλά το πώς θα προσαρμόσουμε με τον καλύτερο τρόπο τις κατηγορίες μας στο τι υπάρχει.
[1] Haugeland, J. (1985): Artificial Intelligence, the Very Idea. A Bradford Book – The MIT Press. Το βιβλίο είναι διαθέσιμο και στην Ελληνική γλώσσα: Haugeland, J. (1992): Τεχνητή Νοημοσύνη – Σχεδιάζοντας τη Νόηση: Από την Υπολογιστική Θεωρία στις Σύγχρονες Ευφυείς Μηχανές. Εκδόσεις Κάτοπτρο.
[2] Searle, J. (1980): "Minds, Brains, and Programs", Behavioral and Brain Sciences 3: 417-457. Το άρθρο είναι διαθέσιμο και στην Ελληνική γλώσσα: Searle, J. (1993): "Νοήσεις, Εγκέφαλοι και Προγράμματα" στο Hofstadter, D. & Dennett, D. (επιμέλεια): Το Εγώ της Νόησης - Φαντασίες και Στοχασμοί για τον Εαυτό και την Ψυχή. Εκδόσεις Κάτοπτρο.
[3] Haugeland, J. (1995): "Authentic Intentionality" στο Scheutz, M. (επιμέλεια): Computationalism: New Directions. MIT Press (2002), σ. 159-174.
[4] Haugeland, J. (1995): "Mind Embodied and Embedded" στο Haaparanta, L. & Heinamaa, S. (επιμέλεια): Mind and Cognition. Acta Philosophica Fennica 58, σ. 233-267.
πηγή: eurozine.com
το βρήκα στο Antifono
