Άνθρωποι και «νοήμονες» μηχανές

 Alan Turing (1912-1954)

Παρατηρούμε τελευταία ένα ορυμαγδό άκριτου θαυμασμού (ή επίσης άκριτου τρόμου) απέναντι στα τεχνολογικά επιτεύγματα και τη σωτηριολογία τους μέσα από ένα σωρό ειδήσεις, σύμφωνα με τις οποίες ολοένα και συχνότερα κάποιες εξελιγμένες μηχανές «πέρασαν επιτυχώς το τεστ Τιούρινγκ πιστοποιώντας ότι οι μηχανές αποκτούν σταδιακά “νου” και “νοημοσύνη”, που στο μέλλον δύσκολα θα μπορεί να ξεχωρίσει κανείς από τον ανθρώπινο νου» κττ. 

Οφείλουμε λοιπόν να στρίψουμε ξανά και πάλι το μαχαίρι στο κόκκαλο της α-νοησίας δείχνοντας σε πόσο σαθρό, από λογικής και φιλοσοφικής άποψης, έδαφος στηρίζονται όλες αυτές οι διαβεβαιώσεις. 

Θα δείξουμε εδώ, με την πολύτιμη βοήθεια του αγαπητού μας φιλόσοφου Βενσάν Ντεκόμπ, ποιους όρους θέτει το τεστ Τιούρινγκ και τι ακριβώς είναι σε θέση να καταδείξουν αυτοί οι όροι ... πάντως όχι, όπως θα δείτε, ότι μια μηχανή που θα το περάσει, είναι «νοήμων». —Σημ. HS.

*

«(…) Το περίφημο “τεστ Τιούρινγκ” προέρχεται από ένα παλιό παιχνίδι συναναστροφής, που παιζόταν με τρία άτομα, Α, Β και Γ. Ένας από τους παίκτες, ο Γ, κλεινόταν σε ένα δωμάτιο μακριά από τους άλλους δυο, με τους οποίους επικοινωνούσε τηλεγραφικά. Το στοίχημα ήταν, κάνοντάς τους ερωτήσεις, να μαντέψει ποιος από αυτούς είναι ο άντρας και ποιος η γυναίκα. Ο ρόλος του Α, που ήταν άντρας, ήταν να απαντάει στις ερωτήσεις του Γ με τέτοιο τρόπο ώστε να τον κάνει να νομίσει πως είναι γυναίκα. Ο ρόλος του Β, που ήταν γυναίκα, ήταν να βοηθήσει τον Γ ώστε να μην παραπλανηθεί αλλά να καταφέρει διακρίνει ποιος από τους Α και Β είναι αληθινή γυναίκα και ποιος την υποκρίνεται.

Αυτό που πρότεινε ο Τιούρινγκ [στο Computing Machinery and Intelligence (1950)] ήταν μια αναδιαμόρφωση αυτού του παιχνιδιού έτσι ώστε η δοκιμασία να μην αφορά το να μαντέψει κανείς ποιο είναι το φύλο των συνομιλητών του, αλλά να μαντέψει αν συνομιλεί με άνθρωπο ή με μηχανή. Εάν σε αυτό το τεστ η μηχανή κατορθώσει να περάσει για άνθρωπος δίνοντας απαντήσεις που μοιάζουν πραγματικά νοήμονες, τότε —είπε— θα πρέπει να δεχτούμε ότι η μηχανή διαθέτει νου όπως ένα ανθρώπινο ον.

Έχουμε εδώ να κάνουμε με ένα συλλογισμό που αφορά την προσομοίωση και το επιχείρημα είναι το εξής: εάν μια μηχανή σε αυτή την υπό τους συγκεκριμένους όρους “συνομιλία” της με κάποιους ανθρώπους καταφέρει να την περάσουν για άνθρωπο, τότε οφείλουμε να πούμε ότι είναι νοήμων.  Ωστόσο αυτό το επιχείρημα είναι μάλλον αμφίσημο και ίσως αυτό εξηγεί το λόγο για τον οποίο έχει χρησιμοποιηθεί σε μάλλον αδύναμες επιχειρηματολογίες, που στοχεύουν να αποδείξουν ότι οι μηχανές μπορούν να σκέφτονται. Για παράδειγμα, ισχυρίζονται ενίοτε ότι εάν ένας παίκτης χάσει στο παιχνίδι στο οποίο μια μηχανή προσομοιώνει την ανθρώπινη νοημοσύνη, αυτό αρκεί ως απόδειξη ότι οι μηχανές αυτές διαθέτουν νοημοσύνη. Όμως αυτός ο ισχυρισμός στηρίζεται στο φαινομενιστικό [phenomenaliste] αξίωμα, σύμφωνα με το οποίο όταν μια διαφορά δεν είναι εμφανής τότε είτε δεν υφίσταται, είτε δεν έχει καμιά σημασία.

Στην πραγματικότητα, όλο κι όλο το ενδιαφέρον του παιχνιδιού που περιγράψαμε, προέρχεται από το γεγονός ότι είναι δυνατόν κάποιος να κάνει λάθος: ένας από τους λόγους που το μάντεμα “άντρας ή γυναίκα;” είναι διασκεδαστικό, είναι ότι είναι πιθανόν ο παίκτης Γ, βγαίνοντας από το δωμάτιο, να ανακαλύψει ότι ο συνομιλητής για τον οποίο νόμισε πως ήταν γυναίκα, στην πραγματικότητα ήταν άντρας. Το παιχνίδι είναι διασκεδαστικό επειδή ένας άντρας, που κάνει πως είναι γυναίκα, στην πραγματικότητα δεν είναι γυναίκα. Με δυο λόγια, αυτό το παιχνίδι δεν το παίζουμε για να βρούμε το φύλο των ανθρώπινων όντων.

Από φιλοσοφικής άποψης λοιπόν, το παιχνίδι αυτό στηρίζεται στην αντίθεση μεταξύ φαινομενικότητας και πραγματικότητας, και όχι στην φαινομεναλιστική ταύτισή τους. Δεν αποκτά κανείς το στάτους της γυναίκας απλώς και μόνο με το να εκφράζεται σαν γυναίκα ή με το να γράφει σαν γυναίκα. Επομένως, η αναλογία ανάμεσα στο παιχνίδι συναναστροφής που περιγράψαμε και στο τεστ Τιούρινγκ θα έπρεπε να είναι μάλλον η ακόλουθη: το απλό γεγονός ότι μπορεί κάποιος να δώσει τις κατάλληλες απαντήσεις σε μια συνομιλία, δεν εξασφαλίζει ότι είναι ένας νοήμων συνομιλητής. Ο παίκτης Α, που δεν είναι γυναίκα, μπορεί να καταφέρει ώστε ο συμπαίκτης του Γ να τον περάσει για γυναίκα. Παρομοίως, στο τεστ Τιούρινγκ, ο παίκτης που καλείται να μαντέψει αν συνομιλεί με άνθρωπο ή με μηχανή, μπορεί να εξαπατηθεί και να νομίσει ότι συνομιλεί με άνθρωπο ενώ συνομιλεί με μια μηχανή.

Οι λέξεις “μίμηση” και “προσομοίωση”, που πρωτοστατούν στην επιχειρηματολογία του Τιούρινγκ, διατρέχουν το κίνδυνο ότι ενδέχεται να παραπέμπουν σε ψευδαισθήσεις ή σε τρυκ. Στην πραγματικότητα όμως, το γεγονός ότι υπό ορισμένους όρους, σε ορισμένες συνθήκες, ενδέχεται να περάσουμε μια μηχανή για άνθρωπο, δεν αποδεικνύει απολύτως τίποτα. Ούτε αποδεικνύει κάτι για την “ψυχολογία” της μηχανής. Το ότι μια μηχανή μπορεί να δώσει την εντύπωση ότι είναι νοήμων, δεν αποτελεί κάποια ψυχολογική ιδιότητα της ίδιας της μηχανής. Απεναντίας,  αποτελεί μια ψυχολογική ιδιότητα του παρατηρητή της μηχανής το γεγονός ότι μπορεί να ξεγελαστεί ή να μπερδευτεί από ένα έξυπνο παιχνίδι με τις φαινομενικότητες.

Επομένως, η δοκιμή Τιούρινγκ έχει αξία μόνο εάν της δώσουμε μια διαφορετική ερμηνεία. Στο παιχνίδι συναναστροφής η ιδέα ήταν να μαντέψει κανείς το φύλο του συμπαίκτη του. Ο παίκτης Γ είναι άραγε τόσο πολύ σίγουρος ότι μπορεί να αναγνωρίσει μια γυναίκα από τον τρόπο με τον οποίον εκφράζεται, ώστε να δεσμευτεί να συνοδεύσει στο χορό τον συμπαίκτη που πιστεύει πως είναι όντως γυναίκα; Στο παιχνίδι που πρότεινε το τεστ Τιούρινγκ, η ιδέα δεν είναι να μαντέψει κανείς αν ο συνομιλητής του είναι άνθρωπος, αλλά την ορθολογικότητά του και μάλιστα την ορθολογικότητα όπως την έχει ορίσει ο Καρτέσιος, δηλαδή ως ικανότητα να συζητεί κανείς. (…)

Το πρόβλημα όμως είναι ότι δυσκολευόμαστε να προσδιορίσουμε τη διαφορά μεταξύ ορθολογικού και ανθρώπινου. Δεν είναι ότι μας λείπει η φαντασία. Ποτέ δεν δυσκολευτήκαμε να φανταστούμε νοήμονα πλάσματα, τα οποία δεν είναι άνθρωποι (για παράδειγμα τους αγγέλους ή τους Αρειανούς). Όταν όμως αναρωτιόμαστε σε τι έγκειται η νοημοσύνη αυτών των πλασμάτων, το μόνο που μπορούμε να σκεφτούμε είναι να φανταστούμε ότι μας απευθύνουν το λόγο, ότι συζητούμε μαζί τους. Και εδώ ακριβώς, στο πεδίο αυτής εδώ της εκδήλωσης του νου, η απλή νοημοσύνη τείνει να συγχέεται με μια μορφή ζωής.

Από την άποψη αυτή, η δοκιμή που πρότεινε ο Τιούρινγκ γαργαλάει τη φαντασία του αναγνώστη ακριβώς επειδή έχει να κάνει με το πεδίο των ερωταποκρίσεων. Το συνομιλητή σε μια συζήτηση δεν μπορούμε να τον διανοηθούμε παρά ως ένα ανθρώπινο ον, ή τουλάχιστον ως ένα ον που ο νους του μοιάζει με του ανθρώπου (ανεξάρτητα από τη σωματική του εμφάνιση, όπως τονίζει ο Τιούρινγκ). Όμως, γι’ αυτόν ακριβώς το λόγο  η επιλογή του Τιούρινγκ να ελέγξει τη θέση του δοκιμάζοντάς την στο πεδίο της συζήτησης είναι ατυχέστατη! Πράγματι, τα “αυτόματα” που έχουν κατασκευαστεί μέχρι σήμερα, δεν έχουν καταφέρει να κάνουν παρά μόνο εξαιρετικά εξειδικευμένα πράγματα, όπως για παράδειγμα “διαγνωστική ιατρική” ή να παίζουν σκάκι. Το περισσότερο που κατόρθωσαν, είναι να προσομοιώνουν το ρόλο ενός θεραπευτή σε μια “μη κατευθυντική” συνέντευξη. Όμως ένας ηλεκτρονικός υπολογιστής είναι ακριβώς εκείνο το είδος του “απόντος θεραπευτή”, σκοπός του οποίου δεν είναι τίποτα περισσότερο από το να έχει μια κενή ανταλλαγή με τον “ασθενή” του. (…)

Όπως γνωρίζουμε, ο Καρτέσιος πρότεινε ως κριτήριο ορθολογικότητας τη συζήτηση στο Περί Μεθόδου Λόγος. Να σημειώσω ότι πρέπει εδώ να καταλάβουμε την έννοια της συζήτησης όπως οι Γάλλοι: ένα ελεύθερο κουβεντολόι, σαν αυτό που μπορεί να λάβει χώρα σε ένα καθιστικό ή μεταξύ ταξιδιωτών στο ίδιο κουπέ ενός τρένου. Υπάρχει μια τέχνη της συζήτησης και δεν μετράει σαν συζήτηση κάθε λεκτική ανταλλαγή. Για ποιο λόγο λοιπόν αυτό το κριτήριο του Καρτέσιου είναι εξαίρετο; Διότι, για να πάρει κανείς μέρος σε μια συζήτηση, πρέπει να έχει ενδιαφέροντα και επίσης να είναι σε θέση να μοιράζεται τα ενδιαφέροντα των άλλων. Δεν μπορούμε να περιμένουμε ότι οι άλλοι θα δώσουν αυτομάτως προσοχή σε αυτά που ενδιαφέρουν εμάς. Έχουν τους δικούς τους στόχους, διαφορετικές εμπειρίες και διαφορετικά γούστα. (…)

Μια μηχανή λοιπόν δεν μπορεί να έχει ενδιαφέροντα παρεκτός κι αν έχει μια μορφή ζωής, αν έχει στόχους που μπορεί να βρίσκονται σε αρμονία ή σε σύγκρουση με τους στόχους άλλων μηχανών, καθώς και ένα σύνολο θεσμών. Όλα αυτά πρέπει να υπάρχουν εάν θέλουμε να λέμε ότι αυτά που κάνει διαθέτουν μια γενική νοημοσύνη. Διότι το μέτρο της νοημοσύνης εδώ είναι ο βαθμός στον οποίον το υποκείμενο μετέχει σε μια νοήμονα κοινοτική δραστηριότητα. (…)

Επομένως, μπορούμε να πούμε ότι μια καλώς προγραμματισμένη μηχανή θα μπορούσε (ίσως) να προσομοιώσει ένα ενδιαφέρον για τα διάφορα θέματα, για τα οποία επιθυμώ να μιλήσω σε μια συζήτηση. Όμως αυτή η προσομοίωση παραμένει στο επίπεδο μιας απογοητευτικής παραπλάνησης εφόσον η μηχανή, κάνοντας ότι ενδιαφέρεται για αυτά που με απασχολούν, δεν είναι σε θέση να τα μοιραστεί μαζί μου. Με δυο λόγια, ο μοναδικός συνομιλητής με τον οποίο επιθυμώ να ζήσω την εμπειρία μιας καλής συζήτησης, είναι αυτός που είναι σε θέση να αναγνωρίζει (ειλικρινώς ή από απλή ευγένεια έστω) τα θέματα που με απασχολούν σαν θέματα δικά του, σαν θέματα που τον απασχολούν και αυτόν. (…)».

Vincent Descombes, La denrée mentale (1995)