Αυτενέργεια, αυτονομία και ΤΝ

Παρουσιάζουμε εδώ, σε δική μας απόδοση, επιλεγμένα αποσπάσματα από ένα πολύ ενδιαφέρον άρθρο των Αλεξάντερ Τζανγκ και Λαβ Βάρσνι, ερευνητών σε θέματα ηλεκτρονικών υπολογιστών, που εξετάζει συγκεκριμένα και απτά τα προβλήματα της αλληλεπίδρασης ανθρώπου-ΤΝ. Βρίσκουμε εξαιρετικά εποικοδομητική την ανάλυσή τους της «αυτενέργειας» και ειδικά της «από κοινού αυτενεργής δράσης». Ένα-δυο τεχνικούς φιλοσοφικούς όρους που χρησιμοποιούν, τους επεξηγούμε με συντομία μέσα σε αγκύλες. Καλή μελέτη! ―σημ. HS

*

«Η έννοια του αυτενεργού υποκειμένου (agency) είναι θεμελιώδης τόσο για την αλληλεπίδραση ανθρώπου–υπολογιστή (ΑΑΥ) όσο και για την ηθική φιλοσοφία. Συνήθως ορίζεται ως η ικανότητα εμπρόθετης δράσης και βρίσκεται στον πυρήνα της ανθρώπινης εμπειρίας. Ωστόσο, οι επιμέρους διαστάσεις της παραμένουν ασαφείς, ιδιαίτερα καθώς ενσωματώνουμε στη ζωή μας προηγμένα συστήματα ΤΝ. Οι ερευνητές της ΑΑΥ επιδιώκουν να τη διαφυλάξουν εν μέσω των τεχνολογικών εξελίξεων, αλλά τι ακριβώς είναι αυτό που προστατεύσουμε; Το ερώτημα αυτό καθίσταται ολοένα και πιο επείγον με την ανάπτυξη εργαλείων ΤΝ που εκτελούν εργασίες αυτόνομα, συχνά πέρα από την άμεση εποπτεία μας. Πώς θα πρέπει να επαναπροσδιορίσουμε την έννοια του αυτενεργού υποκειμένου σε αυτό το νέο τοπίο; Και με ποιους τρόπους αυτά τα εργαλεία την επηρεάζουν διαφορετικά απ’ ό,τι οι ανθρώπινες αλληλεπιδράσεις;

(…) Τα παραδοσιακά θεωρητικά σχήματα για την κατανόηση της αυτενέργειας ενδέχεται να μην αποτυπώνουν πλήρως την πολυπλοκότητα της αλληλεπίδρασης ανθρώπου και ΤΝ. Παραδοσιακά, η ιδιότητα της αυτενέργειας προσδιορίστηκε ως η ικανότητα για δράση (…) Ωστόσο, αν και αυτή η θεώρηση είναι χρήσιμη, παραμένει περιορισμένη, καθώς επικεντρώνεται στα αποτελέσματα και όχι στους λόγους που τα υποκινούν. Η εναλλακτική πρόταση, η «βουλητική αυτενέργεια» (volitional agency), δίνει έμφαση στα εσωτερικά κίνητρα. Εμείς όμως προτείνουμε μια διαφορετική οπτική, εμπνευσμένη από το έργο της Ελίζαμπεθ Άνσκομπ για την πρόθεση [E. Anscombe, Πρόθεση, (1957) 2023, Π.Ε.Κ., μτφ. Ευγενία Μυλωνάκη & Κωνσταντίνος Σάνδης].

Η Άνσκομπ αναδεικνύει ως κεντρικό στοιχείο της εμπρόθετης δράσης την «πρακτική γνώση», εννοώντας με αυτό το να γνωρίζουμε, χωρίς-να-παρατηρούμε-τον-εαυτό-μας, το γιατί/για ποιο λόγο ενεργούμε. Η ιδιότητα του αυτενεργού υποκειμένου δεν συνίσταται απλώς στην εκτέλεση πράξεων. Περιλαμβάνει επίσης την κατανόηση των πράξεών μας με τρόπους που μπορούν να εξηγηθούν τόσο σε εμάς τους ίδιους όσο και στους άλλους. Υποστηρίζουμε ότι αυτή η διαδικασία παροχής εξηγήσεων είναι εγγενώς σχεσιακή και εδράζεται στις σχέσεις μας με όσους μοιράζονται ένα κοινό πλαίσιο ανταλλαγής λόγων και αιτιολογήσεων. Βασιζόμενοι στην Άνσκομπ, προτείνουμε λοιπόν ότι η εμπρόθετη αυτενέργεια δεν αναδύεται σε απομόνωση, αλλά μέσα από σχέσεις. (…)

Η έννοια της πρόθεσης στην Άνσκομπ

Ένας άνθρωπος σκιτσάρει με μολύβι ένα ρομπότ. Το χέρι του κινείται σκόπιμα, χαράσσοντας τις καμπύλες γραμμές του χαμογελαστού προσώπου του ρομπότ. Η κίνηση του σκιτσογράφου μας δεν είναι αντανακλαστική —όπως είναι η αναπνοή ή το ανοιγοκλείσιμο των βλεφάρων—, αλλά μια εμπρόθετη πράξη. Τι είναι αυτό που την καθιστά τέτοια; Και ποια είναι η πρόθεσή του;

(…) Η Άνσκομπ προσφέρει έναν τρόπο κατανόησης αυτού του ζητήματος μέσω μιας ακολουθίας ερωτήσεων του τύπου «γιατί;»: «Γιατί κινείς το μολύβι σου πάνω στη σελίδα;» — «Για να σχεδιάσω ένα ρομπότ». «Γιατί να σχεδιάσεις ένα ρομπότ;» — «Για να εκφράσω τον ενθουσιασμό μου για την αλληλεπίδραση ανθρώπου και ΤΝ». «Γιατί; … κ.ο.κ.» Οι ερωτήσεις συνεχίζονται, συνδέοντας τις πράξεις με τους βαθύτερους σκοπούς τους, έως ότου φτάσουμε στην πρόθεση με την οποία αυτός ο άνθρωπος ενεργεί —π.χ. ίσως για να εξυμνήσει οπτικά το δημιουργικό δυναμικό της αλληλεπίδρασης ανθρώπου και ΤΝ.

Μια εμπρόθετη πράξη λοιπόν, είναι μια πράξη στην οποία μπορεί να εφαρμοστεί η ερώτηση «Γιατί;/Για ποιο λόγο;».

(…) Καθοριστικής σημασίας για την Άνσκομπ είναι το γεγονός ότι η εμπρόθετη πράξη θεμελιώνεται σε αυτό που αποκαλεί «πρακτική γνώση»: τη γνώση του τι κάνουμε, και γιατί το κάνουμε, χωρίς να χρειάζεται να παρατηρούμε τον εαυτό μας όπως θα παρατηρούσαμε τη συμπεριφορά ενός ξένου, ενός άλλου. Ο J. Schwenkler, βασιζόμενος στην Άνσκομπ, συνοψίζει αυτή την ιδέα σε τρία κριτήρια:

1. Ένα πρόσωπο ενεργεί εκ προθέσεως μόνο εφόσον γνωρίζει ότι το κάνει.  
2. Αυτό το γνωρίζει χωρίς να παρατηρεί τις πράξεις του.
3. Δεν χρειάζεται την παρατήρηση για να εξηγήσει γιατί/για ποιο λόγο ενεργεί.

Ο σκιτσογράφος μας γνωρίζει ότι μετακινεί το μολύβι του πάνω στο χαρτί για να σχεδιάσει ένα ρομπότ, και το γνωρίζει όχι επειδή παρατηρεί το χέρι του, αλλά επειδή έχει άμεση αντίληψη του σκοπού της πράξης του.

Η πρόκληση που θέτει η ΤΝ στην πρακτική γνώση

Ας φανταστούμε τώρα ότι ο σκιτσογράφος μας χρησιμοποιεί ένα εργαλείο ΤΝ για να δημιουργήσει ορισμένα τμήματα του σχεδίου —το χέρι του ρομπότ, ας πούμε. Δίνει μια εντολή στο σύστημα και αυτό παράγει ένα αποτέλεσμα. Αν τον ρωτήσουν: «Γιατί το σκίασες με αυτό τον τρόπο;», ίσως διστάσει: «Δεν ξέρω· απλά, έτσι το έκανε η ΤΝ». Σε αντίθεση με μια απρόβλεπτη διάχυση της νερομπογιάς, την οποία θα μπορούσε και πάλι να εξηγήσει μέσω της τεχνικής του, το αποτέλεσμα της ΤΝ φαίνεται αδιαφανές. Το σύστημα εκτελεί την εργασία αυτόνομα, αλλά η διαδικασία μέσω της οποίας το κάνει διαφεύγει της πρακτικής γνώσης του σκιτσογράφου μας. Εφόσον αυτός αδυνατεί να γνωρίζει τι ακριβώς κάνει και γιατί το κάνει χωρίς να καταφεύγει στην παρατήρηση, η χρήση της ΤΝ για την εκτέλεση μιας εργασίας συνεπάγεται μείωση της πρακτικής γνώσης του δρώντος ανθρώπου. Θα μπορούσαμε άραγε να σχεδιάσουμε συστήματα ΤΝ που να είναι περισσότερο προσβάσιμα στην πρακτική γνώση μας;

Οι Selbst και Barocas εντοπίζουν δύο εμπόδια προς αυτή την κατεύθυνση: την “αδιαπερατότητα” (inscrutability) και την “έμμεση αντίληψη  (non-intuitiveness). Η αδιαπερατότητα αναφέρεται στην τεχνική αδιαφάνεια της ΤΝ και στην πολυπλοκότητά της, η οποία αντιστέκεται στην ανθρώπινη κατανόηση. Για το πλαίσιο της Άνσκομπ ωστόσο, ακόμη πιο σημαντική είναι η έμμεση αντίληψη: ακόμη κι αν η λειτουργία του συστήματος ΤΝ ήταν απολύτως διαφανής, τα αποτελέσματά της ενδέχεται να μην ευθυγραμμίζονται με λόγους που οι άνθρωποι θεωρούν νοηματοδοτημένους και κατανοητούς. Μια ΤΝ μπορεί να σκιάσει ένα σχέδιο με έναν μαθηματικά βέλτιστο τρόπο. Αν όμως ο σχεδιαστής δεν μπορεί να συνδέσει αυτή την επιλογή με τη δική του πρόθεση, τότε το αποτέλεσμα δεν συμβάλλει στην απάντηση του ερωτήματος «γιατί;/για ποιο λόγο;».

Αυτή η διάκριση ανάμεσα στην τεχνική διαφάνεια και στους νοηματοδοτημένους για τον άνθρωπο λόγους αποκαλύπτει κάτι κρίσιμο για την εμπρόθετη δράση. Όταν θέτουμε ερωτήσεις του τύπου «γιατί;/για ποιο λόγο;» αναφορικά με ανθρώπινες πράξεις, αναμένουμε απαντήσεις που παραπέμπουν σε σκοπούς, κίνητρα και ευρύτερα συγκείμενα. Δεν αναμένουμε λεπτομερείς περιγραφές μιας νευρωνικής δραστηριότητας ή μυϊκών κινήσεων. Αντίστοιχα, ακόμη κι αν κατανοούμε με ακρίβεια τον τρόπο με τον οποίο ένα μοντέλο ΤΝ επεξεργάζεται δεδομένα (αντιμετωπίζοντας έτσι το πρόβλημα της “αδιαπερατότητας”), αυτό διαφέρει από την κατανόηση, με όρους που συνδέονται με τις ανθρώπινες προθέσεις, τού γιατί αυτό το μοντέλο ΤΝ προέβη σε συγκεκριμένες ενέργειες (ώστε να αντιμετωπιστεί το πρόβλημα της “έμμεσης αντίληψης”).

Επιπλέον, η ικανότητά μας να λογοδοτούμε για τις πράξεις μας, είναι μια ικανότητα που αναπτύσσεται μέσα σε κοινωνικά πλαίσια, όπου τα νοήματα συγκροτούνται και επικυρώνονται συλλογικά μεταξύ συνειδητών όντων. Ο σκιτσογράφος μας μπορεί να εξηγήσει τη δική του τεχνική σκίασης επειδή έμαθε τη σημασία της μέσα σε μια κοινότητα καλλιτεχνών, οι οποίοι μοιράζονται μια κοινή κατανόηση του τρόπου με τον οποίο ορισμένες τεχνικές παράγουν συγκεκριμένα αισθητικά αποτελέσματα. Τα συστήματα ΤΝ αδυνατούν εκ θεμελίων να συμμετάσχουν σε τέτοια κοινωνικά πλαίσια παραγωγής νοήματος. Ακόμη και όταν παρέχουν πειστικές εξηγήσεις, αυτές παραμένουν προσομοιώσεις παροχής λόγων και αιτιολογήσεων, και δεν συνιστούν μια γνήσια συμμετοχή στον κοινό κόσμο των ανθρώπινων νοημάτων.

Αυτό αναδεικνύει ένα πρόβλημα που είναι βαθύτερο από την απλή τεχνική αδιαφάνεια. Στην παραδοσιακή χρήση εργαλείων, η πρόθεση απορρέει σαφέστατα από τον ανθρώπινο δρώντα: δεν θα ρωτούσαμε ποτέ ένα μολύβι «γιατί» κινήθηκε με έναν συγκεκριμένο τρόπο. Η ΤΝ, όμως, εισάγει μορφές αυτόνομης λήψης αποφάσεων που κατανέμουν την αυτενέργεια με τρόπους ικανούς να συσκοτίσουν τη δική μας πρακτική γνώση. Όταν η ΤΝ παράγει απροσδόκητες παραλλαγές ή προβαίνει σε αυτόνομες επιλογές, δεν υποβοηθά απλώς τη δράση μας· ενδέχεται επίσης να μας αποσυνδέει από την άμεση κατανόηση αυτού που κάνουμε. Σε αντίθεση με μια πινελιά που μπορούμε να εξηγήσουμε μέσω της δικής μας τεχνικής, ή με την επιλογή ενός συνεργάτη που μπορούμε να κατανοήσουμε μέσω μιας κοινής μας πρόθεσης, οι συνεισφορές της ΤΝ παραμένουν θεμελιωδώς αδιαφανείς ως προς τη διαδικασία παροχής λόγων και αιτιολογήσεων, η οποία χαρακτηρίζει την εμπρόθετη δράση.

Ο ρόλος του «Άλλου»

Αυτή η αδιαφάνεια υποδεικνύει κάτι θεμελιώδες για την ίδια την εμπρόθετη δράση: στην Άνσκομπ, τα ερωτήματα του τύπου «γιατί;/για ποιο λόγο;» δεν αφορούν σε μοναχικούς αναστοχασμούς· απεναντίας, προϋποθέτουν έναν «άλλο», ο οποίος μπορεί να ερμηνεύσει και να δεχτεί ή να αμφισβητήσει τους λόγους μας μέσα σε έναν κοινό κόσμο νοήματος. Η πρακτική γνώση αποκτά νόημα επειδή είναι δημόσια κατανοήσιμη, διαμορφωμένη μέσα σε ένα πλαίσιο όπου οι λόγοι παρέχονται και λαμβάνονται. Ο σκιτσογράφος μας δεν γνωρίζει απλώς και μόνο ότι κινεί το μολύβι του για να σκιτσάρει ένα ρομπότ. Μπορεί επίσης να εξηγήσει τις πράξεις του σε έναν δάσκαλο ή σε έναν φίλο που κατανοεί την τέχνη του σχεδίου.

Επομένως, η εμπρόθετη αυτενέργεια δεν είναι απλώς αυτοκατευθυνόμενη. Προϋποθέτει, επίσης, την ύπαρξη ενός «άλλου», ο οποίος αγκυρώνει τους λόγους μας μέσα σε ένα ανθρώπινο πλέγμα αμοιβαίας κατανόησης. Τα εργαλεία ΤΝ, όσο εξελιγμένα κι αν είναι, δεν μπορούν να αναλάβουν αυτόν το ρόλο. Παράγουν αποτελέσματα —μερικές φορές εντυπωσιακά—, αλλά στερούνται της συνείδησης που απαιτείται για μια αμοιβαία διαδικασία παροχής λόγων και αιτιολογήσεων. Όταν ο σκιτσογράφος μας παραδέχεται ότι «δεν ξέρω, απλώς έτσι το έκανε η ΤΝ», δεν υπάρχει κανένας «άλλος» για να ανταποκριθεί, να αναδιαμορφώσει ή να αμφισβητήσει την πρόθεσή του. Το εργαλείο ενισχύει το παραγόμενο αποτέλεσμα, αλλά ταυτόχρονα τον απομονώνει από τη σχεσιακή ανταλλαγή που συντηρεί την αυτενέργεια. Αυτή η απουσία δεν συσκοτίζει μονάχα την πρακτική γνώση· απειλεί το ίδιο το διϋποκειμενικό θεμέλιο της εμπρόθετης πράξης.

Πρακτική γνώση και από κοινού δράση

Μια θεατρική συγγραφέας και ένας ηθοποιός δημιουργούν μαζί ένα θεατρικό έργο. Δεν εκτελούν απλώς διαφορετικές και χωριστές πράξεις, οι οποίες περιγράφονται μέσω διαφορετικών προθέσεων· μοιράζονται, επίσης, την πρόθεση της «δημιουργίας ενός θεατρικού έργου». Πώς όμως μπορούμε να κατανοήσουμε αυτή τη μετάβαση από τις ατομικές προθέσεις στις κοινές;