Παρουσιάζουμε εδώ, σε δική μας απόδοση, επιλεγμένα αποσπάσματα από ένα πολύ ενδιαφέρον άρθρο των Αλεξάντερ Τζανγκ και Λαβ Βάρσνι, ερευνητών σε θέματα ηλεκτρονικών υπολογιστών, που εξετάζει συγκεκριμένα και απτά τα προβλήματα της αλληλεπίδρασης ανθρώπου-ΤΝ. Βρίσκουμε εξαιρετικά εποικοδομητική την ανάλυσή τους της «αυτενέργειας» και ειδικά της «από κοινού αυτενεργής δράσης». Ένα-δυο τεχνικούς φιλοσοφικούς όρους που χρησιμοποιούν, τους επεξηγούμε με συντομία μέσα σε αγκύλες. Καλή μελέτη! ―σημ. HS
*
«Η έννοια του αυτενεργού υποκειμένου (agency) είναι θεμελιώδης τόσο για την
αλληλεπίδραση ανθρώπου–υπολογιστή (ΑΑΥ) όσο και για την ηθική φιλοσοφία.
Συνήθως ορίζεται ως η ικανότητα εμπρόθετης δράσης και βρίσκεται στον πυρήνα της
ανθρώπινης εμπειρίας. Ωστόσο, οι επιμέρους διαστάσεις της παραμένουν ασαφείς,
ιδιαίτερα καθώς ενσωματώνουμε στη ζωή μας προηγμένα συστήματα ΤΝ. Οι ερευνητές
της ΑΑΥ επιδιώκουν να τη διαφυλάξουν εν μέσω των τεχνολογικών εξελίξεων, αλλά
τι ακριβώς είναι αυτό που προστατεύσουμε; Το ερώτημα αυτό καθίσταται ολοένα και
πιο επείγον με την ανάπτυξη εργαλείων ΤΝ που εκτελούν εργασίες αυτόνομα, συχνά
πέρα από την άμεση εποπτεία μας. Πώς θα πρέπει να επαναπροσδιορίσουμε την έννοια
του αυτενεργού υποκειμένου σε αυτό το νέο τοπίο; Και με ποιους τρόπους αυτά τα
εργαλεία την επηρεάζουν διαφορετικά απ’ ό,τι οι ανθρώπινες αλληλεπιδράσεις;
(…) Τα παραδοσιακά θεωρητικά σχήματα για την κατανόηση της αυτενέργειας ενδέχεται να μην αποτυπώνουν πλήρως την πολυπλοκότητα της αλληλεπίδρασης ανθρώπου και ΤΝ. Παραδοσιακά, η ιδιότητα της αυτενέργειας προσδιορίστηκε ως η ικανότητα για δράση (…) Ωστόσο, αν και αυτή η θεώρηση είναι χρήσιμη, παραμένει περιορισμένη, καθώς επικεντρώνεται στα αποτελέσματα και όχι στους λόγους που τα υποκινούν. Η εναλλακτική πρόταση, η «βουλητική αυτενέργεια» (volitional agency), δίνει έμφαση στα εσωτερικά κίνητρα. Εμείς όμως προτείνουμε μια διαφορετική οπτική, εμπνευσμένη από το έργο της Ελίζαμπεθ Άνσκομπ για την πρόθεση [E. Anscombe, Πρόθεση, (1957) 2023, Π.Ε.Κ., μτφ. Ευγενία Μυλωνάκη & Κωνσταντίνος Σάνδης].
Η Άνσκομπ αναδεικνύει ως κεντρικό στοιχείο της εμπρόθετης δράσης την «πρακτική γνώση», εννοώντας με αυτό το να γνωρίζουμε, χωρίς-να-παρατηρούμε-τον-εαυτό-μας, το γιατί/για ποιο λόγο ενεργούμε. Η ιδιότητα του αυτενεργού υποκειμένου δεν συνίσταται απλώς στην εκτέλεση πράξεων. Περιλαμβάνει επίσης την κατανόηση των πράξεών μας με τρόπους που μπορούν να εξηγηθούν τόσο σε εμάς τους ίδιους όσο και στους άλλους. Υποστηρίζουμε ότι αυτή η διαδικασία παροχής εξηγήσεων είναι εγγενώς σχεσιακή και εδράζεται στις σχέσεις μας με όσους μοιράζονται ένα κοινό πλαίσιο ανταλλαγής λόγων και αιτιολογήσεων. Βασιζόμενοι στην Άνσκομπ, προτείνουμε λοιπόν ότι η εμπρόθετη αυτενέργεια δεν αναδύεται σε απομόνωση, αλλά μέσα από σχέσεις. (…)
Η έννοια της πρόθεσης στην Άνσκομπ
Ένας άνθρωπος σκιτσάρει με μολύβι ένα ρομπότ. Το χέρι του κινείται σκόπιμα, χαράσσοντας τις καμπύλες γραμμές του χαμογελαστού προσώπου του ρομπότ. Η κίνηση του σκιτσογράφου μας δεν είναι αντανακλαστική —όπως είναι η αναπνοή ή το ανοιγοκλείσιμο των βλεφάρων—, αλλά μια εμπρόθετη πράξη. Τι είναι αυτό που την καθιστά τέτοια; Και ποια είναι η πρόθεσή του;
(…) Η Άνσκομπ προσφέρει έναν τρόπο κατανόησης αυτού του ζητήματος μέσω μιας ακολουθίας ερωτήσεων του τύπου «γιατί;»: «Γιατί κινείς το μολύβι σου πάνω στη σελίδα;» — «Για να σχεδιάσω ένα ρομπότ». «Γιατί να σχεδιάσεις ένα ρομπότ;» — «Για να εκφράσω τον ενθουσιασμό μου για την αλληλεπίδραση ανθρώπου και ΤΝ». «Γιατί; … κ.ο.κ.» Οι ερωτήσεις συνεχίζονται, συνδέοντας τις πράξεις με τους βαθύτερους σκοπούς τους, έως ότου φτάσουμε στην πρόθεση με την οποία αυτός ο άνθρωπος ενεργεί —π.χ. ίσως για να εξυμνήσει οπτικά το δημιουργικό δυναμικό της αλληλεπίδρασης ανθρώπου και ΤΝ.
Μια εμπρόθετη πράξη λοιπόν, είναι μια πράξη στην οποία μπορεί να εφαρμοστεί η ερώτηση «Γιατί;/Για ποιο λόγο;».
(…) Καθοριστικής σημασίας για την Άνσκομπ είναι το γεγονός ότι η εμπρόθετη πράξη θεμελιώνεται σε αυτό που αποκαλεί «πρακτική γνώση»: τη γνώση του τι κάνουμε, και γιατί το κάνουμε, χωρίς να χρειάζεται να παρατηρούμε τον εαυτό μας όπως θα παρατηρούσαμε τη συμπεριφορά ενός ξένου, ενός άλλου. Ο J. Schwenkler, βασιζόμενος στην Άνσκομπ, συνοψίζει αυτή την ιδέα σε τρία κριτήρια:
- Ένα πρόσωπο ενεργεί εκ προθέσεως μόνο εφόσον γνωρίζει ότι το κάνει.
- Αυτό το γνωρίζει χωρίς να παρατηρεί τις πράξεις του.
- Δεν χρειάζεται την παρατήρηση για να εξηγήσει γιατί/για ποιο λόγο ενεργεί.
Ο σκιτσογράφος μας γνωρίζει ότι μετακινεί το μολύβι του πάνω στο χαρτί για να σχεδιάσει ένα ρομπότ, και το γνωρίζει όχι επειδή παρατηρεί το χέρι του, αλλά επειδή έχει άμεση αντίληψη του σκοπού της πράξης του.
Η πρόκληση που θέτει η ΤΝ στην πρακτική γνώση
Ας φανταστούμε τώρα ότι ο σκιτσογράφος μας χρησιμοποιεί ένα εργαλείο ΤΝ για να δημιουργήσει ορισμένα τμήματα του σχεδίου —το χέρι του ρομπότ, ας πούμε. Δίνει μια εντολή στο σύστημα και αυτό παράγει ένα αποτέλεσμα. Αν τον ρωτήσουν: «Γιατί το σκίασες με αυτό τον τρόπο;», ίσως διστάσει: «Δεν ξέρω· απλά, έτσι το έκανε η ΤΝ». Σε αντίθεση με μια απρόβλεπτη διάχυση της νερομπογιάς, την οποία θα μπορούσε και πάλι να εξηγήσει μέσω της τεχνικής του, το αποτέλεσμα της ΤΝ φαίνεται αδιαφανές. Το σύστημα εκτελεί την εργασία αυτόνομα, αλλά η διαδικασία μέσω της οποίας το κάνει διαφεύγει της πρακτικής γνώσης του σκιτσογράφου μας. Εφόσον αυτός αδυνατεί να γνωρίζει τι ακριβώς κάνει και γιατί το κάνει χωρίς να καταφεύγει στην παρατήρηση, η χρήση της ΤΝ για την εκτέλεση μιας εργασίας συνεπάγεται μείωση της πρακτικής γνώσης του δρώντος ανθρώπου. Θα μπορούσαμε άραγε να σχεδιάσουμε συστήματα ΤΝ που να είναι περισσότερο προσβάσιμα στην πρακτική γνώση μας;
Οι Selbst και Barocas εντοπίζουν δύο εμπόδια προς αυτή την κατεύθυνση: την “αδιαπερατότητα” (inscrutability) και την “έμμεση αντίληψη (non-intuitiveness). Η αδιαπερατότητα αναφέρεται στην τεχνική αδιαφάνεια της ΤΝ και στην πολυπλοκότητά της, η οποία αντιστέκεται στην ανθρώπινη κατανόηση. Για το πλαίσιο της Άνσκομπ ωστόσο, ακόμη πιο σημαντική είναι η έμμεση αντίληψη: ακόμη κι αν η λειτουργία του συστήματος ΤΝ ήταν απολύτως διαφανής, τα αποτελέσματά της ενδέχεται να μην ευθυγραμμίζονται με λόγους που οι άνθρωποι θεωρούν νοηματοδοτημένους και κατανοητούς. Μια ΤΝ μπορεί να σκιάσει ένα σχέδιο με έναν μαθηματικά βέλτιστο τρόπο. Αν όμως ο σχεδιαστής δεν μπορεί να συνδέσει αυτή την επιλογή με τη δική του πρόθεση, τότε το αποτέλεσμα δεν συμβάλλει στην απάντηση του ερωτήματος «γιατί;/για ποιο λόγο;».
Αυτή η διάκριση ανάμεσα στην τεχνική διαφάνεια και στους νοηματοδοτημένους για τον άνθρωπο λόγους αποκαλύπτει κάτι κρίσιμο για την εμπρόθετη δράση. Όταν θέτουμε ερωτήσεις του τύπου «γιατί;/για ποιο λόγο;» αναφορικά με ανθρώπινες πράξεις, αναμένουμε απαντήσεις που παραπέμπουν σε σκοπούς, κίνητρα και ευρύτερα συγκείμενα. Δεν αναμένουμε λεπτομερείς περιγραφές μιας νευρωνικής δραστηριότητας ή μυϊκών κινήσεων. Αντίστοιχα, ακόμη κι αν κατανοούμε με ακρίβεια τον τρόπο με τον οποίο ένα μοντέλο ΤΝ επεξεργάζεται δεδομένα (αντιμετωπίζοντας έτσι το πρόβλημα της “αδιαπερατότητας”), αυτό διαφέρει από την κατανόηση, με όρους που συνδέονται με τις ανθρώπινες προθέσεις, τού γιατί αυτό το μοντέλο ΤΝ προέβη σε συγκεκριμένες ενέργειες (ώστε να αντιμετωπιστεί το πρόβλημα της “έμμεσης αντίληψης”).
Επιπλέον, η ικανότητά μας να λογοδοτούμε για τις πράξεις μας, είναι μια ικανότητα που αναπτύσσεται μέσα σε κοινωνικά πλαίσια, όπου τα νοήματα συγκροτούνται και επικυρώνονται συλλογικά μεταξύ συνειδητών όντων. Ο σκιτσογράφος μας μπορεί να εξηγήσει τη δική του τεχνική σκίασης επειδή έμαθε τη σημασία της μέσα σε μια κοινότητα καλλιτεχνών, οι οποίοι μοιράζονται μια κοινή κατανόηση του τρόπου με τον οποίο ορισμένες τεχνικές παράγουν συγκεκριμένα αισθητικά αποτελέσματα. Τα συστήματα ΤΝ αδυνατούν εκ θεμελίων να συμμετάσχουν σε τέτοια κοινωνικά πλαίσια παραγωγής νοήματος. Ακόμη και όταν παρέχουν πειστικές εξηγήσεις, αυτές παραμένουν προσομοιώσεις παροχής λόγων και αιτιολογήσεων, και δεν συνιστούν μια γνήσια συμμετοχή στον κοινό κόσμο των ανθρώπινων νοημάτων.
Αυτό αναδεικνύει ένα πρόβλημα που είναι βαθύτερο από την απλή τεχνική αδιαφάνεια. Στην παραδοσιακή χρήση εργαλείων, η πρόθεση απορρέει σαφέστατα από τον ανθρώπινο δρώντα: δεν θα ρωτούσαμε ποτέ ένα μολύβι «γιατί» κινήθηκε με έναν συγκεκριμένο τρόπο. Η ΤΝ, όμως, εισάγει μορφές αυτόνομης λήψης αποφάσεων που κατανέμουν την αυτενέργεια με τρόπους ικανούς να συσκοτίσουν τη δική μας πρακτική γνώση. Όταν η ΤΝ παράγει απροσδόκητες παραλλαγές ή προβαίνει σε αυτόνομες επιλογές, δεν υποβοηθά απλώς τη δράση μας· ενδέχεται επίσης να μας αποσυνδέει από την άμεση κατανόηση αυτού που κάνουμε. Σε αντίθεση με μια πινελιά που μπορούμε να εξηγήσουμε μέσω της δικής μας τεχνικής, ή με την επιλογή ενός συνεργάτη που μπορούμε να κατανοήσουμε μέσω μιας κοινής μας πρόθεσης, οι συνεισφορές της ΤΝ παραμένουν θεμελιωδώς αδιαφανείς ως προς τη διαδικασία παροχής λόγων και αιτιολογήσεων, η οποία χαρακτηρίζει την εμπρόθετη δράση.
Ο ρόλος του «Άλλου»
Αυτή η αδιαφάνεια υποδεικνύει κάτι θεμελιώδες για την ίδια την εμπρόθετη δράση: στην Άνσκομπ, τα ερωτήματα του τύπου «γιατί;/για ποιο λόγο;» δεν αφορούν σε μοναχικούς αναστοχασμούς· απεναντίας, προϋποθέτουν έναν «άλλο», ο οποίος μπορεί να ερμηνεύσει και να δεχτεί ή να αμφισβητήσει τους λόγους μας μέσα σε έναν κοινό κόσμο νοήματος. Η πρακτική γνώση αποκτά νόημα επειδή είναι δημόσια κατανοήσιμη, διαμορφωμένη μέσα σε ένα πλαίσιο όπου οι λόγοι παρέχονται και λαμβάνονται. Ο σκιτσογράφος μας δεν γνωρίζει απλώς και μόνο ότι κινεί το μολύβι του για να σκιτσάρει ένα ρομπότ. Μπορεί επίσης να εξηγήσει τις πράξεις του σε έναν δάσκαλο ή σε έναν φίλο που κατανοεί την τέχνη του σχεδίου.
Επομένως, η εμπρόθετη αυτενέργεια δεν είναι απλώς αυτοκατευθυνόμενη. Προϋποθέτει, επίσης, την ύπαρξη ενός «άλλου», ο οποίος αγκυρώνει τους λόγους μας μέσα σε ένα ανθρώπινο πλέγμα αμοιβαίας κατανόησης. Τα εργαλεία ΤΝ, όσο εξελιγμένα κι αν είναι, δεν μπορούν να αναλάβουν αυτόν το ρόλο. Παράγουν αποτελέσματα —μερικές φορές εντυπωσιακά—, αλλά στερούνται της συνείδησης που απαιτείται για μια αμοιβαία διαδικασία παροχής λόγων και αιτιολογήσεων. Όταν ο σκιτσογράφος μας παραδέχεται ότι «δεν ξέρω, απλώς έτσι το έκανε η ΤΝ», δεν υπάρχει κανένας «άλλος» για να ανταποκριθεί, να αναδιαμορφώσει ή να αμφισβητήσει την πρόθεσή του. Το εργαλείο ενισχύει το παραγόμενο αποτέλεσμα, αλλά ταυτόχρονα τον απομονώνει από τη σχεσιακή ανταλλαγή που συντηρεί την αυτενέργεια. Αυτή η απουσία δεν συσκοτίζει μονάχα την πρακτική γνώση· απειλεί το ίδιο το διϋποκειμενικό θεμέλιο της εμπρόθετης πράξης.
Πρακτική γνώση και από κοινού δράση
Μια θεατρική συγγραφέας και ένας ηθοποιός δημιουργούν μαζί ένα θεατρικό έργο. Δεν εκτελούν απλώς διαφορετικές και χωριστές πράξεις, οι οποίες περιγράφονται μέσω διαφορετικών προθέσεων· μοιράζονται, επίσης, την πρόθεση της «δημιουργίας ενός θεατρικού έργου». Πώς όμως μπορούμε να κατανοήσουμε αυτή τη μετάβαση από τις ατομικές προθέσεις στις κοινές;
- Κάποιο μέλος (ή μέλη), που κατέχει μια κατάλληλη θέση, πρέπει να γνωρίζει χωρίς-έξωθεν-παρατήρηση τους σκοπούς που επιδιώκει η ομάδα. Αυτό θεμελιώνει τον εμπρόθετο χαρακτήρα της δράσης.
- Τα υπόλοιπα μέλη μπορούν σχετίζονται με αυτούς τους “ηγέτες” μέσω επιστημικής παραπομπής [epistemic deferment: η πρακτική όπου κάποιος αποδέχεται μια άποψη ή ενημερώνει τις πεποιθήσεις του επειδή βασίζεται στην κρίση ενός ειδήμονα ή μιας αξιόπιστης πηγής, στην οποία και παραπέμπει], ενώ εξακολουθούν να συμμετέχουν σε μια γνήσια συλλογική δράση. Μπορεί να μην συλλαμβάνουν το πλήρες σχέδιο, αλλά κατανοούν τις πράξεις τους σε σχέση με τον σκοπό της ομάδας.
- Οι πράξεις όλων των μελών πρέπει να μπορούν να εξηγηθούν μέσω αναφοράς στη δραστηριότητα της ομάδας. Κάθε επιμέρους συμβολή πρέπει να μπορεί να δικαιολογηθεί με βάση τον συλλογικό σκοπό.
Αυτό το πλαίσιο φωτίζει την κοινή πρόθεση μεταξύ της θεατρικής συγγραφέα και του ηθοποιού. Για αμφότερους, ο “άλλος” δεν είναι κάποιος απόμακρος παρατηρητής. Είναι ένας συνεργάτης. Ο καθένας γνωρίζει ποιος είναι ο κοινός σκοπός τους χωρίς να χρειάζεται να το παρατηρήσει: είναι το να ανεβάσουν μαζί ένα θεατρικό έργο. Ο ηθοποιός μπορεί να μην συλλαμβάνει κάθε πτυχή του κειμένου (λ.χ. η προσοχή του μπορεί να είναι εστιασμένη στις ατάκες και στις εισόδους στη σκηνή), αλλά εμπιστεύεται κατ’ επιστημική παραπομπή την συγγραφέα, θεωρώντας ότι η ερμηνεία της εναρμονίζεται με το έργο ως σύνολο. Οι πράξεις τους (η συγγραφή και η ερμηνεία) συνδέονται μεταξύ τους επειδή υπηρετούν το ίδιο έργο. Το κείμενο της συγγραφέα καθορίζει τα λόγια του ηθοποιού, ενώ η ερμηνεία του ηθοποιού επηρεάζει τις αναθεωρήσεις της συγγραφέα.
(…) Παρότι λοιπόν η συνεργασία μπορεί να μειώνει ορισμένες πτυχές της πρακτικής γνώσης ενός ατόμου, η απώλεια αυτή αντισταθμίζεται μέσω της επιστημικής παραπομπής: μας επιτρέπει να στηριζόμαστε στη γνώση κάποιου άλλου σχετικά με την κοινή πρόθεση, διατηρώντας παράλληλα τη δική μας αυτενέργεια. Αυτή ακριβώς η δυνατότητα επιστημικής παραπομπής καθιστά εξαρχής δυνατή την αυθεντικά από κοινού αυτενεργή δράση.
Η ψευδαίσθηση του «Άλλου» στην ΤΝ
Ας υποθέσουμε τώρα ότι η θεατρική συγγραφέας μας αντικαθιστά τον ηθοποιό-συνεργάτη με ένα εργαλείο ΤΝ. Του δίνει ένα σενάριο κι εκείνο παράγει μια «ερμηνεία» —για παράδειγμα, μια φωνή που διαβάζει τις ατάκες με παύσεις και χρωματισμό. Συνιστά αυτό μια από κοινού αυτενεργή δράση; Το εργαλείο ΤΝ παράγει μια εκφορά του κειμένου, αλλά δεν προβαίνει σε επιστημική παραπομπή προς τον συγγραφέα, ούτε συλλαμβάνει έναν κοινό σκοπό. «Εξάγει» απλώς κάτι με βάση τις εντολές του (prompted outputting), ή με βάση τα δεδομένα εκπαίδευσής του. Η πρακτική γνώση της συγγραφέα υφίσταται ως τέτοια μόνο εφόσον μπορεί να εξηγήσει τη συνεισφορά της στην δημιουργία του θεατρικού έργου, όπως θα έκανε με την ηθοποιό. Αν δεν μπορεί, τότε το “αμοιβαίο” στοιχείο της δράσης παραπαίει. Σε αντίθεση την ομαδική συνεργασία μεταξύ ανθρώπων, όπου η επιστημική παραπομπή ενοποιεί τα μέλη της ομάδας, η ΤΝ δεν προσφέρει τέτοιου είδους σύνδεση.
Ο Rödl το διατυπώνει αυτό με ακρίβεια. Η από κοινού δράση, λέει, απαιτεί μια “συνείδηση της συνείδησης”: μια αμοιβαία επίγνωση, κατά την οποία ο καθένας κατανοεί τόσο τη δική του συνεισφορά όσο και την κατανόηση που έχει ο άλλος για την κοινή δραστηριότητα. Αυτό υπερβαίνει την απλή “θεωρία του νου” ή την ικανότητα να μοντελοποιούμε τις νοητικές καταστάσεις των άλλων. Αυτό που απαιτείται είναι η γνήσια διϋποκειμενικότητα: όχι απλώς η πρόβλεψη του τι μπορεί να σκεφτούν ή να κάνουν οι άλλοι, αλλά η συμμετοχή σε έναν κοινό κόσμο νοήματος όπου ο καθένας αναγνωρίζει τον άλλον ως συν-υποκείμενο.
Επιστρέφοντας στο θεατρικό έργο μας: η συγγραφέας γνωρίζει ότι γράφει αυτή τη σκηνή για να δημιουργήσει μια συγκεκριμένη ατμόσφαιρα· ο ηθοποιός γνωρίζει ότι την ερμηνεύει για να αποδώσει τον ρυθμό· και οι δύο γνωρίζουν ότι ο άλλος γνωρίζει πως αυτό συγκροτεί το έργο. Ο Rödl αποκαλεί αυτή τη δομή «πληθυντική αυτοσυνείδηση» (plural self-consciousness): μια κοινή επίγνωση που ενοποιεί τις προσπάθειές μας σε μία πρόθεση.
Ένα εργαλείο ΤΝ που απλώς απαγγέλλει το σενάριό μου, υπολείπεται αυτής της συνθήκης. Μπορεί να επιτελέσει ένα θεατρικό έργο (ενδεχομένως και αποτελεσματικά) βασιζόμενο στα λόγια μου ή σε ένα σύνολο δεδομένων, αλλά δεν υπάρχει αμοιβαία αναγνώριση, ούτε μια αμφίδρομη ανταλλαγή κατά την οποία αυτό το εργαλείο κατανοεί την πρόθεσή μου και εγώ κατανοώ τη δική του. Παρότι μπορεί να προσομοιώνει την κατανόηση μέσω εξελιγμένων μοτίβων απόκρισης, αυτό διαφέρει ριζικά από τη διϋποκειμενική επίγνωση που χαρακτηρίζει την ανθρώπινη συνεργασία. Δεν διαθέτει συνείδηση, πόσο μάλλον συνείδηση του άλλου.
Αυτό το ζήτημα δεν είναι ζήτημα βελτίωσης της ΤΝ ώστε να προσομοιώσει καλύτερα αυτή την “ετερότητα”. Ακόμη κι αν ένα σύστημα μπορούσε να μοντελοποιήσει τέλεια τις ανθρώπινες νοητικές καταστάσεις, θα παρέμενε διαφορετικό από τη γνήσια διϋποκειμενικότητα. Η ενίσχυση της προσομοίωσης απλώς απομονώνει ακόμη περισσότερο τον άνθρωπο, μετατρέποντας μια κοινή προσπάθεια σε μια μοναχική πράξη με βοηθητικά εργαλεία. Η ανθρώπινη κοινή πρόθεση προσαρμόζεται μέσω επιστημικής παραπομπής. Απεναντίας, οι εργασίες με υποστήριξη ΤΝ παραμένουν στατικές, αφήνοντάς μας μόνο με το αποτέλεσμα και χωρίς κανέναν “άλλο” στον οποίο να μπορούμε να παραπέμψουμε.
Έτσι, ο αντίκτυπος της ΤΝ στην ανθρώπινη αυτενέργεια επεκτείνεται πέρα από την επίδρασή της στην πρακτική γνώση, την οποία μπορούν άλλωστε να επηρεάσουν και οι ανθρώπινοι συνεργάτες. Αυτό που διακρίνει θεμελιωδώς την ΤΝ είναι ότι, ενώ μπορούμε να παραπέμπουμε με νόημα στη γνώση των ανθρώπινων συνεργατών μας και να βασιζόμαστε στη συμμετοχή τους σε κοινές προθέσεις, η ΤΝ δεν μπορεί να επιτελέσει αυθεντικά αυτόν το ρόλο διότι πάσχει από εγγενή έλλειψη συνείδησης. (…)
Όταν η ΤΝ αναλαμβάνει τον ρόλο του συνεργάτη, κινδυνεύει να διαβρώσει την αυθεντική “ετερότητα” που θεμελιώνει την ανθρώπινη δημιουργική συνεργασία, και να μειώσει, αντί να ενισχύει, τη δημιουργική αυτενέργεια.
Τα όρια των προσομοιωμένων σχέσεων
Όλα αυτά αποκαλύπτουν ένα παράδοξο: εργαλεία ΤΝ σχεδιασμένα να ενισχύουν την ανθρώπινη ικανότητα, μπορούν να υπονομεύσουν την ανθρώπινη αυτενέργεια, διαταράσσοντας τη σχεσιακή βάση της εμπρόθετης δράσης. Όταν αντιμετωπίζουμε την ΤΝ ως έναν αυθεντικό “άλλο”, ή της επιτρέπουμε να αναλαμβάνει υπερβολική εξουσία, κινδυνεύουμε να χάσουμε όχι μόνο την πρακτική γνώση, αλλά και την αξιοπρέπεια που απορρέει από το να αναγνωρίζεται κανείς ως εμπρόθετος δρων από άλλες συνειδητές υπάρξεις.
Καθώς λοιπόν τα συστήματα ΤΝ γίνονται ολοένα πιο εξελιγμένα, θέτουν σε αμφισβήτηση και διαταράσσουν τη διανθρώπινη σχεσιακή δυναμική με δύο κρίσιμους τρόπους. Πρώτον, μπορεί να αποδυναμώσουν την πρακτική γνώση μας χωρίς να προσφέρουν έναν αυθεντικό “άλλον”, στον οποίο θα μπορούσαμε να παραπέμψουμε με νόημα. Δεύτερον, όταν η TN εκλαμβάνεται ως υπερβολικά ειδήμων, μπορεί να αντιστρέψει την επιδιωκόμενη δυναμική διαβρώνοντας διακριτικά την ανθρώπινη αυτενέργεια. Είναι αυτό που οι Malone et al. περιγράφουν ως μια “επιστημική βλάβη” (epistemic harm), η οποία συνίσταται στην αποτυχία να αναγνωριστεί η εμπειρογνωμοσύνη των εργαζομένων ανθρώπων και περιορίζει την ικανότητά τους να δρουν ανεξάρτητα.
(…) Ο κίνδυνος έγκειται στη σύγχυση των προσομοιωμένων σχέσεων της ΤΝ με τις αυθεντικές σχέσεις. Όταν διαβάζουμε ένα κείμενο, ερχόμαστε σε επαφή με τη συνείδηση του συγγραφέα του. Όταν χρησιμοποιούμε ΤΝ, αλληλοεπιδρούμε με ένα σύστημα που μπορεί να επεξεργάζεται αλλά όχι να κατανοεί. Ο πειρασμός να αντικαταστήσουμε τις δύσκολες ανθρώπινες σχέσεις με ομαλές, χωρίς τριβές αλληλεπιδράσεις με ΤΝ απειλεί το ίδιο το θεμέλιο της εμπρόθετης αυτενέργειας.
Μέσα από την εξέταση της ατομικής, της κοινής και της σχεσιακής πρόθεσης, είδαμε πώς η αυτενέργεια αναδύεται και εξαρτάται από αυθεντικές ανθρώπινες σχέσεις. Είτε σε άμεση συνεργασία είτε σε πιο σύνθετες κοινωνικές δυναμικές, η εμπρόθετη δράση απαιτεί γνήσια σύνδεση με συνειδητά υποκείμενα που μπορούν να κατανοήσουν και να ανταποκριθούν στους λόγους μας.
Καθώς προχωρούμε σε ένα μέλλον γεμάτο ΤΝ, οφείλουμε να διατηρήσουμε και να ενισχύσουμε αυτούς τους ανθρώπινους δεσμούς, αντί να τους αντικαταστήσουμε με βολικά αλλά κενά υποκατάστατα. Η ελπίδα του να σεβαστούμε η ανθρώπινη αυτενέργεια δεν έγκειται στο να τελειοποιήσουμε την προσομοίωση της «ετερότητας» από την ΤΝ, αλλά στο να την χρησιμοποιήσουμε ώστε να υποστηρίξουμε τις αυθεντικές ανθρώπινες σχέσεις που καθιστούν δυνατή την εμπρόθετη πράξη.»
Alexander Zhang, Lav R. Varshney,
«ConceptualizingAgency: A Framework for Human-AI Interaction» (2025)
Δεν υπάρχουν σχόλια:
Δημοσίευση σχολίου