Τεχνητή Νοημοσύνη: Ευθύνη και Νομιμότητα

Εμμανουήλ Κολεζάκης

Μία από τις μεγαλύτερες πηγές άγχους γύρω από την έλευση ολοένα και πιο ευφυών συστημάτων υπολογιστών είναι η υποτιθέμενη διάβρωση της ανθρώπινης ευθύνης που θα συνεπάγονται. Οι διεθνείς συζητήσεις σχετικά με τη χρήση θανατηφόρων αυτόνομων συστημάτων όπλων παρέχουν ένα ισχυρό παράδειγμα του τι διακυβεύεται. Εάν τα οπλικά συστήματα που τροφοδοτούνται από πολύπλοκη και ενδεχομένως αδιαφανή τεχνολογία μηχανικής μάθησης σύντομα θα είναι σε θέση να αποφασίζουν, χωρίς βοήθεια, πότε να εμπλακούν σε έναν στόχο, θα μπορούμε να θεωρούμε τους ανθρώπους υπεύθυνους για εγκλήματα πολέμου που αφορούν αυτά τα συστήματα; Στον πόλεμο προφανώς μιλάμε για αποφάσεις ζωής και θανάτου, αλλά παρόμοιες ανησυχίες υπάρχουν και αλλού – τομείς στους οποίους οι ζωές μπορεί να μην βρίσκονται άμεσα σε κίνδυνο, αλλά στους οποίους τα προηγμένα συστήματα μπορούν παρόλα αυτά να έχουν σημαντικές επιπτώσεις στους ανθρώπους και την κοινωνία, όπως στην επιβολή του νόμου, στις μεταφορές, στην υγειονομική περίθαλψη, στις χρηματοπιστωτικές υπηρεσίες και στα μέσα κοινωνικής δικτύωσης. Εάν οι τεχνολογίες τεχνητής νοημοσύνης μπορούν να αποφασίζουν πράγματα χωρίς άμεση ανθρώπινη παρέμβαση με τρόπους που είναι πολύ περίπλοκοι ή πολύ γρήγοροι για να τους κατανοήσουν, να προβλέψουν ή να αλλάξουν σωστά οι άνθρωποι, θα μπορούμε ακόμα να θεωρούμε τους ανθρώπους υπεύθυνους για αυτά τα συστήματα; Και θα θέλαμε να τους θεωρήσουμε υπεύθυνους; Ποια θα ήταν η εναλλακτική λύση; Μπορούν οι μηχανές να είναι υπεύθυνες;

Τι ακριβώς είναι η ευθύνη και ποιες ιδιότητες της Τεχνητής Νοημοσύνης αμφισβητούν τους υπάρχοντες τρόπους κατανομής της; Η ευθύνη απλώς εξαφανίζεται; Εξαφανίζεται σταδιακά ή συμβαίνει κάτι εντελώς διαφορετικό;

Διαχωρίζοντας την Ευθύνη

Στην ηθική φιλοσοφία, τη νομική επιστήμη, ακόμη και στην καθημερινή συζήτηση, η λέξη χρησιμοποιείται συχνά εναλλακτικά με λέξεις όπως «λογοδοσία», «ευθύνη», «υπευθυνότητα», «υποχρέωση» και «καθήκον». Ωστόσο, υπάρχουν λεπτές διαφορές μεταξύ αυτών των όρων. Σκεφτείτε αυτό το μικρό απόσπασμα από τον φιλόσοφο H. L. A. Hart, που περιγράφει έναν (φανταστικό) καπετάνιο:

Ως καπετάνιος του πλοίου, [αυτός] ήταν υπεύθυνος για την ασφάλεια των επιβατών και του πληρώματός του. Αλλά στο τελευταίο του ταξίδι μέθυσε κάθε βράδυ και ήταν υπεύθυνος για την απώλεια του πλοίου με όλους τους επιβαίνοντες. Φημολογούνταν ότι ήταν τρελός, αλλά οι γιατροί θεώρησαν ότι ήταν υπεύθυνος για τις πράξεις του. Καθ’ όλη τη διάρκεια του ταξιδιού συμπεριφέρθηκε αρκετά ανεύθυνα και διάφορα περιστατικά στην καριέρα του έδειξαν ότι δεν ήταν υπεύθυνο άτομο. Πάντα υποστήριζε ότι οι εξαιρετικές χειμερινές καταιγίδες ήταν υπεύθυνες για την απώλεια του πλοίου, αλλά στις νομικές διαδικασίες που κινήθηκαν εναντίον του κρίθηκε ποινικά υπεύθυνος για την αμελή συμπεριφορά του και σε ξεχωριστή αστική διαδικασία κρίθηκε νομικά υπεύθυνος για την απώλεια ζωής και περιουσίας. Είναι ακόμα ζωντανός και είναι ηθικά υπεύθυνος για τον θάνατο πολλών γυναικών και παιδιών.

Η ιστορία του Χαρτ δεν υποτίθεται ότι είναι συναρπαστική —κάτι που είναι εξίσου καλό!— αλλά το επισημαίνει με ζωηρό τρόπο: η ευθύνη είναι μια σύνθετη, πολύπλευρη έννοια.

Ηθική  Ευθύνη vs Νομική  Ευθύνη

Καταρχάς, η ηθική ευθύνη πολύ συχνά (αλλά όχι πάντα) είναι προσανατολισμένη στο μέλλον, και η νομική ευθύνη πολύ συχνά (αλλά όχι πάντα) είναι οπισθοδρομική.

Η ευθύνη είναι προσανατολισμένη στο μέλλον όταν σχετίζεται με τα μελλοντικά καθήκοντα και υποχρεώσεις που μπορεί να έχει ένα άτομο. Κάθε φορά που μπαίνουμε σε ένα αυτοκίνητο, αναλαμβάνουμε διάφορες υποχρεώσεις – άλλες προς τους πεζούς, άλλες προς τους οδηγούς, άλλες προς τους κατόχους δημόσιας και ιδιωτικής περιουσίας.

Στην παραδοσιακή ηθική φιλοσοφία, η ηθική ευθύνη είναι σταθερά ανθρωποκεντρική. Ιδιαίτερα στις φιλελεύθερες δημοκρατίες, οι άνθρωποι θεωρείται συνήθως ότι διαθέτουν αυτονομία και ελεύθερη βούληση, η οποία αποτελεί τη βάση για να θεωρούνται ηθικά υπεύθυνοι. Αυτή η ικανότητα είναι αυτό που μας διαφοροποιεί από τις μηχανές και τα ζώα.

Η αυτονομία είναι απαραίτητη προϋπόθεση για την απόδοση ηθικής

Ορισμένα είδη νομικής ευθύνης έχουν μια πολύ ευρύτερη άποψη για τη σχέση ευθύνης. Η νομική ευθύνη, που γενικά ονομάζεται «ευθύνη», σχετίζεται και μπορεί να επικαλύπτεται με την ηθική ευθύνη, αλλά δεν είναι ακριβώς το ίδιο πράγμα. Κάποιος μπορεί να είναι νομικά υπεύθυνος χωρίς να θεωρείται ηθικά υπεύθυνος.

Τεχνολογία και Ευθύνη

Ο φιλόσοφος Καρλ Μίτσαμ σημείωσε ότι η τεχνολογία και η ευθύνη φαίνεται να έχουν εξελιχθεί από την εποχή της βιομηχανικής επανάστασης και της άνοδος της φιλελεύθερης δημοκρατίας.

Η παρατήρηση του Mitcham υπογραμμίζει την ιδιαίτερη σχέση μεταξύ τεχνολογίας και ευθύνης. Η εισαγωγή μιας τεχνολογίας αλλάζει την ανθρώπινη δραστηριότητα με τρόπους που επηρεάζουν τις συνθήκες απόδοσης ευθύνης.

Ελευθερία Δράσης

Οι τεχνολογίες μπορούν να επηρεάσουν την ελευθερία που έχουμε να κάνουμε ενημερωμένες επιλογές. Αφενός, μπορούν να αυξήσουν τις δυνατότητές μας και να διευρύνουν το σύνολο των επιλογών που έχουμε στη διάθεσή μας. Αφετέρου, συχνά περιορίζουν αυτές τις ίδιες τις δυνατότητες και επιλογές. Το διαδίκτυο μας προσφέρει έναν σχεδόν απεριόριστο χώρο απόψεων και πληροφοριών που μπορούμε να εκφράζουμε ελεύθερα. Ταυτόχρονα είναι τα δεδομένα που συλλέγονται για εμάς ενώ βρισκόμαστε στο διαδίκτυο που μπορούν να αξιοποιηθούν στους αλγόριθμους στόχευσης που περιορίζουν τα είδη ευκαιριών, απόψεων και διαφήμισης στα οποία εκτιθέμεθα.

Τεχνητή Νοημοσύνη και Ευθύνη

Όπως έχουμε δει, οι ανησυχίες σχετικά με την ευθύνη υπό το πρίσμα των τεχνολογικών εξελίξεων δεν είναι κάτι καινούργιο, ωστόσο οι τεχνολογίες Τεχνητής Νοημοσύνης φαίνεται να παρουσιάζουν νέες προκλήσεις. Η αυξανόμενη πολυπλοκότητα, η ικανότητα μάθησης από την εμπειρία και η φαινομενικά αυτόνομη φύση αυτών των τεχνολογιών υποδηλώνουν ότι είναι ποιοτικά διαφορετικές από άλλες τεχνολογίες υπολογιστών. Ο φιλόσοφος Andreas Matthias το αποκαλεί αυτό «κενό ευθύνης» – όσο πιο αυτόνομες γίνονται οι τεχνολογίες, τόσο λιγότερο μπορούμε να θεωρούμε τους ανθρώπους υπεύθυνους.

Τα αυτόνομα αυτοκίνητα δεν είναι ανεξάρτητα από τους δρόμους στους οποίους οδηγούν ή από τα συμφέροντα των ποδηλατών και των πεζών που συναντούν.

Ηθικά και Νομικά Υπεύθυνη Τεχνητή Νοημοσύνη;

Οι προκλήσεις που θέτει η Τεχνητή Νοημοσύνη στους υπάρχοντες τρόπους κατανομής της ευθύνης έχουν οδηγήσει ορισμένους να προτείνουν να επανεξετάσουμε ποιος ή τι θεωρούμε υπεύθυνο παράγοντα. Πρέπει πάντα να είναι ένας ανθρώπινος παράγοντας ή μπορούμε να επεκτείνουμε την έννοια της δράσης ώστε να συμπεριλάβει και μη ανθρώπινους παράγοντες; Όπως σημειώσαμε νωρίτερα, οι συμβατικές ηθικές φιλοσοφικές έννοιες της ευθύνης είναι εντελώς ατομικιστικές και ανθρωποκεντρικές. Μόνο οι άνθρωποι μπορούν να είναι ηθικά υπεύθυνοι

Κοιτάζοντας μπροστά

Έχουμε δει πώς η ηθική ευθύνη για τις πράξεις μας συμβαδίζει με τον έλεγχο που έχουμε, κατά κάποιο τρόπο. Το ίδιο ισχύει και όταν χρησιμοποιούμε την τεχνολογία για να επιτύχουμε τους σκοπούς μας. Το να είμαστε υπεύθυνοι για τα αποτελέσματα των πράξεών μας, όταν αυτά έχουν διευκολυνθεί από την τεχνολογία, απαιτεί να έχουμε κάποιο βαθμό ελέγχου πάνω σε αυτήν την τεχνολογία. Αυτό συμβαίνει επειδή όταν εργαζόμαστε με την τεχνολογία, η τεχνολογία γίνεται μέρος μας – μια επέκταση των χεριών, των ποδιών και του μυαλού μας.

Μανώλης Κολεζάκης, BSc. in Mathematics (ΑΠΘ), MSc. in Administration of Information Systems (LSE-University of London), Ph.D. in Computation (UMIST-The UoM), Καθηγητής ΠΕ 03 & ΠΕ 86, Γενικό Λύκειο Ψυχικού

manolisnkolezakis@hotmail.com

ΑΝΑΦΟΡΕΣ

1. H. L. A. Hart, Punishment and Responsibility: Essays in the Philosophy of Law, 2nd ed. (New York: Oxford University Press, 2008).

2. Andrew Eshleman, “Moral Responsibility,” in The Stanford Encyclopedia of Philosophy ed. Edward N. Zalta, Winter 2016, https://plato.stanford.edu/entries/moral-responsibility/.

3. Karen Yeung, “A Study of the Implications of Advanced Digital Technologies (Including AI Systems) for the Concept of Responsibility Within a Human Rights Framework,” Preprint, submitted 2018, https://ssrn.com/abstract=3286027.

4. Carl Mitcham, “Responsibility and Technology: The Expanding Relationship,” in Technology and Responsibility, ed. Paul T. Durbin (Dordrecht, Netherlands: Springer, 1987).

5. Andreas Matthias, “The Responsibility Gap: Ascribing Responsibility for the Actions of Learning Automata,” Ethics and Information Technology 6, no. 3 (September 2004): 175–183.