Τεχνητή Νοημοσύνη: Ευθύνη και Νομιμότητα

Μία από τις με­γα­λύ­τε­ρες πηγές άγ­χους γύρω από την έλευ­ση ολο­έ­να και πιο ευ­φυών συ­στη­μά­των υπο­λο­γι­στών είναι η υπο­τι­θέ­με­νη διά­βρω­ση της αν­θρώ­πι­νης ευ­θύ­νης που θα συ­νε­πά­γο­νται. Οι διε­θνείς συ­ζη­τή­σεις σχε­τι­κά με τη χρήση θα­να­τη­φό­ρων αυ­τό­νο­μων συ­στη­μά­των όπλων πα­ρέ­χουν ένα ισχυ­ρό πα­ρά­δειγ­μα του τι δια­κυ­βεύ­ε­ται. Εάν τα οπλι­κά συ­στή­μα­τα που τρο­φο­δο­τού­νται από πο­λύ­πλο­κη και εν­δε­χο­μέ­νως αδια­φα­νή τε­χνο­λο­γία μη­χα­νι­κής μά­θη­σης σύ­ντο­μα θα είναι σε θέση να απο­φα­σί­ζουν, χωρίς βο­ή­θεια, πότε να εμπλα­κούν σε έναν στόχο, θα μπο­ρού­με να θε­ω­ρού­με τους αν­θρώ­πους υπεύ­θυ­νους για εγκλή­μα­τα πο­λέ­μου που αφο­ρούν αυτά τα συ­στή­μα­τα; Στον πό­λε­μο προ­φα­νώς μι­λά­με για απο­φά­σεις ζωής και θα­νά­του, αλλά πα­ρό­μοιες ανη­συ­χί­ες υπάρ­χουν και αλλού – το­μείς στους οποί­ους οι ζωές μπο­ρεί να μην βρί­σκο­νται άμεσα σε κίν­δυ­νο, αλλά στους οποί­ους τα προηγ­μέ­να συ­στή­μα­τα μπο­ρούν πα­ρό­λα αυτά να έχουν ση­μα­ντι­κές επι­πτώ­σεις στους αν­θρώ­πους και την κοι­νω­νία, όπως στην επι­βο­λή του νόμου, στις με­τα­φο­ρές, στην υγειο­νο­μι­κή πε­ρί­θαλ­ψη, στις χρη­μα­το­πι­στω­τι­κές υπη­ρε­σί­ες και στα μέσα κοι­νω­νι­κής δι­κτύ­ω­σης. Εάν οι τε­χνο­λο­γί­ες τε­χνη­τής νοη­μο­σύ­νης μπο­ρούν να απο­φα­σί­ζουν πράγ­μα­τα χωρίς άμεση αν­θρώ­πι­νη πα­ρέμ­βα­ση με τρό­πους που είναι πολύ πε­ρί­πλο­κοι ή πολύ γρή­γο­ροι για να τους κα­τα­νο­ή­σουν, να προ­βλέ­ψουν ή να αλ­λά­ξουν σωστά οι άν­θρω­ποι, θα μπο­ρού­με ακόμα να θε­ω­ρού­με τους αν­θρώ­πους υπεύ­θυ­νους για αυτά τα συ­στή­μα­τα; Και θα θέ­λα­με να τους θε­ω­ρή­σου­με υπεύ­θυ­νους; Ποια θα ήταν η εναλ­λα­κτι­κή λύση; Μπο­ρούν οι μη­χα­νές να είναι υπεύ­θυ­νες;

Τι ακρι­βώς είναι η ευ­θύ­νη και ποιες ιδιό­τη­τες της Τε­χνη­τής Νοη­μο­σύ­νης αμ­φι­σβη­τούν τους υπάρ­χο­ντες τρό­πους κα­τα­νο­μής της; Η ευ­θύ­νη απλώς εξα­φα­νί­ζε­ται; Εξα­φα­νί­ζε­ται στα­δια­κά ή συμ­βαί­νει κάτι εντε­λώς δια­φο­ρε­τι­κό;

Δια­χω­ρί­ζο­ντας την Ευ­θύ­νη

Στην ηθική φι­λο­σο­φία, τη νο­μι­κή επι­στή­μη, ακόμη και στην κα­θη­με­ρι­νή συ­ζή­τη­ση, η λέξη χρη­σι­μο­ποιεί­ται συχνά εναλ­λα­κτι­κά με λέ­ξεις όπως «λο­γο­δο­σία», «ευ­θύ­νη», «υπευ­θυ­νό­τη­τα», «υπο­χρέ­ω­ση» και «κα­θή­κον». Ωστό­σο, υπάρ­χουν λε­πτές δια­φο­ρές με­τα­ξύ αυτών των όρων. Σκε­φτεί­τε αυτό το μικρό από­σπα­σμα από τον φι­λό­σο­φο H. L. A. Hart, που πε­ρι­γρά­φει έναν (φα­ντα­στι­κό) κα­πε­τά­νιο:

Ως κα­πε­τά­νιος του πλοί­ου, [αυτός] ήταν υπεύ­θυ­νος για την ασφά­λεια των επι­βα­τών και του πλη­ρώ­μα­τός του. Αλλά στο τε­λευ­ταίο του τα­ξί­δι μέ­θυ­σε κάθε βράδυ και ήταν υπεύ­θυ­νος για την απώ­λεια του πλοί­ου με όλους τους επι­βαί­νο­ντες. Φη­μο­λο­γού­νταν ότι ήταν τρε­λός, αλλά οι για­τροί θε­ώ­ρη­σαν ότι ήταν υπεύ­θυ­νος για τις πρά­ξεις του. Καθ’ όλη τη διάρ­κεια του τα­ξι­διού συ­μπε­ρι­φέρ­θη­κε αρ­κε­τά ανεύ­θυ­να και διά­φο­ρα πε­ρι­στα­τι­κά στην κα­ριέ­ρα του έδει­ξαν ότι δεν ήταν υπεύ­θυ­νο άτομο. Πάντα υπο­στή­ρι­ζε ότι οι εξαι­ρε­τι­κές χει­με­ρι­νές κα­ται­γί­δες ήταν υπεύ­θυ­νες για την απώ­λεια του πλοί­ου, αλλά στις νο­μι­κές δια­δι­κα­σί­ες που κι­νή­θη­καν ενα­ντί­ον του κρί­θη­κε ποι­νι­κά υπεύ­θυ­νος για την αμελή συ­μπε­ρι­φο­ρά του και σε ξε­χω­ρι­στή αστι­κή δια­δι­κα­σία κρί­θη­κε νο­μι­κά υπεύ­θυ­νος για την απώ­λεια ζωής και πε­ριου­σί­ας. Είναι ακόμα ζω­ντα­νός και είναι ηθικά υπεύ­θυ­νος για τον θά­να­το πολ­λών γυ­ναι­κών και παι­διών.

Η ιστο­ρία του Χαρτ δεν υπο­τί­θε­ται ότι είναι συ­ναρ­πα­στι­κή —κάτι που είναι εξί­σου καλό!— αλλά το επι­ση­μαί­νει με ζωηρό τρόπο: η ευ­θύ­νη είναι μια σύν­θε­τη, πο­λύ­πλευ­ρη έν­νοια.

Ηθική  Ευ­θύ­νη vs Νο­μι­κή  Ευ­θύ­νη

Κα­ταρ­χάς, η ηθική ευ­θύ­νη πολύ συχνά (αλλά όχι πάντα) είναι προ­σα­να­το­λι­σμέ­νη στο μέλ­λον, και η νο­μι­κή ευ­θύ­νη πολύ συχνά (αλλά όχι πάντα) είναι οπι­σθο­δρο­μι­κή.

Η ευ­θύ­νη είναι προ­σα­να­το­λι­σμέ­νη στο μέλ­λον όταν σχε­τί­ζε­ται με τα μελ­λο­ντι­κά κα­θή­κο­ντα και υπο­χρε­ώ­σεις που μπο­ρεί να έχει ένα άτομο. Κάθε φορά που μπαί­νου­με σε ένα αυ­το­κί­νη­το, ανα­λαμ­βά­νου­με διά­φο­ρες υπο­χρε­ώ­σεις – άλλες προς τους πε­ζούς, άλλες προς τους οδη­γούς, άλλες προς τους κα­τό­χους δη­μό­σιας και ιδιω­τι­κής πε­ριου­σί­ας.

Στην πα­ρα­δο­σια­κή ηθική φι­λο­σο­φία, η ηθική ευ­θύ­νη είναι στα­θε­ρά αν­θρω­πο­κε­ντρι­κή. Ιδιαί­τε­ρα στις φι­λε­λεύ­θε­ρες δη­μο­κρα­τί­ες, οι άν­θρω­ποι θε­ω­ρεί­ται συ­νή­θως ότι δια­θέ­τουν αυ­το­νο­μία και ελεύ­θε­ρη βού­λη­ση, η οποία απο­τε­λεί τη βάση για να θε­ω­ρού­νται ηθικά υπεύ­θυ­νοι. Αυτή η ικα­νό­τη­τα είναι αυτό που μας δια­φο­ρο­ποιεί από τις μη­χα­νές και τα ζώα.

Η αυ­το­νο­μία είναι απα­ραί­τη­τη προ­ϋ­πό­θε­ση για την από­δο­ση ηθι­κής

Ορι­σμέ­να είδη νο­μι­κής ευ­θύ­νης έχουν μια πολύ ευ­ρύ­τε­ρη άποψη για τη σχέση ευ­θύ­νης. Η νο­μι­κή ευ­θύ­νη, που γε­νι­κά ονο­μά­ζε­ται «ευ­θύ­νη», σχε­τί­ζε­ται και μπο­ρεί να επι­κα­λύ­πτε­ται με την ηθική ευ­θύ­νη, αλλά δεν είναι ακρι­βώς το ίδιο πράγ­μα. Κά­ποιος μπο­ρεί να είναι νο­μι­κά υπεύ­θυ­νος χωρίς να θε­ω­ρεί­ται ηθικά υπεύ­θυ­νος.

Τε­χνο­λο­γία και Ευ­θύ­νη

Ο φι­λό­σο­φος Καρλ Μί­τσαμ ση­μεί­ω­σε ότι η τε­χνο­λο­γία και η ευ­θύ­νη φαί­νε­ται να έχουν εξε­λι­χθεί από την εποχή της βιο­μη­χα­νι­κής επα­νά­στα­σης και της άνο­δος της φι­λε­λεύ­θε­ρης δη­μο­κρα­τί­ας.

Η πα­ρα­τή­ρη­ση του Mitcham υπο­γραμ­μί­ζει την ιδιαί­τε­ρη σχέση με­τα­ξύ τε­χνο­λο­γί­ας και ευ­θύ­νης. Η ει­σα­γω­γή μιας τε­χνο­λο­γί­ας αλ­λά­ζει την αν­θρώ­πι­νη δρα­στη­ριό­τη­τα με τρό­πους που επη­ρε­ά­ζουν τις συν­θή­κες από­δο­σης ευ­θύ­νης.

Ελευ­θε­ρία Δρά­σης

Οι τε­χνο­λο­γί­ες μπο­ρούν να επη­ρε­ά­σουν την ελευ­θε­ρία που έχου­με να κά­νου­με ενη­με­ρω­μέ­νες επι­λο­γές. Αφε­νός, μπο­ρούν να αυ­ξή­σουν τις δυ­να­τό­τη­τές μας και να διευ­ρύ­νουν το σύ­νο­λο των επι­λο­γών που έχου­με στη διά­θε­σή μας. Αφε­τέ­ρου, συχνά πε­ριο­ρί­ζουν αυτές τις ίδιες τις δυ­να­τό­τη­τες και επι­λο­γές. Το δια­δί­κτυο μας προ­σφέ­ρει έναν σχε­δόν απε­ριό­ρι­στο χώρο από­ψε­ων και πλη­ρο­φο­ριών που μπο­ρού­με να εκ­φρά­ζου­με ελεύ­θε­ρα. Ταυ­τό­χρο­να είναι τα δε­δο­μέ­να που συλ­λέ­γο­νται για εμάς ενώ βρι­σκό­μα­στε στο δια­δί­κτυο που μπο­ρούν να αξιο­ποι­η­θούν στους αλ­γό­ριθ­μους στό­χευ­σης που πε­ριο­ρί­ζουν τα είδη ευ­και­ριών, από­ψε­ων και δια­φή­μι­σης στα οποία εκτι­θέ­με­θα.

Τε­χνη­τή Νοη­μο­σύ­νη και Ευ­θύ­νη

Όπως έχου­με δει, οι ανη­συ­χί­ες σχε­τι­κά με την ευ­θύ­νη υπό το πρί­σμα των τε­χνο­λο­γι­κών εξε­λί­ξε­ων δεν είναι κάτι και­νούρ­γιο, ωστό­σο οι τε­χνο­λο­γί­ες Τε­χνη­τής Νοη­μο­σύ­νης φαί­νε­ται να πα­ρου­σιά­ζουν νέες προ­κλή­σεις. Η αυ­ξα­νό­με­νη πο­λυ­πλο­κό­τη­τα, η ικα­νό­τη­τα μά­θη­σης από την εμπει­ρία και η φαι­νο­με­νι­κά αυ­τό­νο­μη φύση αυτών των τε­χνο­λο­γιών υπο­δη­λώ­νουν ότι είναι ποιο­τι­κά δια­φο­ρε­τι­κές από άλλες τε­χνο­λο­γί­ες υπο­λο­γι­στών. Ο φι­λό­σο­φος Andreas Matthias το απο­κα­λεί αυτό «κενό ευ­θύ­νης» – όσο πιο αυ­τό­νο­μες γί­νο­νται οι τε­χνο­λο­γί­ες, τόσο λι­γό­τε­ρο μπο­ρού­με να θε­ω­ρού­με τους αν­θρώ­πους υπεύ­θυ­νους.

Τα αυ­τό­νο­μα αυ­το­κί­νη­τα δεν είναι ανε­ξάρ­τη­τα από τους δρό­μους στους οποί­ους οδη­γούν ή από τα συμ­φέ­ρο­ντα των πο­δη­λα­τών και των πεζών που συ­να­ντούν.

Ηθικά και Νο­μι­κά Υπεύ­θυ­νη Τε­χνη­τή Νοη­μο­σύ­νη;

Οι προ­κλή­σεις που θέτει η Τε­χνη­τή Νοη­μο­σύ­νη στους υπάρ­χο­ντες τρό­πους κα­τα­νο­μής της ευ­θύ­νης έχουν οδη­γή­σει ορι­σμέ­νους να προ­τεί­νουν να επα­νε­ξε­τά­σου­με ποιος ή τι θε­ω­ρού­με υπεύ­θυ­νο πα­ρά­γο­ντα. Πρέ­πει πάντα να είναι ένας αν­θρώ­πι­νος πα­ρά­γο­ντας ή μπο­ρού­με να επε­κτεί­νου­με την έν­νοια της δρά­σης ώστε να συ­μπε­ρι­λά­βει και μη αν­θρώ­πι­νους πα­ρά­γο­ντες; Όπως ση­μειώ­σα­με νω­ρί­τε­ρα, οι συμ­βα­τι­κές ηθι­κές φι­λο­σο­φι­κές έν­νοιες της ευ­θύ­νης είναι εντε­λώς ατο­μι­κι­στι­κές και αν­θρω­πο­κε­ντρι­κές. Μόνο οι άν­θρω­ποι μπο­ρούν να είναι ηθικά υπεύ­θυ­νοι

Κοι­τά­ζο­ντας μπρο­στά

Έχου­με δει πώς η ηθική ευ­θύ­νη για τις πρά­ξεις μας συμ­βα­δί­ζει με τον έλεγ­χο που έχου­με, κατά κά­ποιο τρόπο. Το ίδιο ισχύ­ει και όταν χρη­σι­μο­ποιού­με την τε­χνο­λο­γία για να επι­τύ­χου­με τους σκο­πούς μας. Το να εί­μα­στε υπεύ­θυ­νοι για τα απο­τε­λέ­σμα­τα των πρά­ξε­ών μας, όταν αυτά έχουν διευ­κο­λυν­θεί από την τε­χνο­λο­γία, απαι­τεί να έχου­με κά­ποιο βαθμό ελέγ­χου πάνω σε αυτήν την τε­χνο­λο­γία. Αυτό συμ­βαί­νει επει­δή όταν ερ­γα­ζό­μα­στε με την τε­χνο­λο­γία, η τε­χνο­λο­γία γί­νε­ται μέρος μας – μια επέ­κτα­ση των χε­ριών, των πο­διών και του μυα­λού μας.

Μα­νώ­λης Κο­λε­ζά­κης, BSc. in Mathematics (ΑΠΘ), MSc. in Administration of Information Systems (LSE-University of London), Ph.D. in Computation (UMIST-The UoM), Κα­θη­γη­τής ΠΕ 03 & ΠΕ 86, Γε­νι­κό Λύ­κειο Ψυ­χι­κού

[email protected]

ΑΝΑ­ΦΟ­ΡΕΣ

1. H. L. A. Hart, Punishment and Responsibility: Essays in the Philosophy of Law, 2nd ed. (New York: Oxford University Press, 2008).

2. Andrew Eshleman, “Moral Responsibility,” in The Stanford Encyclopedia of Philosophy ed. Edward N. Zalta, Winter 2016, https://plato.stanford.edu/entries/moral-responsibility/.

3. Karen Yeung, “A Study of the Implications of Advanced Digital Technologies (Including AI Systems) for the Concept of Responsibility Within a Human Rights Framework,” Preprint, submitted 2018, https://ssrn.com/abstract=3286027.

4. Carl Mitcham, “Responsibility and Technology: The Expanding Relationship,” in Technology and Responsibility, ed. Paul T. Durbin (Dordrecht, Netherlands: Springer, 1987).

5. Andreas Matthias, “The Responsibility Gap: Ascribing Responsibility for the Actions of Learning Automata,” Ethics and Information Technology 6, no. 3 (September 2004): 175–183.