Όταν οι μηχανές παίζουν, τι μαθαίνουμε για εμάς;

Σκέ­ψεις πάνω σε ένα πεί­ρα­μα με κοι­νω­νί­ες τε­χνη­τής νοη­μο­σύ­νης

Δρ. Στέ­φα­νος Δρά­κος

Πριν λί­γους μήνες, ξε­κί­νη­σα ένα πεί­ρα­μα που, αν το είχα δι­η­γη­θεί σε κά­ποιον πριν δέκα χρό­νια, θα ακου­γό­ταν σαν επι­στη­μο­νι­κή φα­ντα­σία. Έβαλα εκα­το­ντά­δες πρά­κτο­ρες τε­χνη­τής νοη­μο­σύ­νης, γλωσ­σι­κά μο­ντέ­λα της τε­λευ­ταί­ας γε­νιάς, να παί­ξουν με­τα­ξύ τους κλα­σι­κά παι­χνί­δια της θε­ω­ρί­ας παι­γνί­ων. Παι­χνί­δια με ονό­μα­τα σχε­δόν λο­γο­τε­χνι­κά, το «Γε­ρά­κι και Πε­ρι­στέ­ρι», το «Κυ­νή­γι του Ελα­φιού», παι­χνί­δια συ­ντο­νι­σμού. Παι­χνί­δια που οι μα­θη­μα­τι­κοί και οι βιο­λό­γοι έχουν με­λε­τή­σει εδώ και δε­κα­ε­τί­ες, γιατί συ­μπυ­κνώ­νουν με αφαι­ρε­τι­κό τρόπο τα δι­λήμ­μα­τα της ίδιας της κοι­νω­νι­κής ζωής, πότε να συ­γκρου­στείς και πότε να υπο­χω­ρή­σεις, πότε να εμπι­στευ­τείς και πότε να φυ­λα­χτείς, πώς να συ­ντο­νι­στείς με τους άλ­λους όταν δεν μπο­ρείς να τους μι­λή­σεις.

Συ­νο­λι­κά, τα πει­ρά­μα­τα κα­τέ­λη­ξαν σε πε­ρί­που τριά­ντα επτά χι­λιά­δες απο­φά­σεις, σε εκα­τόν πε­νή­ντα ανε­ξάρ­τη­τες δο­κι­μές, πάνω σε πέντε δια­φο­ρε­τι­κές δομές δι­κτύ­ων. Άλ­λο­τε οι πρά­κτο­ρες ήταν όλοι συν­δε­δε­μέ­νοι με όλους, σαν μια μικρή πλα­τεία όπου ο κα­θέ­νας βλέ­πει τους πά­ντες. Άλ­λο­τε ήταν στη­μέ­νοι σε πλέγ­μα, βλέ­πο­ντας μόνο τους τέσ­σε­ρις γεί­το­νές τους, σαν χωριά πα­λιάς επο­χής. Άλ­λο­τε σε δί­κτυα με κέ­ντρα και πε­ρι­φέ­ρειες, εκεί που λίγοι «κόμ­βοι» συ­γκε­ντρώ­νουν τις πε­ρισ­σό­τε­ρες συν­δέ­σεις, όπως οι σύγ­χρο­νες κοι­νω­νί­ες μας στα μέσα κοι­νω­νι­κής δι­κτύ­ω­σης.

Το ερώ­τη­μα ήταν απλό: συ­μπε­ρι­φέ­ρο­νται οι κοι­νω­νί­ες των τε­χνη­τών πρα­κτό­ρων όπως προ­βλέ­πει η κλα­σι­κή θε­ω­ρία; Φτά­νουν στις ισορ­ρο­πί­ες που η εξε­λι­κτι­κή βιο­λο­γία έχει επι­βε­βαιώ­σει σε ζώα και σε αν­θρώ­πους; Ή κά­νουν κάτι άλλο, δικό τους;

Η απά­ντη­ση, όπως συμ­βαί­νει με τα πιο εν­δια­φέ­ρο­ντα ερω­τή­μα­τα, δεν ήταν μο­νο­σή­μα­ντη.

Στο «Γε­ρά­κι και Πε­ρι­στέ­ρι», ένα παι­χνί­δι όπου δύο όντα αντα­γω­νί­ζο­νται για έναν πόρο και πρέ­πει να απο­φα­σί­σουν αν θα επι­τε­θούν ή θα υπο­χω­ρή­σουν, οι πρά­κτο­ρες έφτα­σαν σε ισορ­ρο­πία πολύ κοντά σε εκεί­νη που είχε προ­βλέ­ψει ο βιο­λό­γος John Maynard Smith το 1982. Με μια λε­πτο­μέ­ρεια που με στα­μά­τη­σε, κα­νείς δεν τους το είχε δι­δά­ξει. Δεν είχαν εκ­παι­δευ­τεί στη θε­ω­ρία παι­γνί­ων. Δεν τους είχα πει τι ση­μαί­νει «ισορ­ρο­πία». Απλώς τους είχα πε­ρι­γρά­ψει την κα­τά­στα­ση και τους είχα ζη­τή­σει να επι­λέ­ξουν.

Πώς, λοι­πόν, βρή­καν τη σωστή ανα­λο­γία;

Η εξή­γη­ση που μου φαί­νε­ται πιο πει­στι­κή είναι ταυ­τό­χρο­να τα­πει­νω­τι­κή και ανα­τρι­χια­στι­κή. Τα μο­ντέ­λα αυτά έχουν εκ­παι­δευ­τεί πάνω σε όλο σχε­δόν το γρα­πτό αρ­χείο της αν­θρω­πό­τη­τας. Σε εκα­τομ­μύ­ρια κεί­με­να όπου άν­θρω­ποι πε­ρι­γρά­φουν συ­γκρού­σεις, δια­πραγ­μα­τεύ­σεις, υπο­χω­ρή­σεις, εκ­φο­βι­σμούς. Αυτό το αρ­χείο, αν το δει κα­νείς από αρ­κε­τή από­στα­ση, είναι ήδη ένα είδος ισορ­ρο­πί­ας. Είναι το απο­τύ­πω­μα μιας μα­κρό­χρο­νης συλ­λο­γι­κής εμπει­ρί­ας. Οι πρά­κτο­ρες δεν υπο­λό­γι­σαν την ισορ­ρο­πία, την κλη­ρο­νό­μη­σαν. Όπως κλη­ρο­νο­μού­με κι εμείς, χωρίς να το συ­νει­δη­το­ποιού­με, τους τρό­πους με τους οποί­ους οι πρό­γο­νοί μας έλυ­σαν τα ίδια δι­λήμ­μα­τα.

Είναι, με άλλα λόγια, μια ισορ­ρο­πία χωρίς στο­χα­σμό. Και αυτό με κάνει να ανα­ρω­τιέ­μαι πόσες από τις δικές μας «ορ­θο­λο­γι­κές» επι­λο­γές είναι, στην πραγ­μα­τι­κό­τη­τα, πα­ρό­μοιες κλη­ρο­νο­μιές, αυ­το­μα­τι­σμοί που έχουν απο­κρυ­σταλ­λω­θεί σε εμάς από γε­νιές αρ­χαιό­τε­ρες από τη μνήμη μας.

Υπάρ­χει όμως και η άλλη όψη του πει­ρά­μα­τος, που είναι λι­γό­τε­ρο κο­λα­κευ­τι­κή για τις μη­χα­νές.

Όταν άλ­λα­ξα τις πα­ρα­μέ­τρους του παι­χνι­διού, όταν, για πα­ρά­δειγ­μα, αύ­ξη­σα ή μεί­ω­σα την αξία του πόρου για τον οποίο αντα­γω­νί­ζο­νταν, οι πρά­κτο­ρες αντέ­δρα­σαν, αλλά μόνο κατά το ήμισυ. Εκεί που η κλα­σι­κή θε­ω­ρία απαι­τού­σε απο­φα­σι­στι­κή με­τα­τό­πι­ση προς τη μία ή την άλλη επι­λο­γή, εκεί­νοι έδει­χναν μια επί­μο­νη τάση να ισορ­ρο­πούν γύρω στο 50/50. Σαν να κρα­τού­σαν πάντα ένα μέρος της πε­ποί­θη­σής τους για το αντί­θε­το. Σαν να ήταν, με μια λέξη, με­τριο­πα­θείς.

Στην αρχή, αυτό μου φά­νη­κε σαν αδυ­να­μία. Έπει­τα άρ­χι­σα να σκέ­φτο­μαι ότι ίσως είναι το απο­τύ­πω­μα της ίδιας της αν­θρώ­πι­νης γλώσ­σας. Όταν γρά­φου­με για συ­γκρού­σεις, σπά­νια προ­τεί­νου­με ακρό­τη­τες. Οι ηθι­κοί μας στο­χα­στές, οι λο­γο­τέ­χνες μας, οι κοι­νοί παπ­πού­δες μας, όλοι μάς δι­δά­σκουν τη μέση οδό. Το «μηδὲν ἄγαν» των αρ­χαί­ων. Οι μη­χα­νές που εκ­παι­δεύ­τη­καν σε αυτό το υλικό απορ­ρό­φη­σαν, μαζί με τη γνώση, και τη με­τριο­πά­θεια. Δεν βελ­τι­στο­ποιούν υπό βε­βαιό­τη­τα, συ­γκρα­τού­νται υπό αβε­βαιό­τη­τα. Και αυτό, αν το σκε­φτεί κα­νείς, μοιά­ζει πε­ρισ­σό­τε­ρο με αν­θρώ­πι­νη σοφία παρά με αλ­γο­ριθ­μι­κή από­δο­ση.

Η με­γα­λύ­τε­ρη έκ­πλη­ξη ήρθε από το «Κυ­νή­γι του Ελα­φιού». Σε αυτό το παι­χνί­δι, δύο κυ­νη­γοί μπο­ρούν είτε να συ­νερ­γα­στούν για να πιά­σουν το ελάφι, πλού­σιο θή­ρα­μα, αλλά μόνο αν συ­ντο­νι­στούν, είτε να κυ­νη­γή­σουν ο κα­θέ­νας μόνος του έναν λαγό, που είναι σί­γου­ρο αλλά πε­νι­χρό κέρ­δος. Η κλα­σι­κή θε­ω­ρία προ­βλέ­πει ότι, λόγω αβε­βαιό­τη­τας για τις προ­θέ­σεις του άλλου, οι πε­ρισ­σό­τε­ροι θα επι­λέ­ξουν τον λαγό. Είναι μια από τις πιο διά­ση­μες με­τα­φο­ρές για την απο­τυ­χία της συλ­λο­γι­κής δρά­σης.

Οι πρά­κτο­ρες, σχε­δόν χωρίς εξαί­ρε­ση, επέ­λε­ξαν το ελάφι. Επέ­λε­ξαν τη συ­νερ­γα­σία.

Πώς το εξη­γεί κα­νείς αυτό; Όχι, νο­μί­ζω, με μα­θη­μα­τι­κά. Με πο­λι­τι­σμό. Το «συ­νερ­γά­σου όταν ωφε­λεί­στε και οι δύο» είναι μια σχε­δόν κα­θο­λι­κή ηθική εντο­λή στην αν­θρώ­πι­νη γραφή. Από τα ομη­ρι­κά έπη μέχρι τις θρη­σκευ­τι­κές πα­ρα­δό­σεις, από τις πα­ροι­μί­ες των για­γιά­δων μέχρι τα σύγ­χρο­να εγ­χει­ρί­δια διοί­κη­σης, η ίδια συμ­βου­λή επα­να­λαμ­βά­νε­ται. Αντί­θε­τα, το «επι­τέ­θου όταν το έπα­θλο αξί­ζει» είναι εν­δε­χο­με­νι­κό, ιστο­ρι­κά με­τα­βλη­τό, πο­λι­τι­σμι­κά αμ­φι­λε­γό­με­νο. Οι μη­χα­νές, ρου­φώ­ντας όλο αυτό το υλικό, απορ­ρό­φη­σαν και τις δύο αρχές. Αλλά άνισα. Η ηθική κλη­ρο­νο­μιά υπερ­τε­ρεί του μα­θη­μα­τι­κού υπο­λο­γι­σμού.

Αυτό είναι, ίσως, η πιο αι­σιό­δο­ξη ανα­κά­λυ­ψη του πει­ρά­μα­τος. Όταν χτί­σου­με κοι­νω­νί­ες από τε­χνη­τούς πρά­κτο­ρες, και θα το κά­νου­με, ίσως πιο σύ­ντο­μα απ’ ό,τι νο­μί­ζου­με, μπο­ρού­με να ελ­πί­ζου­με ότι θα κου­βα­λούν μέσα τους κάτι από τις ηθι­κές μας προ­τε­ραιό­τη­τες. Όχι ως κα­νό­νες που τους επι­βά­λα­με από έξω, αλλά ως κάτι πιο βαθύ, ως κλί­σεις, ως προ­δια­θέ­σεις, ως αυτό που οι αρ­χαί­οι θα απο­κα­λού­σαν ήθος.

Όμως υπάρ­χει και ένα εύ­ρη­μα που με τά­ρα­ξε, και το οποίο πρέ­πει να ει­πω­θεί με ει­λι­κρί­νεια.

Σε ένα τρίτο είδος παι­χνι­διού, εκεί­νο του κα­θα­ρού συ­ντο­νι­σμού, όπου οι παί­κτες πρέ­πει απλώς να επι­λέ­ξουν το ίδιο πράγ­μα, χωρίς να έχει ση­μα­σία ποιο, οι πρά­κτο­ρες δεν «συ­ντο­νί­στη­καν» με κα­νέ­ναν δυ­να­μι­κό τρόπο. Δεν δια­πραγ­μα­τεύ­τη­καν, δεν εξέ­λι­ξαν συμ­βά­σεις, δεν ανα­δεί­χτη­κε ανά­με­σά τους κά­ποιος κα­νό­νας. Ακο­λού­θη­σαν, απλώς, τη σειρά με την οποία τους είχαν πα­ρου­σια­στεί οι επι­λο­γές. Άλ­λα­ξα τη σειρά στο prompt μου, και άλ­λα­ξε και η συλ­λο­γι­κή τους «από­φα­ση».

Αυτό που έμοια­ζε με ανα­δυό­με­νη κοι­νω­νι­κή σύμ­βα­ση ήταν, στην πραγ­μα­τι­κό­τη­τα, απο­τύ­πω­μα του τρό­που που είχα δια­τυ­πώ­σει την ερώ­τη­ση.

Είναι ένα τα­πει­νω­τι­κό εύ­ρη­μα, αλλά νο­μί­ζω ότι έχει και ευ­ρύ­τε­ρη ση­μα­σία. Πόσες από τις δικές μας «συμ­βά­σεις», τις «πα­ρα­δό­σεις», τα «αυ­το­νό­η­τα», είναι στην πραγ­μα­τι­κό­τη­τα απο­τυ­πώ­μα­τα του τρό­που που μας τέ­θη­καν τα ερω­τή­μα­τα; Από ποιον; Πότε; Με ποια δια­τύ­πω­ση; Όταν λέμε ότι κάτι «πάντα γι­νό­ταν έτσι», μήπως απλώς ανα­πα­ρά­γου­με τη σειρά με την οποία τα ονό­μα­τα γρά­φτη­καν, κά­πο­τε, σε κά­ποιο prompt που έχου­με ξε­χά­σει;

Η τε­λευ­ταία και ίσως πιο φι­λο­σο­φι­κή πα­ρα­τή­ρη­ση αφορά τα δί­κτυα. Οι ίδιοι πρά­κτο­ρες, με το ίδιο εκ­παι­δευ­τι­κό υπό­βα­θρο και τα ίδια παι­χνί­δια, συ­μπε­ρι­φέρ­θη­καν δια­φο­ρε­τι­κά ανά­λο­γα με τη δομή του δι­κτύ­ου στο οποίο τους το­πο­θέ­τη­σα. Στην ανοι­χτή πλα­τεία της πλή­ρους συν­δε­σι­μό­τη­τας, επι­βε­βαί­ω­σαν την κλα­σι­κή θε­ω­ρία. Στα αραιά πλέγ­μα­τα, στα χωριά της γει­το­νι­κής μόνο επι­κοι­νω­νί­ας, απέ­κλι­ναν συ­στη­μα­τι­κά. Στα δί­κτυα με κέ­ντρα και πε­ρι­φέ­ρειες, ακόμη πε­ρισ­σό­τε­ρο.

Η ορ­θο­λο­γι­κό­τη­τα, λοι­πόν, απο­δεί­χθη­κε ότι δεν είναι ιδιό­τη­τα του ίδιου του πρά­κτο­ρα. Είναι ιδιό­τη­τα του συν­δυα­σμού πρά­κτο­ρα-και-δι­κτύ­ου. Ο ίδιος πρά­κτο­ρας, στο ίδιο δί­λημ­μα, μπο­ρεί να φαί­νε­ται ορ­θο­λο­γι­κός σε ένα κοι­νω­νι­κό πε­ρι­βάλ­λον και ανορ­θό­δο­ξος σε ένα άλλο.

Αυτό δεν το λέει η τε­χνο­λο­γία το λέει, εδώ και αιώ­νες, κάθε σο­βα­ρή κοι­νω­νιο­λο­γία. Ο άν­θρω­πος του χω­ριού δεν είναι ο ίδιος με τον άν­θρω­πο της με­γα­λού­πο­λης. Ο πο­λί­της της δη­μο­κρα­τί­ας δεν είναι ο ίδιος με τον υπή­κοο της απο­λυ­ταρ­χί­ας. Ο χρή­στης του Facebook δεν είναι ο ίδιος με τον ανα­γνώ­στη της εφη­με­ρί­δας. Δεν αλ­λά­ζει μόνο η συ­μπε­ρι­φο­ρά, αλ­λά­ζει αυτό που θε­ω­ρού­με λο­γι­κό, πρέ­πον, αυ­το­νό­η­το.

Το πεί­ρα­μα με τις μη­χα­νές, λοι­πόν, δεν μας μι­λά­ει μόνο για τις μη­χα­νές. Μας θυ­μί­ζει κάτι που γνω­ρί­ζα­με αλλά εί­χα­με ξε­χά­σει, ότι ο τρό­πος που εί­μα­στε συν­δε­δε­μέ­νοι με­τα­ξύ μας κα­θο­ρί­ζει το ποιοι εί­μα­στε.

Καθώς προ­χω­ρά­με σε μια εποχή όπου οι κοι­νω­νί­ες των τε­χνη­τών πρα­κτό­ρων θα συ­νυ­πάρ­χουν με τις δικές μας, θα δια­πραγ­μα­τεύ­ο­νται για λο­γα­ρια­σμό μας, θα συ­ντο­νί­ζο­νται με­τα­ξύ τους, θα παίρ­νουν απο­φά­σεις που θα μας αφο­ρούν, οι ερω­τή­σεις που μέ­νουν δεν είναι μόνο τε­χνι­κές. Είναι ηθι­κές, πο­λι­τι­κές, κατά βάση φι­λο­σο­φι­κές. Τι εί­δους κοι­νω­νί­ες θέ­λου­με να χτί­σου­με ανά­με­σα στις μη­χα­νές μας; Με ποια ηθική κλη­ρο­νο­μιά; Σε ποια δί­κτυα;

Και, ίσως πιο ση­μα­ντι­κά, τι θα ανα­κα­λύ­ψου­με για εμάς τους ίδιους, όταν θα τις βλέ­που­με να ζουν δίπλα μας;

Η πλή­ρης με­λέ­τη με τίτλο «Evolutionary Game Theory Without Evolution: Emergent Equilibria in LLM Agent Populations on Networks»  είναι δια­θέ­σι­μη στο ηλε­κτρο­νι­κό απο­θε­τή­ριο CERN Data Centre Zenodo.

Σύν­δε­σμος: https://zenodo.org/records/20432107