Μαρία-Ωραιοζήλη Κουτσουπιά: Η Ευρώπη βάζει φρένο στις σκοτεινές χρήσεις της Τεχνητής Νοημοσύνης

• Νέες απα­γο­ρεύ­σεις για τις ψεύ­τι­κες γυμνές εικόνες και το υλικό σεξουα­λι­κής κακο­ποί­η­σης παιδιών • Η Δρ. Μαρία-Ωραιοζήλη Κου­τσου­πιά εξηγεί στη «δ» το νέο ευρω­παϊκό πλαίσιο και τα όρια της τεχνη­τής νοη­μο­σύ­νης

Η τεχνητή νοη­μο­σύνη ανοίγει νέους δρόμους, αλλά ταυ­τό­χρονα δημιουρ­γεί σοβαρές προ­κλή­σεις για την προ­στα­σία της προ­σω­πι­κό­τη­τας, της ιδιω­τι­κό­τη­τας και της ανθρώ­πι­νης αξιο­πρέ­πειας. Η Ευρω­παϊκή Ένωση επι­χει­ρεί πλέον να θέσει σαφέ­στερα όρια, απα­γο­ρεύ­ο­ντας συγκε­κρι­μέ­νες χρήσεις της AI που συν­δέ­ο­νται με τη δημιουρ­γία ψεύ­τι­κων προ­σω­πι­κών εικόνων χωρίς συναί­νεση και υλικού σεξουα­λι­κής κακο­ποί­η­σης παιδιών.

Για το νέο νομο­θε­τικό πλαίσιο, τις αλλαγές που φέρνει ο Κανο­νι­σμός για την Τεχνητή Νοη­μο­σύνη (AI Act), αλλά και τις προ­ε­κτά­σεις του για την κοι­νω­νία και τους πολίτες, μιλά στη «δ» η Δρ. Μαρία-Ωραιοζήλη Κου­τσου­πιά, δικη­γό­ρος Βρυ­ξελ­λών και Αθηνών, διδά­κτωρ Νομικής και ειδική στο Δίκαιο της Τεχνη­τής Νοη­μο­σύ­νης.

Η κα Κου­τσου­πιά επι­ση­μαί­νει ότι από τις 2 Δεκεμ­βρίου 2026 θα εφαρ­μό­ζο­νται στην Ευρω­παϊκή Ένωση δύο νέες απα­γο­ρεύ­σεις, που προ­στέ­θη­καν στο άρθρο 5 του Κανο­νι­σμού για την Τεχνητή Νοη­μο­σύνη (AI Act) μέσω του Digital Omnibus. Δεν πρό­κει­ται για πρόταση: οι δια­τά­ξεις έχουν ήδη εγκρι­θεί και δημο­σιευ­θεί.

Ψεύ­τι­κες προ­σω­πι­κές εικόνες χωρίς συγκα­τά­θεση (NCII)

Όπως εξηγεί η ίδια: «Το παρά­δειγμα είναι δυστυ­χώς απλό και έχει ήδη συμβεί στην Ελλάδα. Κάποιος παίρνει μια φωτο­γρα­φία από τα social media και, μ’ ένα εργα­λείο τεχνη­τής νοη­μο­σύ­νης, “αφαιρεί” τα ρούχα του προ­σώ­που για να δημιουρ­γή­σει ψεύ­τι­κες γυμνές φωτο­γρα­φίες ή βίντεο. Η νέα απα­γό­ρευση αφορά ακριβώς αυτά τα εργα­λεία: τα συστή­ματα τεχνη­τής νοη­μο­σύ­νης που χρη­σι­μο­ποιού­νται για τη δημιουρ­γία μη συναι­νε­τι­κών προ­σω­πι­κών εικόνων.»

Υλικό σεξουα­λι­κής κακο­ποί­η­σης παιδιών (CSAM)

Η κα Κου­τσου­πιά τονίζει ότι: «Η δεύτερη, εξίσου σημα­ντική απα­γό­ρευση αφορά στα συστή­ματα τεχνη­τής νοη­μο­σύ­νης που μετα­τρέ­πουν αθώες παι­δι­κές φωτο­γρα­φίες σε υλικό σεξουα­λι­κής κακο­ποί­η­σης ή δημιουρ­γούν απευ­θείας τέτοιο υλικό. Η απα­γό­ρευση ισχύει ακόμη και όταν το υλικό είναι εξ ολο­κλή­ρου ψεύτικο, δηλαδή έχει δημιουρ­γη­θεί εξ ολο­κλή­ρου από AI.»

Τι αλλάζει

«Μέχρι σήμερα, τέτοιες πρα­κτι­κές αντι­με­τω­πί­ζο­νταν από το ποινικό δίκαιο και το δίκαιο προ­στα­σίας της ιδιω­τι­κό­τη­τας, δηλαδή αφού η βλάβη είχε ήδη προ­κλη­θεί. Τώρα η Ευρώπη παρεμ­βαί­νει στην πηγή: στο επίπεδο των ίδιων των συστη­μά­των τεχνη­τής νοη­μο­σύ­νης που επι­τρέ­πουν να δημιουρ­γού­νται τέτοιες εικόνες», όπως εξηγεί.

«Η τεχνο­λο­γία μπορεί να δημιουρ­γεί εικόνες που δεν είναι πραγ­μα­τι­κές, αλλά η βλάβη που προ­κα­λούν στους ανθρώ­πους είναι απο­λύ­τως πραγ­μα­τική», επι­ση­μαί­νει επι­προ­σθέ­τως.

ΤΟ ΚΕΙΜΕΝΟ ΤΗΣ ΔΙΑΤΑΞΗΣ

Κανο­νι­σμός (ΕΕ) 2026/1744 (ψηφιακό Omnibus για την ΤΝ), άρθρο 1 σημείο 7, που τρο­πο­ποιεί το άρθρο 5 του Κανο­νι­σμού (ΕΕ) 2024/1689 (AI Act). Οι νέες δια­τά­ξεις εφαρ­μό­ζο­νται από τις 2 Δεκεμ­βρίου 2026.

Άρθρο 5 παρά­γρα­φος 1 πρώτο εδάφιο – νέα στοι­χεία:

«βα) η διάθεση στην αγορά, η θέση σε λει­τουρ­γία ή η χρήση συστή­μα­τος ΤΝ που παράγει ή χει­ρί­ζε­ται ρεα­λι­στι­κές εικόνες, βίντεο, ήχο ή παρό­μοιο υλικό των από­κρυ­φων μερών ταυ­το­ποι­ή­σι­μου φυσικού προ­σώ­που ή ταυ­το­ποι­ή­σι­μου φυσικού προ­σώ­που που επι­δί­δε­ται σε δρα­στη­ριό­τη­τες σαφούς σεξουα­λι­κού χαρα­κτήρα, χωρίς την ελεύ­θερη, συγκε­κρι­μένη, εν πλήρη επι­γνώ­σει, αδιαμ­φι­σβή­τητη και ρητή συγκα­τά­θεση του εν λόγω προ­σώ­που για την εν λόγω παρα­γωγή ή ο εν λόγω χει­ρι­σμός·

ββ) η διάθεση στην αγορά, η θέση σε λει­τουρ­γία ή η χρήση συστή­μα­τος ΤΝ που παράγει ή χει­ρί­ζε­ται υλικό ή παρα­στά­σεις κατά την έννοια του άρθρου 2 στοι­χεία γ) και ε) της οδηγίας 2011/93/ΕΕ, εκτός εάν, βάσει του εθνικού δικαίου, εφαρ­μό­ζε­ται άμυνα «χωρίς δικαί­ωμα»·»

Διευ­κρί­νιση για το στοι­χείο ββ): Η οδηγία 2011/93/ΕΕ είναι η οδηγία για την κατα­πο­λέ­μηση της σεξουα­λι­κής κακο­ποί­η­σης και της σεξουα­λι­κής εκμε­τάλ­λευ­σης παιδιών και της παι­δι­κής πορ­νο­γρα­φίας. Το άρθρο 2 στοι­χεία γ) και ε) ορίζει την «παιδική πορ­νο­γρα­φία» και την «πορ­νο­γρα­φική παρά­σταση». Επο­μέ­νως το στοι­χείο ββ) είναι η απα­γό­ρευση που αφορά στο υλικό σεξουα­λι­κής κακο­ποί­η­σης παιδιών (CSAM), χωρίς να το κατο­νο­μά­ζει ρητά.

Νέες παρά­γρα­φοι 1α και 1β:

«1α. Για τους σκοπούς της παρα­γρά­φου 1 πρώτο εδάφιο στοι­χεία βα) και ββ):

α) η διάθεση στην αγορά ή η θέση σε λει­τουρ­γία συστή­μα­τος ΤΝ που παράγει ή χει­ρί­ζε­ται το υλικό ή τις παρα­στά­σεις που ανα­φέ­ρο­νται στην παρά­γραφο 1 πρώτο εδάφιο στοι­χείο βα) ή ββ) απα­γο­ρεύ­ε­ται μόνον όταν:

i) η εν λόγω παρα­γωγή ή χει­ρι­σμός είναι ο επι­διω­κό­με­νος σκοπός του συστή­μα­τος ΤΝ· ή

ii) ο σχε­δια­σμός, η εκπαί­δευση, η αρχι­τε­κτο­νική, οι ικα­νό­τη­τες ή οι απευ­θυ­νό­με­νες στον χρήστη λει­τουρ­γίες του συστή­μα­τος καθι­στούν την εν λόγω παρα­γωγή ή ο εν λόγω χει­ρι­σμός ευλόγως προ­βλέ­ψιμο και ανα­πα­ρα­γώ­γιμο απο­τέ­λε­σμα, χωρίς να απαι­τεί­ται σημα­ντική τεχνική τρο­πο­ποί­ηση, και το σύστημα δεν δια­θέ­τει εύλογα και επαρκή τεχνικά μέτρα ασφά­λειας και άλλες δια­σφα­λί­σεις για την αξιό­πι­στη πρόληψη της εν λόγω παρα­γω­γής ή του εν λόγω χει­ρι­σμού, λαμ­βα­νο­μέ­νης υπόψη της ευλόγως προ­βλέ­ψι­μης κακής χρήσης, και για την αντι­με­τώ­πιση της κακής χρήσης που παρα­τη­ρεί­ται ή καταγ­γέλ­λε­ται·

β) η χρήση συστή­μα­τος ΤΝ που παράγει ή χει­ρί­ζε­ται το υλικό ή τις παρα­στά­σεις που ανα­φέ­ρο­νται στην παρά­γραφο 1 πρώτο εδάφιο στοι­χεία βα) και ββ) απα­γο­ρεύ­ε­ται μόνον όταν ο φορέας εφαρ­μο­γής χρη­σι­μο­ποιεί το σύστημα με σκοπό την παρα­γωγή ή τον χει­ρι­σμό του εν λόγω υλικού ή των εν λόγω παρα­στά­σεων.

1β. Δεν συνιστά χει­ρι­σμό, για τους σκοπούς της παρα­γρά­φου 1 πρώτο εδάφιο στοι­χείο βα), ο χει­ρι­σμός υλικού από σύστημα ΤΝ κατά τρόπο που δεν αυξάνει την έκθεση τυχόν απει­κο­νι­ζό­με­νων από­κρυ­φων μερών ούτε μετα­βάλ­λει τη φύση τυχόν απει­κο­νι­ζό­με­νων δρα­στη­ριο­τή­των σαφούς σεξουα­λι­κού χαρα­κτήρα.»