Η Google στη μάχη κατά παιδικής κακοποίησης

Σχε­δόν 100.000 λο­γα­ρια­σμοί χρη­στών στους οποί­ους εντο­πί­στη­κε υλικό σε­ξουα­λι­κής κα­κο­ποί­η­σης παι­διών απε­νερ­γο­ποι­ή­θη­καν από την Google πα­γκο­σμί­ως και πε­ρισ­σό­τε­ρα από 210.000 URL αφαι­ρέ­θη­καν από το ευ­ρε­τή­ριο της ανα­ζή­τη­σης, το τε­λευ­ταίο εξά­μη­νο του 2020. Την ίδια πε­ρί­ο­δο, για σχε­δόν τρία εκα­τομ­μύ­ρια τμή­μα­τα πε­ριε­χο­μέ­νου (ει­κό­νες, βί­ντεο, συν­δέ­σμους URL, κεί­με­να) που εντο­πί­στη­καν σε Google και YouTube η εται­ρεία υπέ­βα­λε ανα­φο­ρά στο αμε­ρι­κα­νι­κό εθνι­κό κέ­ντρο για τα εξα­φα­νι­σμέ­να και υπό εκ­με­τάλ­λευ­ση παι­διά (National Center for Missing and Exploited Children-NCMEC).

Οι προ­σπά­θειες της Google για τον εντο­πι­σμό και την κα­τα­πο­λέ­μη­ση του υλι­κού σε­ξουα­λι­κής κα­κο­ποί­η­σης παι­διών στο Δια­δί­κτυο εντεί­νο­νται χρόνο με τον χρόνο. Σε ολό­κλη­ρη την εται­ρεία ομά­δες ερ­γά­ζο­νται διαρ­κώς για τον εντο­πι­σμό, την κα­τάρ­γη­ση και την ανα­φο­ρά αυτού του πε­ριε­χο­μέ­νου, χρη­σι­μο­ποιώ­ντας έναν συν­δυα­σμό κο­ρυ­φαί­ων στον κλάδο αυ­το­μα­το­ποι­η­μέ­νων ερ­γα­λεί­ων εντο­πι­σμού και ει­δι­κά εκ­παι­δευ­μέ­νων ανα­θε­ω­ρη­τών – ερ­γα­ζό­με­νοι που ανα­λαμ­βά­νουν να «δι­δά­σκουν» τα τε­χνο­λο­γι­κά ερ­γα­λεία να ανα­γνω­ρί­ζουν το πα­ρά­νο­μο, ει­δε­χθές αυτό πε­ριε­χό­με­νο και στη συ­νέ­χεια ελέγ­χουν ό,τι εντο­πί­ζει το λο­γι­σμι­κό, για να επι­βε­βαιώ­σουν ότι ανή­κει στη διω­κό­με­νη κα­τη­γο­ρία υλι­κού. Η Google επί­σης λαμ­βά­νει ανα­φο­ρές από τρίτα μέρη και από τους χρή­στες της, γε­γο­νός που λει­τουρ­γεί συ­μπλη­ρω­μα­τι­κά και ενι­σχυ­τι­κά στις δικές της προ­σπά­θειες, και ταυ­τό­χρο­να μοι­ρά­ζε­ται τα ερ­γα­λεία που έχει στη διά­θε­σή της με άλλες τε­χνο­λο­γι­κές εται­ρεί­ες και ορ­γα­νι­σμούς που δε­σμεύ­ο­νται να δια­σφα­λί­σουν την προ­στα­σία των παι­διών ανά τον πλα­νή­τη. Το υλικό σε­ξουα­λι­κής κα­κο­ποί­η­σης παι­διών ανα­φέ­ρε­ται στη συ­νέ­χεια στο αμε­ρι­κα­νι­κό εθνι­κό κέ­ντρο για τα εξα­φα­νι­σμέ­να και υπό εκ­με­τάλ­λευ­ση παι­διά, το οποίο λει­τουρ­γεί ως γρα­φείο πλη­ρο­φο­ριών και απο­κλει­στι­κό κέ­ντρο ανα­φο­ράς στις Ηνω­μέ­νες Πο­λι­τεί­ες για ζη­τή­μα­τα που σχε­τί­ζο­νται με την εκ­με­τάλ­λευ­ση των παι­διών. Το NCMEC μπο­ρεί να στεί­λει αυτές τις ανα­φο­ρές σε υπη­ρε­σί­ες επι­βο­λής του νόμου σε ολό­κλη­ρο τον κόσμο.

Ο εντο­πι­σμός

Τα ερ­γα­λεία στα οποία έχει επεν­δύ­σει η εται­ρεία τα τε­λευ­ταία χρό­νια, αξιο­ποιώ­ντας κο­ρυ­φαί­ες τε­χνο­λο­γί­ες, είναι τόσο το στο­χευ­μέ­νο λο­γι­σμι­κό όσο και η μη­χα­νι­κή μά­θη­ση (machine learning). Το λο­γι­σμι­κό CSAI Match ανα­πτύ­χθη­κε από τους μη­χα­νι­κούς υπο­λο­γι­στών του YouTube και μπο­ρεί να ανα­γνω­ρί­σει πε­ριε­χό­με­νο παι­δι­κής σε­ξουα­λι­κής κα­κο­ποί­η­σης που έχει ήδη εντο­πι­στεί σε βί­ντεο, όταν αυτό ξα­να­νέ­βει σε κά­ποια πλατ­φόρ­μα της Google. Η τε­χνο­λο­γία μη­χα­νι­κής μά­θη­σης βοη­θά­ει στην ανα­γνώ­ρι­ση του πα­ρά­νο­μου υλι­κού σε πρω­το­εμ­φα­νι­ζό­με­νο πε­ριε­χό­με­νο. Τα ερ­γα­λεία αυτά, τα οποία ανα­βαθ­μί­ζο­νται και βελ­τιώ­νο­νται διαρ­κώς, επι­τρέ­πουν στους υπεύ­θυ­νους της εται­ρεί­ας να σκα­νά­ρουν απο­τε­λε­σμα­τι­κά τις πλατ­φόρ­μες της και να ανα­γνω­ρί­ζουν το εν λόγω πε­ριε­χό­με­νο άμεσα, ώστε αυτό να αφαι­ρεί­ται, να ανα­φέ­ρε­ται στα αρ­μό­δια όρ­γα­να και να απε­νερ­γο­ποιού­νται οι λο­γα­ρια­σμοί τα­χύ­τα­τα. Οι moderators της εται­ρεί­ας είναι επι­φορ­τι­σμέ­νοι να ελέγ­χουν το υλικό που ορί­στη­κε ως ύπο­πτο από τα τε­χνο­λο­γι­κά ερ­γα­λεία για να επι­κυ­ρώ­σουν ή όχι τον χα­ρα­κτη­ρι­σμό. Για τους ερ­γα­ζο­μέ­νους αυ­τούς, που έρ­χο­νται σε επαφή με σκλη­ρές, σο­κα­ρι­στι­κές, απε­χθείς ει­κό­νες υπάρ­χει πρό­βλε­ψη προ­στα­σί­ας της ψυ­χι­κής και πνευ­μα­τι­κής τους υγεί­ας, δια­βε­βαιώ­νει η Google, καθώς έχουν τεθεί αυ­στη­ρά όρια στον όγκο του πε­ριε­χο­μέ­νου που ελέγ­χουν κα­θη­με­ρι­νά, λαμ­βά­νουν υπο­στή­ρι­ξη από ει­δι­κούς και εν­θαρ­ρύ­νο­νται να συμ­με­τέ­χουν σε ει­δι­κά σχε­δια­σμέ­νες δρα­στη­ριό­τη­τες απο­φόρ­τι­σης.

Η ισχύς εν τη ενώ­σει

Με δε­δο­μέ­νο ότι το πρό­βλη­μα είναι πα­γκό­σμιο, υπάρ­χει στενή συ­νερ­γα­σία με­τα­ξύ εται­ρειών τε­χνο­λο­γί­ας και ορ­γα­νι­σμών παι­δι­κής προ­στα­σί­ας, η οποία πε­ρι­λαμ­βά­νει τη διά­θε­ση ερ­γα­λεί­ων και την ανταλ­λα­γή δε­δο­μέ­νων και στοι­χεί­ων. Η Google μοι­ρά­ζε­ται με το αμε­ρι­κα­νι­κό εθνι­κό κέ­ντρο για τα εξα­φα­νι­σμέ­να και υπό εκ­με­τάλ­λευ­ση παι­διά hashes, δη­λα­δή μο­να­δι­κά ψη­φια­κά δα­χτυ­λι­κά απο­τυ­πώ­μα­τα, που αφή­νει το πα­ρά­νο­μο υλικό στο Δια­δί­κτυο, τα οποία κα­τα­χω­ρί­ζο­νται στη βάση δε­δο­μέ­νων του Κέ­ντρου και έτσι εμπο­δί­ζε­ται η επα­να­κυ­κλο­φο­ρία αυτού του πε­ριε­χο­μέ­νου και η επα­να­θυ­μα­το­ποί­η­ση των κα­κο­ποι­η­μέ­νων παι­διών. Επί­σης, από το 2018 η εται­ρεία ανέ­πτυ­ξε και ει­σή­γα­γε την ομάδα ερ­γα­λεί­ων Content Safety API που χρη­σι­μο­ποιεί τε­χνο­λο­γία τε­χνη­τής νοη­μο­σύ­νης, η οποία βοη­θά­ει ορ­γα­νι­σμούς να κα­τη­γο­ριο­ποι­ή­σουν και να ελέγ­ξουν κατά προ­τε­ραιό­τη­τα το πε­ριε­χό­με­νο που είναι πι­θα­νό­τε­ρο να συ­νι­στά υλικό παι­δι­κής σε­ξουα­λι­κής κα­κο­ποί­η­σης. Το API χρη­σι­μο­ποιεί­ται σή­με­ρα από μη κυ­βερ­νη­τι­κές ορ­γα­νώ­σεις όπως η SaferNet Brazil και εται­ρεί­ες όπως το Facebook και η Yubo και μαζί με το λο­γι­σμι­κό CSAI Match προ­σφέ­ρο­νται δω­ρε­άν σε ορ­γα­νι­σμούς και εται­ρεί­ες διε­θνώς. Το 2020, το ΑΡΙ χρη­σι­μο­ποι­ή­θη­κε για να κα­τη­γο­ριο­ποι­η­θούν πε­ρισ­σό­τε­ρες από δύο δι­σε­κα­τομ­μύ­ρια ει­κό­νες από συ­νερ­γα­ζό­με­νες με την Google εται­ρεί­ες, βοη­θώ­ντας τες να εντο­πί­σουν τα­χύ­τε­ρα και με με­γα­λύ­τε­ρη ακρί­βεια το εν λόγω πε­ριε­χό­με­νο.

Επί­σης, το πε­ρυ­σι­νό κα­λο­καί­ρι επα­να­σχε­διά­στη­κε και επε­κτά­θη­κε μια λει­τουρ­γία που προει­δο­ποιεί τους χρή­στες που πραγ­μα­το­ποιούν ανα­ζη­τή­σεις σχε­τι­κές με υλικό παι­δι­κής σε­ξουα­λι­κής κα­κο­ποί­η­σης ότι αυτό το υλικό είναι πα­ρά­νο­μο, τους δίνει οδη­γί­ες για το πώς μπο­ρούν να ανα­φέ­ρουν το πε­ριε­χό­με­νο στις το­πι­κές αστυ­νο­μι­κές αρχές και τους πα­ρέ­χει ενη­μέ­ρω­ση για τις μη κυ­βερ­νη­τι­κές ορ­γα­νώ­σεις που υπο­στη­ρί­ζουν παι­διά θύ­μα­τα και τις οι­κο­γέ­νειές τους. Και αυτό δεί­χνει ότι λει­τουρ­γεί: εκα­το­ντά­δες χι­λιά­δες χρή­στες μη­νιαί­ως επι­σκέ­πτο­νται τις ιστο­σε­λί­δες ή κα­λούν το τη­λε­φω­νι­κό κέ­ντρο αυτών των ορ­γα­νώ­σε­ων. Ταυ­τό­χρο­να έχει πα­ρα­τη­ρη­θεί ότι, όταν κά­ποιος δει στην οθόνη του αυτή την προει­δο­ποί­η­ση, είναι λι­γό­τε­ρο πι­θα­νό να συ­νε­χί­σει με νέα ανα­ζή­τη­ση για ανά­λο­γο πε­ριε­χό­με­νο.

Πηγή: kathimerini.gr