Ποιος νοήμων άνθρωπος θα ήθελε ποτέ να δει βίντεο στα social media, που δημιουργούνται με τεχνητή νοημοσύνη και δείχνουν ηλικιωμένες γυναίκες να θηλάζουν μωρά… μισά πάντα, μισά ανθρώπους;

Ουδείς. Πόσο μάλλον μία 36χρονη μητέρα, όπως η Kelly Takasu από το Λος Άντζελες, η οποία χρησιμοποιεί το Instagram κυρίως για χρήσιμες συμβουλές γονέων και βίντεο μαγειρικής. Όταν όμως αναζήτησε περιεχόμενο για θηλασμό, η εφαρμογή κάτι κατάλαβε λάθος!

«Παρατήρησα μια μέρα ότι είχα μια πρόταση για το Reels: μια ηλικιωμένη γυναίκα που είχε ένα σωρό μωρά γύρω της. Πρέπει να την κοίταξα για πολύ ώρα», δήλωσε η Takasu έκπληκτη.

Τα εργαλεία τεχνητής νοημοσύνης έχουν καταστήσει δυνατή τη γρήγορη και φθηνή παραγωγή περιεχομένου σοκ. Ο στόχος είναι να δημιουργηθούν εικόνες και βίντεο τόσο παράξενα, ώστε οι άνθρωποι να αισθάνονται υποχρεωμένοι να κοιτάξουν

Το Instagram, όμως, το οποίο ανήκει στη Meta, δεν σταμάτησε εκεί, αλλά έδειξε στην 36χρονη και ένα βίντεο με ένα ηλικιωμένο ζευγάρι σε ένα κρεβάτι, περιτριγυρισμένο από περίπου 20 βρέφη. Στη συνέχεια, ηλικιωμένες γυναίκες που θηλάζουν και, τελικά, γυναίκες διαφόρων ηλικιών που θηλάζουν και γεννούν… υβριδικά μωρά ζώων και ανθρώπων. Κατέληξε να κάνει ένα διάλειμμα από την εφαρμογή, μόνο και μόνο για να μην βλέπει αναρτήσεις τεχνητής νοημοσύνης.

Σκοτεινό περιεχόμενο βασισμένο σε αλγορίθμους

Καθώς και άλλα social media ακολούθησαν το παράδειγμα του TikTok και στράφηκαν σε αδιαφανές περιεχόμενο βασισμένο σε αλγορίθμους, οι χρήστες λαμβάνουν όλο και περισσότερες ειδοποιήσεις ενοχλητικού ή περίεργου, ανεπιθύμητου περιεχομένου.

Δεν πρόκειται μόνο για παραδοξότητες τεχνητής νοημοσύνης, αλλά και για πραγματική βία, σεξ και πολιτική που προκαλεί οργή – περιεχόμενο που έχει αναπτυχθεί, κυρίως, μακριά από τα μάτια ανθρώπων που δεν το αναζητούν. Οι αυξανόμενες παραβιάσεις παρείχαν μια συγκλονιστική ματιά σε μια άλλη πλευρά των εφαρμογών των social media που χρησιμοποιούνται από ανήλικους, έφηβους και ενήλικες.

Ειδικότερα, οι βίαιες αναρτήσεις – συμπεριλαμβανομένων των σοκαριστικών ή αιματηρών βίντεο – αποτελούν μέρος του DNA του διαδικτύου και υπάρχουν εδώ και δεκαετίες σε ειδικούς ιστότοπους, σε διαδικτυακά φόρουμ ή σε πιο mainstream τοποθεσίες, όπως το Reddit και το YouTube. Έχουν μια βάση οπαδών, αλλά η αξία του σοκ τα κάνει ελκυστικά ακόμη και για ανθρώπους που δεν τα αναζητούν.

Βίαιο και σεξουαλικό περιεχόμενο σε λογαριασμούς ανηλίκων και εφήβων

Νωρίτερα αυτό το μήνα, οι χρήστες του Instagram σε όλο τον κόσμο, συμπεριλαμβανομένων των ανηλίκων σε λογαριασμούς εφήβων, με ενεργοποιημένες τις γονικές ρυθμίσεις, είδαν μια αύξηση του βίαιου, σεξουαλικού και ακραίου περιεχομένου στις ροές τους Reels κατά τη διάρκεια μιας ημέρας.

«Είδε δολοφονίες – σχεδόν σαν τρομοκρατία. Είδε μια γυναίκα να γεννάει, είδε πτώματα, τέτοια πράγματα», ανέφερε η Κόρτνεϊ, μητέρα ενός 17χρονου μαθητή λυκείου στη Βιρτζίνια, ο οποίος έλαβε το περιεχόμενο στο feed του. «Αισθάνομαι ότι ήταν κάποιου είδους επίθεση στο μυαλό τους. Είναι ακόμα πολύ ευαίσθητοι».

Η Κόρτνεϊ, η οποία μίλησε στην Washington Post υπό τον όρο να μην χρησιμοποιηθεί το επώνυμό της, για να προστατεύσει την ιδιωτική ζωή του γιου της, περίμενε μέχρι πρόσφατα ακόμη και για να του επιτρέψει να ανοίξει λογαριασμό στο Instagram επειδή ανησυχούσε για ακατάλληλο περιεχόμενο.

Βίντεο με χειρουργικές επεμβάσεις, κόσμο που σκοτώνεται και μπόλικο γυμνό

Άλλοι χρήστες του Instagram ανέφεραν επίσης ότι είδαν βίντεο με χειρουργικές επεμβάσεις, ανθρώπους που εμφανίζονται να πεθαίνουν σε ατυχήματα, πυροβολισμούς και γυμνό. Πολλά από τα βίντεο εξακολουθούν να υπάρχουν στην εφαρμογή, ορισμένα σε δημοφιλείς λογαριασμούς με χιλιάδες οπαδούς. Το περιεχόμενο συχνά καταλαμβάνει μια γκρίζα ζώνη στο διαδίκτυο και δεν είναι αρκετά ακραίο ώστε να αφαιρεθεί, σύμφωνα με τα πρότυπα της Meta.

«Διορθώσαμε ένα σφάλμα, που είχε ως αποτέλεσμα ορισμένοι χρήστες να βλέπουν προσωρινά στις ροές τους Instagram Reels περιεχόμενο που δεν έπρεπε να συνιστάται. Ζητάμε συγγνώμη για το λάθος», ανέφερε ξερά η εκπρόσωπος της Meta, Έριν Λόγκαν, σε δήλωσή της.

Αν και δεν είχε σχέση με το σφάλμα, η Meta έκανε πρόσφατα αρκετές αλλαγές που επηρεάζουν το τι βλέπουν οι χρήστες στις ροές τους στο Instagram και στο Facebook. Τερμάτισε το πρόγραμμα ελέγχου των γεγονότων και χαλάρωσε τους κανόνες σχετικά με την αρνητική ομιλία για θέματα όπως η μετανάστευση και τα δικαιώματα των τρανσέξουαλ. Άρχισε επίσης να επιτρέπει περισσότερες πολιτικές αναρτήσεις στις εφαρμογές της. Όλα αυτά, βέβαια, για να ικανοποιήσει τις ακροδεξιές ορέξεις του διδύμου Τραμπ – Μασκ…

Το Instagram στοχεύει στο ανήλικο κοινό

Το Instagram, συγκεκριμένα, ήθελε εδώ και καιρό να γίνει ένας χώρος όπου θα ακολουθούν οι ανήλικοι τους φίλους, τους influencers και τους λογαριασμούς meme, χωρίς όμως να αποκόπτει πλήρως την εμπειρία τους από την τεράστια συλλογή βίντεο που φιλοξενεί.

Τον Σεπτέμβριο, η εφαρμογή πρόσθεσε αυστηρότερες προεπιλεγμένες ρυθμίσεις για νέους χρήστες κάτω των 18 ετών, συμπεριλαμβανομένης της ενεργοποίησης των ισχυρότερων, όπως αναφέρθηκε, περιορισμών για βίαιο και σεξουαλικό περιεχόμενο. Αυτή η ρύθμιση καθιστά πιο απίθανο για τους εφήβους να συναντήσουν ακατάλληλο περιεχόμενο, αν και οι ιδιοκτήτες λογαριασμών μπορούν να αλλάξουν οι ίδιοι τη ρύθμιση ώστε να είναι λιγότερο αυστηρή – συνεπώς, τσάμπα κόπος!

Για το λογαριασμό του 17χρονου γιου τής Κόρτνεϊ, εξάλλου, οι ρυθμίσεις αυτές ήταν ενεργοποιημένες…

Αυτοτραυματισμός, διατροφικές διαταραχές και αυτοκτονικός ιδεασμός

Αυτή δεν είναι η πρώτη φορά που το Instagram δέχεται πυρά για αμφιλεγόμενο περιεχόμενο. Το 2021, η Frances Haugen ισχυρίστηκε ότι εσωτερική έρευνα έδειξε πως η Meta γνώριζε ότι το περιεχόμενό της ήταν επιβλαβές για τους εφήβους.

Η Taylor Little, μια 22χρονη από το Κολοράντο Σπρινγκς, είναι ενάγουσα σε μία από τις πολλές αγωγές κατά της Meta, που υποστηρίζουν ότι η εταιρεία έβλαψε εν γνώσει της ανηλίκους. Η Little ήταν 12 ετών όταν πρωτομπήκε στο Instagram, προσποιούμενη ότι είναι 16 ετών, και παρασύρθηκε σε έναν σκοτεινό κόσμο με περιεχόμενο σχετικό με τον αυτοτραυματισμό, τις διατροφικές διαταραχές και τον αυτοκτονικό ιδεασμό. Το περιεχόμενο ξεκίνησε ως προτεινόμενες αναρτήσεις και στη σελίδα Explore.

«Έφτασε στο σημείο που αυτό ήταν το μόνο που έβλεπα», δήλωσε η Little. «Ανέπτυξα μια διατροφική διαταραχή πολύ γρήγορα, αυτοτραυματιζόμουν κάθε μέρα». Η 22χρονη εξακολουθεί να αναρρώνει και έχει αφαιρέσει όλες τις εφαρμογές social media από το smartphone της.

«Τραβάει» το σκανδαλώδες, τοξικό, μισητό και πρόστυχο περιεχόμενο

«Ξέρουμε ότι αυτό που κρατάει τους ανθρώπους απασχολημένους είναι το σκανδαλώδες, τοξικό, μισητό και πρόστυχο περιεχόμενο», εξήγησε η Sandra Wachter, καθηγήτρια τεχνολογίας στο Πανεπιστήμιο της Οξφόρδης. «Οι καλές ειδήσεις δεν πουλάνε, ή τουλάχιστον όχι τόσο καλά, και έτσι τα συστήματα συστάσεων μαθαίνουν αυτές τις προτιμήσεις των χρηστών και θα ‘σερβίρουν’ όλο και περισσότερο αυτό το προβληματικό περιεχόμενο».

Σύμφωνα με τους ισχύοντες κανόνες της, η Meta λέει ότι απαγορεύει τα περισσότερα βίντεο που παρουσιάζουν εξαιρετικά γραφικό ή βίαιο περιεχόμενο, όπως βίντεο με καμένους ή απανθρακωμένους ανθρώπους, ανθρώπους που εκτελούνται από τη Δικαιοσύνη ή διαμελισμένα σώματα ή εκτεθειμένα ανθρώπινα όργανα εκτός ιατρικού πλαισίου, σε ζωντανή μετάδοση.

Αυτοί οι κανόνες αφήνουν χώρο για άλλα σοκαριστικά ή αμφιλεγόμενα βίντεο, όπως πλάνα ιατρικών διαδικασιών ή περιεχόμενο που θα μπορούσε να ενθαρρύνει διατροφικές διαταραχές. Αντί να τα αφαιρεί, το Instagram κρύβει κάποια από αυτά πίσω από την προειδοποιητική οθόνη ευαίσθητου περιεχομένου. Προειδοποιεί τους χρήστες ότι το περιεχόμενο θα μπορούσε να είναι αποκρουστικό ή βίαιο ή ότι «κάποιοι άνθρωποι μπορεί να το βρουν ενοχλητικό». Τα βίντεο που βρίσκονται πίσω από αυτή την οθόνη αποκρύπτονται για λογαριασμούς ανηλίκων.

Δεν είναι μόνο η βία και το σεξ, αλλά και η απόλυτη παραδοξότητα που περνάει στη ροή των λογαριασμών social media. Τα εργαλεία τεχνητής νοημοσύνης έχουν καταστήσει δυνατή τη γρήγορη και φθηνή παραγωγή περιεχομένου σοκ. Ο στόχος είναι να δημιουργηθούν εικόνες και βίντεο τόσο παράξενα, ώστε οι άνθρωποι να αισθάνονται υποχρεωμένοι να σταματήσουν και να κοιτάξουν, ακόμη και να σχολιάσουν, αν και οι νεότεροι χρήστες είναι πιθανότερο να καταλάβουν πως αυτά είναι ψεύτικα.

Βρίθει ακατάλληλων βίντεο το YouTube

Το YouTube εξακολουθεί να είναι ο πιο δημοφιλής ιστότοπος κοινωνικής δικτύωσης για τους εφήβους, σύμφωνα με το Pew Research Center, ακολουθούμενο από το TikTok και το Instagram. Πολλά από αυτά τα είδη βίντεο μπορούν να βρεθούν στο YouTube, χωρίς να χρειάζεται να συνδεθείτε, και ομοίως επιτρέπονται στην πλατφόρμα. Ωστόσο, δεν ήταν εύκολο να βρεθούν στο TikTok, το οποίο διαθέτει ισχυρότερα φίλτρα για τη βία και το σεξουαλικό περιεχόμενο για όλους τους χρήστες.

Και οι ενήλικες, όμως, αποστρέφονται πλέον όλο και περισσότερο αυτό το περιεχόμενο. Ο Michael Bock, ένας 31χρονος ιδιοκτήτης επιχείρησης στο Όρεγκον, βλέπει συνήθως περιεχόμενο για ποδήλατα και σκύλους στο Instagram feed του. Ήταν ένας από τους χρήστες που τροφοδοτήθηκε με βίαιο περιεχόμενο νωρίτερα αυτό τον μήνα. Όταν άνοιξε την εφαρμογή, είδε αρχικά τσακωμούς και ξύλο στο δρόμο, αλλά καθώς «σκρόλαρε» τα βίντεο, αυτά γίνονταν ακόμα πιο φρικιαστικά. Κάποιος πυροβολήθηκε από την αστυνομία, ένα άτομο χτυπήθηκε από αυτοκίνητο και πετάχτηκε στον αέρα…

«Δεν νομίζω ότι μπορώ με καλή συνείδηση να συνεισφέρω σε μια πλατφόρμα που πιστεύω ακράδαντα ότι βλάπτει τους χρήστες», τόνισε χαρακτηριστικά ο 31χρνος, ο οποίος χρησιμοποιεί το Instagram για την επιχείρησή του.

Όταν τα social media ρίχνουν την ευθύνη στους χρήστες

Αυτές οι πλατφόρμες ρίχνουν σε μεγάλο βαθμό το βάρος στα άτομα, ώστε να αποφεύγουν το περιεχόμενο που δεν θέλουν να βλέπουν, ενώ συχνά κατηγορούνται οι χρήστες ότι κάνουν πολύ μεγάλη παύση σε πράγματα που δεν τους αρέσουν. Στις εφαρμογές της Meta, οι άνθρωποι μπορούν να δοκιμάσουν το «snoozing» σε προτεινόμενες δημοσιεύσεις για ένα μήνα ή να πηγαίνουν μόνο στις ροές των λογαριασμών που ακολουθούν.

Τον Ιανουάριο, το Instagram κυκλοφόρησε επιτέλους κάτι που είχε υποσχεθεί από καιρό – ένα κουμπί «επαναφοράς», αλλά μόνο για τους χρήστες των ΗΠΑ, προκειμένου να βοηθήσει οποιονδήποτε να επαναρυθμίσει τον αλγόριθμο όταν βλέπει αναρτήσεις που είναι εκτός θέματος ή ακόμη και ενοχλητικές. Το TikTok διαθέτει μια παρόμοια λειτουργία.

Παρ’ όλα αυτά, η πραγματικότητα είναι πως το περιεχόμενο στα social media μοιάζει πιο ανεξέλεγκτο από ποτέ.