Ο αλγόριθμος του Καρούλια Instagram, μέρος του γίγαντα Meta, σήκωσε ανησυχίες για την ασφάλεια των ανηλίκων. Μια έρευνα για Wall Street Journal αποκαλύπτει ότι ακολουθώντας ορισμένες αναφορές νεαρών επιρροών, ο αλγόριθμος άρχισε να να προτείνουν περιεχόμενο ακατάλληλος e σεξουαλικός, παράλληλα με διαφημίσεις από μεγάλες μάρκες. Εν ολίγοις, το Instagram δείχνει περιεχόμενο για ενήλικες ακόμα και σε αυτούς που δεν θα έπρεπε.
Ο αμφιλεγόμενος αλγόριθμος του Instagram που δείχνει περιεχόμενο για ενηλίκους (απαγορευμένο) ακόμα και σε ανηλίκους
Η δοκιμή, που πραγματοποιήθηκε από Wall Street Journal, που αφορούσε το δημιουργία λογαριασμών που προορίζονται να ακολουθήσουν νέους παράγοντες επιρροής, όπως αθλήτριες και μαζορέτες, έδειξε ότι ο αλγόριθμος Instagram έχει αρχίσει να προτείνει περιεχόμενο για ενηλίκους, συμπεριλαμβανομένων σεξουαλικών βίντεο που αφορούν ενήλικες και ανηλίκους, καθώς και διαφημίσεις από γνωστά εμπορικά σήματα των ΗΠΑ.
Η έρευνα αποκάλυψε μια ανησυχητική τάση: οι λογαριασμοί που ακολουθούσαν αυτούς τους νέους ήταν εκτεθειμένοι σε α ανησυχητικό μείγμα πορνογραφίας και υλικού που σεξουαλοποιούσε παιδιά. Οι ειδικοί σε συστήματα αλγοριθμικών συστάσεων έχουν επισημάνει πώς ένα τέτοιο «θέσιο» περιεχόμενο μπορεί να παρέχει ισχυρότερα σήματα από αυτά γενικού ενδιαφέροντος, ωθώντας τον αλγόριθμο να κατευθύνει ακατάλληλο περιεχόμενο στους χρήστες.
Διαβάστε επίσης: Το μυστικό της Pulcinella αποκαλύπτεται: εκατομμύρια ανήλικοι χρήστες στο Instagram
Το πρόβλημα της συγκέντρωσης περιεχομένου για ενηλίκους στο Instagram ήταν εσωτερικά γνωστό και η αποτροπή μιας τέτοιας εξάπλωσης απαιτεί σημαντικές αλλαγές στους αλγόριθμους συστάσεων. Ωστόσο, τα έγγραφα της εταιρείας δείχνουν ότι Το προσωπικό ασφαλείας απαγορεύεται σε μεγάλο βαθμό να κάνει αλλαγές στην πλατφόρμα που μπορεί να μειώσει τον αριθμό των καθημερινών ενεργών χρηστών.
Σε απάντηση, η Meta είπε ότι επενδύει δισεκατομμύρια σε λύσεις ασφάλειας, ασφάλειας και καταλληλότητας επωνυμίας, ενώ παραδέχτηκε την ανάγκη για περαιτέρω βελτιώσεις. Διάφορες εταιρείες, συμπεριλαμβανομένων Ταίριασμα Group e Γυρίστε, ανέστειλαν ή μείωσαν τις διαφημίσεις τους στα Reels και άλλες πλατφόρμες Meta μετά από αυτές τις ανακαλύψεις. Άλλοι, όπως Disney e Εσύ, πιέζουν τη Meta να αποφύγει τέτοιες τοποθετήσεις διαφημίσεων και έχουν εκφράσει την ανησυχία τους τη σύνδεση των εμπορικών σημάτων τους με τέτοιο περιεχόμενο.