Skupna preiskava Wall Street Journala in univerz Stanford ter Massachusetts Amherst je razkrila, da Instagramovi algoritmi aktivno spodbujajo pedofilske mreže, ki prodajajo vsebine o spolni zlorabi otrok. Raziskava je pokazala, da Instagramovi priporočilni sistemi omogočajo povezave med pedofili in prodajalci takšnih vsebin.
Uporaba Eksplicitnih Hashtagov na Instagramu
Raziskovalci so odkrili račune, ki uporabljajo eksplicitne hashtage za oglaševanje vsebin. Medtem ko je članek Wall Street Journala omenjal nekatere hashtage, ki se uporabljajo za promocijo teh vsebin, jih zaradi potencialno zaskrbljujoče narave ni objavil.
Testiranje Instagramovih Priporočilnih Algoritmov
Raziskovalci so ustvarili testni račun in se nato sprehodili po vsebinah, ki so jih delila omenjena omrežja. Takoj so bili bombardirani z več deset priporočili za sledenje podobnim računom. To kaže, da Instagramovi priporočilni algoritmi nimajo varnostnega sistema, ki bi filtriral vsebine, povezane s spolnim izkoriščanjem mladoletnikov.
Instagramov Odziv na Razkritje
V odzivu na poročilo, je Meta, matično podjetje Instagrama, sporočilo, da bo ustanovila delovno skupino, ki bo obravnavala izpostavljena vprašanja. Podjetje je izrazilo ostro nasprotovanje izkoriščanju otrok, poudarjajoč, da nenehno iščejo načine, kako se braniti pred takšnim ravnanjem. Poudarili so, da so samo v januarju odstranili več kot 490.000 vsebin, povezanih s pedofilijo, ter da so v zadnjih dveh letih nevtralizirali že 27 različnih pedofilskih mrež.
Wall Street Journal in sodelujoče univerze so izvedle podobne preiskave tudi na Twitterju in TikToku. Odkrili so dokaze o obstoju podobnih omrežij, vendar v precej manjšem obsegu kot na Instagramu.