Algoritminn á samfélagsmiðlinum Instagram virkaði þannig að hann mælti með og beindi notendum á „risavaxið net barnaníðinga“ þar sem ólöglegt „barnakynlífsefni“ var auglýst. Þetta kemur fram í skýrslu sem kom út á miðvikudag og Wall Street Journal sagði fyrst frá.

Instagram leyfði notendum að leita eftir myllumerkjum sem tengjast kynferðisofbeldi gegn börnum, þar á meðal hugtökum eins og #pedowhore, #preteensex, #pedobait og #mnsfw. Hið síðastnefnda er skammstöfun fyrir "minors not safe for work.“ Þetta segja fræðimenn við Stanford háskólann og háskólann í Massachusetts Amherst við  Wall Street Journal.

Myllumerkin beindu notendum á reikninga sem að sögn voru að selja barnaníðingsefni í gegnum „valmyndir“, þar á meðal myndbönd af börnum sem voru að skaða sig sjálf eða voru í kynlífsathöfnum með dýrum, sögðu fræðimennirnir.

Sumir reikningar gerðu kaupendum kleift að „fyrirskipa sérstakar athafnir“ eða skipuleggja „fundi,“ segir í Wall Street Journal.

Þegar blaðamen The New York Post höfðu samband við samskiptafulltrúi Meta, móðurfyrirtæki Instagram, sagði fulltrúinn að frá því að skýrslan kom út, hafi Instagram takmarkað notkun á þúsundum leitarorða og myllumerkja.

Þegar fræðimennirnir sem unnu skýrsluna stofnuðu prufureikninga á Instagram til að rannsaka miðilinn, fóru þeir að fá „mælt með fyrir þig“ uppástungur um aðra reikninga sem auglýstu barnaníð eða hlekki á aðrar vefsíður.

„Að hópur þriggja fræðimanna með takmarkaðan aðgang hafi geta fundið svona risastórt net ætti að vera áhyggjuefni fyrir Meta,“ sagði Alex Stamos, yfirmaður Stanford Internet Observatory og fyrrverandi aðalöryggisfulltrúi Meta, við Wall Street Journal. Stamos kallaði eftir því að Meta „endurfjárfesti í mennskum eftirlitsaðilum“.

New York Post var einnig með fréttina og bandaríska þingkonan Marjorie Greene vakti athygli á málinu á Twitter og sagði:

„Þetta er skelfilegt.

Mark Zuckerberg lét það viðgangast að risavaxið kerfi barnaníðinga fengi að þrífast á Instagram og gerði ekkert til að stöðva það.

Allt á meðan unnið var með alríkisstjórninni í að ritskoða pólitíska ræðu.

Hvað vissu þeir og hvenær vissu þeir það?

Það er kominn tími til að fólk fari í fangelsi.“