Algoritmen til Instagram-ruller, en del av Meta-giganten, løftet han bekymringer for sikkerheten til mindreårige. En undersøkelse av Wall Street Journal avslører at ved å følge visse beretninger om unge påvirkere, begynte algoritmen å å foreslå innholdet upassende e seksuell, sammen med annonser fra store merker. Kort sagt, Instagram viser voksent innhold selv til de som ikke burde.
Den kontroversielle Instagram-algoritmen som viser voksent innhold (forbudt) selv til mindreårige
Testen, utført av Wall Street Journal, som involverte opprettelse av kontoer beregnet på å følge unge influencere som gymnaster og cheerleaders, viste at Instagram-algoritmen har begynt å foreslå vokseninnhold, inkludert seksuelle videoer som involverer voksne og mindreårige, og annonser fra kjente amerikanske merkevarer.
Etterforskningen avdekket en alarmerende trend: beretningene som fulgte disse ungdommene ble utsatt for en en bekymringsfull blanding av pornografi og materiale som seksualiserte barn. Eksperter innen algoritmiske anbefalingssystemer har fremhevet hvordan slikt "nisje"-innhold kan gi sterkere signaler enn de av generell interesse, og presser algoritmen til å rette upassende innhold mot brukere.
Les også: Pulcinellas hemmelighet avsløres: millioner av mindreårige brukere på Instagram
Problemet med å samle vokseninnhold på Instagram det var kjent internt og å forhindre slik spredning krever betydelige endringer i anbefalingsalgoritmer. Det viser imidlertid selskapets dokumenter sikkerhetspersonell har stort sett forbud mot å gjøre endringer på plattformen som kan redusere antall daglige aktive brukere.
Som svar sa Meta at de investerer milliarder i løsninger for sikkerhet, sikkerhet og merkevareegnethet, samtidig som de innrømmer behovet for ytterligere forbedringer. Ulike selskaper, bl.a Match Gruppe e Bumble, de suspenderte eller reduserte annonseringen på Reels og andre Meta-plattformer etter disse oppdagelsene. Andre liker Disney e Hims, presser Meta for å unngå slike annonseplasseringer og har uttrykt bekymring for assosiasjonen av deres merkevarer med slikt innhold.
