‘Inatia doa ubongo wako’: Jinsi algoriti za mitandao ya kijamii zinavyoonyesha unyayasaji kwa wavulana
Ilikuwa 2022 na Cai, wakati huo 16, alikuwa akivinjari kwenye simu yake. Anasema moja ya video za kwanza alizoona kwenye milisho yake ya mitandao ya kijamii ilikuwa ya mbwa mzuri. Lakini basi, yote yalichukua zamu.
Anasema “bila kutarajia” alipendekezwa video za mtu akigongwa na gari, mwimbaji mmoja kutoka kwa mshawishi anayeshiriki maoni potovu, na klipu za mapigano makali. Alijikuta akiuliza – kwanini mimi?
Huko Dublin, Andrew Kaung alikuwa akifanya kazi kama mchambuzi kuhusu usalama wa watumiaji katika TikTok, jukumu aliloshikilia kwa miezi 19 kutoka Desemba 2020 hadi Juni 2022.
Anasema yeye na mwenzake waliamua kuchunguza watumiaji gani nchini Uingereza walikuwa wakipendekezwa na algoriti za programu, ikiwa ni pamoja na baadhi ya watoto wa miaka 16. Muda mfupi uliopita, alikuwa amefanya kazi kwa kampuni pinzani ya Meta, ambayo inamiliki Instagram – tovuti nyingine ambayo Cai hutumia.
Andrew alipotazama maudhui ya TikTok, alishtuka kupata jinsi baadhi ya wavulana walivyokuwa wakionyeshwa machapisho yanayoonyesha jeuri na ponografia, na kukuza maoni potovu ya wanawake, anaiambia Panorama ya BBC. Anasema, kwa ujumla, wasichana matineja walipendekezwa maudhui tofauti sana kulingana na maslahi yao.
TikTok na kampuni zingine za mitandao ya kijamii hutumia zana za AI kuondoa idadi kubwa ya maudhui hatari na kuripoti maudhui mengine ili yakaguliwe na wasimamizi wa kibinadamu, bila kujali idadi ya maoni ambayo wamekuwa nayo. Lakini zana za AI haziwezi kutambua kila kitu.
Andrew Kaung anasema kwamba wakati alipokuwa akifanya kazi katika TikTok, video zote ambazo hazikuondolewa au kuripotiwa kwa wasimamizi wa kibinadamu na AI – au kuripotiwa na watumiaji wengine kwa wasimamizi – basi zingekaguliwa tena kwa mikono ikiwa zilifikia kizingiti fulani.
Anasema wakati mmoja hii iliwekwa kwa maoni 10,000 au zaidi. Alihofia hii inamaanisha kuwa baadhi ya watumiaji wachanga walikuwa wakionyeshwa video hatari. Kampuni nyingi kuu za mitandao ya kijamii huruhusu watu walio na umri wa miaka 13 au zaidi kujisajili.
TikTok inasema 99% ya maudhui inayoondoa kwa kukiuka sheria zake huondolewa na AI au wasimamizi wa kibinadamu kabla ya kufikia maoni 10,000. Pia inasema kuwa inafanya uchunguzi wa kina kwenye video zilizo na idadi ndogo ya mara ambazo zimetazamwa.
Alipofanya kazi Meta kati ya 2019 na Desemba 2020, Andrew Kaung anasema kulikuwa na shida tofauti. Anasema kwamba, wakati video nyingi ziliondolewa au kuripotiwa kwa wasimamizi na zana za AI, tovuti ilitegemea watumiaji kuripoti video zingine mara tu walikuwa wameziona.
Anasema aliibua wasiwasi akiwa katika kampuni zote mbili, lakini alikabiliwa zaidi na kutochukua hatua kwa sababu, anasema, ya hofu juu ya kiasi cha kazi iliyohusika au gharama. Anasema baadaye maboresho kadhaa yalifanywa katika TikTok na Meta, lakini anasema watumiaji wachanga, kama vile Cai, waliachwa hatarini wakati huo huo.
Wafanyakazi kadhaa wa zamani kutoka kampuni za mitandao ya kijamii wameiambia BBC kwamba wasiwasi wa Andrew Kaung unalingana na ujuzi na uzoefu wao wenyewe.
Maagizo kutoka kwa kampuni zote kuu za mitandao ya kijamii zimekuwa zikipendekeza maudhui hatari kwa watoto, hata kama bila kukusudia, mdhibiti wa Uingereza Ofcom anaiambia BBC.
“Kampuni zimekuwa zikifumbia macho na zimekuwa zikiwatendea watoto jinsi zinavyowatendea watu wazima,” anasema Almudena Lara, mkurugenzi wa maendeleo ya sera za usalama mtandaoni wa Ofcom.
‘Rafiki yangu alihitaji uchunguzi wa hali halisi’
TikTok iliiambia BBC ina mipangilio ya usalama “inayoongoza kwenye tasnia” kwa vijana na inaajiri zaidi ya watu 40,000 wanaofanya kazi kuwaweka watumiaji salama. Ilisema mwaka huu pekee inatarajia kuwekeza “zaidi ya $2bn (£1.5bn) kwa usalama”, na ya maudhui ambayo inaondoa kwa kuvunja sheria zake inapata 98% kwa bidii.
Meta, ambayo inamiliki Instagram na Facebook, inasema ina zaidi ya zana 50 tofauti, nyenzo na vipengele vya kuwapa vijana “uzoefu chanya na unaolingana na umri”.
Cai aliiambia BBC kuwa alijaribu kutumia moja ya zana za Instagram na nyingine sawa na hiyo kwenye TikTok kusema kwamba hakupendezwa na maudhui ya vurugu au chuki dhidi ya wanawake – lakini anasema aliendelea kupendekezwa.
Anavutiwa na UFC – Mashindano ya Mwisho ya Kupambana. Pia alijikuta akitazama video kutoka kwa washawishi wenye utata zilipotumwa aende zake, lakini anasema hakutaka kupendekezwa maudhui haya yaliyokithiri zaidi.
“Unapata picha kichwani na huwezi kuitoa. [Inatia doa ubongo wako. Na kwa hivyo unafikiria juu yake kwa siku nzima, “anasema.
Wasichana anaowafahamu walio na umri sawa wamependekezwa video kuhusu mada kama vile muziki na urembo badala ya vurugu, anasema.
Wakati huo huo Cai, ambaye kwa sasa ana umri wa miaka 18, anasema bado anasukumwa maudhui ya vurugu na chuki dhidi ya wanawake kwenye Instagram na TikTok.
Tunapopitia Reels zake za Instagram, zinajumuisha picha inayoonyesha unyanyasaji wa nyumbani. Inaonyesha wahusika wawili kando, mmoja wao ana michubuko, na nukuu: “Lugha Yangu ya Upendo”. Nyingine inaonyesha mtu anagongwa na lori.
Cai anasema amegundua kuwa video zilizo na mamilioni ya likes zinaweza kuwashawishi vijana wengine wa umri wake.
Kwa mfano, anasema mmoja wa marafiki zake alivutiwa na maudhui kutoka kwa mshawishi mwenye utata – na akaanza kuwa na maoni potovu.
Rafiki yake “alichukua mbali sana”, Cai anasema. “Alianza kusema mambo kuhusu wanawake. Ni kama unapaswa kumpa rafiki yako hali halisi.”
Cai anasema ametoa maoni yake kuhusu machapisho kusema kwamba hapendi, na wakati amependa video kimakosa, amejaribu kutengua, akitumai itaweka upya algoriti. Lakini anasema ameishia na video nyingi kuchukua milisho yake.
Kwa hivyo, algorithms za TikTok zinafanyaje kazi kweli?
Kulingana na Andrew Kaung, mafuta ya algoriti ni uchumba, bila kujali kama uchumba ni chanya au hasi. Hiyo inaweza kuelezea kwa sehemu kwa nini juhudi za Cai za kudhibiti algorithms hazikufanya kazi.
Hatua ya kwanza kwa watumiaji ni kubainisha baadhi ya kupenda na mambo yanayowavutia wanapojisajili. Andrew anasema baadhi ya yaliyomo hapo awali yalitolewa na algoriti kwa, tuseme, mtoto wa miaka 16, yanatokana na mapendeleo wanayotoa na matakwa ya watumiaji wengine wa umri sawa katika eneo sawa.
Kulingana na TikTok, algoriti hazijulikani na jinsia ya mtumiaji. Lakini Andrew anasema maslahi ambayo vijana hueleza wanapojiandikisha mara nyingi huwa na athari ya kuwagawanya kulingana na jinsia.
Mfanyikazi wa zamani wa TikTok anasema baadhi ya wavulana wa umri wa miaka 16 wanaweza kuonyeshwa maudhui ya vurugu “mara moja”, kwa sababu watumiaji wengine matineja walio na mapendeleo kama hayo wameonyesha kupendezwa na aina hii ya maudhui – hata kama hiyo inamaanisha kutumia muda zaidi kwenye video ambayo inavutia umakini wao kwa muda huo kidogo.
Masilahi yaliyoonyeshwa na wasichana wengi wa ujana katika wasifu aliochunguza – “waimbaji wa pop, nyimbo, mapambo” – ilimaanisha kuwa hawakupendekezwa maudhui haya ya vurugu, anasema.
Anasema algoriti hutumia “kujifunza kwa kuimarisha” – njia ambapo mifumo ya AI hujifunza kwa majaribio na makosa – na kujizoeza kutambua tabia kwa video tofauti.
Andrew Kaung anasema zimeundwa ili kuongeza uchumba kwa kukuonyesha video wanazotarajia utumie muda mrefu kutazama, kutoa maoni au kupenda – yote ili kukufanya uendelee kurudi kwa zaidi.
Kanuni ya kupendekeza yaliyomo kwenye ukurasa wa TikTok wa “Kwa Ajili Yako”, anasema, haitofautishi kila wakati kati ya maudhui hatari na yasiyo na madhara.
Kulingana na Andrew, moja ya shida alizogundua alipokuwa akifanya kazi katika TikTok ni kwamba timu zinazohusika katika mafunzo na kuweka usimbaji kanuni hizo hazikujua kila wakati asili halisi ya video ambazo ilikuwa inapendekeza.
“Wanaona idadi ya watazamaji, umri, mtindo, aina hiyo ya data dhahania. Hawangeonyeshwa yaliyomo, “mchambuzi wa zamani wa TikTok ananiambia.
Ndiyo maana, mnamo 2022, yeye na mfanyakazi mwenza waliamua kuangalia ni aina gani za video zilizokuwa zikipendekezwa kwa watumiaji mbalimbali, wakiwemo baadhi ya watoto wenye umri wa miaka 16.
Anasema walikuwa na wasiwasi kuhusu maudhui ya vurugu na madhara yanayotolewa kwa baadhi ya vijana, na alipendekeza kwa TikTok kwamba inapaswa kusasisha mfumo wake wa udhibiti.
Walitaka TikTok iweke video lebo waziwazi ili kila mtu anayefanya kazi hapo aone ni kwa nini zilikuwa hatari – vurugu iliyokithiri, unyanyasaji, ponografia na kadhalika – na kuajiri wasimamizi zaidi waliobobea katika maeneo haya tofauti. Andrew anasema mapendekezo yao yalikataliwa wakati huo.
TikTok inasema ilikuwa na wasimamizi maalum wakati huo na, kadiri jukwaa linavyokua, limeendelea kuajiri zaidi. Pia ilisema ilitenga aina tofauti za maudhui hatari – katika kile inachoita foleni – kwa wasimamizi.
Andrew Kaung anasema kuwa kutoka ndani ya TikTok na Meta ilionekana kuwa ngumu sana kufanya mabadiliko ambayo alidhani ni muhimu.
“Tunaomba kampuni ya kibinafsi ambayo nia yao ni kukuza bidhaa zao ili kujidhibiti, ambayo ni kama kumwomba simbamarara asikule,” asema.
Pia anasema anadhani maisha ya watoto na vijana yangekuwa bora ikiwa wangeacha kutumia simu zao za kisasa.
Lakini kwa Cai, kupiga marufuku simu au mitandao ya kijamii kwa vijana sio suluhisho. Simu yake ni muhimu sana katika maisha yake – njia muhimu sana ya kuzungumza na marafiki, kusafiri akiwa nje na kulipia vitu.
Badala yake, anataka kampuni za mitandao ya kijamii kusikiliza zaidi kile ambacho vijana hawataki kuona. Anataka makampuni kufanya zana zinazoruhusu watumiaji kuonyesha mapendeleo yao kuwa na ufanisi zaidi.
“Ninahisi kama kampuni za mitandao ya kijamii haziheshimu maoni yako, mradi tu zinawaletea pesa,” Cai ananiambia.
Nchini Uingereza, sheria mpya italazimisha makampuni ya mitandao ya kijamii kuthibitisha umri wa watoto na kukomesha tovuti zinazopendekeza ponografia au maudhui mengine hatari kwa vijana. Mdhibiti wa vyombo vya habari nchini Uingereza Ofcom ndiye anayesimamia utekelezaji wake.
Almudena Lara, mkurugenzi wa ukuzaji sera za usalama mtandaoni wa Ofcom, anasema kwamba ingawa maudhui hatari ambayo huathiri zaidi wanawake wachanga – kama vile video zinazokuza matatizo ya ulaji na kujidhuru – zimekuwa zikiangaziwa, njia za algorithmic zinazochochea chuki na vurugu kwa wavulana hasa matineja. na vijana wamepata usikivu mdogo.
“Inaelekea kuwa ni wachache kati ya [watoto] wanaokabiliwa na maudhui hatari zaidi. Lakini tunajua, hata hivyo, kwamba mara tu unapofichuliwa na maudhui hayo hatari, inakuwa ni jambo lisiloweza kuepukika,” asema Bi Lara.
Ofcom inasema inaweza kutoza faini kampuni na inaweza kuleta mashtaka ya jinai ikiwa hazitafanya vya kutosha, lakini hatua hazitaanza kutumika hadi 2025.
TikTok inasema inatumia “teknolojia ya kibunifu” na hutoa mipangilio ya usalama na faragha “inayoongoza kwenye sekta” kwa vijana, ikiwa ni pamoja na mifumo ya kuzuia maudhui ambayo huenda yasifae, na kwamba hairuhusu vurugu kali au chuki mbaya.
Meta, ambayo inamiliki Instagram na Facebook, inasema ina zaidi ya “zana 50 tofauti, nyenzo na vipengele” ili kuwapa vijana “uzoefu chanya na unaolingana na umri”. Kulingana na Meta, inatafuta maoni kutoka kwa timu zake na mabadiliko yanayowezekana ya sera hupitia mchakato thabiti.
