Jakub Šimko

Image

Auditovanie šírenia dezinformácií odporúčacími systémami sociálnych médií

Demokratický charakter našej spoločnosti je dnes ohrozovaný šírením nepravdivých informácií. Veľké online platformy (sociálne médiá) medzitým pokračujú vo využívaní svojho postavenia a odporúčacích algoritmov na zvyšovanie svojich obratov za cenu preferencie emocionálneho a kontroverzného obsahu, ktorý nepravdivé informácie často obsahuje. Napriek prísľubom o seba-regulácií, platformy sa tento trend nesnažia zvrátiť, hoci je známy už takmer dekádu. Verejný tlak na sociálne médiá medzitým rastie, no platformy doteraz mohli unikať kritike označovaním nepriaznivých dôkazov ako anekdotických (čo je žiaľ v mnohých prípadoch pravda). 

V reakcií na scénu prichádzajú systematickejšie prístupy. Verejní činitelia, legislatívci a regulátori pracujú na tvorbe nových legislatívnych rámcov a procesov dohľadu nad veľkými platformami (napr. európske Digital Services Act a Artificial Intelligence Act). Medzitým sa výskumníci sústredia na vytvorenie škálovateľných nástrojov dohľadu, ktoré by umožnili nezávislý a systematický (kvantitatívny) zber údajov o nevhodnom správaní sociálnych médií. 

V tomto príspevku vysvetľujeme koncept automatického auditovania odporúčacích systémov. V tomto kontexte je auditom systematické sondovanie správania odporúčacieho algoritmu/systému. Ako prípadovú štúdiu opisujeme „bábkoherecký“ (sockpuppeting) audit odporúčačov a vyhľadávača YouTube, ktorý sa sústredil na meranie dynamiky vzniku a narušenia dezinformačných filtračných bublín. V bábkohereckom audite sa využíva skupina agentov-botov tváriacich sa ako používatelia platformy. Agenty stimulujú odporúčač vykonávaním preddefinovaných scenárov používateľských akcií (napr. pozretie videa, like, odber kanálu) a zaznamenávaním odpovedí v podobe odporúčaní. V následnej analýze sú odporúčané položky anotované a je kvantifikovaná prítomnosť nepravdivých informácií. Aby odrážali reálne podmienky a disponovali dobrou škálovateľnosťou, budú musieť budúce audity zahŕňať automatickú anotáciu obsahu a generovanie realistických scenárov správania agentov. 


Jakub Šimko

je výskumník v oblastiach umelej inteligencie, interakcie človeka s počítačom, ľudského počítania, crowdsourcingu a symbiózy človeka a umelej inteligencie. Doménou jeho výskumu je boj proti dezinformáciám prostredníctvom automatickej detekcie dezinformačného obsahu, podpory fact-checkerov a auditovania odporúčacích systémov sociálnych médií. Vzdelanie získal na Slovenskej Technickej Univerzite v Bratislave, kde po dokončení doktorandského štúdia 7 rokov pôsobil ako výskumník a učiteľ. Od roku 2020 pôsobí v Kempelenovom Inštitúte Inteligentných Technológií ako Expert researcher a líder výskumného tímu zameraného na spracovanie webových a používateľských dát. Je spoluautorom viac než 30 publikácií medzinárodnej kvality spolu s viac než 200 citáciami. Aktuálne je riešiteľom 4 výskumných Európskych projektov. Výskum auditovania, na ktorom sa podieľal, získal v roku 2021 cenu Best Paper Award na prestížnej konferencii ACM RecSys.


Vytisknout