Odporúčacie systémy sociálnych médií dnes významne ovplyvňujú tok informácií. Fungujú ako filtre a zosilňovače správ a často ich zneužívajú zlí aktéri (vrátane FIMI) na šírenie nepravdivých informácií, propagandy, podvodov a iného toxického obsahu. Mnohé existujúce štúdie už preukázali ich značný vplyv na spoločnosť vrátane maloletých. Z týchto dôvodov sa platformy sociálnych médií postupne stávajú predmetom legislatívy, regulácie a verejného dohľadu. Algoritmický audit je jedným z mála spôsobov, ako nezávisle posúdiť vlastnosti odporúčacích systémov sociálnych médií. V algoritmickom audite skupina agentov, ktorí sa vydávajú za skutočných používateľov platformy, stimuluje odporúčač používateľskými akciami (napr. zobrazenia, lajky, zdieľania, nahlásenia) a zaznamenáva reakcie platformy (teda odporúčaný obsah). Ak sa tento proces vykonáva priebežne a s kontrolovaným správaním agentov (ktorí sú zvyčajne implementovaní ako boti), poskytuje dostatok údajov na odhalenie tendencií, predsudkov či možných porušení legislatívy zo strany auditovaných systémov. Takýto prístup umožňuje kvantitatívne posúdenie behaviorálnych charakteristík platformy, čo by inak vyžadovalo priamy prístup k jej údajom (tie pritom zvyčajne nie sú k dispozícii kvôli nedostatočnej spolupráci platforiem). Koncept algoritmického auditu nie je nový, no zostáva technicky a metodologicky náročný. V tomto článku prezentujeme naše 3-ročné skúsenosti s navrhovaním, implementáciou a vykonávaním auditovacích procesov. Diskutujeme o otázkach, ako je ochrana platforiem proti botom alebo škálovateľnosť. Naše zistenia demonštrujeme na niekoľkých prípadových štúdiách (auditov), ​​medzi ktoré patria: (1) preukázanie náročnosti replikácie auditu, (2) meranie personalizačného posunu pre polarizujúce témy a (3) zobrazovanie reklamy pre maloletých používateľov a dodržiavanie ochrany maloletých, ako je stanovené v Európskom zákone o digitálnych službách (DSA).

Jakub Šimko je výskumník v oblastiach umelej inteligencie, interakcie človeka s počítačom, ľudského počítania, crowdsourcingu a symbiózy človeka a umelej inteligencie. Doménou jeho výskumu je boj proti dezinformáciám prostredníctvom automatickej detekcie dezinformačného obsahu, podpory fact-checkerov a auditovania odporúčacích systémov sociálnych médií. Vzdelanie získal na Slovenskej Technickej Univerzite v Bratislave, kde po dokončení doktorandského štúdia 7 rokov pôsobil ako výskumník a učiteľ. Od roku 2020 pôsobí v Kempelenovom Inštitúte Inteligentných Technológií ako výskumník a líder výskumného tímu zameraného na spracovanie webových a používateľských dát. Je spoluautorom viac než 50 publikácií spolu s viac než 900 citáciami. Je riešiteľom viacerých Európskych výskumných projektov. Výskum auditovania, na ktorom sa podieľal, získal v roku 2021 cenu Best Paper Award na prestížnej konferencii ACM RecSys.