AI versus AI: Jak nám umělá inteligence pomáhá hodnotit obsah a zastavovat generované nesmysly
Jak se v Seznamu připravujeme na lavinu generovaného obsahu? Umělá inteligence již nyní pomáhá našim editorům, moderátorům a ověřovatelům faktů, aby byl obsah našich platformách kvalitní a důvěryhodný.
Ukážeme vám, co u nás funguje i kde vidíme limity AI:
- AI nástroje na moderování a ověřování faktů v diskusích: Naši editoři využívají LLM k argumentační analýze manipulativních článků a s jejich pomocí dělají debunking a fact-checking. Využívají také databázi fact-checků od KInIT k sémantickému vyhledávání nezávislých fact-checků třetích stran. Umělá inteligence v naší diskusní platformě automaticky schvaluje nezávadné diskusní příspěvky a prochází jí asi 80 % komentářů (její práci namátkově kontrolují lidští editoři). V současné době nasazujeme v naší správě diskusí nástroj AI, který automaticky přiřazuje fact-checky k manipulativním diskusním příspěvkům.
- Naši editoři Seznam Média a brzy i Newsfeedu používají náš vlastní detektor AI generovaného obsahu: Je natrénovaný na článcích Seznam Zpráv a Novinky.cz a běží na našem vlastním jazykovém modelu BROWCzech. U dlouhých textů (v tomto případě článků na Médiu) dokáže s vysokou přesností určit, které části textu byly vygenerovány a které napsal člověk. Pomáhá tak editorům odhalovat vygenerované články a zabránit tomu, aby se Seznam Medium stalo odkladištěm vygenerovaných textů. Nevadí nám, když si autoři a novináři pomáhají nástroji umělé inteligence, ale je pro nás důležité, aby to přiznali, správně je zdrojovali a aby jejich texty prošly lidskou redakční kontrolou a úpravou.
- AI pomáhá detekovat clickbaitové články v Newsfeedu: Od roku 2022 používáme AI klasifikátor clickbaitových titulků. "Clickbaitovost" článku je jedním ze signálů pro hodnocení kvality článků ve feedu. Clickbaitové články jsou naším doporučujícím algoritmem penalizovány a snažíme se je v personalizovaném feedu upozaďovat, aby se Newsfeed nestal přehršlí clickbaitů, ale nabízel čtenářům co nejvíce kvalitního a důvěryhodného obsahu.
Peter Jančárik
Peter koordinuje projekty Seznamu v hodnocení kvality médií a v boji proti dezinformacím. Přes 15 let pracoval v oblasti firemní komunikace a brand safety. Kromě toho je spoluzakladatelem projektu Konšpirátori.sk, který upozorňuje na weby s neseriózním, klamavým nebo konspiračním obsahem.