Virální videa, na kterých Donald Trump lže v přímém přenosu, obletěla svět. Ne každý nepravdivý výrok ale dokážeme hned detekovat. Polopravdy nebo zmanipulovaná fakta vytvářejí ve sdíleném informačním prostoru šum, v němž se ověřená fakta ztrácí mezi výmysly. Co kdyby však bylo možné zjistit, jestli politik říká pravdu, přímo v průběhu jeho řeči? Přesně to nabízí nenápadné prohlížečové rozšíření InTruth, které v reálném čase analyzuje debaty a ověřuje fakta.
AI může v politice hrát zásadní roli. Často diskutovanou hrozbou jsou třeba deepfake videa vytvořená pomocí umělé inteligence trolími farmami s cílem ovlivnit veřejné mínění. AI nástroje se neustále zdokonalují, takže běžný uživatel nemusí poznat, zda je video, které mu právě někdo poslal, vůbec skutečné. InTruth ale ukazuje, že pokud AI správně využijeme, může významně sloužit i ku prospěchu světové mediální gramotnosti. Open source projekt, který vznikl jako experiment univerzitní studentky, rychle zaujal světovou tech komunitu.
Nápad dostala na Redditu. Teď vyvíjí AI nástroj pro miliony
Mnoho notorických technologií, které dnes miluje a používá celý svět, vzniklo nenápadně na univerzitním pracovišti. Kořeny Facebooku sahají na Harvard, za vývoj Google vděčíme výzkumnému týmu Stanfordských doktorandů. Je možné, že na podobný boom čeká i InTruth. Na Redditové komunitě r/ClaudeAI o vzniku užitečného nástroje poprvé informovala jeho pravděpodobná autorka, která používá username u/Debate_Witty. Nástroj vznikl v rámci školního projektu, který se zaměřuje na zpracování přirozeného jazyka v rámci širšího jazykového modelu.
Zdroj: Pexels
InTruth zatím funguje jako rozšíření pro prohlížeč Google Chrome. Během sledování livestreamu nebo záznamu debaty snímá řeč, kterou automaticky přepisuje a detekuje v ní fakticky ověřitelné výroky. Ty následně porovná s veřejně dostupnými informacemi z důvěryhodných online zdrojů. Výsledkem je označení informace jako pravdivé, zavádějící, nepravdivé nebo neověřitelné. Součástí výstupu je i stručné vysvětlení a odkazy na zdroje, z nichž systém vycházel. InTruth umí také rozpoznat jednotlivé řečníky, což napomáhá zpětné ověřitelnosti.
Zdroj: Pexels
Projekt, který studentka vyvinula s využitím velmi populárního nástroje Claude AI, je výjimečný svou rychlostí. Oproti tradičnímu ověřování, při němž lidé tráví i hodiny nad analýzou zdrojů, dokáže InTruth nabídnout podnět už během pár sekund. Může tak zásadně ovlivnit, zda si divák na základě nepravdivé informace vůbec stihne vytvořit názor. Automatizovaný fact checking se ukazuje být čím dál užitečnějším. Skandální či nenávistné projevy, které často s fakty záměrně manipulují, se totiž prokazatelně šíří mnohem rychleji, než ověřené informace.
Nástroje AI verifikace ze strany některých výzkumníků čelí míře skepticismu, z níž ani InTruth není vyloučený. Sama autorka přitom uvádí, že její nástroj rozhodně není arbitrem pravdy. Umí ověřovat faktická tvrzení, nikoli však názory, politické sliby nebo hodnotové soudy. Jakkoli je open source a stále se zdokonaluje, jeho přesnost závisí na kvalitě zvuku, dostupnosti a kvalitě zdrojů i schopnosti umělé inteligence správně pochopit kontext výroku. Stále tedy nenahradí kvalifikované novináře. Působí však jako perspektivní vzorek technologického pokroku, který skutečně slouží lidem.
Zdroje: Reddit, Evolving AI, TechDogs, AIBriefs, ArXiv, Chrome web store

