Velký zátah na světové archivy. AI se učí ze starých knih

Skandální zprávy o firmách, které ke zdokonalování jazykových modelů umělé inteligence použily nelegálně získaná data z internetu, zaplavily svět. Navzdory rostoucím obavám z úskalí vývoje AI však její přední firmy zacházejí ještě dál. Vedle dat a textů z internetu teď čerpají i ze starých tištěných publikací, které ve velkém vykupují, digitalizují a využívají pro trénink AI. Je to hrozbou pro světové kulturní dědictví?

Moderní jazykové modely, jako jsou ChatGPT, Gemini nebo Claude, potřebují co nejvíc kvalitních dat k tomu, aby dokázaly věrně replikovat lidskou komunikaci. Dosud se učily hlavně z textů, příspěvků a dat na internetu. Už v dosavadním trénovacím modelu tak docházelo k využití dat a chráněného obsahu mnoha lidí bez jejich svolení. Kromě internetových zdrojů, odborných databází nebo licencovaných dokumentů však dnes jazykové modely začínají využívat i fyzické zdroje lidské kultury. Z hlediska etiky a udržitelnosti vývoje může jít o velmi sporný krok.

AI zaplavuje internet, který se stává nekvalitním zdrojem. Knihy jsou to, co nám ještě zbylo

Možná jste zaznamenali termín “AI slop”, neboli masově produkovaný obsah generovaný umělou inteligencí. Na internetu je doslova nemožné se mu vyhnout. Zatímco nekvalitního AI obsahu rapidně přibývá, stává se internet méně a méně spolehlivým zdrojem nejen pro běžné používání, ale také jako zdroj dat k trénování jazykových modelů. Pozornost se tak přesouvá na fyzická média. Světové AI firmy hromadně skupují publikace, které následně rozebírají, skenují a digitalizují. Některé knihy přitom firmy provozující AI ničí, protože jejich rozebrání je ekonomicky efektivnější, než otáčení stránek.

^{Zdroj: Pexels}

Hodnotu lidského řemesla ve světě, který dobývá AI, si čím dál víc uvědomují nejen lidé, ale taky samotné AI společnosti. To, co pro nás ze starých literárních pramenů dělá vzácný kulturní artefakt, je pro ně perspektivní zdroj. Jde o pečlivě editovaný jazyk, odbornou terminologii, historické souvislosti, ale především taky o lidskou stopu, kterou AI stále neumí nahradit. Vývojáři využitím knih reagují na obávanou hrozbu takzvaného „model collapse“, neboli situace, kdy se AI začne učit převážně z textů vytvořených jinou AI, což povede k degradaci celého modelu.

View this post on Instagram

Budoucnost v rukou technologických firem. Skutečná inovace nemá být destruktivní

V případě trénování AI na textech fyzických knih se kontroverze objevila prakticky hned. Ani legálně zakoupená kniha totiž automaticky firmy neopravňuje k využití jejího obsahu pro výcvik komerční AI. Soud teď šetří společnosti jako OpenAI, Meta, Google nebo Anthropic, přičemž otázka „fair use“ v kontextu trénování AI na autorsky chráněných dílech zůstává přinejmenším sporná. Argumenty o perspektivní budoucnosti jazykových modelů, které mohou být čím dál lepší, těžko obstojí proti opodstatněným nařčením z hromadného a dlouhodobého porušování autorských práv. 

^{Zdroj: Pexels}

Zděšení se šíří i mimo sféru autorů. Světoví akademici, experti na kulturní dědictví i samotní zaměstnanci archivů a knihoven kritizují rozebírání tištěných knih. Ztráta mnohdy vzácných nebo obtížně nahraditelných artefaktů lidského dědictví a vědění může být pro nás všechny nešťastnou premisou. Neméně znepokojivá může být koncentrace důležitých zdrojů v rukou několika kontroverzních technologických firem. Rozmach AI a její přesah do všech oblastí současného života ukazují, že hranice mezi inovací a exploatací umí být opravdu velmi tenká.

^{Zdroje: Creative Blog, The Atlantic, The Economic Times, The Guardian, arXiv}