Google poskytne svou AI americké armádě. V útrobách firmy vzniká odpor

Společnost Google uzavřela dohodu s americkým ministerstvem obrany, která umožní využití její umělé inteligence pro vládní účely, včetně armádních potřeb. Zatímco vedení mluví o strategickém kroku a posílení pozice na trhu, uvnitř firmy se ozývá odpor. Stovky zaměstnanců varují, že technologie může být využita pro sledování či vojenské operace bez dostatečné kontroly. Vzniká tak debata nejen o budoucnosti byznysu, ale i o tom, kde má AI své hranice.

Google se zařadil mezi technologické hráče, kteří otevřeně spolupracují s Pentagonem. Firma totiž s americkým ministerstvem obrany uzavřela dohodu, která armádě poskytne její AI systémy v plném a neomezeném rozsahu. Nejde přitom jen o běžný software, ale o systémy schopné analyzovat armádní prostředí, reagovat v reálném čase a vstupovat do kritického rozhodování s dopadem mimo digitální sféru.

Obrat o 360 stupňů. Google svou umělou inteligenci přetaví do neomezené vládní verze

Ještě před několika lety by přitom Google k podobné spolupráci nepřistoupil. Firma v roce 2018 ustoupila od projektu Maven, který měl americké armádě asistovat s analýzou dronových záběrů pomocí AI. Proti spolupráci se tehdy postavily stovky zaměstnanců a vedení pod tlakem projekt ukončilo. Následně vznikly nové etické principy, jež měly vymezit oblasti, do nichž společnost vstupovat nechce, jako je využití AI při vývoji zbraňových systémů či sledování velkého množství lidí bez jejich vědomí.

^{Zdroj: Reuters | Pentagon}

Nová dohoda proto ukazuje nečekaný obrat. Google se zavazuje upravovat chování svých AI modelů podle požadavků konkrétních vládních projektů. Může tak docházet k úpravám bezpečnostních filtrů nebo způsobu, jakým systém reaguje na určité, pro běžného uživatele nedostupné, typy zadání. Technologie tak bude fungovat jinak v běžném a vládním prostředí. Právě tenhle faktor vyvolává největší obavy, protože kontrola nad tím, jak AI pracuje, se přesune mimo Google.

^{Zdroj: Unsplash}

Kritici upozorňují i na další rizika. Systémy mohou dělat chyby, které v armádě ovlivní rozhodnutí o pohybu jednotek, vyhodnocení hrozeb nebo práci s citlivými informacemi. Dalším problémem je množství dat, které je AI schopna bez problému uložit. Pracovat může s rozsáhlými soubory obrazových záznamů, komunikačních dat nebo analytických výstupů, které slouží k mapování chování jednotlivců či celých skupin, což může sklouzávat k nezákonné činnosti. Proti uzavření dohody vznikl i dopis adresovaný generálnímu řediteli Google. Zatím ale zůstává bez odpovědi.

Zobrazit příspěvek na Instagramu

Příspěvek sdílený The Rundown AI (@therundownai)

Z pohledu firmy však dává dohoda smysl. Vývoj umělé inteligence stojí miliardy a státní zakázky patří k nejstabilnějším zdrojům příjmů. Google se snaží dohnat konkurenci v oblasti cloudových služeb, tedy infrastruktuře, na které běží data a AI systémy pro vlády i firmy. V tomto segmentu dnes dominují společnosti Amazon a OpenAI, které už mají s armádou dlouhodobé kontrakty. Google se tak dostává do situace, jež nemá jednoduché řešení. Na jedné straně stojí tlak trhu, na druhé otázka odpovědnosti.

_{Zdroje: Business Insider, Forbes, BBC}