Totalitní vlády se bojí umělé inteligence

Autoritářské režimy se nebojí umělé inteligence jako takové – samy ji ve velkém využívají ke sledování obyvatel. Bojí se AI, kterou nemají pod kontrolou. Jejich moc stojí na monopolu nad informacemi a na tom, že lidé nemají s kým otevřeně mluvit. Volně dostupná AI obojí narušuje.

1. Co jim na AI nejvíce vadí

• Konec informačního monopolu. Jazykový model odpoví na otázku, kterou cenzor z internetu vymazal – o masakru, hladomoru, korupci nebo skutečné historii. Nemusí přitom existovat žádná zakázaná stránka, kterou by šlo zablokovat.
• Nepředvídatelnost. Noviny lze zakázat a novináře zavřít. Model však generuje miliony odpovědí denně a nikdo předem neví, co řekne. Cenzura se tak mění z kontroly obsahu v kontrolu pravděpodobnosti.
• Padající jazyková bariéra. Kvalitní překlad v reálném čase zpřístupňuje zahraniční zdroje i lidem, kteří cizí jazyky neovládají. Propaganda „jen pro domácí publikum“ ztrácí účinnost.
• Cizí hodnoty v modelu. Modely trénované na svobodném internetu přejímají pojmy jako právní stát, lidská práva či svobodné volby. Pro režim jde o „ideologickou infiltraci“.
• Posílení jednotlivce. AI pomáhá psát, analyzovat dokumenty, programovat nebo obcházet blokace. Jeden člověk tak zvládne práci, na kterou by dříve potřeboval organizaci – a organizace jsou to, co režim umí rozbít.
• Technologická závislost. Nejvýkonnější čipy a modely vznikají v demokratických zemích. Kdo je nemá, zaostává a zároveň se bojí, že kdo je má, získá převahu.

2. Jak se režimy snaží vývoj AI ovládnout

• Registrace a licence. Čína od roku 2023 vyžaduje, aby veřejně dostupné generativní služby prošly bezpečnostním posouzením. Vedle toho vede registr algoritmů. Výstupy musí odpovídat „základním socialistickým hodnotám“ a nesmějí „podvracet státní moc“.
• Cenzura již při tréninku. Filtrují se trénovací data a modely se ladí tak, aby na citlivé otázky odmítly odpovědět nebo nabídly oficiální verzi.
• Blokace zahraničních služeb. Západní chatboti jsou v řadě autoritářských států nedostupní nebo postupně omezováni. Současně se tvrdě postupuje proti VPN.
• „Suverénní“ modely. Stát podporuje domácí AI, kterou má pod dohledem. V Rusku jde například o GigaChat a YandexGPT, v Číně o modely velkých technologických firem, které musí spolupracovat s úřady.
• Odpovědnost provozovatelů. Za „nežádoucí“ odpověď ručí firma. Ta proto raději cenzuruje víc, než zákon vyžaduje – autocenzura je nejlevnější cenzura.
• Povinné označování a identifikace. Obsah vytvořený AI se musí označovat a uživatelé služeb bývají vázáni na skutečnou identitu, takže každý dotaz lze dohledat.
• Využití AI proti lidem. Rozpoznávání obličejů, analýza sociálních sítí a automatizovaná propaganda. Režim se snaží, aby AI byla v jeho rukou nástrojem kontroly, ne svobody.

3. Proč to nemusí fungovat

• Otevřené modely lze stáhnout a provozovat na běžném počítači bez připojení k internetu. Takový model nelze zablokovat na hranicích.
• Cenzurovaná AI je horší AI. Model, který nesmí mluvit o realitě, chybuje i v ekonomice, vědě a technice. Režim tak volí mezi kontrolou a konkurenceschopností.
• Znalost se šíří. Vědci, programátoři a studenti potřebují pro svou práci špičkové nástroje a přístup k nim si obvykle najdou.

Shrnutí: Totalitní vláda nechce AI zakázat – chce ji vlastnit. Bojí se ji mít v rukou občanů a zároveň touží ji mít ve svých. Stejný střet jsme již zažili s tiskem, rozhlasem, kopírkou a internetem. Pokaždé se ukázalo, že informaci lze zpomalit, ale ne trvale zastavit.