AI jako „aktér chytřejší než my“

Dějiny lidstva nám neposkytují žádnou zkušenost s tím, jak čelit aktérovi, který je chytřejší než my, který nás dokáže v myšlení předčit.

Zavádějící

Věta mluví o AI jako o samostatném aktérovi, který lidi přemýšlí. Takový aktér dnes neexistuje.

• Dnešní AI nemá vlastní cíle ani vůli. Jazykové modely i další systémy vykonávají úlohy, které jim zadá člověk. Hrozbou je vždy člověk nebo organizace, která nástroj použije. Sám McCallum ostatně dál mluví o teroristech a státech, kteří AI využívají. Tím si vlastní úvodní větu popírá.
• „Chytřejší“ jen v úzkých oblastech. Počítače porážejí lidi v šachu od roku 1997, v počítání ještě déle. Současné modely jsou silné v textu a kódu, ale chybují v jednoduchém uvažování, vymýšlejí si fakta a bez lidského dohledu dlouhé úlohy spolehlivě nedokončí.
• Spekulace o budoucnosti podaná jako současnost. Zda vznikne obecně nadlidská AI, je otevřená otázka. Vážní badatelé ji neberou na lehkou váhu, ale v projevu o dnešních hrozbách vyvolává dojem, že tato situace už nastala.

„Žádná historická zkušenost“

Je to skutečně nová situace…

Přehnané

Lidstvo má bohatou zkušenost s technologiemi dvojího užití, které pomáhají obráncům i útočníkům:

• Chemie a dusíková hnojiva daly světu potraviny i bojové plyny. Vznikla Úmluva o chemických zbraních.
• Jaderná fyzika dala elektrárny i bomby. Vznikl režim nešíření a kontroly MAAE.
• Internet a šifrování: v 90. letech se tvrdilo, že silná kryptografie pomůže hlavně teroristům a zločincům (tzv. „crypto wars“). Ukázalo se, že chrání hlavně běžné lidi a firmy.
• Biotechnologie: syntéza DNA vyvolala stejné obavy. Výsledkem je screening objednávek u dodavatelů.

AI je nová technologie, ale problém, jak regulovat silný nástroj dvojího užití, nový není.

AI „zintenzivňuje kybernetický souboj“

Částečně pravdivé, jednostranně podané

• Je pravda, že AI urychluje psaní kódu, phishingových e-mailů i hledání chyb v softwaru.
• Stejně ale pomáhá obraně: automatické hledání zranitelností dřív, než je najde útočník, analýza logů, detekce anomálií a rychlejší oprava kódu. Bezpečnostní firmy i vládní agentury AI masivně nasazují na obranu.
• Většina úspěšných útoků dál stojí na starých slabinách: nezáplatované systémy, slabá hesla, chybějící dvoufaktorové ověření, lidská chyba. Na nich AI nic nemění.

Propaganda „šitá na míru jedincům“

Přehnané

• Vyrobit text je snadné, přesvědčit člověka ne. Úzkým hrdlem propagandy nikdy nebyl nedostatek textů, ale jejich šíření a důvěra publika. Ruské trollí farmy vyráběly obsah ve velkém i bez AI.
• Měřený dopad je zatím malý. Například Alan Turing Institute (CETaS) po britských volbách 2024 nenašel důkazy, že by AI dezinformace výsledek měřitelně ovlivnily. Podobné závěry přinesly analýzy dalších voleb v roce 2024, který byl označován za „první AI volby“.
• Radikalizace probíhá hlavně přes sociální vazby, komunity a osobní zkušenost, ne přes samotný text na obrazovce.

Teroristé využívají AI k průzkumu a útokům

Neověřitelné

• MI5 neuvádí žádný konkrétní případ, způsob použití ani výsledek. Tvrzení je třeba vzít „na slovo“.
• Že se o něco snažili, neznamená, že jim to pomohlo. Průzkum cíle šlo dělat přes Google Maps, Street View a veřejné zdroje už před dvaceti lety.
• Pokud teroristé AI používají, používají ji pravděpodobně stejně jako všichni ostatní, tedy jako lepší vyhledávač. Kvalitativní skok to není.

Drony s AI jako „nový rozměr“

Částečně pravdivé

• Válka na Ukrajině ukazuje, že revolucí jsou hlavně levné drony samotné, ne umělá inteligence. Většina dronů je dálkově řízená člověkem.
• AI se tam používá hlavně na poslední fázi navádění, když nepřítel ruší signál. Jde o úzkou technickou funkci, ne o „inteligentního aktéra“.
• Pro teroristu je překážkou opatření dronu, výbušniny a výcviku, ne chybějící AI.

AI pomůže vyrobit biologickou zbraň

K tomu zatím nedošlo, ale rizika jsou reálná.

Spekulace, ne zjištěný fakt

• Sám McCallum přiznává, že se to nestalo. Jde o odhad budoucího rizika, ne o popis hrozby.
• Hlavní překážky nejsou informační. Pro biologickou zbraň je potřeba laboratoř, materiál, praktické dovednosti, kultivace, stabilizace a způsob rozptýlení. Japonská sekta Óm Šinrikjó měla v 90. letech peníze, vědce i laboratoře, a s biologickými zbraněmi přesto selhala. AI za nikoho pipetu nedrží.
• Studie z let 2023–2024 (např. RAND, 2024; OpenAI, 2024) nenašly u tehdejších modelů statisticky významný přínos oproti běžnému internetu.

Kdo mluví a proč

Kontext

• Výroční projev šéfa zpravodajské služby je zároveň obhajobou rozpočtu a pravomocí. Instituce, která hrozby vyhodnocuje, má přirozený zájem je zdůrazňovat. Neznamená to, že lže. Znamená to, že její tvrzení vyžadují ověření stejně jako tvrzení kohokoli jiného.
• Média převzala projev bez jakéhokoli kritického komentáře nebo názoru nezávislého odborníka.
• Zastrašující rámec „AI chytřejší než my“ může sloužit jako argument pro rozšíření sledování a omezení otevřených technologií, třeba lokálně provozovaných modelů s otevřenými vahami.