Máme méně než dva roky, než se AI stane bezpečnostním problémem, který již nemůžeme kontrolovat, říká MP

1.7.2023

Člen parlamentu za Bournemouth East Tobias Ellwood minulý týden ve Sněmovně řekl:

„Když bezpilotní letadlo řízené umělou inteligencí ‚zabilo‘ svého řidiče v simulovaném testu, čímž se operátor odvážil zasahovat do cílů jeho mise, měli bychom se znepokojovat.

„Ale když nás ministr bezpečnosti Tom Tugendhat (vzácný kulatý kolík v kulaté díře) varuje, že AI se pohybuje příliš rychle na to, aby ji mohli regulovat i ‚nejlepší úředníci‘ v parlamentu – Westminster, máme problém.“

Máme méně než dva roky, než se AI stane bezpečnostním problémem, který již nemůžeme kontrolovat, řekl pan Ellwood. Umělá inteligence je ultimátní multiplikátor síly se schopností zcela přetvořit pravidla války.

Strojové učení a autonomie se chystá existenčně změnit bojiště a kdokoli se tam dostane jako první, bude mít zásadní výhodu.

Válečný boj je o smrtelnosti – jak a kdy jsou jednotlivé vojenské složky organizovány tak, aby maximalizovaly koncentraci síly k překonání protivníka. Odstraněním člověka z ovládání těchto komponentů a rozhodovacího procesu exponenciálně poskočí efektivita.

AI odstraní „válečnou mlhu“. Okamžitě budou vyhodnoceny velké množství dat týkajících se silných, slabých stránek a záměrů nepřítele v kontrastu s individuálními dispozicemi. Váhavost, lidská chyba a pomýlené hrdinství budou odstraněny z velení a kontroly. Využití rojových bezpilotních systémů umožní vypočítat okamžité chytré „oběti“, jejichž načasování může být pro vítězství v bitvě časově kritické.

Pokud zadáme rozhodování stroji schopnému se učit během boje, ušetří se životně důležité hodiny, protože potvrzující rozkazy se již nebudou předávat nahoru a dolů v řetězci velení.

Dokonce i v šedé zóně by mohly být dezinformace ve velkém měřítku aktivně šířeny přes internet mnohem efektivněji. Umělá inteligence může okamžitě monitorovat a upravovat své zasílání zpráv tak, aby maximalizovala politické neshody, a to dokonce do té míry, že by cílové komunity už jen těžko věděly, co je pravda.

AI je Pandořina skříňka, která zcela přetvoří pravidla války , The House, Tobias Ellwood MP, 21. června 2023

Co se stane, když ji soukromé korporace a vlády, které navrhují a kontrolují AI, použijí ne pro války mezi národy nebo na obranu nevinných občanů, ale místo toho proti bezbranným občanům k prosazení globální agendy? 

Souhlasíme s panem Ellwoodem, když řekl: „v každém případě se náš svět stává nebezpečnějším, nikoli méně“ – i když možná ne úplně ze stejných důvodů. Pokud jde o drony, možná je na čase, aby se občané stali šikovnými s prakem.