Представете си свят, в който решението за края на човечеството не се взема от политик в бункер, а от ред от програмен код. Интеграцията на изкуствения интелект в управлението на ядрените арсенали превръща стратегическото възпиране в опасен залог, където човешкият фактор – който често ни спасява от фатални грешки – се премахва от уравнението.
Парадоксът е, че автоматизацията може да направи заплахите по-убедителни. Когато един лидер делегира властта си на алгоритъм, той ефективно „заключва“ решението, премахвайки възможността за промяна в последния момент. Експерименти с политици и граждани показват, че автоматизираната заплаха се възприема като много по-реална и неизбежна, което може да принуди противника да се предаде по-лесно, но едновременно с това повишава напрежението до критична точка.
Историята вече ни е дала предупреждение чрез системи за автоматизиран отговор от ерата на Студената война, но съвременният AI носи рискове, които надхвърлят простото изпълнение на протокол. Техническите сривове, кибератаките или непрозрачността на сложните модели могат да доведат до фатална интерпретация на входящите данни. В миналото човешката интуиция е предотвратила катастрофи при фалшиви тревоги; при AI рискът от „Армагедон на автопилот“ става плашещо реален.
Освен реалната опасност, съществува и психологическата игра на блъфирането. Държавите могат да твърдят, че притежават такива автономни системи, само за да засилят натиска върху опонентите си. Тази несигурност превръща технологията в инструмент за принуда, който не изисква реално съществуване, за да бъде ефективен, но едновременно с това дестабилизира международния мир.
Единственият изход е стриктното запазване на човешкия контрол. Необходимо е създаването на международни правно обвързващи споразумения, които изрично да забранят автоматизираното изстрелване на ядрени оръжия. Докато автономните дронове могат да бъдат полезни в конвенционалните войни, ядреният бутон трябва да остане единствено в ръцете на хора, които носят морална и политическа отговорност за действията си.