В ерата на бързата дигитализация, границата между човешкия разум и машинните алгоритми става все по-тънка, особено когато става въпрос за най-критичните решения – тези за живот и смърт. Армин Папергер, изпълнителен директор на германския гигант „Райнметал“, забил тревога по време на изложението „Юросатори“, подчертавайки, че смъртоносната сила никога не трябва да бъде предадена в ръцете на изкуствен интелект.
Според Папергер, светът се нуждае от спешна международна рамка, която да постави ясни граници, подобно на режима за контрол на ядрените оръжия. Той е убеден, че етичните стандарти не могат да бъдат оставени на решението на отделни корпорации или личности, а трябва да бъдат закрепени чрез резолюции на ООН или специализирани етични съвети, преди технологията окончателно да изпревари политическата воля.
Макар „Райнметал“ да е лидер в разработването на високотехнологични дронове и автономни платформи за суша, въздух и море, компанията залага на принципа „човек в цикъла“. Това означава, че въпреки огромните възможности на AI за проследяване и разпознаване на цели, окончателният натиск на спусъка винаги трябва да остане отговорност на човешкия оператор.
Истинската опасност обаче се крие в алгоритмичната надпревара. Папергер предупреждава, че ако една страна в бъдещ конфликт реши да премахне човешкия контрол, за да спечели скорост и ефективност, останалите държави ще се почувстват принудени да направят същото. Този сценарий превръща глобалните етични правила в стратегическа необходимост, а не просто в морален избор.
Войната в Украйна вече доказа, че съвременните сражения се печелят не само с тежка броня, но и с усъвършенстван софтуер. В този нов контекст въпросът вече не е дали машините ще участват в бойните действия, а дали човекът ще остане последната морална и юридическа инстанция, която носи отговорност за последствията от употребата на сила.