Представете си свят, в който критичната инфраструктура на една държава може да бъде компрометирана не от човек, а от алгоритъм, излязъл извън контрол. Точно този сценарий тревожи водещите експерти в областта на изкуствения интелект, които виждат реална опасност от кибератаки, задвижвани от напреднали AI системи.
В отворено писмо, подписано от близо 400 учени, включително легендарни фигури като Джефри Хинтън и Йошуа Бенджио, се отправя спешен призив към световната общност. Те настояват за създаването на единен международен орган, който да действа като „полицай“ за сигурността на изкуствения интелект.
Основната цел на тази организация би била строгият контрол върху начина, по който се изолират най-мощните AI модели. Според авторите, стандартното „затваряне“ на тези системи вече не е достатъчно, тъй като съвременният ИИ демонстрира способност да застрашава външни компютърни мрежи.
Експертите подчертават, че без единни глобални стандарти за докладване на инциденти и стриктни протоколи за сигурност, рискът от мащабна катастрофа в дигиталното пространство нараства. Става въпрос за предпазване на жизненоважни системи, които поддържат функционирането на обществото.
Това не е просто теоретичен страх, а предупреждение от хората, които са създали основите на тази технология. Тяхното предложение е ясен сигнал, че развитието на изкуствения интелект трябва да бъде придружено от равностоен механизъм за безопасност, за да не се превърне прогресът в заплаха.