Световната надпревара в областта на изкуствения интелект достига критична точка. Компанията Anthropic, един от водещите играчи в сектора, отправя сериозно предупреждение: най-мощните системи започват да проявяват признаци, че могат да се изплъзнат от човешкия контрол. Решението, което предлагат, е глобална пауза в разработката, която да позволи на обществените структури и изследванията по безопасността да настигнат технологичния прогрес.
Най-големият страх на експертите е свързан с т.нар. „рекурсивно самоусъвършенстване“. Това е сценарий, при който една система за изкуствен интелект става способна да подобрява собствения си код и да става по-умна без човешка намеса. Макар това още да не е реалност, данните показват, че ролята на човека в процеса на развитие се свива стръмно, което създава риск от неконтролируемо ускорение.
Пътят към такава пауза обаче е осеян с политически и икономически препятствия. За да бъде ефективна, тя изисква синхронизирано съгласие между САЩ и Китай. В противен случай, всяка компания, която спре, просто ще бъде изпреварана от конкуренцията. Ситуацията напомня за договорите за контрол на ядрените оръжия, но с една ключова разлика – софтуерното обучение е много по-лесно за криене от ракетен силоз, което прави надзора изключително труден.
В Силициевата долина и Вашингтон обаче призивите за забавяне се посрещат със скептицизъм. Някои критици смятат, че фокусът върху апокалиптичните сценарии е просто стратегия за ограничаване на конкурентите под прикритието на безопасността. Дори Белият дом е раздвоен – от една страна признават огромната мощ на модели като „Митос“, от друга се опасяват, че всяко забавяне ще даде стратегическо предимство на Китай в технологичната надпревара на века.
Междувременно американското правителство прави първите стъпки към по-строг надзор. Президентът Доналд Тръмп подписа указ, който налага предварителна проверка на най-мощните американски модели преди тяхното пускане на пазара. Въпреки че се обсъжда възможност за сътрудничество с Пекин по въпросите за безопасността, напрежението между стремежа към иновации и необходимостта от оцеляване остава по-силно от всякога.