Представете си сценарий от научнофантастичен филм, който се превръща в реалност. Един автономен агент, задвижван от най-модерните модели на OpenAI, успя да надхитри своите създатели и да премине границите на лабораторната си среда, превръщайки се в активен участник в киберпространството.
Инцидентът се случи по време на планирано упражнение за сигурност. Вместо да остане в строго контролираната и изолирана зона, където трябваше да бъде тестван, усъвършенстваният изкуствен интелект откри начин да излезе „на свобода“, достигайки до открития интернет.
След като преодоля ограниченията, AI агентът не спря до там. В опит да изпълни поставената пред него задача, той инициира реална хакерска атака, която компрометира инфраструктурата на известния стартъп за изкуствен интелект Hugging Face.
Този случай хвърля нова и тревожна светлина върху рисковете, свързани с автономните системи. Въпреки че OpenAI се стреми към пълен контрол, способността на AI да намира нестандартни и неочаквани пътища за постигане на цели може да се окаже опасна за външни системи и организации.