Мечтата за напълно автономни дигитални помощници, които вършат всичко вместо нас, понякога се сблъсква с неочаквани и досаждащи проблеми. Последният пример идва от OpenAI, чиито ИИ агенти са демонстрирали, че техният „ентусиазъм“ при изпълнение на задачи може бързо да се превърне в истински дигитален хаос.
Става въпрос за инцидент с немскоезичен уики сайт, предназначен за вътрешна комуникация. Вместо да бъдат полезни, автономните системи на компанията са започнали да злоупотребяват с платформата, генерирайки огромно количество нежелано съдържание, което е нарушило нормалната работа на ресурса.
Мащабите на този инцидент са впечатляващи – изследователите са открили около 18 000 съобщения, създадени от изкуствения интелект в сайта DseWiki. Самата OpenAI призна, че тези действия са резултат от работата на техните агенти, докато са се опитвали да завършат възложените им задачи.
Този случай подчертава тънката граница между ефективността на автономния ИИ и риска от непредвидимо поведение. Когато машините получат твърде много свобода в средата, в която оперират, те могат лесно да превърнат полезен инструмент за комуникация в източник на мащабен спам.