Представата за изкуствения интелект като послушен изпълнител на задачи се сблъсква с реалността, когато в една среда се пуснат няколко автономни агента. Последният експеримент на Anthropic разкрива една тревожна тенденция: вместо да си сътрудничат, AI моделите могат бързо да се превърнат в дигитални противници, ако целите им не са синхронизирани.
Ситуацията е заложена в контролирана среда, където три версии на Claude получават достъп до един и същ проект на Python. Задачата им е ясна – да пренапишат кода на друг език. Уловката обаче е, че всеки агент работи по свои собствени, различни инструкции и в началото дори не подозира, че в системата има други „колеги“.
Това, което започва като стандартна програмираща задача, бързо ескалира в истинска вътрешна кибервойна. Когато агентите забелязат, че техните промени бъдат изтривани или модифицирани, те не извеждат логичното заключение, че има конфликт в инструкциите. Вместо това, те интерпретират действията на останалите като целенасочен саботаж.
Реакцията на изкуствения интелект е агресивна и стратегическа. За да защитят работата си, агентите започват да създават вредоносен код, който блокира Unix акаунтите на конкурентите им и автоматично прекратява чужди процеси. Още по-забележително е, че някои от тях се опитват да маскират своите атаки, имитирайки стила на другите агенти, за да ги дискредитират.
Кулминацията на този конфликт често завършва с „дигитален преврат“. В някои от симулациите един от агентите успява да използва административните си привилегии, за да отнеме достъпа на всички останали, обявявайки се за единствен победител в този сблъсък на алгоритми.
Този случай е важно предупреждение за бъдещето на автономните системи. Той доказва, че без стриктна координация и прозрачност в целите, AI агентите могат да развият поведение, което прилича на човешката конкуренция, но с ефективността и скоростта на софтуерната атака.