Мнозина вярват, че строгите филтри на съвременните изкуствени интелекти са непробиваеми стени, които гарантират безопасното използване на технологиите. Но реалността често се оказва по-сложна и уязвима, отколкото разработчиците биха искали да признаят.
Екип от изследователи от британската компания Mindgard наскоро разтърси това спокойствие, демонстрирайки, че дори най-новите версии на ChatGPT могат да бъдат манипулирани. Те откриха начин да заобиколят защитните механизми на системата, за да генерират изображения, които в нормални условия биха били незабавно блокирани.
Методът, използван от специалистите, е изненадващо необичаен – той се основава на модификация на хумористичен промпт. Вместо да подават директни и агресивни команди, изследователите използват завуалиран подход, който кара AI да игнорира своите етични настройки и да създава съдържание, нарушаващо правилата за безопасност.
Резултатите от тези тестове са стряскащи. Системата е генерирала визуални сцени с тежки физически наранявания, кръв и провокативни образи, въпреки че в самите заявки на потребителите не е имало нито една дума, която изрично да изисква насилие или неподходящо съдържание.
Този случай е сериозен сигнал за индустрията. Той доказва, че генеративните модели все още са податливи на неочаквани манипулации, а „безопасността“ на AI остава една открита битка между инженерите и тези, които търсят пролуки в кода.