В цифровия свят на нашите деца се появи нов, странен феномен, известен като „AI slop“. Това са кратки, генерирани от изкуствен интелект видеа, които завзеха платформите на TikTok и YouTube. На пръв поглед те изглеждат като безобидно забавление, но зад ярките цветове се крие тревожна тенденция.
Експертите бият тревога, че съдържанието на тези клипове става все по-мрачно. Вместо забавни истории, подрастващите все по-често попадат на мелодраматични сюжети, изпълнени с плач и трагедии. Най-плашещото обаче е фактът, че в тези продукции започват да се появяват сцени на открито насилие и дори изтезания.
Един нов и стряскащ анализ, проведен от Global Network on Extremism and Technology (GNET), разкрива още по-дълбок проблем. Изследователите откриха, че популярните видеа, в които се появяват антропоморфни плодове и зеленчуци, създадени с AI, се използват като прикритие. Тези сюрреалистични образи се превръщат в инструмент за разпространение на екстремистки идеи и насилствени послания.
Този тип съдържание е особено опасно, защото използва алгоритмите на социалните мрежи, за да достигне до най-уязвимите потребители. Когато визуалният стил е привлекателен и детски, филтрите за безопасност често пропускат опасни послания, които могат да повлияят на психиката на децата.
Ситуацията подчертава необходимостта от по-строг родителски контрол и по-ефективни механизми за модериране на AI генерираното съдържание. В ерата на автоматизираното творчество, границата между детската приказка и цифровия кошмар става все по-тънка.