Изкуственият интелект често се представя като върховният инструмент за прогрес, но съществува и тъмна страна, която започва да плаши дори самите създатели на тези технологии. Границата между научния пробив и глобалната заплаха става все по-тънка, когато става въпрос за синтетичната биология.
Основният риск се крие в способността на съвременните езикови модели да обработват и синтезират огромни масиви от специализирана научна информация. Това превръща AI в нещо като „инструкция за употреба“ за създаването на опасни биологични агенти, като улеснява процеси, които доскоро бяха достъпни само за малък брой експерти.
В миналото, за да се синтезира ДНК или да се проектират сложни протеини, са били необходими години на академично образование и достъп до строго контролирани лаборатории. Днес обаче AI може да предостави подробни насоки за тези процеси, което драстично понижава прага за достъп до знания, които могат да бъдат използвани за биотероризъм.
Осъзнавайки мащаба на опасността, гиганти като OpenAI, Anthropic и Microsoft, заедно с група водещи учени, предприеха решителна стъпка. Те изпратиха официално предупреждение до Белия дом, конкретно до Управлението по наука и технологична политика, настоявайки за незабавни мерки.
Целта на това писмо е да се наложи много по-строг контрол върху начина, по който изкуственият интелект се използва в биологичните изследвания. Технологичните лидери признават, че без подходящи регулации, инструментите, създадени за добро, могат да се превърнат в най-голямото оръжие в ръцете на злонамерени лица.