OpenAI вече не се задоволява само с писането на най-умния софтуер, а решава да създаде и „мозъка“, върху който той работи. Компанията представи Jalapeño – своя първи собствен AI ускорител, разработен в стратегическо партньорство с Broadcom. Този ход е директен опит да се решат двата най-големи проблема на модерния изкуствен интелект: огромните разходи за изчислителна мощ и стряскащата консумация на електроенергия, които досега ограничавахте масовото внедряване на сложни модели.
Основният фокус на Jalapeño е т.нар. „инференс“ – процесът, при който вече обучен модел генерира отговори за потребителите. Тук новите чипове показват впечатляващи резултати, като успяват да надминат aktuellen хардуер на Nvidia по два критични показателя: скоростта на реакция и ефективността на консумираната енергия. Това означава по-бързи отговори и по-ниски сметки за ток за операторите на AI системи.
Данните от публичните тестове InferenceX са категорични. При работа с модела GPT-OSS 120B, Jalapeño предлага почти два пъти повече производителност на киловат в сравнение със системата Nvidia GB200, като същевременно намалява закъснението в отговорите с около 1,7 пъти. Това е сериозен сигнал за индустрията, че зависимостта от един единствен доставен хардуер може скоро да приключи.
Дори при изключително тежки натоварвания с гиганти като DeepSeek R1 и модела Kimi K2.5, който разполага с около един трилион параметри, новият чип на OpenAI доминира. При DeepSeek R1 латентността е намалена до 3,6 пъти спрямо Nvidia GB300, а при Kimi K2.5 времето за реакция е подобрено 3,4 пъти, при запазена висока енергийна ефективност.
Важно е обаче да се отбележи, че OpenAI не твърди, че Jalapeño е универсален заместник на всичко, което предлага Nvidia. Става въпрос за специализирана система, оптимизирана за конкретни AI задачи, а не за общоцелев процесор. Въпреки това, стъпката към хардуерна независимост е огромна и променя правилата на играта в технологичната надпревара.
