Компания Clarifai представила инновационный движок логики, который удваивает скорость работы ИИ-моделей и снижает их стоимость на 40%. Этот адаптивный движок оптимизирует использование оборудования, позволяя получать больше вычислительной мощности без необходимости менять железо.
По словам генерального директора Мэттью Зайлера, система использует разнообразные технологии — от оптимизации CUDA ядра до продвинутых методов спекулятивного декодирования, что позволяет максимально эффективно использовать существующие видеокарты.
Результаты были подтверждены независимой компанией Artificial Analysis, которая провела серию тестов и отметила лидерство Clarifai по показателям производительности и задержек.
Новый движок ориентирован на ускорение инференса — этапа, когда уже обученная модель выполняет вычисления. Особенно это важно для современных многошаговых и агентных моделей, требующих сложных последовательных действий в ответ на одну команду.
Изначально Clarifai специализировалась на компьютерном зрении, но с ростом спроса на GPU и дата-центры компания сосредоточилась на оркестрации вычислений. Новый движок стал первым продуктом, специально созданным для многошаговых агентных моделей.
В условиях стремительного развития ИИ и масштабных инвестиций в инфраструктуру, Clarifai подчеркивает, что помимо наращивания вычислительных мощностей, важна оптимизация уже существующих ресурсов с помощью программных и алгоритмических инноваций. По мнению Зайлера, это только начало пути к эффективному использованию вычислительных мощностей будущего.
