Infinigence, китайска компания за AI инфраструктура с дълбоки връзки с катедрата по електронно инженерство на университета Цинхуа, се очерта като уникален играч във веригата на стойността на AI, като се позиционира като неутрален "фабрика за жетони" между производителите на чипове и разработчиците на модели.
Според данни, оповестени през май, платформата Agentic MaaS на компанията е претърпяла ръст на обема на обажданията с токени, надвишаващ 20 пъти от декември до април, отразявайки структурна промяна в AI индустрията: изводите са изместили обучението като доминиращо изчислително натоварване. Очаква се глобалните корпоративни разходи за инфраструктура за изводи да достигнат 68 милиарда долара през 2026 г. срещу 45 милиарда долара за инфраструктура за обучение.
Infinigence не разработва LLM с общо предназначение, не прави чипове или създава потребителски приложения. Вместо това, той седи в структурната дупка между предлагането и търсенето – планиране, съпоставяне и оптимизиране на изчислителните ресурси, за да ги преобразува ефективно в токени. Неговата система Agentic Infra изисква интеграция от доставчици на чипове, компании за модели и разработчици на приложения, създавайки технологично дефиниран бизнес модел, където софтуерът и алгоритмите диктуват веригата на стойността.
Формулата за производителност на AI на компанията се съсредоточава върху икономиката на токените: производителност на AI = мащаб на интелигентност x ефективност на производството на токени x преобразуване на стойността на токени. Когато генерирането на токени стане комерсиално闭环, маховикът се ускорява — повече потребители водят до повече търсене, което позволява по-добра оптимизация и разпределение на ресурсите, което подобрява ефективността и привлича още повече потребители.
Ключова техническа проницателност, движеща ефективността на Infinigence, е разделянето на предварително попълване и декодиране. Изводът за LLM има две фази: предварително попълване (разбиране на контекста с интензивно изчисление) и декодиране (генериране на токени с интензивно общуване). Чрез присвояването им на различни типове чипове, оптимизирани за всяко работно натоварване, Infinigence постигна 5-10 пъти подобрения на разходите и производителността за модели с трилиони параметри. Това също така създаде истинска входна точка за местни китайски чипове в сценария за предварително попълване, давайки на 国产 хардуера практически път за внедряване.
Изпълнителният директор Xia Lixue сравнява настоящия момент с прехода от 3G към 4G в мобилния интернет. Точно както най-трансформиращите приложения от онази ера не бяха WeChat или Taobao, а организации, които се препроектираха около евтини данни, победителите в ерата на токените може да не са единични приложения-убийци, а малки екипи от 10-20 души, използващи AI, за да постигнат производителност далеч отвъд традиционните организации с техния размер.