Първата фабрика в Пекин за производство на текстови единици за големи езикови модели (LLM) е достигнала дневен производствен капацитет от повече от 1,4 трилиона жетона, според Административния комитет на зоната за икономическо-технологично развитие на Пекин, известна още като Beijing E-Town.
Фабриката произвежда жетони, които са най-малката единица текст, обработвана от LLMs и други системи с изкуствен интелект за разбиране и генериране на човешки език.
Наскоро завършена в Beijing E-Town, Beijing No 1 Token Factory интегрира изчислителна мощност, полупроводникови чипове, висококачествени набори от данни и LLM, за да подобри изхода на токени за единица потребление на енергия, като същевременно повишава цялостната стабилност на системата, според прессъобщение, издадено от зоната за развитие.
За разлика от конвенционалните изчислителни центрове, които основно наемат необработени изчислителни ресурси, фабриката за токени предоставя едновременно хардуерна инфраструктура и софтуерни услуги, трансформирайки изчислителната мощност в готови за производство токени, които могат да се използват директно от AI приложения.
Според областта на разработка, около 50 процента от компютърните задачи се изпълняват в рамките на шест секунди, докато 90 процента получават отговор в рамките на 10 секунди. Колебанията в производителността се поддържат в рамките на 20 процента.
Служител от административния комитет каза, че следващата фаза ще свърже фабриката с изчислителни бази за зелена енергия в Zhangjiakou, провинция Hebei, и Ulaanqab, автономен регион Вътрешна Монголия, за да се изгради интегриран изчислителен клъстер Пекин-Тиендзин-Хъбей.
„Фабриката за токени ще продължи да се разширява към дългосрочната цел за производство на 10 трилиона токена на ден“, каза служителят.