Легковесний C99-рушій для LLM: запуск моделі 2.78T на CPU
Нещодавно з’явився репозиторій kimi-k3-in-c, який ламає шаблони: модель на 2,78 трильйона параметрів запускається на звичайному CPU, виживаючи всього на 8,24 ГБ оперативки. Без BLAS, без фреймворків, без GPU — лише власне управління пам’яттю та потокова… Легковесний C99-рушій для LLM: запуск моделі 2.78T на CPU









