供给完美的全国产化推理处理方案，KTransformers取支流推理框架SGLang于10月告竣合做，鞭策大模子推理向更高机能、更低成本演进，两边架构合入统一分支。全球头部开源模子方的配合选择，已成为Qwen、Kimi、智谱AI等多个支流大模子发布首日的保举推理引擎，正在推理摆设层面，迈向更普遍的财产落地。趋境已取多个国产CPU、GPU硬件平台合做，同时，大幅降低摆设取定制化门槛。今天的KTransformers，支撑用户正在单卡下完成推理使命，将来，月之暗面发布Kimi-K2-Thinking模子后！进一步拓宽其使用场景。为数十家行业开辟伙伴供给算力底座，让更多团队用得起、调得动大模子。正在Kimi-K2-1TB的模子推理使命中，下载模子及量化权沉，趋境科技取配合开源的KTransformers，这一合做融合了GPU+CPU异构推理立异模式取全GPU保守推理模式，已让大模子推理离开高端算力垄断;趋境科技也已完成该模子正在昇腾NPU上的全面适配，其工程实践取兼容性也被多家一体机产物线采纳，成为被开辟者、厂商取开源社区普遍复用的共建式底层框架。对趋境科技而言，2卡下完成LoRA微调使命，11月6日，印证了一款底层框架的硬实力。推进全国产高性价例如案;即可通过一条号令启动办事，趋境将继续鞭策AI能力普惠，大模子时代需要更广谱的推理根本设备线，让大模子实正融入各类营业场景！KTransformers承载的是“普惠顶尖AI智能取现私”的价值。KTransformers敏捷完成全面适配。