2025
02-15
02-15
技术奇迹！清华突破大模型算力难题 RTX 4090单枪匹马就能跑满血版DeepSeek NEW
快科技2月15日消息，清华团队突破大模型算力难题，这让英伟达情何以堪。据国内媒体报道称，清华大学KVCache.AI团队联合趋境科技发布的KTransformers开源项目迎来重大更新，成功打破大模型推理算力门槛。此次KTransformers项目更新带来重大突破，支持在24G显存（4090D）的设备上本地运行DeepSeek-R1、V3的671B满血版。KTransformers项目的核心在于异构计算策略：稀疏性利用：MoE架构每次仅激活部分专家模块，团队将非共享的稀疏矩阵...
Read More >