清华打造赤兔引擎：为国产AI算力注入新动能

  2025年3月14日，清华大学高功能核算研究所翟季冬教授的团队与清华系创企清程极智一起推出了令人瞩目的开源大模型推理引擎“赤兔Chitu”，该引擎完成了在非英伟达Hopper架构的GPU和各类国产芯片上原生运转FP8精度模型的革命性打破。

  面临全球抢先的FP8模型长时间依靠英伟达高端GPU的窘境，国内企业在大模型布置时常常受限于硬件可用性，清华团队的这一立异应运而生，打破了“硬件绑定”的约束。清程极智CEO汤雄超指出：“赤兔的方针是成为多元算力与大模型运用之间的桥梁。”不只支撑全系列英伟达GPU，还进行了国产芯片的深度优化，供给对FP8精度模型的高效支撑。

  在实践中，赤兔引擎展现出明显的功能优势。在与DeepSeek-R1-671B的集成测验中，赤兔引擎在节省了50% GPU运用量的一起，推理速度依然提高了3倍，极大地降低了企业布置AI模型的本钱，助力企业在减本增效的路途上大步前行。

  翟季冬教授着重，赤兔不单单是一个技能东西，更是为完成国产AI算力的真实潜力而斗争的标志，旨在推进中国大模型工业的全面发展。赤兔引擎的推出标志着“国产大模型+国产引擎+国产芯片”技能闭环的加快构成。

  跟着渐渐的变多的国产模型如DeepSeek-R1、QwQ的迸发，“赤兔”的开源不只为国内公司能够供给了灵敏高效的AI布置计划，也让竞争力益发旺盛的国产AI芯片得到了应有的注重。而清程极智还推出了根据赤兔的推理一体机，简化了企业的AI落地流程，推进了AI技能的遍及。

  因而，赤兔引擎的开源不只是技能同享，更是为国产硬件“抢时间”，补偿与世界抢先水平之间的距离。不管运用何种芯片，赤兔都一直以超高的性价比的姿势现身于商场，尽力让国产AI基础设施从追逐迈向引领的新时代。回来搜狐，检查更加多