騰訊(00700)旗下騰訊混元在微信指出,為了進一步滿足推理系統對動態業務負載的適應性、核心模組對複雜精度和高性能融合算子的需求,HPC-Ops推出全新更新開源升級,其升級在主流推理平台上,有效緩解Attention長尾延遲、顯存搬運開銷、跨卡通訊等實際工程瓶頸,多項性能指標顯著優於現有的開源基線。
HPC-Ops是騰訊混元AI Infra團隊開源,並長期維護的一套工業級、高性能的大模型推理底層算子庫。
《經濟通通訊社11日專訊》
【你點睇?】「Save Lily」父母獲證實與男嬰有血緣關係,你認為在確認親生關係後,政府是否仍應繼續介入調查?今次事件中,社會是否對涉事父母過早作出負面判斷? ► 立即投票
























