开云体育,开云体育官方网站,开云体育APP下载

　　此外，AI推理在规模化部署时暴露出的脆弱性，也成了操作系统必须解决的新课题。“一个最低成本的推理服务可能需要几十台机器、几百张卡。但今天，一旦其中一张卡坏了，或者因为模型升级需要扩容时买不到同款卡，整个服务就可能瘫痪。”杨勇揭示了企业客户在私有化部署AI时面临的真实困境，“我们正在社区推动诸如‘AFD’（Attention Forward Disaggregation）这样的技术方案，目标是让不同型号、不同代的AI加速卡能够在一个集群内协同工作，就像传统服务器扩容一样自然。”