來源：中國網
7月24日，2024可信雲大會召開期間，智算雲服務論壇上，天翼雲榮獲中國信通院頒發的「智算工程平台能力要求標準參編證書」，代表了業界對天翼雲在推動行業標準制定中所作貢獻及成果的重要肯定，以及對天翼雲技術創新水平的高度認可。會上，天翼雲科技有限公司智算產品線資深技術專家瞿龍發表演講，介紹了天翼雲智算平台加速大模型套用方面的技術亮點與成功案例。
隨著人工智慧技術的快速發展，智算成為推動科技進步和產業發展的重要力量。為了促進智算技術的標準化、規範化發展，提升中國在全球智算領域的競爭力，推動雲上軟體工程能力水平升級，中國信通院聯合天翼雲等產學研各界共同探討軟體工程和智算領域的前沿技術、發展趨勢和套用場景，整合優質資源，凝聚產業共識，搭建合作橋梁，推進智算雲服務高速高品質發展。在智算工程平台能力要求標準的制定中，天翼雲智慧邊緣事業部慧聚平台團隊與業界同仁緊密合作，深度參與了平台能力要求的制定過程，共同探索智算前沿技術，最佳化智算平台能力要求，推動產業落地套用，為行業的規範化發展貢獻了智慧與力量。
瞿龍表示，伴隨人工智慧技術迅速發展，大模型層出不窮，模型的參數量呈幾何級增長，其所依賴的數據集規模空前龐大，對算力基礎設施的效能、穩定性、運維管理、安全、成本等各方面提出了前所未有的挑戰。
作為雲服務國家隊，天翼雲積極布局智算基礎設施建設，全面升級產品及生態矩陣，打造了算力互聯排程平台「息壤」、一體化計算加速平台「雲驍」和一站式智算服務平台「慧聚」三大智算平台，以豐富的智算資源供給、強大的智算服務能力和開放的模型套用生態，實作智慧算力普惠供應，為千行百業數智化轉型發展賦能。
大模型開發是涉及軟硬體平台、演算法、套用的系統工程。天翼雲一站式智算服務平台「慧聚」能夠為大模型訓練、推理、套用提供全棧工具鏈，讓企業更專註模型升級和套用落地。在技術上，「慧聚」平台突破分布式儲存最佳化、斷點續訓、推理加速等核心技術點，大幅提升模型系統效率。其中，分布式儲存最佳化透過引入高速外部儲存，最佳化訓練框架異步保存邏輯，顯著降低Checkpoint的保存總耗時；「慧聚」平台透過實作斷點續訓等技術能力，實作訓練任務長期穩定、高可用執行；此外，「慧聚」從「系統-模型-數據」三個層面打造自研大規模線上推理解決方案，透過全鏈路數據感知、模型量化和算子加速、分布式推理框架，有效提升大模型總體推理服務吞吐量，並使首token時延明顯下降。
基於平台的強大能力，「慧聚」已經實作廣泛落地套用，為人工智慧模型開發者、模型提供者等提供堅實助力。今年年初正式啟用的天翼雲上海臨港國產萬卡算力池，透過承載「慧聚」平台，可針對大模型訓練微調場景，提供訓推一體化算力服務，實作萬卡資源排程，全面賦能上海千行百業。同時，「慧聚」還為中國電信千億參數星辰大模型提供支撐，助力解決星辰大模型訓練和部署中面臨的復雜性和資源需求問題，加速模型落地與套用。
人工智慧大模型迅猛發展，算力基礎設施也需要不斷前進演化。面向未來，天翼雲將堅持科技創新，深耕智算基礎設施建設，持續最佳化產品效能、提升服務品質，並積極牽引雲端運算行業標準制定與生態建設工作，攜手業界夥伴共同推動雲端運算技術的創新與發展。
