<pre id="cq8v8"><td id="cq8v8"></td></pre>

  • <cite id="cq8v8"><track id="cq8v8"></track></cite>
    <s id="cq8v8"></s>
    
    

        <style id="cq8v8"></style>
        国产99视频精品免费视频36,一本一道av中文字幕无码,国产精品av中文字幕,亚洲天堂精品一区二区,www久久只有这里有精品,蜜臀av久久国产午夜,成人午夜大片免费看爽爽爽,亚洲人成电影在线天堂色
        關于ZAKER 合作
        光錐智能 10-20

        揭秘超節點,AI 算力需要“統一的語言”

        前沿科技,數智經濟

        AI 大模型帶動的熱潮,也在持續地席卷算力行業。

        從 CPU 到 GPU,再到 NPU,各種 AI 芯片逐漸成為了市場中的香餑餑。

        中國 AI 芯片也趁此機會開始崛起。從華為、阿里、百度等大廠,到寒武紀、云天勵飛、壁仞科技、摩爾線程等新興企業,中國 AI 芯片的單顆能力在不斷提升。

        但是,哪怕單顆芯片能力再強,算力也不能夠滿足大模型的需求。

        尤其是隨著大模型參數的不斷翻倍,很多企業可能都會遇見的問題,就是 8 張卡的服務器根本跑不動,勉強用多臺機器拆分任務,結果 CPU、AI 芯片、存儲之間 " 各說各話 ",數據傳著傳著就 " 堵車 ",算力損耗快到一半。

        更要命的在于,不同廠商的設備像說不同方言的人:

        A 廠的 CPU 用一套協議,B 廠的 GPU 用另一套,數據從 CPU 傳到 GPU,得先 " 翻譯 ",一來一回就浪費時間;甚至同一廠商的不同設備,規模擴大后性能也會 " 打折 ",比如 10 個節點本應發揮 10 倍算力,實際可能只到 1 倍,這就是行業常說的 " 線性度 " 問題。

        單個芯片算力不夠用、不同設備溝通有障礙,成了整個行業的 " 卡脖子 " 難題。那么,要怎么解決這些問題,才能夠支撐大模型的需求?

        眾所周知,當單獨作戰打不過之時,團隊配合戰斗則成為了贏取戰爭勝利的關鍵,而中國 AI 算力突破算力瓶頸的一個關鍵,就是開始走團隊戰斗路線。

        此前,華為發布了 " 超節點 " 架構,配套的技術則是 " 靈衢 "(UnifiedBus)。

        簡單理解兩者的關系,當單顆芯片算力不夠用,就需要將多種算力如 CPU、GPU、NPU、存力等統一起來干活,超節點架構就是將多種算力部件整合為一個大節點,而互聯協議則是讓這些部件能順暢溝通的規則,只有雙方相互配合,才能夠把整個算力系統的能力提升上去。

        其中最核心的就是靈衢技術,其搞出了 " 算力普通話 ",即一套能覆蓋所有場景的統一協議,不管是超節點內部的 CPU 和 GPU 的溝通,還是超節點之間的集群互聯,都不用換 " 語言 ",這就像全國都講普通話,不用到一個地方學一種方言,溝通效率自然高。

        這套 " 普通話 " 還打破了兩個關鍵界限:計算機網絡,如平時上網的物理層、鏈路層,以及計算機內部架構,如內存管理、節點控制等。

        過去,這倆像兩個獨立的房間,數據得 " 開門、進門、再開門 ",而靈衢直接拆了兩者之間的 " 墻 ",底層用網絡邏輯連設備,上層用架構邏輯管資源,數據傳輸的 " 路 " 一下子變通暢了。

        同時,靈衢的超節點也不是 " 把部件堆一起就行 "。華為專家強調,靈衢超節點是 " 超級單一節點 ",不是 " 松散的部件集合 ",就像把多間小房子改成一套大平層,所有家具(CPU、GPU、NPU、內存)都連在一條 " 統一的高速總線 " 上,不用再繞路,如交換機,過去只是 " 數據中轉站 ",現在在靈衢里成了 " 處理單元 ",能直接參與算力協作。

        基于這些突破,靈衢要實現四個目標,即讓不同算力 " 組隊干活 "(提升計算性能)、系統出問題能快速恢復(高可用)、內存帶寬等資源 " 集中共用不浪費 "(資源池化)、不同廠商部件 " 插進去就能用 "(組件貨架化)。

        這些目標的最終目的,都是為了讓整個算力系統 " 更高效、更靈活、更省錢 "。

        而華為靈衢之所以能夠實現 " 一套通吃 ",原因在于,華為從一開始就盯著 " 整個算力系統 ",不是只做單個產品,沒有受制于老產品的束縛。

        同時,華為靈衢于 2019 年正式立項,并把華為過去自研 IT 設備的經驗、技術成果,還有搞集群的工程經驗全部融入其中,同時還和鯤鵬、昇騰這些華為芯片一起反復測試。

        基于這些實踐經驗," 現在靈衢 1.0 已經完成產品化,經過了芯片驗證、集群交付驗證,是工業化級別的可靠系統。" 華為集群計算總經理朱照生說。

        華為集群計算總經理朱照生

        同時,在具體落地客戶實踐場景中,也會考慮客戶原有設備,比如客戶已有以太網,靈衢也能直接在上面跑,不用大改基礎設施,還能和現有的應用互通。

        而為了讓更多的廠商參與進來,華為還開放了靈衢的 " 全套說明書 ",即從物理層到事務層的協議規范全公開,甚至找了第三方做 " 協議驗證儀 "。

        " 不管是做 CPU 的、做 GPU 的,只要按規范做,就能用靈衢,未來還能通過第三方驗證是不是符合標準。" 朱照生說到," 說實話,靈衢發布后,已經有很多廠商找過來跟我們交流,這已經超出了我們最初的預期。" 畢竟,在其預期中,可能只有 2-3 家頭部廠商會找過來。

        業內皆知,過去,不同廠商的協議不互通,客戶只能 " 綁定一家 ",選擇少還貴。但現在靈衢開放了協議,不管是華為的競爭對手,還是中小廠商,都能基于靈衢做產品。

        朱照生說:" 我們希望先做企標,再慢慢形成團標、甚至國標,讓大家一起把算力基礎設施做好。" 比如某廠商想做 GPU,不用自己再搞一套協議,直接用靈衢,就能和華為的 CPU、其他廠商的存儲兼容,大大降低了研發成本。

        據靈衢系統架構師介紹,在 AI 大模型訓練場景,通過超節點互聯降低通信占比,端到端性能收益達到 20%+;通算數據庫場景,通過三層池化支撐多寫多讀,TPCC 提升 20%。結論表明,靈衢技術特別適合高并行、高同步的負載特征場景,能為業務帶來顯著提升。

        另外,當前行業關于超節點是否越大越好也存在著諸多爭議。對此,朱照生的回答很坦誠:" 現在沒人能說清‘甜點區’在哪,因為 AI 的發展總是超出預期。我們能做的,就是把超節點的規模做大,給行業留足空間。"

        因此,靈衢 2.0 作為核心技術底座,支撐華為發布兩款超大規模算力產品,覆蓋不同階段需求:

        Atlas 950 SuperCluster(2026 年 Q4 上市):由 64 個 Atlas 950 超節點組成,FP8 算力達 524 EFLOPS,規模與算力超過當前全球最大集群 xAI Colossus;

        Atlas 960 SuperCluster(2027 年 Q4 上市):百萬卡級集群,FP8 算力 2 ZFLOPS、FP4 算力 4 ZFLOPS,支持 UBoE(靈衢推薦模式)與 RoCE 協議,適配未來更大規模 AI 訓練、推理需求;

        越大的超節點集群,整體算力性能越突出,以 Atlas 950 SuperPoD 為例,其支持 8192 張昇騰卡,訓練吞吐達 4.91M TPS,推理吞吐達 19.6MTPS,遠超前代產品。

        " 如果我們不能夠準確預判未來負載模型一旦收斂于某一類模型某一個大小,我們就沒法在算力基礎設施層面給它設個框,如果設定那個框,那個框一定會反過來制約模型發展。" 朱照生說。

        當前,我們不難發現:算力的競爭,早已不是 " 單芯片誰更強 ",而是 " 系統誰更高效 "。

        靈衢的價值,就在于用一套 " 通用語言 ",把分散的算力聚合成一股力量,它或許不會馬上改變所有,但至少給行業指了一個方向:未來的計算,不該有 " 語言壁壘 ",不該有 " 設備孤島 "。

        光錐智能"AI 交流群 "已建立,

        感興趣的朋友可以添加小助手微信(GZZN2019)溝通進群。

        聯系我們

        王一粟

        創始人 / 主編

        ID:cishicike000

        ※添加時請備注公司 + 姓名 + 來意

        相關標簽
        光錐智能

        光錐智能

        來這里,看千行百業的數字化、智能化。

        訂閱

        覺得文章不錯,微信掃描分享好友

        掃碼分享
        主站蜘蛛池模板: 91高清免费国产自产拍| 国产在线线精品宅男网址| 亚洲爆乳WWW无码专区| 欧美日产国产精品| 中文文字幕文字幕亚洲色| 免费国精产品wnw2544| 亚洲欧美综合精品成| 精品国产伦理国产无遮挡| 亚洲AV成人无码久久精品| 崇阳县| 成人精品自拍视频免费看| 一区二区三区四区自拍视频| 九九九国产| 亚洲欧洲日韩国内精品| 国产乱对白刺激视频| 2019亚洲午夜无码天堂| 一本大道色婷婷在线| 欧美偷窥清纯综合图区| 日韩熟女精品一区二区三区| 精品国产自线午夜福利| 国产精品乱码久久久久久小说| av色蜜桃一区二区三区| 男人一天堂精品国产乱码| 国产成人精品白浆免费视频试看| 国产精品无码a∨麻豆| 老司机亚洲精品一区二区| 亚洲A综合一区二区三区| 亚洲2017天堂色无码| 亚洲精品国产精品乱码不卡 | 永久无码天堂网小说区| 91密桃精品国产91久久| 粉嫩小泬无遮挡久久久久久| 久久精品国产免费观看频道| 日韩视频一区二区三区视频| 亚洲av影院一区二区三区| 日韩精品亚洲精品第一页| 亚洲国产另类久久久精品| 影音先锋2020色资源网| 呼伦贝尔市| 麻豆av一区二区三区| 欧美午夜成人片在线观看|