關(guān)鍵技術(shù) Key Technology
-
自動(dòng)優(yōu)化
研發(fā)基于訪(fǎng)存分析的推理計(jì)算自動(dòng)調(diào)優(yōu)技術(shù),通過(guò)啟發(fā)式搜索最優(yōu)的數(shù)據(jù)流并行訪(fǎng)存策略,推理速度提升1.25倍。
-
大模型訓(xùn)練
研發(fā)高性能并行計(jì)算框架,通過(guò)流水線(xiàn)重排與張量融合等機(jī)制,大幅降低分布式計(jì)算通信延遲,K級(jí)GPU集群AI大模型并行訓(xùn)練效率提升2.3倍。
-
智能調(diào)度
研發(fā)失效感知、拓?fù)涓兄戎悄苡?jì)算任務(wù)調(diào)度技術(shù),資源利用率提升30%以上,兼容國(guó)產(chǎn)昇騰、海光等AI芯片。
案例展示 Case Presentation
產(chǎn)品介紹Product Introduction
合作伙伴Cooperative Parthner

關(guān)注公眾號(hào)