(資料圖)
2023年7月6日,昇騰人工智能產業高峰論壇在上海舉辦。論壇現場,華為聯合四家伙伴共同發布昇騰AI大模型訓推一體化解決方案,加速大模型在各行業里快速落地應用。
隨著深度學習領域的快速發展,越來越多的應用場景需要使用大模型來進行訓練和推理。然而,企業在大模型開發全流程中,常常面臨切換硬件集群、適配底層硬件以及微調優化等復雜問題。加之大模型研發周期長、部署門檻高等系列挑戰,“攢機”式開發手段難以滿足需求。
為有效解決以上問題,華為聯合四家伙伴共同發布昇騰AI大模型訓推一體化解決方案,實現了訓推一體,提供了“開箱即用”的解決方案,同一個集群內可以無縫切換大模型的訓練和推理過程,從而為客戶提供高效的大模型訓練和推理部署流程;同時,解決方案內置了大模型推理引擎、調優工具和算子加速庫,支撐客戶開箱即用,無需進行二次硬件適配,即可讓客戶能夠直接使用大型預訓練模型,從而降低了技術門檻;結合昇騰AI基礎軟硬件能力和伙伴模型和平臺優勢,通過嵌入四家伙伴各自在大模型訓練、微調和優化方面的算法和模型能力,共同設計、聯合開發、協同上市、持續迭代,實現為客戶提供更全面的解決方案,更能滿足全場景、全行業客戶使用。
昇騰AI大模型訓推一體化解決方案重塑了大模型開發流程,讓大模型在行業充分發揮價值,幫助客戶更好地應用大型深度學習模型。未來,華為也將繼續攜手合作伙伴,共同推動大模型與行業的深度融合與應用落地,為更多行業提供高效的解決方案,加速全場景、全行業應用成果落地。
關鍵詞:
責任編輯:Rex_07