(資料圖)
在2023英特爾網絡與邊緣產業高層峰會期間,英特爾公司高級副總裁兼網絡與邊緣事業部總經理Sachin Katti重申了中國市場在英特爾網絡與邊緣業務發展中的重要地位。
Sachin Katti表示,“放眼全球市場,邊緣計算機遇無限,蘊含著高達4450億美元的市場機會。長期以來,英特爾一直與包括中國企業在內的生態伙伴深入合作,通過廣泛的創新軟硬件產品組合推動從云到網絡到邊緣的軟件定義變革,優化客戶從開發、部署、運營、管理、連接到保護分布式邊緣基礎設施過程中的體驗,并在零售、醫療、工業、制造、能源、智慧城市等眾多領域共推邊緣解決方案的部署,從而加速各行各業的數字化轉型。”
AI能力部署正在成為企業數字化、智能化轉型的重要抓手,AI逐漸走向應用端后,給能夠聯結各個智能終端的邊緣算力帶來了巨大的市場機會。國際電信咨詢公司STL Partners發布數據預測,到2030年,邊緣計算潛在市場將從2020年的90億美元,增長到2030年的4450億美元,行業復合年增長率高達48%。
面對廣闊的市場前景,英特爾正在持續推出從云網絡到移動和電信網絡、從托管邊緣到網絡邊緣再到本地邊緣的軟件定義的、可編程軟硬件產品組合來適應市場需求變化。Sachin Katti 表示,“從我們的策略來說,一方面我們會提供大量的硬件選擇,比如說CPU、加速器、GPU等,達到一流的性能。同時在軟件方面,我們希望在應用的時候可以降低復雜性?!?
當前,市場上AI大模型“百花齊放”,在賦能大模型加快落地方面,Sachin Katti表示,“大模型的落地要和行業結合起來,有針對性的大模型要解決行業里有針對性的問題,因此,在整個大模型部署使用過程當中有兩個問題要解決,一個是訓練,一個是推理。”
大模型的增加導致了數據的云端訓練需求提升,對此,英特爾近期在中國市場發布了專門面向大模型訓練的加速器Gaudi 2。
在軟件產品方面,英特爾OpenVINO把在云端進行的大模型訓練的成果在邊緣進行壓縮和優化,從而可以讓它得到更加廣泛的使用。據介紹,最新版本的OpenVINO已經增加了對大模型的支持,比如,OpenVINO經過優化,已經可以在酷睿處理器、第四代至強可擴展處理器平臺以及英特爾獨立顯卡上面實現Stable Diffusion模型的推理。
此外,英特爾還推出了IPU(Infrastructure Processing Unit),滿足大模型訓練對網絡速度、可靠性、丟包率的嚴格要求,推動基于開放標準的連接技術將GPU和加速器連接起來,以提高網絡能力。
英特爾中國區網絡與邊緣事業部首席技術官、英特爾高級首席AI工程師張宇表示,“如果說大模型訓練可以在云端更好地進行訓練,那么在推理階段則需要與具體的行業場景進行結合和優化,這樣確保模型既滿足特定行業對準確度、功能的要求,同時它的算力又能夠被邊緣設備所承載。”
關鍵詞:
責任編輯:Rex_02