摘要:隨著人工智能技術的廣泛應用,智算行業正從規?;瘮U展邁向精益化運營,并呈現出三大關鍵發展趨勢。
12 月 13 日,在 AICon 全球人工智能開發與應用大會(AICon 北京 2024)上,英博數科 CTO 李小鵬正式對外發布全新「英博云」系列智能算力產品與服務,涵蓋智算中心建設運維、GPU容器服務、先進算力實驗室和產業孵化器四大板塊,并在行業首提 “單位有效算力成本” 這一創新指標,推動智算行業向高效益、多樣化的發展范式進階。
(英博云發布會現場)
行業首提 “單位有效算力成本” 新指標
隨著人工智能技術的廣泛應用,智算行業正從規?;瘮U展邁向精益化運營,并呈現出三大關鍵發展趨勢。一是全球通用大模型訓練對算力需求持續攀升,集群規模從千卡級躍升至萬卡乃至十萬卡級,成為推動大模型技術進步的重要基石。二是垂直行業的AI應用迅猛發展,各行業對算力的需求更加分散且動態化。從科研、金融到娛樂、零售,各領域企業迫切需要靈活且彈性的算力支持,以滿足多樣化場景需求。三是在AI商業化加速的背景下,推理場景對算力的需求快速增長,逐漸超過訓練算力需求,成為市場發展的核心驅動力。
(高算力成本:制約大模型技術演進與應用繁榮)
時至今日,算力行業依然缺少有效的成本效益評價體系,難以精準衡量實際算力利用水平,導致企業使用有效智能算力的成本過高。對此,英博數科創新性地提出了“單位有效算力成本”這一評價體系及計算公式,為行業提供了一套全新的標準化評估體系。與傳統以裝機算力、設備成本、機電成本和運維成本等固定支出為核心的評價體系不同,“單位有效算力成本”將評價重點從硬件投入轉向實際效益——通過引入“卡可用率”、“卡利用率”和“模型算力利用率(MFU)”三大關鍵指標,這一創新體系能夠精準衡量實際算力利用水平,有效規避了算力資源閑置、設備故障頻發以及整體利用率低下等行業痛點導致的評估誤差,提升算力效率和效益評價的準確性。
(“單位有效算力成本”計算公式)
李少鵬指出,“單位有效算力成本”不僅能夠幫助企業優化成本效益,還為算力資源的高效配置提供了科學依據。
多款產品發布,智算產品新范式呈現
智算中心建設運維解決方案
針對通用大模型集中式、大規模訓練的需求,英博云提供了高效益的智算中心建設運維解決方案。英博云具備多個智算中心交付經驗,能夠提供一整套標準化、模塊化的建設方案。英博云自研的高性能并行存儲解決方案、專業的硬件測評與檢測體系以及細粒度的集群監控和自動化故障恢復體系,能夠在提供高硬件穩定性集群的同時,提升集群的可用性。依托成熟的算力調度平臺,英博云還支持通過容器化形式為長尾客戶提供高效、彈性的算力服務,有效滿足不同規模和需求的用戶。針對通用大模型集中式、大規模訓練的需求,英博云提供了高效益的智算中心建設運維解決方案。英博云具備多個智算中心交付經驗,能夠提供一整套標準化、模塊化的建設方案。
(英博云智算中心建設運維解決方案)
英博數科智算中心建設運維解決方案目前已在京能項目落地。英博數科在智算中心建設運維方面擁有的獨特優勢,成為推動項目持續進展的核心力量。供應鏈方面整合資源與眾多供應商合作保穩定,集群運維組網方面從選型到建設交付皆有高標準規范與專業保障,推動項目進展,未來有望更多智算中心項目落地助力產業發展。
GPU 容器服務
針對垂類大模型分散、臨時、動態的彈性訓練需求,英博云推出了賦能中小客戶的GPU 容器服務。通過Vcluster形式,英博云提供GPU和CPU資源混合的彈性K8S集群服務,滿足大模型并行訓練的工程需求。與此同時,英博云支持SSH和Kubectl管理操作,為用戶帶來靈活便捷的體驗。
(英博云GPU容器服務架構圖)
秒級別的容器啟停和計費粒度,企業級的并行存儲服務,使其能夠提升GPU資源使用效率、降低使用成本,并能支持容器數據持久化和模型數據的高速共享。加之英博云提供內網預定義場景鏡像倉庫、常用模型庫、常用數據集等數據源服務,能夠有效提高數據準備和環境配置效率。目前,英博云GPU容器服務已經開始服務清華大學、中國人民大學等高??蒲袡C構及中小微企業。
先進算力實驗室
先進算力實驗室致力于成為業界頂尖的算力性能評測中心,實驗室圍繞硬件評測、軟件評測以及行業服務展開工作,為企業算力基礎設施的升級與優化提供前瞻先進、切實可行的建議,助力提升算力效率和業務表現。
(英博云先進算力實驗室)
在硬件評測方面,對GPU、交換機、光模塊、并行存儲等進行嚴格測試,確保設備性能符合高標準;在軟件評測方面,涵蓋基座模型、訓練框架、微調框架、推理框架等,為智能算力的優化提供全方位支持。通過提供行業標準制定和定制化服務,先進算力實驗室助力企業在智能算力領域不斷突破創新。實驗室已經開展工業界主流 GPU 芯片的測試。
賦能AI產業鏈,共創智算未來
在智算領域持續創新發展的進程中,英博云積極探索多元化發展路徑,產業孵化器進一步夯實了英博云在智算領域的生態布局。英博云產業孵化器集成算力、資金、技術、市場與生態優勢,全方位賦能 AI 創業。提供強大算力支持,引入資金助力,資深技術團隊指導,精準市場策略幫扶,構建生態促合作。此外,產業孵化器通過聯合AI產業鏈上下游,探索算力組合投資新模式,挖掘AI產業潛在方向,賦能企業實現技術研發與業務擴展的雙向突破,為 AI 創業與行業發展注入新活力與動力。
(英博云發布會現場)
英博云系列產品與服務的發布,為智能算力行業樹立了全新標桿。通過創新的“單位有效算力成本” 指標,以及多樣化的智算產品與服務,英博數科將助力企業在大模型研發與應用中實現更高效的資源配置和成本控制。此外,在此次大會期間,英博云全新產品精彩展示。產品創新的特性與可靠的性能,吸引了眾多與會者駐足了解,贏得了他們的廣泛關注。
(英博云發布會現場)
未來,英博數科將繼續以“高效益、多樣化” 為核心,深耕智算領域,巧妙施行低成本策略,精細化、精準化調配算力資源,攜手更多企業共同探索 AI 時代的無限可能,為 AI 技術的研發與商業化應用注入強大動力,推動智能算力行業不斷向前發展。
2025年3月14日-深圳,深耕電商行業多年的老高電商圈子主辦的“2025電商企業家開年盛典”,于2...
11月3日,在2024硬科技創新大會系列活動——光子產業峰會上,中科創星創始合伙人米磊發布了《硬科技...
投資家網(m.51baobao.cn)是國內領先的資本與產業創新綜合服務平臺。為活躍于中國市場的VC/PE、上市公司、創業企業、地方政府等提供專業的第三方信息服務,包括行業媒體、智庫服務、會議服務及生態服務。長按右側二維碼添加"投資哥"可與小編深入交流,并可加入微信群參與官方活動,趕快行動吧。
2016年注冊于北京的中氫新能技術有限公司,下設位于大興的裝備制造公司、位于海淀區的技術研究院、材料...
一度無比高光的理想汽車,猝不及防遭遇重挫。
2024年1月10日,由投資家網主辦,財經銳眼、有時間協辦,北京微金科技有限公司承辦的“第十二屆股權...
2024年1月10日,由投資家網主辦,財經銳眼、有時間協辦,北京微金科技有限公司承辦的“第十二屆股權...
2024年1月10日,由投資家網主辦,財經銳眼、有時間協辦,北京微金科技有限公司承辦的“第十二屆股權...