算力,加快城市數(shù)字化轉(zhuǎn)型的重要生產(chǎn)力,推動(dòng)數(shù)字經(jīng)濟(jì)高質(zhì)量發(fā)展的核心競(jìng)爭(zhēng)力,正成為衡量一座城市“智慧基石”的重要指標(biāo)。
2023年9月,上海市人民政府印發(fā)《上海市進(jìn)一步推進(jìn)新型基礎(chǔ)設(shè)施建設(shè)行動(dòng)方案(2023—2026年)》,明確提出2026年底前,加速建成多元供給、云邊協(xié)同、隨需調(diào)度、高效綠色的城市高性能算力網(wǎng)絡(luò)體系和可支撐萬(wàn)億級(jí)參數(shù)大模型訓(xùn)練的智能算力資源,打造上?!靶滤懔Α薄?/p>
如今,三年行動(dòng)計(jì)劃未滿一年,目標(biāo)雛形已初現(xiàn)。
3月22日,中國(guó)電信宣布,天翼云上海臨港國(guó)產(chǎn)萬(wàn)卡算力池正式啟用,同時(shí)入駐首批用戶。
這是國(guó)內(nèi)首個(gè)投入正式運(yùn)營(yíng)的國(guó)產(chǎn)單池萬(wàn)卡液冷算力集群,也是業(yè)內(nèi)領(lǐng)先的全國(guó)產(chǎn)化云智一體公共智算中心。通過(guò)中國(guó)電信打造的人工智能公共算力服務(wù)平臺(tái),將以公共普惠、創(chuàng)新領(lǐng)先的算力供給,算、存、運(yùn)一體的綜合算力服務(wù)模式,全面賦能上海千行百業(yè),成為上?!靶滤懔Α钡闹匾粯O。
發(fā)布會(huì)現(xiàn)場(chǎng),上海市副市長(zhǎng)陳杰與中國(guó)電信副總經(jīng)理唐珂共同點(diǎn)亮算力池,上海市政府副秘書長(zhǎng)莊木弟、中國(guó)電信市場(chǎng)部總經(jīng)理陳文俊、上海電信總經(jīng)理龔勃、上海市發(fā)改委副主任裘文進(jìn)、上海市通管局副局長(zhǎng)賀豐、天翼云公司副總經(jīng)理黃洪波、上海電信副總經(jīng)理陳志宏、上海電信資深經(jīng)理張慷出席會(huì)議。
會(huì)上,上海電信總經(jīng)理助理龔豪與人工智能研究院、稀宇科技、百川智能、思必馳科技、億熵智能科技、瀾碼科技、賽隴生物科技、天壤智能科技等8家合作伙伴簽署入駐協(xié)議。
“新國(guó)貨”新算力
全球人工智能發(fā)展正在進(jìn)入“深水區(qū)”。隨著生成式AI的迭代和發(fā)展,大模型規(guī)模以驚人的速度擴(kuò)展,萬(wàn)億參數(shù)級(jí)別幾乎成為通用大模型的標(biāo)配,由此帶來(lái)的是算力需求的急劇增長(zhǎng)。
在上海市委、市政府的大力支持下,作為踐行《新型數(shù)據(jù)中心“算力浦江”行動(dòng)計(jì)劃(2022-2024年)》的重要舉措之一,中國(guó)電信在臨港新片區(qū)成立臨港算力(上海)科技有限公司,加速臨港算力中心建設(shè),為長(zhǎng)三角提供更加優(yōu)質(zhì)、更加普惠的智算公共服務(wù)。2024年初,中國(guó)電信在上海臨港智算園區(qū)投建15000卡公共智能算力中心,這是全國(guó)規(guī)模最大的運(yùn)營(yíng)商級(jí)智算中心,將助推上海搶占全國(guó)算力發(fā)展制高點(diǎn)。
經(jīng)過(guò)緊張的建設(shè),3月22日,上海臨港智算園區(qū)的首個(gè)國(guó)產(chǎn)單池萬(wàn)卡液冷算力集群正式交付,并投入商業(yè)運(yùn)營(yíng)。
提升算力自主創(chuàng)新能力,實(shí)現(xiàn)國(guó)產(chǎn)算力技術(shù)和能力突破,建立云網(wǎng)協(xié)同的高性能算力基礎(chǔ)設(shè)施,是“新算力”的核心基石。
此次啟用的天翼云上海臨港國(guó)產(chǎn)單池萬(wàn)卡液冷算力集群創(chuàng)新性地采用網(wǎng)絡(luò)中置、算力分層的“魔方”型,實(shí)現(xiàn)了單一集群內(nèi)萬(wàn)卡高速互聯(lián),滿足萬(wàn)億級(jí)參數(shù)大模型訓(xùn)練所需的多機(jī)多卡并行、高吞吐無(wú)損通信等需求。同時(shí),為了實(shí)現(xiàn)綠色低碳的目標(biāo),全面采用融合液冷服務(wù)和IDC基礎(chǔ)設(shè)施的新一代智算液冷DC艙,實(shí)現(xiàn)了數(shù)據(jù)中心的能效和智算集群的算效雙提升,為“人工智能+”提供智能、彈性的綠色算力。
全棧自主可控的公共智算中心
面對(duì)算力網(wǎng)絡(luò)和數(shù)字經(jīng)濟(jì)的發(fā)展,中國(guó)電信積極部署“建設(shè)全國(guó)一體化算力體系”,在上海超前布局,通過(guò)全自研的智算平臺(tái),上海臨港智算中心可面向多租戶提供快速響應(yīng)、靈活擴(kuò)展、通智一體、安全可靠的智算云服務(wù)。
此次正式運(yùn)營(yíng)的公共智算中心,以中國(guó)電信天翼云自研TeleCloudOS 4.0為底座,承載天翼云算力分發(fā)網(wǎng)絡(luò)平臺(tái)“息壤”、智算基礎(chǔ)設(shè)施平臺(tái)“云驍”、一站式智算服務(wù)平臺(tái)“慧聚”,構(gòu)建算力聚合分發(fā)的新模式,實(shí)現(xiàn)全棧能力自主可控、安全可信,多項(xiàng)技術(shù)指標(biāo)領(lǐng)先,可為大模型企業(yè)提供從算力供給、算力輸送、算力調(diào)度到模型訓(xùn)練及推理應(yīng)用的一站式服務(wù)。
比如,“慧聚”可針對(duì)大模型訓(xùn)練微調(diào)場(chǎng)景,提供訓(xùn)推一體化算力服務(wù),實(shí)現(xiàn)萬(wàn)卡資源調(diào)度;“云驍”支持多款國(guó)產(chǎn)芯片以及上層框架,可以對(duì)萬(wàn)卡規(guī)模智算集群進(jìn)行納管,算力、存儲(chǔ)、網(wǎng)絡(luò)多層次算力加速,全方位監(jiān)控、故障自動(dòng)感知,實(shí)現(xiàn)超大規(guī)模集群長(zhǎng)期穩(wěn)定運(yùn)行;“息壤”算力網(wǎng)絡(luò)盤活上海區(qū)域零散的通算、智算和超算算力,目前已納管上海多家智算廠商,為上海本地企業(yè)提供普惠的智算調(diào)度服務(wù)。
中國(guó)電信正積極推動(dòng)上海新一代智能信息基礎(chǔ)設(shè)施建設(shè),加速打造多元供給、云邊協(xié)同、隨需調(diào)度、高效綠色的城市高性能算力網(wǎng)絡(luò)體系,助力上海五個(gè)中心建設(shè)。
賦能大模型全產(chǎn)業(yè)鏈
發(fā)展新質(zhì)生產(chǎn)力是推動(dòng)高質(zhì)量發(fā)展的內(nèi)在要求和重要著力點(diǎn),是依托創(chuàng)新力量實(shí)現(xiàn)產(chǎn)業(yè)轉(zhuǎn)型升級(jí)的核心。
作為首個(gè)可提供單池液冷國(guó)產(chǎn)萬(wàn)卡級(jí)別高階智算服務(wù)的電信運(yùn)營(yíng)商,中國(guó)電信堅(jiān)持超前布局,通過(guò)加強(qiáng)算力建設(shè),提升數(shù)字化、智能化服務(wù)能力,提供算、存、運(yùn)一體的綜合算力服務(wù),全面賦能上海人工智能企業(yè)。
此次發(fā)布會(huì)上,八家合作伙伴宣布將作為首批用戶入駐臨港國(guó)產(chǎn)算力池,其中既有通用語(yǔ)言大模型公司百川智能、稀宇科技、思必馳科技、天壤智能,也有深耕金融領(lǐng)域的行業(yè)大模型金聲玉亮、國(guó)內(nèi)領(lǐng)先的企業(yè)級(jí)AI-Agent平臺(tái)公司瀾碼科技、AI創(chuàng)新生物制藥公司賽隴生物,以及承擔(dān)上海市人工智能研發(fā)與轉(zhuǎn)化培育建設(shè)重任的上海人工智能研究院,基本覆蓋基礎(chǔ)層、技術(shù)層、應(yīng)用層等人工智能完整產(chǎn)業(yè)鏈。
思必馳是國(guó)內(nèi)開展對(duì)話式人工智能技術(shù)研發(fā)的領(lǐng)軍企業(yè),2022年獲批建設(shè)“語(yǔ)言計(jì)算國(guó)家新一代人工智能開放創(chuàng)新平臺(tái)”。該公司自研的行業(yè)語(yǔ)言大模型DFM-2,已通過(guò)《生成式人工智能服務(wù)管理暫行辦法》備案、《中國(guó)境內(nèi)深度合成服務(wù)算法》備案。
如今,DFM-2已經(jīng)在臨港國(guó)產(chǎn)算力池里開始訓(xùn)練,通過(guò)配套高效的RDMA網(wǎng)絡(luò),以及亞毫秒時(shí)延的并行文件存儲(chǔ),算力得到了有效釋放。中國(guó)電信專業(yè)支撐團(tuán)隊(duì)幫助DFM-2在一周內(nèi)從國(guó)外算力池遷移至國(guó)產(chǎn)算力池。實(shí)測(cè)結(jié)果顯示,遷移后集群訓(xùn)練效率與原集群基本對(duì)標(biāo)。
隨著“人工智能+”首次被寫入政府工作報(bào)告,AI產(chǎn)業(yè)機(jī)遇正在加速涌現(xiàn)。根據(jù)《上海市人工智能產(chǎn)業(yè)發(fā)展“十四五”規(guī)劃》,到2025年,上海將基本建成具有國(guó)際影響力的人工智能產(chǎn)業(yè)創(chuàng)新發(fā)展高地,人工智能規(guī)上產(chǎn)業(yè)規(guī)模年均增長(zhǎng)12%以上,達(dá)到4000億元。
中國(guó)電信將堅(jiān)定履行建設(shè)網(wǎng)絡(luò)強(qiáng)國(guó)和數(shù)字中國(guó)、維護(hù)網(wǎng)信安全的使命責(zé)任,積極建設(shè)普惠服務(wù)的國(guó)家云AI基礎(chǔ)設(shè)施,深度參與培育以AI為引擎的新質(zhì)生產(chǎn)力,構(gòu)筑自主創(chuàng)新的算力底座,推動(dòng)各行業(yè)注入“AI+”基因,助推上海成為具有全球影響力的人工智能產(chǎn)業(yè)新高地,讓千行百業(yè)因算力釀造新成果,千家百戶因算力受惠新生活。