生成式人工智能 (AI) 能夠根據(jù)提示生成文本、圖像或其他內(nèi)容，盡管目前企業(yè)對它的采用尚處于早期階段，但隨著企業(yè)組織找到該技術(shù)的更多新用途，預(yù)計該技術(shù)的采用將迅速增加。
Gartner分析師Frances Karamouzis表示：“生成式人工智能的狂熱沒有任何減弱的跡象。”“各組織正在爭先恐后地確定向生成式人工智能解決方案投入多少資金、哪些產(chǎn)品值得投資、何時開始以及如何減輕這項新興技術(shù)帶來的風(fēng)險?！?/p>
據(jù)Bloomberg Intelligence預(yù)測，未來十年，生成式AI市場將以每年42%的驚人速度增長，從2022年的400 億美元增長到1.3萬億美元。
(相關(guān)資料圖)
生成式人工智能可以通過多種方式幫助IT團隊：它可以編寫軟件代碼和網(wǎng)絡(luò)腳本、提供故障排除和問題解決、自動化流程、提供培訓(xùn)和入職培訓(xùn)、創(chuàng)建文檔和知識管理系統(tǒng)以及幫助進行項目管理和規(guī)劃。
另外，生成式人工智能還可以改變業(yè)務(wù)的其他部分，包括呼叫中心、客戶服務(wù)、虛擬助理、數(shù)據(jù)分析、內(nèi)容創(chuàng)建、設(shè)計和開發(fā)以及預(yù)測性維護等。
但數(shù)據(jù)中心基礎(chǔ)設(shè)施能否應(yīng)對生成式人工智能產(chǎn)生的不斷增長的工作負載？
生成式人工智能對計算需求的影響毫無疑問，生成式人工智能將成為大多數(shù)組織未來數(shù)據(jù)戰(zhàn)略的一部分。如今，網(wǎng)絡(luò)和IT領(lǐng)導(dǎo)者需要做的是確保他們的IT基礎(chǔ)設(shè)施以及團隊為即將到來的變化做好準備。
當(dāng)他們構(gòu)建和部署包含生成式人工智能的應(yīng)用時，這將如何影響對計算能力和其他資源的需求？
咨詢公司畢馬威 (KPMG) 咨詢部董事總經(jīng)理布萊恩·劉易斯 (Brian Lewis) 表示：“正如我們今天所知，對數(shù)據(jù)中心的需求將會增加，并將徹底改變未來數(shù)據(jù)中心及其相關(guān)技術(shù)的面貌。”
數(shù)據(jù)中心運營商DataBank首席執(zhí)行官Raul Marynek表示，生成式AI應(yīng)用分兩個階段對計算能力提出了巨大的需求：訓(xùn)練構(gòu)成生成式AI系統(tǒng)核心的大型語言模型 (LLM)，然后使用這些訓(xùn)練有素的LLM來運行應(yīng)用程序。
“訓(xùn)練大型語言模型碩士需要神經(jīng)網(wǎng)絡(luò)形式的密集計算，其中數(shù)十億語言或圖像示例被輸入神經(jīng)網(wǎng)絡(luò)系統(tǒng)并反復(fù)細化，直到系統(tǒng)像人類一樣‘識別’它們，”Martynek 說。
Marynek表示，神經(jīng)網(wǎng)絡(luò)需要極其密集的GPU處理器高性能計算 (HPC) 集群，一次連續(xù)運行數(shù)月甚至數(shù)年?！八鼈冊趯Ｓ没A(chǔ)設(shè)施上運行效率更高，這些基礎(chǔ)設(shè)施可以位于用于訓(xùn)練的專有數(shù)據(jù)集附近，”他說。
第二階段是“推理過程”或使用這些應(yīng)用程序?qū)嶋H進行查詢并返回數(shù)據(jù)結(jié)果?！霸谶@個運營階段，它需要一個地理上更加分散的基礎(chǔ)設(shè)施，可以快速擴展并以較低的延遲提供對應(yīng)用的訪問，因為查詢信息的用戶希望對想象的用例做出快速響應(yīng)?！?/p>
Marynek表示，這將需要在許多地方建立數(shù)據(jù)中心，而不是目前支持大多數(shù)應(yīng)用程序的集中式公共云模型。他表示，在這個階段，數(shù)據(jù)中心的計算能力需求仍將上升，“但相對于第一階段，這種需求分布在更多的數(shù)據(jù)中心?！?/p>生成式人工智能推動液體冷卻需求
網(wǎng)絡(luò)和IT領(lǐng)導(dǎo)者需要認識到生成式人工智能對服務(wù)器密度的影響，以及它對冷卻要求、電力需求、可持續(xù)發(fā)展計劃等的影響。
Tirias Research首席分析師Francis Sideco表示：“這不僅僅是密度，還包括這些服務(wù)器在峰值負載下的使用頻率和用量的工作周期?！薄拔覀兛吹絅VIDIA、AMD和英特爾等公司的每一代AI芯片都在努力提高性能，同時控制功耗和熱量。”
Sideco表示，盡管做出了這些努力，電力預(yù)算仍在增加?！半S著工作負載的快速增長，尤其是GenAI，我們在某些時候會遇到困難?！?/p>
Lewis補充道，服務(wù)器密度“不必像刀片技術(shù)和虛擬主機那樣增加”?！胺枪栊酒?、圖形處理單元 (GPU)、量子計算和硬件感知、基于模型的軟件開發(fā)等技術(shù)創(chuàng)新將能夠從現(xiàn)有硬件中獲得更多收益?！?/p>
Lewis表示，業(yè)界已經(jīng)在不同地點試驗比空氣更高效的創(chuàng)新液體冷卻技術(shù)以及可持續(xù)性，例如微軟的Project Natick海底數(shù)據(jù)中心。
“傳統(tǒng)的空氣冷卻技術(shù)，例如使用風(fēng)扇、管道、通風(fēng)口和空調(diào)系統(tǒng)，不足以滿足GPU等高性能計算硬件的冷卻需求，”Lewis說?！耙虼?，液體冷卻等替代冷卻技術(shù)正在受到關(guān)注?！?/p>
Lewis說，液體冷卻涉及通過熱交換器循環(huán)冷卻劑，例如水或其他液體，以吸收計算機組件產(chǎn)生的熱量。“液體冷卻比傳統(tǒng)空氣冷卻更節(jié)能，因為液體比空氣具有更高的導(dǎo)熱性，從而可以實現(xiàn)更好、更高效的熱傳遞。”
Marynek表示，新的數(shù)據(jù)中心設(shè)計需要滿足更高的冷卻要求和電力需求，這意味著未來的數(shù)據(jù)中心將不得不依靠新的冷卻方法，例如后冷門、芯片水或浸沒技術(shù)來提供正確的電力組合、冷卻和可持續(xù)性。
Marynek表示，數(shù)據(jù)中心運營商已經(jīng)在液體冷卻方面取得了進展。例如，DataBank在其位于亞特蘭大的佐治亞理工學(xué)院超級計算機設(shè)施中使用了QCooling的新型ColdLogik Dx 后門冷卻解決方案。
“我們預(yù)計門用水量和芯片冷卻技術(shù)用水量將大幅增加，特別是考慮到未來幾代 GPU 將消耗更多電力，”Martynek說道?！坝捎诓捎蒙墒饺斯ぶ悄芏鴮Ω嘤嬎憧臻g和功率的需求無疑將推動人們尋求更高的功耗和冷卻效率?！?/p>Gen AI如何影響電力需求
Marynek表示，數(shù)據(jù)中心運營商建造自己的變電站可能會變得更加普遍?！坝捎谛枨蠛拖蚩稍偕茉吹倪^渡而給電網(wǎng)帶來的壓力，給電力供應(yīng)帶來了更多的不確定性，新的數(shù)據(jù)中心項目時間表在很大程度上受到公用事業(yè)公司的工作量及其處理新設(shè)施電力需求的能力的影響， “ 他說。
Marynek 表示，擁有可靠且可擴展的電源將越來越成為數(shù)據(jù)中心運營商的首要考慮因素，既可以滿足HPC集群對電力的需求，又可以繞過公用事業(yè)的時間表和限制。
Marynek表示，DataBank正在推出一種名為“通用數(shù)據(jù)大廳設(shè)計”(UDHD) 的新數(shù)據(jù)中心設(shè)計標準，該標準采用平板地板，周邊有空氣冷卻，機柜之間的間距更大，非常適合超大規(guī)模云部署，并且可以快速部署。
“這種方法還使我們能夠輕松添加活動地板和更近的機柜間距，以適應(yīng)更傳統(tǒng)的企業(yè)工作負載，”Martynek說?！岸遥覀兛梢砸宰钚〉呐μ砑酉乱淮鋮s技術(shù)，如后門熱交換器、水冷門配置或直接芯片冷卻基礎(chǔ)設(shè)施，”他說。
未來，數(shù)據(jù)中心的技術(shù)設(shè)計“將需要適應(yīng)更高的計算需求，如快速訪問內(nèi)存、強大的存儲/存儲區(qū)域網(wǎng)絡(luò)、高性能延遲/中斷容忍網(wǎng)絡(luò)和大數(shù)據(jù)數(shù)據(jù)庫技術(shù)，”劉易斯說。
IT團隊需要做好準備網(wǎng)絡(luò)和數(shù)據(jù)中心團隊現(xiàn)在應(yīng)該做好準備?！斑@些變化發(fā)生得太快，任何人都無法做好充分準備，” Sideco說?！安粌H僅是網(wǎng)絡(luò)/數(shù)據(jù)中心團隊，整個生態(tài)系統(tǒng)都需要解決所有所需的變化?！?/p>
這包括處理增加的工作負載和電力需求的芯片供應(yīng)商?！八鼈兲峁┝瞬煌倪x項，網(wǎng)絡(luò)/數(shù)據(jù)中心團隊可以使用這些選項來嘗試[解決]不斷變化的需求，”Sideco說?！八羞@些方面的合作對于跟上需求的步伐非常重要?！?/p>
其他人對準備工作更有信心。“我們IT部門始終為下一次顛覆做好準備，”Lewis說?！罢嬲膯栴}是：企業(yè)會投資于需要改變的地方嗎？節(jié)省成本仍然是數(shù)據(jù)中心外包的首要任務(wù)。然而，企業(yè)尚未采用現(xiàn)代IT總擁有成本和價值實現(xiàn)框架來衡量 IT 的響應(yīng)能力和適應(yīng)人工智能等技術(shù)推動業(yè)務(wù)發(fā)展的速度?！?/p>
“為了為人工智能的采用做好準備，數(shù)據(jù)中心需要確定正確的業(yè)務(wù)和資本戰(zhàn)略，以便他們可以投資必要的基礎(chǔ)設(shè)施和工具，并培養(yǎng)一支具有適當(dāng)技能的勞動力隊伍，”Martynek 說。“擁有合適的人員來執(zhí)行戰(zhàn)略與制定正確的戰(zhàn)略同樣重要。”
關(guān)鍵詞：
數(shù)據(jù)中心準備好迎接生成式人工智能了嗎？
清水源：7月11日融資凈買入37萬元，連續(xù)3日累計凈買入276.04萬元
濫伐林木近20噸，崇陽公安抓獲3名犯罪嫌疑人
全國早稻收獲過一成半 進度快于上年
逢坂良太 - 天照る愛（無翻譯假名歌詞）-《劍為君舞》鈴懸角色歌
練兵備戰(zhàn)忙！直擊火箭軍某部野外實兵演練
大立科技：7月11日獲融資買入364.96萬元，占當(dāng)日流入資金比例9.21%
湛江環(huán)城高速鷺洲大橋全線貫通
湖南裕能：磷酸錳鐵鋰產(chǎn)品目前處于中試階段
形勢到底有多嚴峻？數(shù)據(jù)給了我們最真實的答案…
上海百億搶地大戰(zhàn)開鑼，保利落子內(nèi)環(huán)，招商蛇口報名11幅地塊
亞洲龍騰電子書（亞洲龍騰）
突擊夜查！荊州交警開展“飆車炸街”整治行動
首創(chuàng)城發(fā)接盤 首創(chuàng)鉅大近20億剝離兩家奧特萊斯與REITs權(quán)衡
區(qū)領(lǐng)導(dǎo)赴上海警備區(qū)、國防大學(xué)政治學(xué)院走訪慰問
婕妤在古代是什么身份用蘋果手機打電話怎么錄音（婕妤在古代是什么身份）
杭州第19屆亞運會攀巖什么時候比賽
今年上半年全國居民消費價格同比上漲0.7%——物價運行保持基本平穩(wěn)
相親找對象好嗎（相親找對象）
夜查酒駕、飆車！北京3天查獲酒駕司機164人
東方中科：上半年預(yù)虧5500萬元-7000萬元
通化金馬: 關(guān)于公司持股5%以上股東所持部分公司股份被司法拍賣的進展公告
dnf時裝有哪些（DNF有多余的時裝可以干什么簡介介紹）
江南在等你 ｜ 乘著地鐵游周莊 成為意中人
飛龍股份：目前公司已有多個液冷項目正在進行中 部分項目已經(jīng)量產(chǎn)
【收評】滬鋅日內(nèi)上漲1.40% 機構(gòu)稱鋅價下有冶煉成本支撐 上有進口盈利壓力
神游的意思解釋（神游的意思）
完美醫(yī)療：6月醫(yī)療旅游旗艦店營運環(huán)比增長26.6%
涉嫌嚴重違紀違法 濉溪縣瑞虹公司總經(jīng)理夏鋒被查
如何解決gdi32full.dll文件缺失問題
儲存時間的溶洞
茶香滿山（逐夢）
貼合需求的暖心事越來越多（消費視窗）
