Server - Risk Identification, Server 文章, 技術(shù)文庫

AI與高速運算時代來臨：采購白牌服務(wù)器會有什么潛在風(fēng)險？

百佳泰 Allion Labs > AI與高速運算時代來臨：采購白牌服務(wù)器會有什么潛在風(fēng)險？

AI與高速運算時代來臨：采購白牌服務(wù)器會有什么潛在風(fēng)險？

隨著32GT/s 的PCIe 5.0產(chǎn)品問市后，高速運算及AI人工智能開始顯露出其效能，特別是生成式AI更迅速地融入進入人們的日常生活，逐漸在各產(chǎn)業(yè)扮演重要角色，同時也帶動對高速服務(wù)的依賴需求不斷增長。這個效應(yīng)帶動了服務(wù)器產(chǎn)業(yè)的持續(xù)成長，同時也加速了服務(wù)器的世代升級周期縮短。

客制化數(shù)量不大的白牌市場或DIY服務(wù)器市場客戶在采購時，通常會考慮到成本因素，因此會分散采購后，再客制化組成所需的系統(tǒng)規(guī)格，其中機殼、主板及儲存裝置更是系統(tǒng)穩(wěn)定性與否的重要關(guān)鍵部分，但隨著主板開始導(dǎo)入高速的PCIe 5.0技術(shù)后，此類型的服務(wù)器將面臨更嚴(yán)峻的潛在風(fēng)險挑戰(zhàn)。

白牌服務(wù)器五大潛在風(fēng)險

1. 散熱不平均

支持PCIe 5.0的CPU，其TDP(Thermal Design Power)都大于350W以上，對散熱要求非常高！不同的主板其CPU設(shè)計的位置也不同，不一定能跟機殼風(fēng)扇完全對應(yīng)，此時就會引發(fā)CPU的散熱不平均問題。

2. 機殼風(fēng)扇效能不夠

當(dāng)CPU的TDP大于350W時，通常必須搭配高轉(zhuǎn)速或高電流的風(fēng)扇來滿足其散熱需求，當(dāng)機殼廠商所安裝的風(fēng)扇規(guī)格不夠時，就會導(dǎo)致整體散熱效能不足，造成系統(tǒng)溫度不斷升高，影響運算訪問速度，甚至嚴(yán)重致系統(tǒng)熱當(dāng)機。

Source：雙鴻、富果研究部

3. Cable走線無法優(yōu)化

由于機殼與主板是分開采購，主板的連接器位置可能與機殼設(shè)計的走線不一致，這時就會造成散熱風(fēng)流的干擾，也會降低散熱的效能，此類風(fēng)險問題較不容易于第一時間察覺。

4. 內(nèi)部線材質(zhì)量問題

進入高速的PCIe 5.0時，對于纜線的高頻特性要求非常的高，通常機殼廠商對于高頻技術(shù)并不專業(yè)，此時所配置的纜線有可能因為高頻特性不佳而導(dǎo)致系統(tǒng)效能降低。

5. 高頻背板設(shè)計挑戰(zhàn)

同樣的情境還會引發(fā)另一個潛在問題，因機殼廠商對高頻技術(shù)并不專業(yè)，因此在設(shè)計儲存裝置的背板時會面臨極高的挑戰(zhàn)，如Impedance mismatch、Insertion loss/Return loss過大及Cross talk等問題的產(chǎn)生，導(dǎo)致訊號干擾過多而降低服務(wù)器效能及系統(tǒng)穩(wěn)定性。

上述的潛在風(fēng)險，除了會導(dǎo)致系統(tǒng)效能大幅降低、CPU壽命縮短及系統(tǒng)不穩(wěn)定外，更嚴(yán)重時將導(dǎo)致系統(tǒng)不斷重啟、關(guān)機或熱當(dāng)機。所影響的會是布署在服務(wù)器上的應(yīng)用服務(wù)狀態(tài)長時間不穩(wěn)定或中斷服務(wù)，甚至造成數(shù)據(jù)的流失，這些將會造成嚴(yán)重的使用者負(fù)面體驗，并引起眾多客訴，進而影響業(yè)績及客戶整體數(shù)量，品牌的聲望也岌岌可危。

百佳泰使用者可靠度模擬解決方案

百佳泰針對這些潛在風(fēng)險，提供一個使用者可靠度模擬解決方案來驗證，確保服務(wù)器的出貨質(zhì)量，可靠度仿真可根據(jù)下面四個方向去做規(guī)劃及評估：

百佳泰會參考服務(wù)器硬件的工作溫度上下限，再衡量其應(yīng)用情境，規(guī)劃出不同的高低溫循環(huán)周期，以確認(rèn)在循環(huán)的高溫期間或低溫期間服務(wù)器運作狀態(tài)。

此外，百佳泰也會參考此服務(wù)器所布署的應(yīng)用服務(wù)類型來規(guī)劃工作負(fù)戴的項目及強度，例如：針對高速運算服務(wù)器加強CPU & DDR負(fù)載、針對數(shù)據(jù)儲存服務(wù)器則加強Storage負(fù)載等。每個工作負(fù)載驗證周期都會再次確認(rèn)各部位的功能狀態(tài)，同步我們也會詳細(xì)記錄每個結(jié)果報告，可運用此份報告比對其效能是否有任何異常變化。

Faster, Easier, Better！您最佳的服務(wù)器生態(tài)應(yīng)用顧問

百佳泰身為高頻高速生態(tài)及應(yīng)用顧問公司，具備完整的設(shè)備環(huán)境及豐富的項目經(jīng)驗，能夠提供Faster/Easier/Better的高質(zhì)量服務(wù)：

Faster：
1.?具有完善的各型式Temperature Chamber，溫度范圍為-100C~+200C、內(nèi)部空間最大的步進式可支持三座52U機柜置放、熱負(fù)載最大可達65KW。
2. 擁有豐富的項目經(jīng)驗，能在最短的時間內(nèi)規(guī)劃其解決方案并執(zhí)行。

Easier：
1.?可靠度模擬解決方案只需要3-5天即能驗證上述可能的潛在風(fēng)險，不需要花費大量的金錢與時間。
2. 如果驗證出問題，百佳泰可提供Problem isolation、Debug support及solution suggestion讓您快速找出問題并解決。

Better：
1.?百佳泰也可以利用可靠度模擬解決方案提供服務(wù)器生命周期的評估，讓您能預(yù)估服務(wù)器運作的年限并做布署計劃。
2. 百佳泰可以跟您合作在關(guān)鍵組件的質(zhì)量做把關(guān)，提前預(yù)防可能的潛在風(fēng)險并把發(fā)生機率降到最低。