Server - Risk Identification, Server 文章, 技術文庫

AI與高速運算時代來臨：采購白牌服務器會有什么潛在風險？

百佳泰 Allion Labs > AI與高速運算時代來臨：采購白牌服務器會有什么潛在風險？

AI與高速運算時代來臨：采購白牌服務器會有什么潛在風險？

隨著32GT/s 的PCIe 5.0產品問市后，高速運算及AI人工智能開始顯露出其效能，特別是生成式AI更迅速地融入進入人們的日常生活，逐漸在各產業(yè)扮演重要角色，同時也帶動對高速服務的依賴需求不斷增長。這個效應帶動了服務器產業(yè)的持續(xù)成長，同時也加速了服務器的世代升級周期縮短。

客制化數(shù)量不大的白牌市場或DIY服務器市場客戶在采購時，通常會考慮到成本因素，因此會分散采購后，再客制化組成所需的系統(tǒng)規(guī)格，其中機殼、主板及儲存裝置更是系統(tǒng)穩(wěn)定性與否的重要關鍵部分，但隨著主板開始導入高速的PCIe 5.0技術后，此類型的服務器將面臨更嚴峻的潛在風險挑戰(zhàn)。

白牌服務器五大潛在風險

1. 散熱不平均

支持PCIe 5.0的CPU，其TDP(Thermal Design Power)都大于350W以上，對散熱要求非常高！不同的主板其CPU設計的位置也不同，不一定能跟機殼風扇完全對應，此時就會引發(fā)CPU的散熱不平均問題。

2. 機殼風扇效能不夠

當CPU的TDP大于350W時，通常必須搭配高轉速或高電流的風扇來滿足其散熱需求，當機殼廠商所安裝的風扇規(guī)格不夠時，就會導致整體散熱效能不足，造成系統(tǒng)溫度不斷升高，影響運算訪問速度，甚至嚴重致系統(tǒng)熱當機。

Source：雙鴻、富果研究部

3. Cable走線無法優(yōu)化

由于機殼與主板是分開采購，主板的連接器位置可能與機殼設計的走線不一致，這時就會造成散熱風流的干擾，也會降低散熱的效能，此類風險問題較不容易于第一時間察覺。

4. 內部線材質量問題

進入高速的PCIe 5.0時，對于纜線的高頻特性要求非常的高，通常機殼廠商對于高頻技術并不專業(yè)，此時所配置的纜線有可能因為高頻特性不佳而導致系統(tǒng)效能降低。

5. 高頻背板設計挑戰(zhàn)

同樣的情境還會引發(fā)另一個潛在問題，因機殼廠商對高頻技術并不專業(yè)，因此在設計儲存裝置的背板時會面臨極高的挑戰(zhàn)，如Impedance mismatch、Insertion loss/Return loss過大及Cross talk等問題的產生，導致訊號干擾過多而降低服務器效能及系統(tǒng)穩(wěn)定性。

上述的潛在風險，除了會導致系統(tǒng)效能大幅降低、CPU壽命縮短及系統(tǒng)不穩(wěn)定外，更嚴重時將導致系統(tǒng)不斷重啟、關機或熱當機。所影響的會是布署在服務器上的應用服務狀態(tài)長時間不穩(wěn)定或中斷服務，甚至造成數(shù)據(jù)的流失，這些將會造成嚴重的使用者負面體驗，并引起眾多客訴，進而影響業(yè)績及客戶整體數(shù)量，品牌的聲望也岌岌可危。

百佳泰使用者可靠度模擬解決方案

百佳泰針對這些潛在風險，提供一個使用者可靠度模擬解決方案來驗證，確保服務器的出貨質量，可靠度仿真可根據(jù)下面四個方向去做規(guī)劃及評估：

百佳泰會參考服務器硬件的工作溫度上下限，再衡量其應用情境，規(guī)劃出不同的高低溫循環(huán)周期，以確認在循環(huán)的高溫期間或低溫期間服務器運作狀態(tài)。

此外，百佳泰也會參考此服務器所布署的應用服務類型來規(guī)劃工作負戴的項目及強度，例如：針對高速運算服務器加強CPU & DDR負載、針對數(shù)據(jù)儲存服務器則加強Storage負載等。每個工作負載驗證周期都會再次確認各部位的功能狀態(tài)，同步我們也會詳細記錄每個結果報告，可運用此份報告比對其效能是否有任何異常變化。