芯耀
551
【摘要/前言】
硬件加速，可能總會是新的難點和挑戰(zhàn)。面對信息速率和密度不斷提升的AI，技術進步也會遵循摩爾定律，那硬件互連準備好了嗎？
Samtec?China Sr. FAE Manager 胡亞捷?在Keysight實驗室開放日上海站做深度分享時，提出了以上這樣的問題。
本次活動由Keysight主辦，在上海、北京舉辦開放實驗室主題日活動，攜手Samtec的技術專家，共同探討確保 AI 互連穩(wěn)健性的趨勢、挑戰(zhàn)和解決方案。
【從摩爾定律看AI發(fā)展】
回顧半導體行業(yè)，英特爾創(chuàng)始人戈登?摩爾提出的摩爾定律，在過去五十多年近乎完美地驗證了半導體技術的發(fā)展。集成電路上可容納的晶體管數(shù)目大約每隔 18 - 24 個月便會增加一倍，性能提升一倍，價格卻保持不變。而在 AI 領域，也有著類似的發(fā)展規(guī)律。
Samtec 胡亞捷 將?Ilya Sutskever（OpenAI前首席科學家）提出的“LLM pre-training hitting a wall” 問題作為引子，進入到硬件行業(yè)發(fā)展速度回顧和發(fā)展的討論。這里的?“撞墻” 主要指的是大型語言模型（LLM）在預訓練 (pre-training) 階段的性能提升遇到了瓶頸，即通過增加模型規(guī)模、數(shù)據(jù)量和計算資源來提升模型性能的效果正在顯著減弱和趨于平穩(wěn)，邊際效益顯著遞減。這一話題最近曾在 AI 社區(qū)引發(fā)了廣泛討論。
“AI 能力和性能不斷提升，模型的規(guī)模和復雜度持續(xù)增長，就如同摩爾定律下半導體性能的迭代。例如，AI 模型的參數(shù)性能一直爬坡，比如 token 生成速度指數(shù)級上升，這種增長趨勢與摩爾定律下晶體管數(shù)量的增長有著異曲同工之妙。”
另外，對于摩爾定律在?AI 硬件中的映射，他比較贊同推特上的大神@fin 老師的針對這個問題的觀點 ：
“目前我們面對的，早已不再狹義的摩爾定律。但每一次過分的要求，每一次技術撞墻，都一定會開辟新的世界。技術與市場的蓬勃發(fā)展，已演進成廣義摩爾定律，即多個技術曲線的互相累積疊加形成的現(xiàn)象，比如制程、材料、互連和運算方式等。”
為此，他還從未來數(shù)年芯片加速的若干維度輔助進行了擴展分享。
【硬件是根基 互連為橋梁】
硬件是 AI 發(fā)展的根基，就如同高樓大廈的地基。沒有強大的硬件支持，AI的各種設想和應用都將成為空中樓閣。為了滿足 AI 日益增長的算力需求，硬件對于互連的要求越來越“過分”。
但Samtec可以滿足。我們擁有豐富的產(chǎn)品線和強大的技術研發(fā)能力，能夠為 AI 硬件互連提供全方位的解決方案。我們的產(chǎn)品不僅性能卓越，而且具有高度的可靠性和穩(wěn)定性。在全球范圍內(nèi)，Samtec 與眾多知名企業(yè)建立了長期合作關系，廣泛應用于數(shù)據(jù)中心、智能汽車、5G、物聯(lián)網(wǎng)等多個與 AI 緊密相關的領域。
分享中，胡亞捷重點從四個板塊，為大家介紹了Samtec在AI領域的解決方案。
——Chipsets（芯片開發(fā)）
在芯片開發(fā)過程中，量測是必不可少的環(huán)節(jié)。Samtec 為客戶推薦集成式的射頻線束產(chǎn)品，如?Bulls Eye? 測試點系統(tǒng)，具有壓縮接口、小尺寸、高循環(huán)次數(shù)和 70GHz 的高性能，相比離散 SMA 通?？晒?jié)省 4:1 的空間，其高密度能實現(xiàn)更小的評估板和更短的走線長度，極大地滿足了芯片開發(fā)中的測試需求，為芯片的研發(fā)和優(yōu)化提供了有力支持。
——SoMs/CoMs（系統(tǒng)模塊/計算機模塊）
當客戶的系統(tǒng)涉及 AI 相關的模塊板時，需要高可靠性、高密高速的板到板連接器。Samtec 的?AcceleRate? HD?超密集、多行陣列，具有高速?Edge Rate? 觸點，專為高速、高循環(huán)應用設計，并且兼容 PCIe? 5.0；還有 Xilinx? Kria?自適應 SoM，采用一對 240 引腳的 AcceleRate? HD 超密集薄型陣列，小尺寸和 56Gbps PAM4 性能使其適用于 AI 邊緣應用，為 AI 模塊板的穩(wěn)定運行提供了可靠保障。
——Accelerators（加速卡）
在加速卡應用中，卡與卡之間的互連至關重要。Samtec 提供多種解決方案，如?AcceleRate? HD 超薄，可實現(xiàn) 32 GT/s PCIe? 5.0 速度，適用于目標 AI - HPC 架構；其?Twinax Flyover? 系統(tǒng)等高速電纜組件，能簡化板布局并延長信號傳輸距離，滿足加速卡之間高數(shù)據(jù)速率、低延遲的瞬時數(shù)據(jù)結果傳輸要求，有效提升了加速卡的性能和效率。
——DSAs(特定領域架構)
DSA 是針對特定計算任務或應用優(yōu)化的硬件架構。Samtec 為支持 DSA，提供一系列能滿足其高速、高密度、低延遲等要求的產(chǎn)品，像高速連接器、電纜組件等，以實現(xiàn) DSA 架構中各組件之間的高效互聯(lián)。例如其提供的高性能銅纜和光纜產(chǎn)品，可支持 DSA 所需的極高數(shù)據(jù)速率和靈活配置，助力 DSA 架構在 AI 特定領域發(fā)揮出最大效能。
【上海站小結】
除了Samtec胡亞捷的分享外，來自主辦方Keysight的專家們，也分別針對“高速 AEC/AOC 電纜測試解決方案”和“下一代AI互聯(lián)的測試測量要求和測試方案”做了專業(yè)分享。
在會議當中，是德科技的射頻微波解決方案工程師何曉苑，深入剖析了AI產(chǎn)業(yè)互聯(lián)的發(fā)展趨勢，細致闡述了面對全新行業(yè)發(fā)展方向，市場對互聯(lián)線纜提出的新要求。不僅如此，何曉苑還詳盡介紹了是德科技針對這些新興測試測量需求所精心打造的完整測試解決方案，為行業(yè)發(fā)展提供了極具價值的思路與參考。
是德科技解決方案工程師張曉指出，伴隨AI智算網(wǎng)絡硬件持續(xù)發(fā)展，用于算力芯片Scale-up網(wǎng)絡機間互連的ACC（Active Copper Cable，有源銅纜）和AEC（Active Electrical Cable，有源電纜），以及應用于內(nèi)存和存儲池化的PCIe AOC（Active Optical Cable，有源光纜）愈發(fā)受到關注。張曉在會議中介紹，是德科技提供的112Gbps/lane有源電纜測試方案，獲得了IBTA（Infiniband Trade Association，國際InfiniBand貿(mào)易協(xié)會）官網(wǎng)認可；同時，其PCIe5.0/6.0 AOC有源電纜測試方案也已通過客戶驗證。
現(xiàn)場，Keysight還與Samtec共同展出了Demo方案，供用戶直觀體驗和討論。
【Samtec對于AI的部分理解】
回答開篇的問題：面對 AI 發(fā)展對硬件互連提出的要求，目前的互連準備好了嗎？
答案是：YES！Samtec準備好了！
硬件互連技術是 AI 產(chǎn)業(yè)發(fā)展的關鍵支撐，它的進步將直接推動 AI 技術的突破和應用拓展。硬件互連技術作為幕后英雄，雖然不常被大眾矚目，但卻發(fā)揮著不可或缺的關鍵作用。
Samtec 在硬件互連領域的持續(xù)創(chuàng)新和努力，為AI的發(fā)展提供了堅實的保障。相信在未來，硬件互連技術與 AI 將相互促進、協(xié)同發(fā)展，共同創(chuàng)造更加精彩的科技篇章 。
