2024年3月19日，SK海力士宣布，公司率先成功量產超高性能用于AI的存儲器新產品HBM3E，將在3月末開始向客戶供貨。這是公司去年8月宣布開發完成HBM3E后，僅隔7個月取得的成果。

SK海力士表示，繼HBM3，公司實現了全球首次向客戶供應現有DRAM最高性能的HBM3E。將通過成功HBM3E的量產，鞏固在用于AI的存儲器市場上的競爭優勢。

為了實現一個需要快速處理大量數據的AI系統，芯片封裝必須以多重連接（Multi-connection）多個人工智能處理器和存儲器的方式進行構建。因此，近期對AI擴大投資的全球大型科技公司持續提高對AI芯片性能的要求。SK海力士堅信，HBM3E將成為可滿足這些要求的現有最佳產品。

HBM3E不僅滿足了用于AI的存儲器必備的速度規格，也在散熱等所有方面都達到了全球最高水平。此產品在速度方面，最高每秒可以處理1.18TB（太字節）的數據，其相當于在1秒內可處理230部全高清（Full-HD，FHD）級電影。

而且，由于用于AI的存儲器必須以極快的速度操作，因此關鍵在于有效的散熱性能。為此，公司在新產品上適用Advanced MR-MUF**技術，散熱性能與前一代相比提升了10%。

SK海力士HBM業務擔當副社長柳成洙表示，“公司通過全球首次HBM3E投入量產，進一步強化了領先用于AI的存儲器業界的產品線”，還表示，“以至今積累的HBM業務成功經驗為基礎，將進一步夯實與客戶的關系，并鞏固‘全方位人工智能存儲器供應商’的地位。”


三星HBM3e即將通過驗證

目前 AI 加速卡除了 CoWoS 封裝瓶頸之外，另一個重要限制就是 HBM，這其中的主要原因是 HBM 生產周期較 DDR5 更長，投片到產出、封裝完成需要至少 2 個季度。

英偉達目前主流 H100 加速卡采用 HBM3 內存，主要供應商為 SK 海力士，目前無法滿足整體 AI 市場需求。集邦咨詢表示三星于 2023 年年末，以 1Znm 產品加入英偉達供應鏈，盡管比重仍小，但可視為三星在 HBM 領域的重大突破。

由于三星是 AMD 長期以來最重要的策略供應伙伴，2024 年第一季，三星 HBM3 產品也陸續通過 AMD MI300 系列驗證，其中包含其 8h 與 12h 產品，故自 2024 年第一季以后，三星 HBM3 產品將會逐漸放量。

而自 2024 年起，市場關注焦點即由 HBM3 轉向 HBM3e，預計下半年將逐季放量，并逐步成為 HBM 市場主流。據 TrendForce 集邦咨詢調查，第一季由 SK 海力士率先通過驗證，美光緊跟其后，并于第一季底開始遞交 HBM3e 量產產品，以搭配計劃在第二季末鋪貨的 NVIDIA H200。

三星由于遞交樣品的時程較其他兩家供應商略晚，預計其 HBM3e 將于第一季末前通過驗證，并于第二季開始正式出貨。

韓國企業壟斷HBM市場

摩根大通近日發布存儲市場報告，表示在美光宣布開始大規模生產用于英偉達H200的高帶寬存儲器（HBM）后，HBM3E的競爭格局正在加劇。摩根大通預計，三星電子及SK海力士HBM3E時間表與預期大致相符，并且估計當前HBM市場規模沒有實質性的變化。

摩根大通對美光、三星、SK海力士在HBM3E的最新進展做了說明。

2月底，美光宣布其24GB 8-Hi HBM3E大規模生產，并預計在2024年第二季度將其應用于英偉達的H200 GPU。該公司進一步表示其HBM3E是在lbnm技術節點下生產的（三星將lanm和SK海力士將lbnm用于HBM3E），并預計在2024年3月出樣36GB 12-Hi HBM3E。

另一方面，三星宣布36GB 12-Hi HBM3E的產品開發已經完成，并計劃在2024年上半年開始量產，而SK海力士將在2024年第一季度末到第二季度初量產HBM3E。

摩根大通指出，所有內存制造商在2024年上半年推出HBM3E解決方案，但該機構估計SK海力士在HBM3E領域領先，其8-Hi HBM3E最早在2024年第一季度末到第二季度初量產應用（而美光在第二季度應用于英偉達H200，三星仍在資格認證中）。

在HBM市場份額方面，摩根大通指出，由于美光在2024年第四季度時的HBM產能僅為約20K wfpm（三星/SK海力士為130K/110K wfpm），美光對整體HBM市場的影響可能仍然有限。摩根大通預計韓國內存制造商將繼續在HBM市場上領先，2024年市場份額分別為SK海力士48%，三星44%，在2025年進一步演變為SK海力士47%，三星45%的市場份額。

市場規模方面，摩根大通預計HBM內存市場規模（TAM）在2024年將增至128億美元。HBM在2024年將占到DRAM市場的15%，并在2025年進一步增至19%。

與英偉達的GPU推出計劃（即B100/H200）一致，該機構預計2024年和2025年HBM3E對整體HBM市場的貢獻將分別為42%和58%。相較于HBM3，HBM3E的每比特價格溢價為30%或更高，因此HBM3E容量混合的增加將有助于擴大HBM市場市場規模和提升內存制造商的利潤狀況。


良率才是關鍵指標

三星電子上個月意外宣布，將采取“先進TC-NCF”技術。這是一項通過減少TC-NCF方法所必需的薄膜厚度來增加半導體堆疊數量的同時保持HBM高度的技術。

三星推遲HBM芯片生產的因素之一是其決定堅持使用非導電薄膜 (NCF) 芯片制造技術，但該技術存在生產問題。

最近三星已下了能夠處理MR-MUF技術的芯片制造設備的采購訂單。雖然此舉可能被視為與三星之前的做法背道而馳，但它反映了該公司提高HBM芯片生產良率的決心。

分析師估計，三星目前HBM3芯片生產良率約為10-20%，而SK海力士的HBM3生產良率已達到60-70%。

有消息稱三星正與日本長瀨電機等材料制造商洽談采購MR-MUF材料，不過該技術的高端芯片預計要到明年才能量產，因為三星還需要進行進一步的測試。

盡管引入了MR-MUF，三星仍計劃在其最新HBM芯片中同時采用NCF和MR-MUF技術。該公司為NCF技術辯護，稱它是HBM產品的“最佳解決方案”，并將在其新的HBM3E芯片中使用。三星決定采用MR-MUF凸顯了其在AI芯片市場面臨越來越大的壓力。

SK海力士也在不斷注重研發，以保持在下一代市場的領先地位。與三星電子不同的是，SK海力士采用了一種名為大規模回流模塑底部填充（MR-MUF）的方法，其研究重點是改進液化材料，這是該工藝的核心。

SK海力士表示：“MR-MUF的成品率取決于進入半導體之間的液化材料的特性。迄今為止，我們的主要重點是提高這種材料的完美性。”

據了解，HBM行業龍頭SK海力士的HBM良率僅在60%左右。與一般DRAM超過90%的良率相比，這是較低的。與其他存儲器不同的是，需要在半導體上鉆孔并通過硅通孔電極（TSV）垂直堆疊多個半導體的復雜附加工藝，因此即使僅在幾個工藝之一中出現缺陷，其他好的芯片也必須也被丟棄。

即使每個步驟的產量略有下降或增加，也會對整體盈利能力產生重大影響。知情人透露：“隨著未來HBM堆棧數量的增加，僅僅1%到2%的差異很快就會導致價值數百億韓元的銷售業績差異。”