2022 年後的人工智慧採用轉折
模型能力、自然語言介面與部署成本在相近時間達到商用門檻,帶動生成式人工智慧進入大眾市場。
半導體 × 人工智慧 × 科技趨勢
從生成式人工智慧的採用週期出發,延伸至運算平台、資料中心、晶圓製造與先進封裝,分析技術變化如何影響產業結構。
人工智慧產業研究系列
八個專題依序處理需求、模型、運算、系統與製造。各篇可獨立閱讀,也能用於追蹤人工智慧投資如何由軟體需求傳導至實體基礎設施。
需求 → 模型 → 運算 → 系統 → 製造模型能力、自然語言介面與部署成本在相近時間達到商用門檻,帶動生成式人工智慧進入大眾市場。
從詞元與注意力轉換架構的運作方式,分析流暢輸出、事實正確性與驗證機制之間的差距。
預訓練與後訓練建立能力;多輪互動、工具調用與持續執行則提高單一任務的總運算量。
三種架構反映彈性、效率與規模的不同取捨,競爭結果取決於工作負載穩定度與單位成本。
圖形處理器、高頻寬記憶體、網路、儲存、供電與熱管理共同決定資料中心的有效算力與設備利用率。
CUDA、NVLink、網路與機架系統降低部署摩擦,也使競爭焦點由單顆圖形處理器延伸至整體平台。
微影、蝕刻、薄膜、良率與製程整合,共同決定先進設計能否轉化為穩定的大規模出貨。
多晶粒架構提高封裝複雜度,使記憶體頻寬、互連密度與封裝產能成為人工智慧加速器的重要供給條件。
從八章拆開閱讀
不必一次讀完整章。這裡把八個專題拆成 24 個短篇入口,從產品採用、模型運作一路讀到晶圓與封裝。
技術存在多年,真正的採用轉折來自使用門檻突然降低。
閱讀這個主題 ↗模型能力、產品體驗與成本結構,缺一項都很難形成規模。
閱讀這個主題 ↗從一次使用,往下追蹤晶片、記憶體、網路、電力與散熱。
閱讀這個主題 ↗理解生成機制,才能分辨文字流暢與事實正確的差距。
閱讀這個主題 ↗模型、搜尋、資料、工具與安全規則共同決定使用體驗。
閱讀這個主題 ↗高風險應用需要來源、拒答條件與獨立驗證流程。
閱讀這個主題 ↗規劃、搜尋、工具操作與驗證,會讓一次請求變成多次推論。
閱讀這個主題 ↗長上下文、多輪互動、重試與平行工作都會增加總運算量。
閱讀這個主題 ↗模型單價只是局部,成功率、人工接手與工具費用也要計入。
閱讀這個主題 ↗它負責排程、資料準備與例外處理,讓加速器保持忙碌。
閱讀這個主題 ↗大量相似計算可以平行處理,軟體生態又縮短了開發時間。
閱讀這個主題 ↗工作穩定、規模夠大、軟體成熟與高利用率需要同時成立。
閱讀這個主題 ↗伺服器、網路、儲存與管理軟體完成整合後,設備才會產出。
閱讀這個主題 ↗系統擴大後,等待、故障與通訊效率會開始侵蝕峰值效能。
閱讀這個主題 ↗相同設備數量,排程與維修能力不同,能交付的工作量就不同。
閱讀這個主題 ↗運算、互連、網路、系統與軟體共同形成平台價值。
閱讀這個主題 ↗程式碼、人才、驗證與除錯流程,會影響企業是否更換平台。
閱讀這個主題 ↗部署時間、每項任務成本與合作夥伴投入,比一次測試更重要。
閱讀這個主題 ↗風險試產、良率爬升與客戶驗證決定設計何時變成收入。
閱讀這個主題 ↗設備、材料、配方與量測資料需要長期協同,單一機台不是答案。
閱讀這個主題 ↗客戶導入、利用率與良率速度,決定新節點的獲利品質。
閱讀這個主題 ↗記憶體、封裝、基板、測試與散熱,任何一段都可能卡住交付。
閱讀這個主題 ↗讓資料更快靠近運算核心,減少昂貴加速器等待資料的時間。
閱讀這個主題 ↗多晶粒架構把互連、供電、測試與熱管理帶進產品設計核心。
閱讀這個主題 ↗主題閱讀路線