熱門文章

2025年2月9日 星期日

【專訪解析】DeepSeek衝擊AI產業:GPU神話終結?

 


前言

近期 AI 領域最受矚目的話題之一,無疑是 DeepSeek 這項技術的出現。它聲稱能夠以更低的運算成本達到媲美主流 AI 模型的效果,這一點讓市場震撼,甚至導致部分 GPU 相關股票大跌。

在這場變革中,耐能智慧(Kneron)創辦人 劉峻誠博士 分享了他的見解,解析 DeepSeek 如何影響 AI 產業的未來,以及 GPU、ASIC、NPU 在這場技術革命中的角色變化。本文將深入探討這場變革的關鍵內容,並分析 AI 產業可能的未來發展方向。


AI 訓練模式的轉變:從雲端到邊緣運算

1. AI 技術的三個階段演進

劉峻誠博士將 AI 技術發展劃分為三個階段:

  • 第一階段(訓練為主)
    大廠競相投入資源,爭奪高效能 GPU(如 Nvidia 的 CUDA) 來訓練 AI 模型。這一時期 AI 訓練的成本極高,且資源集中於少數科技巨頭手中。
  • 第二階段(推論為主)
    當 AI 訓練技術趨於成熟後,市場開始轉向 AI 推論(Inference),以較低的成本運行 AI 應用。這讓 AI 進一步普及,出現更多應用場景,如語音助理、自動翻譯等。
  • 第三階段(邊緣 AI 與本地運算)
    AI 運算開始從雲端轉向本地設備,讓使用者能夠 離線運行 AI,降低對昂貴 GPU 與雲端運算的依賴。例如,智慧手機、車載 AI、安控設備等都能透過 NPU(神經處理單元) 來執行 AI 模型。

DeepSeek 正是這場變革的催化劑,它讓市場意識到:高效 AI 運算並不一定要依賴昂貴的 GPU,而是可以透過更靈活的技術方法達成。


DeepSeek 如何挑戰 AI 運算的傳統模式?

DeepSeek 的影響在於,它採用了多種技術方法,使 AI 訓練與推論變得更有效率:

1. AI 訓練成本降低的核心技術

DeepSeek 採用了 四大技術 來提升 AI 模型的運算效率:

  1. 量化(Quantization)
    • 傳統 AI 訓練使用高精度運算,如 32-bit 浮點數(FP32),但 DeepSeek 透過 8-bit 訓練 技術,大幅降低運算需求。
  2. 蒸餾(Distillation)
    • 簡化 AI 模型,使其能夠在低階硬體上運行,降低運算負擔。
  3. 剪枝(Pruning)
    • 移除 AI 模型中不必要的神經元連結,減少運算量並提升效率。
  4. 遷移學習(Transfer Learning)
    • AI 只需針對特定領域進行額外訓練,而不必重新訓練整個模型,進一步節省資源。

2. DeepSeek 的最大突破:開源模式

DeepSeek 開源了它的技術,這讓 AI 社群能夠驗證其效果,並迅速複製與改進。這一舉動使得過去封閉的 AI 訓練市場開始鬆動,開放式 AI 模型(如 Meta 的 LLaMA)將加速 AI 應用的普及化。

這種變革的直接後果是,企業和個人可以更容易取得高效的 AI 模型,而不需要支付昂貴的 GPU 訓練成本。


GPU 神話終結?ASIC 與 NPU 的崛起

傳統 AI 運算主要依賴 Nvidia CUDA GPU,但 DeepSeek 的技術突破,讓 低階 GPU、ASIC(專用晶片)、NPU 成為可行的替代方案。

1. GPU(圖形處理單元)

  • 過去主導 AI 訓練,但昂貴且耗能。
  • 受 DeepSeek 影響,GPU 需求可能減少,尤其是 推論與邊緣運算市場

2. ASIC(專用 AI 晶片)

  • 為特定應用設計,運算效率高,但缺乏靈活性。
  • 適用於 大型數據中心、企業 AI 應用,但較難適應快速變化的 AI 技術。

3. NPU(神經處理單元)

  • 耐能智慧(Kneron) 率先提出,具備 可重構(Reconfigurable) 的架構。
  • 適合 智慧手機、AI PC、車載系統、安控設備,可以在 低功耗下執行 AI 運算,是邊緣 AI 的關鍵技術。

劉峻誠博士強調,未來 AI 運算將是 CPU + GPU + NPU 的組合模式,讓不同處理器各司其職,以達到最高效率。


AI 產業未來發展趨勢

根據本次專訪內容,未來 AI 產業的幾個主要發展方向包括:

  1. AI 從雲端走向邊緣
    • 許多應用將逐漸轉向 本地 AI 運行,減少對雲端 GPU 的依賴。
  2. 低功耗 AI 設備普及
    • AI PC、智慧手機、車用 AI、監控設備將大量導入 NPU 技術,提升運算效率並降低成本。
  3. 主權 AI(Sovereign AI) 與數據安全:
    • 企業與政府將更關注 本地化 AI 運算,避免敏感數據被大型 AI 公司掌控。
  4. AI 碳排放與環保議題
    • 目前 AI 訓練的碳排放極高,未來將朝 節能 AI 發展,以降低環境影響。

結語:AI 產業的重大轉折點

DeepSeek 的出現,不僅僅是技術上的突破,更是一場 產業格局的變革。它挑戰了 傳統 GPU 為主的 AI 訓練模式,讓低成本、高效能的 AI 運算成為可能。

劉峻誠博士認為,這場技術革命將讓 AI 進一步普及,並推動 NPU 與邊緣 AI 的發展,未來 AI 產業將迎來 百花齊放的時代

這場變革對 Nvidia、AMD、Google、微軟、Meta 等科技巨頭將產生深遠影響,而新創公司如 耐能智慧(Kneron) 也有望成為 AI 新時代的重要推動者。

AI 的未來,將不僅侷限於雲端,而是走入我們的日常生活,開創一個全新的智能時代。


專訪連結:https://www.youtube.com/watch?v=7gdOL8QqxHI

沒有留言:

張貼留言