我終於明白了 TOPS 是什麼意思:以及為什麼你的下一台電腦需要 45 個 TOPS 記憶體。

現在市面上充斥著大量號稱「人工智慧就緒」的計算機,它們用TOPS(十進制運算速度)來衡量自身的人工智慧效能。但如果這聽起來只是另一個自造的縮寫詞,或是行銷團隊為了和GHz(千兆赫茲)以及「人工智慧就緒」之類的標籤一起貼在晶片上的噱頭,我也不會怪你。

我終於明白了 TOPS 是什麼意思:以及為什麼你的下一台電腦需要 45 個 TOPS 記憶體。

當微軟開始界定現代 Windows AI 裝置的標準時,所有人都開始吹噓 45 TOPS,彷彿這是一場爭奪計時效能巔峰的新軍備競賽。這是其中之一。 購買新型人工智慧計算機時需要注意的規格但只有真正了解它的意義,你才會意識到它的重要性。

TOPS 究竟衡量的是什麼?

每秒數萬億次運算,簡單解釋如下

surface-laptop-studio-2-screen2-1

TOPS 代表每秒萬億次運算(Trillions of Operations Per Second),是一種吞吐量指標,它概括地描述了晶片在一秒鐘內可以執行的簡單計算次數。在人工智慧(AI)領域,TOPS 用於描述低精度推理效能(通常為 INT8),因為許多即時 AI 工作負載在模型經過開發最佳化後,都能以這種精度高效運作。

理解這一點最簡單的方法是將 TOPS 等同於 AI 處理能力,而不是衡量實際速度的標準。理論上,在理想條件下,45 TOPS 的 NPU 每秒可以處理 45 兆次運算,但實際體驗還取決於記憶體頻寬、程式運行時間、驅動程式以及應用程式對加速器的適配程度。儘管如此,TOPS 仍然被用作選購設備的便利指標,因為它能告訴你設備應該處理哪種類型的 AI 工作負載。

40 TOPS 是最低要求,但 45 TOPS 是理想值。

40 在紙面上可行,但 45 則留有餘地。

工作管理員顯示 Windows 作業系統中的圖形處理單元。

TOPS之所以從一條無關緊要的小訊息躍升為關鍵的行銷要點,是因為下一代Windows人工智慧功能的設計理念是運行在本地專用的神經網路引擎上,而不是依賴雲端。這個引擎以NPU(神經處理單元)的形式存在於您的電腦中。

它是一顆獨立於CPU和GPU的晶片,專門用於運行AI工作負載。 NPU專為神經網路中使用的矩陣或張量運算而設計,但經過最佳化以提高效率,因此可以持續運行而不會影響電池續航時間或散熱性能。

微軟的 Copilot+ PC 專案實際上是在樹立一個標竿:這些設備需要配備一個 NPU,其性能必須達到最低標準,通常被認為超過 40 TOPS。正因如此,你會在筆記型電腦發布會和教程中反覆看到 40 TOPS 這個數字。這並非誇大其詞,而是 Windows 系統中特定 AI 功能的基準。

筆記型電腦NPU,配備兩個圖形處理單元。

那麼,為什麼需要 45 TOPS 而不是 40 TOPS 呢?因為沒人願意只買最低配置,而略高於 45 TOPS 的閾值能為製造商(以及您)提供一個安全保障,確保 AI 功能在考慮 CPU、GPU 和 RAM 等其他因素(這些因素會因設備而異)的情況下也能充分運作。隨著功能的增加,例如在通話過程中使用原生助理進行即時翻譯,您將需要更強大的 AI 處理能力。此外,這也有助於應對 AI 工作負載往往會隨著時間推移而增長而非減少的趨勢。

為什麼你的圖形處理器(GPU)不能自動獲勝?

TFLOPS 數據可能會產生誤導

如果你使用電腦多年,並且熟悉圖形處理器(GPU),你就會知道GPU確實可以處理一些極具挑戰性的AI工作負載。現代GPU擁有令人印象深刻的AI吞吐量,通常以類似TOPS(張量運算)的指標來描述。

問題在於,這些數據並不能直接轉化為微軟所設想的PC AI體驗。如果你的獨立顯示卡始終開啟,在後台運行AI功能,那麼功耗和電池續航時間將會非常糟糕。而神經處理單元(NPU)的設計初衷是作為後台AI功能的低功耗引擎,始終保持開啟。因此,了解這一點至關重要。 神經處理單元 (NPU) 和圖形處理單元 (GPU) 的區別.

這也是 TFLOPS 和 TOPS 容易混淆的地方。 TFLOPS 通常指的是浮點運算的吞吐量,這對圖形處理和許多計算工作負載至關重要;而 TOPS 通常指的是整數/時態模式的低精度推理吞吐量。它們不能互換使用,你不能簡單地將一台機器上的 X TFLOPS 與另一台機器上的 Y TOPS 進行比較,然後得出明顯的優劣結論。

簡而言之,專用圖形處理單元 (GPU) 可以成為大型 AI 作業的“速度跑者”,而神經處理單元 (NPU) 則是馬拉松跑者,它使日常 AI 任務感覺自然、安靜、穩定和本地化。

如何購買具備 45 TOPS 性能的真正設備

查看NPU規格,而不僅僅是CPU和GPU。

在評估一台2026年的PC時,TOPS性能指標值得關注,但不應是唯一考慮因素。務必確保你專注的是神經處理單元(NPU)的TOPS性能,而不是CPU、GPU和NPU性能指標的綜合數據。 Copilot+模型的預測完全基於專用神經處理單元的存在及其性能。此外,也不要抱持過高的期望:TOPS性能指標代表的是峰值性能,實際性能不僅取決於硬體本身的性能,還取決於軟體的支援。

長期以來,我們購買電腦主要是為了完成我們日常使用的任務:瀏覽網頁、編輯文件、玩遊戲、編寫程式碼、匯出檔案等等。而現在,我們購買電腦也是為了它在後台默默地完成一些工作:複製、翻譯、摘要、增強音頻和視頻,以及運行無需依賴雲端的本地助手應用。

在這個世界上,45 TOPS 不是什麼魔法——它只是一個實用的秤,在基本功能之外還有一些額外的空間。 不必擔心人工智慧驅動的個人電腦。但它確實存在,如果你打算將下一台電腦使用多年,那麼這額外的空間正是規格表中那種枯燥的技術細節,從長遠來看卻至關重要。

轉到頂部按鈕