人工智能個人電腦(即配備必要硬件和軟件、可在本地運行生成式人工智能任務的個人電腦)的出貨量預計今年將達到近5000萬臺,但在短短幾年內就會膨脹到這個數字的三倍以上。
直到最近,在本地機器上運行人工智能任務還需要使用 CPU、GPU 或兩者的組合。這種方式並不理想,原因有以下幾點:CPU 和 GPU 並未針對人工智能任務進行優化,因此使用它們會影響系統的整體性能,並加快電池的耗盡。
神經處理單元(NPU)目前已開始進入消費類設備,專門用於盡可能高效地處理人工智能工作負載。IDC概述以下三類支持 NPU 的人工智能個人電腦:
支持硬件的人工智能 PC包括一個 NPU,其性能小於每秒 40 太運算(TOPS),通常可使應用程序中的特定人工智能功能在本地運行。目前,高通公司、蘋果公司、AMD 公司和英特爾公司都在推出此類芯片。
下一代人工智能 PC包括一個具有 40-60 TOPS 性能的 NPU 和一個人工智能優先的操作系統(OS),可在操作系統和應用程序中實現持久和普遍的人工智能功能。高通公司、AMD 公司和英特爾公司預計都將為這一類別推出未來的芯片,交付時間可能從 2024 年開始。微軟預計也將推出 Windows 11 的重大更新(和更新的系統規格),以利用這些高 TOPS NPU。
高級 AI PC是指 NPU 性能大於 60 TOPS 的 PC。雖然目前還沒有芯片供應商發佈此類產品,但 IDC 預計它們將在未來幾年內出現。IDC 的這一預測不包括高級 AI PC,但它們將被納入未來的更新中。
IDC 預計,在下一代人工智能個人電腦接棒之前,支持硬件的人工智能個人電腦的出貨量將在未來兩年內大幅增長。該研究公司認為,到2027年,下一代人工智能個人電腦的出貨量將是支持硬件的人工智能個人電腦的兩倍。這些系統中的許多將出售給商業客戶,但消費者也應該有很多期待,包括新的數字內容創建工具和人工智能增強型PC遊戲。
將人工智能工作負載從雲端帶到客戶端有三個主要的技術原因:消除當前人工智能工作負載必須通過網絡往返雲端的過程,從而提高性能;將數據保留在設備上而不是移動中,從而提高隱私性和安全性;限制對昂貴的雲資源的訪問,從而降低成本。