最近在電商常看到AI PC的筆電 , 桌機版目前還沒有. 如果我們想要買一台AI PC前,
先來了解AI PC的定義：
TOPS 是什麼?
TOPS是Trillions of Operations Per Second的縮寫，中文為「每秒兆次運算」，是一種用來衡量AI硬體運算能力的單位，1 TOPS代表處理器每秒可進行1兆次運作。
最近超微執行長蘇姿丰在2024國際電腦展上端出第3代Ryzen AI處理器，其NPU（神經網路晶片）浮點（TOPS）可進行高達50兆次，號稱領先高通、蘋果、英特爾等競爭對手；
TOPS 要多少算力才夠?
微軟近期發布的Copilot+PC系列，最低規格就須達40TOPS的算力,
目前市面上的intel Ultra 系列的AI PC筆電, NPU算力大約10~20 TOPS. 算是非常輕量算力的 AI CPU.
因此如果想要未來能跑得動windows Copilot +PC的話,
可能要再等等其他家推出新的AI CPU再來採購。
AI PC的定義
目前從上述指標來看, NPU至少 40TOPS, 記憶體至少16GB以上.
因為記憶體除了作業系統佔用外, 內建的顯卡GPU晶片也會佔用,
通常顯示晶片可能佔掉4~6GB, 16GB減掉6GB也只剩10GB,
對AI模型資料集來說已經不夠用.
因為記憶體除了作業系統佔用外, 內建的顯卡GPU晶片也會佔用,
通常顯示晶片可能佔掉4~6GB, 16GB減掉6GB也只剩10GB,
對AI模型資料集來說已經不夠用.
以筆者AI訓練經驗來看, 電腦至少要24GB~32GB以上記憶體比較好.
AI PC的功能
目前AI PC還在發展中, 目前像chatGPT, Copilot都是連網路才能使用.
未來待廠商提供離線使用時, NPU的算力就派上用場了.
如: 即時翻譯、照片編輯, 效能調節, 視訊會議去背...
這種早期發展已久的AI模型, 少量TOPS就可以跑了.
至於：文字生成、圖片生成...這種生成式AI (AIGC) 需要更大的訓練模型，
筆者的經驗是AIGC記憶體至少要32~64GB才跑得動,
短期市場想要離線生成像chatGPT這種等級的AIGC模型可能還要再等等。
未來待廠商提供離線使用時, NPU的算力就派上用場了.
如: 即時翻譯、照片編輯, 效能調節, 視訊會議去背...
這種早期發展已久的AI模型, 少量TOPS就可以跑了.
至於：文字生成、圖片生成...這種生成式AI (AIGC) 需要更大的訓練模型，
筆者的經驗是AIGC記憶體至少要32~64GB才跑得動,
短期市場想要離線生成像chatGPT這種等級的AIGC模型可能還要再等等。
結論
若只是跑小型AI模型修修照片, 即時翻譯等等,
目前手機的晶片已經做得到了如: 三星S24系列. Google Pixel 8, Pixel 9....
市售中的 intel Ultra CPU + 16GB RAM 筆電或許可以考慮。
像momo購物或24h pchome都有 AI PC的專區
Ultra 5 中階效能CPU、Ultra 7 高階效能CPU ,可以依自己的需求喜歡挑選。
較新的AI PC是鍵盤上有一顆"copilot"鍵,
可直接喚出windows Copilot。
目前手機的晶片已經做得到了如: 三星S24系列. Google Pixel 8, Pixel 9....
市售中的 intel Ultra CPU + 16GB RAM 筆電或許可以考慮。
像momo購物或24h pchome都有 AI PC的專區
Ultra 5 中階效能CPU、Ultra 7 高階效能CPU ,可以依自己的需求喜歡挑選。
較新的AI PC是鍵盤上有一顆"copilot"鍵,
可直接喚出windows Copilot。
若想要跑圖文生成的AI PC先考慮NPU算力要TOPS 40以上,
記憶體可擴充到32GB~64GB比較好.（因為AI模型要載入記憶體)
還要等等如: AMD新的Ryzen AI 300 CPU上市再買。
筆者也很期待新一代的AI PC來臨, 這樣子在工作上或學語言就更方便了.
想像可以直接跟筆電或電腦對話、聊天、問問題....解決生活雜事.
這不就是科幻電腦才會出現的嗎?
圖片由 copilot 生成
