想像到了日本長野才發現網路超爛，偏偏這時又不知道拉麵店的店員桑在說什麼。我們很習慣打開 ChatGPT 或 Gemini 問 AI，讓網路跑一下把回答送回來（Google 翻譯：我還在欸😭）。那問題來了，如果網路需要跑好幾下呢？

Samsung 在 2025 年 3 月介紹 Galaxy S25 系列的 Live Translate 使用方式，提到先下載需要的語言，翻譯就能在網路不佳、甚至沒有網際網路的地方使用。三星研究院另有技術專訪，說明 Live Translate 和面對面使用的 Interpreter，如何透過裝置端模型運作。

AI 住在哪裡？

On-device AI，裝置端 AI，指的是把 AI 的運算放在手機、電腦等裝置上進行。 用翻譯來想，你說的一段話可以在手機上被處理，翻成另一種語言，再顯示或播放出來。這類翻譯的運算可以在手機完成，不用每次透過網路呼叫場外支援；如果用在電話裡，通話本身還是需要連線。

那總有一些限制吧？

伺服器可以放在有電力與散熱設備的機房，手機卻要塞進口袋，還得撐到你回飯店。模型的記憶體用量、運算速度、耗電和發熱，都會影響這 AI 好不好用。三星的技術說明談到，必須把模型縮小、讓執行有效率，才有可能在裝置資源有限的條件下實現今天的結果。

需要很多資料或較大運算量的功能，仍可能交給雲端。有些對話你不想送到外部伺服器，裝置端 AI 就多了一個選擇。不過，還要看工具會不會同步紀錄、呼叫雲端，不能只憑「裝置端」三個字，就保證能私聊一輩子。它的家不大，能力、速度和耗電總得取捨，你能接受嗎？

聊聊你的經驗

你玩過裝置端 AI，或把模型下載到自己的電腦用過嗎？當時是什麼需求，讓你想把 AI 留在自己這邊？

文／上哲（ChatGPT 協力）