手機裡的離線 AI 小秘書 —— pocketpal 從零上手指南

pocketpal 是什麼

pocketpal 是一款能在手機上本地部署大模型的 AI 助手聊天軟體，就好比是裝在口袋裡的小秘書——隨時隨地能跟你聊天、解答問題，而且完全不用連網就能直接跟 AI 模型互動。

它最吸引人的地方莫過於隱私保護：所有對話都是在本地裝置上處理的，不會上傳到任何雲端伺服器。同時 pocketpal 支援多種 AI 大模型的載入，你在一個軟體上就能體驗到不同模型的風格與能力。

安裝

pocketpal 只提供 Android APK 安裝包，檔案大小約 50.75MB，對應的包名是 com.pocketpalai。安裝流程跟一般 APK 類似，但有幾個新手容易踩的坑值得留意：

首先，確保你的手機有足夠的儲存空間——除了 50MB 左右的安裝包，之後下載的模型檔案可能從幾百 MB 到幾 GB 不等，建議至少預留 5GB 以上的空間。

透過 pocketpal下載 取得 APK 後，如果是首次安裝非應用商店來源的應用，手機會彈出「未知來源」的提示，進入系統設定允許該來源的安裝權限即可。安裝完成打開應用，第一次看到空白的聊天介面和「沒有可用的模型」提示是正常的——pocketpal 本身不內建模型，模型需要你自己下載。

應用的語言設定預設跟隨系統語言，如果打開後發現顯示英文，進入側邊欄的 Settings → Language 手動切換成中文即可。

它到底是幹嘛的

想像一下，你手機裡住了一個隨叫隨到的小幫手，但這個幫手從來不碰你的網路流量，也不會把你跟它說的任何話透露給別人。這就是 pocketpal 最核心的定位：離線、私密、隨身的 AI 搭檔。

它的介面很乾淨——左側是側邊導航欄，你可以在裡面找到模型管理、對話歷史、Pals（不同性格的 AI 角色）等功能；右側就是聊天主介面，跟一般聊天軟體的體驗沒有太大差異。你選好模型之後，直接在底部輸入框打字送出，AI 就會開始逐字回覆。

跟雲端 AI 比起來，pocketpal 犧牲了一點模型規模——手機跑不動萬億參數的巨型模型——但換來了兩個雲端做不到的事：零延遲的離線可用和絕對的隱私自主。飛機上、地鐵深處、海外漫遊省流量，這些場景 pocketpal 都是雲端 AI 無法取代的選擇。

五分鐘上手

打開 pocketpal，你會看到一個空的聊天畫面，頂部有個提示說「沒有可用的模型」。別慌，跟著下面四步走，五分鐘之內你就能完成第一次對話。

第一步：下載你的第一個模型。 點左側導航欄的「Models」（如果是中文介面就是「模型」），你會進入模型下載頁。這裡列出了支援的 GGUF 格式模型清單，每個模型旁邊都會顯示檔案大小和一個下載按鈕。新手建議從 3B 到 7B 之間的小型模型開始——它們在手機上跑得比較快，檔案也不會佔用太多空間。點下載之後，進度條會顯示在模型卡片上，等它跑完就行。

第二步（如果需要）：配置 Hugging Face Token。 有些模型（比如 Llama 系列、部分 Mistral 系列）在 Hugging Face 上標記為受限下載，這時你需要一個 HF token 才能下載。點左側的 Settings，找到「Hugging Face Token」那一欄，把你在 HF 網站生成的 token 貼進去儲存就好——這個 token 只存在你手機本地，不會上傳到任何地方。

第三步：選好模型開始聊天。 模型下載完成後，回到聊天介面。頂部應該會顯示目前選用的模型名稱。如果還沒自動選上，點一下頂部的模型名稱從彈出的列表裡選一個就好。接著在底部輸入框隨便打一句話——比如「你好，幫我寫一段自我介紹」——送出。

第四步：等待 AI 回覆。 這是最關鍵的時刻，你會見識到手機本地推理的速度感。旗艦機跑 7B 模型大約每秒能出 10 到 20 個 token，體感上跟雲端 AI 差不多；入門機可能會慢一點，但也能用。如果回覆速度讓你抓狂，可以在 Settings 裡試著換一個更小的模型，或者降低量化等級。

就這樣，四步走完你已經完成了跟手機 AI 的第一次離線對話。

上手後先玩這三個功能

模型跑通之後，下面三個功能是新手最值得先碰的，每一個都能讓你體會到 pocketpal 跟一般聊天軟體的不同之處。

1. 切換不同模型比對風格。 在 Models 頁下載兩到三個不同系列的模型（比如一個來自 Mistral、一個來自 Qwen），然後在同一個問題上分別問它們。你會很快發現不同模型的回答風格差異很大——有的偏向簡潔，有的喜歡講解細節，有的對中文語法更得心應手。這個功能相當於在一個 App 裡裝了好幾個 AI，切換起來只要點一下頂部的模型名稱。

2. 試試 Pals 功能。 Pals 是預設的 AI 角色模板，比如有人設了「耐心的老師」、有人設了「毒舌評論員」。選一個 Pal 開始對話，你會發現 AI 回覆的語氣和思路跟直接開聊天完全不一樣——這是因為 Pal 會自動帶上一段系統提示詞來塑造 AI 的性格。你也可以自己建立 Pal，寫上你想要的角色設定。

3. 開一個長對話測試上下文。 跟 AI 聊個十幾輪，從一個主題自然延伸到另一個主題，看看它能不能記住你之前說過什麼。上下文窗口的大小直接決定了 AI 在長對話裡的表現——pocketpal 的設定裡可以調整上下文長度，新手先用預設值就行。

小白的三個常見疑問

問：為什麼我打開之後畫面一片空白？是不是壞了？

這不是壞掉。pocketpal 不內建任何模型，首次打開的空畫面就是設計如此——你需要先到 Models 頁下載一個模型才能開始聊天。這點確實讓不少新手以為下載到了假軟體。

問：模型跑得太慢怎麼辦？是不是我手機太差？

速度跟模型規模、量化等級、手機硬體都有關係。最直接的解決方案是換更小的模型——2B 到 4B 的模型在手機上跑得很流暢，7B 以上就開始考驗手機效能了。另外，長對話會拖慢速度，開新對話就能恢復。如果你的手機支援 GPU offload，可以在設定裡打開，能帶來明顯加速。

問：切換模型之後之前的對話還在嗎？

在的。對話歷史跟模型是分開的——你可以隨時切換模型繼續同一個對話，AI 會用新模型的風格來回覆。對話記錄預設存在本地 SQLite 資料庫裡，刪除對話就是徹底刪除，不會有備份殘留。

本文為個人基於網路公開資料整理編寫，非官方內容，僅供學習交流參考；軟體版權歸原作者所有，請支持正版；使用過程中遇到問題請查閱官方管道，本文不承擔任何責任。