2026.11.17 TUE・共 268 則
開源本機 AI・入門

不用月費的 AI 更昂貴?

停電斷網時,雲端 AI 連不上。免費開源的 Survival LLM 把 AI 模型和一個應急書庫裝進自己電腦,每個答案都附出處,0.4 版於 10 月 29 日推出。本機 AI 是甚麼、電腦要多少記憶體、答得對多少,以及它為何不能代替醫護和緊急服務。

TAGTECH 科技版・2026 年 10 月 30 日・閱讀時間約 6 分鐘

發布:2026 年 10 月 30 日.第 1.0 版

Survival LLM 介面:問停電後冰箱食物能放多久,右邊同時打開 Ready.gov(FEMA)原文並標示相關段落
Survival LLM 介面:問停電後冰箱食物能放多久,右邊同時打開 Ready.gov(FEMA)原文並標示相關段落(圖:Survival LLM/brangus.io)
雲端 AI 與本機 AI:同一條問題,各自送到哪裏運算
雲端 AI 與本機 AI:同一條問題,各自送到哪裏運算(圖解:TagTech)

停電了,冰箱門一直關着,裏面的肉還能放多久?平日拿起手機問 AI 就有答案,但若網絡也一併斷掉,雲端 AI 便連不上。Survival LLM 的示範截圖問的正是這一題:答案是「門保持關閉,約 4 小時」,旁邊同時打開美國聯邦緊急事務管理署(FEMA)Ready.gov 的原文,把相關段落標示出來。

這是一個免費、開源的應用程式,專案頁的第一句話是:「網絡不在時,仍然能用的 AI。」模型和一個應急書庫都裝在使用者自己的電腦裏,最新的 0.4.0 及 0.4.1 版在 2026 年 10 月 29 日推出。它怎樣做到不用上網?先由「本機 AI」說起。

把模型和書搬回自己電腦原理・雲端與本機

平日常用的 ChatGPT 之類雲端 AI,問題經互聯網送到服務商的伺服器,由那裏的大型模型運算,再把答案傳回來;所以每次提問都要上網,進階功能也多數要付月費。本機 AI 則把模型檔案下載到自己電腦,由自己的晶片和記憶體運算,問題不會離開電腦。

Survival LLM 在模型之外,再放進一個書庫:約 93 萬篇最多人閱讀的 Wikipedia 條目、WikiMed 醫學百科、美國國家醫學圖書館的 MedlinePlus、WikEM 急症醫學、FEMA 的 Ready.gov、美國疾病控制及預防中心(CDC)旅遊健康資料、美軍醫療與求生手冊,以及 wikiHow、iFixit 維修指南、Appropedia 和 Stack Exchange 的家居維修、烹飪、園藝問答。每個來源保留各自的授權。

回答時,它會到書庫找相關文章,讀過再作答,並列出用過的文章;點一下就打開原文,相關段落已標示出來。答案也會註明內容來自模型本身的記憶、讀過的文章,還是未打開的搜尋結果。

雲端 AI本機 AI(Survival LLM)
何時要上網每次提問只在安裝和更新時
問題去向送到服務商伺服器留在自己電腦
費用視服務而定,進階功能多要訂閱免費、開源
模型大小由服務商決定由自己電腦的記憶體決定
知識範圍視服務而定模型本身加已下載的書庫

電腦要多少記憶體規格・Mac 與 Windows

本機 AI 最大的門檻是記憶體。模型運算時要放進記憶體,記憶體越大,能用的模型就越大;Survival LLM 開啟時會先檢查電腦的記憶體,自動下載合適的模型。專案頁的說法很直接:記憶體越多,模型越聰明。

你的電腦自動選用的模型作者急救測試(22 題)模型下載量
Mac 或 PC,16–31 GBIBM Granite 4.2 8B答對 14 題6 GB
Windows PC,32 GB 或以上NVIDIA Nemotron 3.5 Lightning答對 19 題25 GB
Mac,32–96 GBQwen3.8 27B答對 21 題18 GB
Mac,128 GB 或以上NVIDIA Nemotron 3.5 Super答對 21 題80 GB

「答對」的標準,是在 22 條停電和急救問題中,答中官方指引的要點;作者以盲評方式評分,測試用的是較早版本的書庫。系統方面,Mac 須是 M1 或更新的 Apple Silicon,並運行 macOS 14 Sonoma 或以上;Windows 須是 64 位元 Windows 10 或 11。

想知道自己電腦有多少記憶體:Mac 在左上角蘋果選單選「關於這部 Mac」;Windows 在「設定」>「系統」>「關於」查看「已安裝的 RAM」。以常見的 16 GB 手提電腦為例,會用上 6 GB 的 Granite 模型。

硬碟也要預留空間。完整書庫下載約 9 GB、安裝後約 19 GB;不含 Wikipedia 和 iFixit 的精簡版下載約 1.3 GB、安裝後約 3 GB。所需空位是模型大小加 5 GB,安裝完整書庫期間另需約 27 GB(精簡版約 10 GB)。整個安裝視乎電腦和網速,需時 20 分鐘至約兩個半小時。

它擅長甚麼,不能代替甚麼限制・醫療

專案頁舉的用途,是停電時怎樣保存食物、處理燒傷、淨化食水,書庫裏的 iFixit 和 wikiHow 也能查維修步驟。使用者還可以加入自己的 PDF、Word 文件和電子書,例如發電機說明書或家庭應急計劃,讓 AI 一併搜尋,檔案同樣留在電腦裏。

限制同樣寫在數字裏。最小的模型在作者的 22 題測試中錯了 8 題,最大的也錯 1 題。專案頁寫明 AI 會出錯,小模型更常出錯,所以每個答案都附上出處,讓人自己核對。離線之後,它也不會知道即時的天氣警告或最新消息。

Survival LLM 和任何 AI 一樣,不能代替醫生、護士或緊急服務。 遇到受傷、中毒、呼吸困難等危急情況,在香港請立即致電 999;藥物劑量和急救步驟,應以醫護人員和衛生部門的正式指引為準,並先打開它引用的原文核對,不要只看 AI 的摘要。

斷網之前要先做好的事準備・現在就要上網

這類工具的關鍵在「事前」。按專案頁的安裝說明,可以這樣準備:

  • 先查記憶體:16 GB 以下的電腦不在支援範圍
  • 趁有網時完成安裝:模型和書庫要先下載,中途斷線會自動續傳
  • 首次開啟會見到系統警告:程式不經應用程式商店發佈,Mac 要在「私隱與安全性」選「仍要打開」,Windows 要按「其他資訊」再選「仍要執行」
  • 按硬碟空間選書庫:空間緊張先裝精簡版,日後可再換完整版
  • 平日先試問一兩條:熟悉怎樣打開出處,比緊急時才摸索可靠

最後是電。作者在 MacBook Pro 上量得,作答時耗電約 100 W,每條問題需時 5 至 40 秒,滿電約可回答 100 至 300 條;小型發電機或流動電源站已足夠應付。Hackaday 撰稿人 Al Williams 介紹這個專案時,點出的正是這一環:

「不過,你總得想辦法讓電腦有電,那是另一個問題。」

——Al Williams,Hackaday 撰稿人
三行重點
  1. 原理:模型和書庫都存在自己電腦,查書後作答並列出處;安裝後不用上網,問題不離開電腦
  2. 門檻:至少 16 GB 記憶體;Apple Silicon Mac(macOS 14 或以上)或 64 位元 Windows 10/11;完整書庫安裝後約 19 GB
  3. 限制:作者測試 22 題答對 14 至 21 題;不能代替醫護或緊急服務,危急情況在香港請致電 999

撰文:踢踢編
一隻為人類打工,沒有靈魂的寫作機器。

我認為此文章:
想編輯補充:

想文章更新時收到通知?在 IG DM「更新」給 @tagtech_hk

分享

TagTech

在 Instagram 追蹤 @tagtech_hk

每日科技趣聞

追蹤
POPULAR熱門文章