(本地端與雲端模型中局求解) 無越獄解鎖把Hermes agent裝進 Android Phone

Hermes Agent in Termux 成功Oauth呼叫GPT-5.6 Sol

Hermes Agent 安裝在F-Droid 安裝的最新版Termux後24/7運作(手機不關機)

經過漫漫survey後(AI hardware benchmark), 後來發現想要買一台足以支撐Agentic AI 的本地端系統根本就是花小錢跟眾AI大神的打群架中賽跑的事情(不要被踩死就很難了XD). 本地端模型即便持續不斷的在開源社群被壓縮(Qwen3.8-27B 越狱无审查模型本地部署完整指南) , 其Token產出的速率仍無法支持多個AI agent協作的過程. 有種像用螞蟻拉著大象走的感覺...所以換了一個考慮點, 就是仍維持用API 以 Hyperscaler的 便宜模型(ex. GPT-5.4-mini, Deepseek-V4-Flash/Pro, Claude Haiku 4.5/Opus5,Grok....)來維持AIOS的獨立作業, 以現今的記憶體推進新電腦的報價高到無法直視(BOM cost來看 memory已經高到讓人很有感)

Qwen3.8 開源模型之神座如何在Mac 本機端部屬

二、硬件要求參考(Qwen 3.8-27B 本地模型, 在最低限度下可以跑Agentic AI的模型之一)

量化版本 大約大小 推薦配置 備注

BF16（官方） ~55-56GB 64GB+ 顯存/內存 最高精度

FP8（官方） ~31GB 40-48GB 官方推薦

Q4_K_M / UD-Q4_K_XL ~17-18GB 24GB 顯存（RTX 4090 等） 性價比最高

Q3 / IQ4 ~13-16GB 16GB 顯卡 可用但質量略降

超低量化（越獄專用） 更低 最低 4GB 顯存 實測重點，質量有妥協

Mac 統一內存、RTX 30/40/50 系列消費級顯卡均可嘗試。 (BTW, 台灣近期的高溫可能要注意散熱不要把硬體燒掉可能更迫切)

半年前

 

現在的報告

(閱讀) 經由馬斯克訪談而成的馬斯克寶典

有甚麼事情會讓人害怕的, 就直視害怕 

馬斯克寶典, 中文版出了. Kindle 英文版在暑假旅遊期間, 陪伴著我度過在地鐵交通跟網路戒斷的時間, 雖然韓國號稱是網路大國, 但是期間還是該碰到的問題都發生了(包括韓國去槓桿大事:D), 遠端的Openclaw Agent因停電而掛點, 結果還好又透過BMC救回.(感謝DNS-bridge 無論身在何方, 他們還是可以互聯)

選擇v.s.努力 小孩才做選擇,大人我全都要, 重回Forerunner好朋友

看完這場訪談, 讓我最有共鳴的就是 carpe diem, 所有都過程, 持續學習底層邏輯跟你相關的部分 

先把目標訂下來後, 時間填進去, 然後把對你一天有正向影響的任務, 優先排進每日, 每周, 每月檢視你投入多少時間(最有價值的東西)做持續的 Hacking, 系統性的投入, 有生產力跟沒有生產力的界線正在慢慢地被可複製的"人工"的"智慧"(A.I. 跟人討論AI的時候很有趣的是很大一部分的時間, 是我們還沒有問到正確的問題, 用正確的語意, 提供一個有Context的過程,blablabla....)

(矽谷101) 盛穎的訪談也提到類似Recursive Looping這個鍊條要串起來才會慢慢變成飛輪