BR收藏
19:58 · 2026年8月10日 · 週一
https://youtu.be/YO5JbD8klHU?si=7padAYeqEXfQ6OJi
YouTube
TurboFieldfare详解:Gemma4 26B大模型只用2GB内存,8GB Macbook Neo也能跑本地AI?| Turo Fieldfare 详解 | 内存价格有救了?!
Turbo Fieldfare repo:https://github.com/drumih/turbo-fieldfare
本地运行大模型,最大的门槛往往不是模型本身,而是内存。
这期视频介绍一个最近很有意思的开源项目:TurboFieldfare。它针对 Gemma 4 26B-A4B 做了专门优化,通过 Swift + Metal 推理引擎,把大部分专家权重放在 SSD 上按需读取,只在内存里保留约 2GB 的核心数据和 KV Cache,让 8GB 内存的 Apple Silicon Mac…
Home
Powered by
BroadcastChannel
&
Sepia