本地大模型应围绕标准化显存档位设计，Vitalik 建议以 96GB 为上限

PANews 5月28日消息，以太坊联合创始人 Vitalik Buterin 在回复讨论时表示，本地运行大模型在内存与显存配置上应围绕若干标准化“档位”设计，96GB 是当前本地可行的上限之一。他提到，RTX 6000 拥有 96GB 显存，高端 MacBook 与部分 AMD 笔电有 128GB 统一内存，而需预留约 32GB 给其他任务。Vitalik 建议整个本地 LLM 与 GPU 生态围绕 2GB、8GB、24GB、96GB、256GB、1TB 等少数容量标准统一硬件与模型设计，以提升部署效率和兼容性。