博客
标签
#self-hosted-llm
标签为 self-hosted-llm 的 Whatever Works 文章。
AMD Threadripper Halo：数据必须留在本地，前沿 AI 也能本地跑
AMD 的 Threadripper Halo 把 96 核 CPU 配上最多 576GB 的 HBM3e——第一台能在桌面机箱里装下一万亿级参数模型、不需要数据中心的机器。这篇说明这块内存真正买到了什么、要花多少钱、又该由谁认真考虑。
阅读文章 →
GPT-6 Astra 到底要多少钱？中小企业想省账单，关键在架构，不在模型
有第三方追踪器把 GPT-6 Astra 的定价报在每百万 token 约 $10（输入）/ $50（输出），上下文窗口约 1M——十足的旗舰级花费。这篇把各家的报价逐一拆开，再用一笔实际的算式说明：真正决定账单厚薄的，是你的架构，而不是模型本身。
阅读文章 →