Photos

1. wastemobile2026/08/28 下午11:06

   之前搞錯了（或它改了），Yolo-Auto 提供的 Qwen3.8-27B 是 FP8 weights and FP8 KV caching，能跑出 50 tk/s 速度的自備硬體：
   
   1. 單張 NVIDIA RTX 5090 (32GB VRAM)
   2. 雙卡並聯 2× RTX 4090 (共 48GB) 或 2× RTX 3090 (共 48GB)
   3. 單卡專業工作站 RTX Pro 6000 Ada (48GB) 或 新一代 RTX 6000 Pro Blackwell (96GB)
   
   這樣算起來，$15/m 還算能接受。

   
2. wastemobile2026/08/23 下午09:58

   MoE（Mixture of Experts，混合專家模型）是低記憶體頻寬機器的主力，Ornith 1.5 35B A3B 4bit 已經明顯比 gemma4 26B A4B 強大不少，速度也快，可惜中文能力不行，無法作為常態配置。
   
   Qwen3.8 35B A3B 出場時的碾壓態勢，已在預測之中。