An agent run is stochastic gradient descent over solution space, and steering is how the true objective enters the loop. An optimization view and a Bayesian view that ground the industry ladder — prompt, context, harness, loop engineering — in foundation theory, and explain when a big model steering a small one beats distillation, and when it does not.

一台 MacBook Pro M4 Max、一個開源 MoE 模型，針對推論優化的一次實戰：為什麼讓 LLM 的吞吐量崩跌 100 倍的是 prefill（而不是 decode），以及兩個針對 prefill 部分的優化。

這篇文章談的是 Collection Autofill 的架構設計：一個把非結構化資料整理成 structured context 的產品介面，如何在幾百列到上千萬個 AI-computed cells 的規模下，仍然保持快速、公平且可觀測。

生成式 AI 正在改變軟體，那它又會如何改變我們使用文件、圖片和影片等非結構化資料的方式呢？