2026
13 篇文章把資料庫呼叫藏起來之後：OpenAI 的 Habitat 如何撐住每秒 7,000 萬次請求
OpenAI 揭露 Habitat 從 Python 函式庫長成獨立服務的取捨：用技術債換開發速度，代價是尾延遲。
閱讀文章 ↗Megakernel 不是炫技：把 decode 從「等 kernel」改成「等資料」的實作取捨
Cohere 用單一 CUDA 檔把 North Mini Code 的 decode 做成 persistent megakernel，batch size 1 吞吐從 vLLM 的 185 tok/s 拉到 292 tok/s。
閱讀文章 ↗Haiku R1/beta6 出爐：25 週年後的回歸之作
距離 beta5 約兩年，Haiku 於 25 週年後一週發布 R1/beta6：解決逾 530 張票券，Firefox 正式品牌進駐、QEMU 獲 NVMM 硬體虛擬化支援，git status 熱快取案例從 15 秒降到 2.5 秒。
閱讀文章 ↗Hot Chips 2026：三星把 AI 運算塞進記憶體
Hot Chips 2026 記憶體議程焦點：三星發表全球首款 LPDDR 型 PIM 解決方案 LPDDR5X-PIM，16 個 bank 內嵌 MAC 單元，內部頻寬 614 GB/s 為外部存取的八倍，但軟體隔離與不可快取存取仍是採用門檻。
閱讀文章 ↗Qwen3.8-Flash-Next 發表：新架構把啟用參數壓到 6B
2026 年 8 月 26 日，Qwen 開源 Qwen3.8-Flash-Next：125B 主模型加 51B n-gram 嵌入表，每個 token 只啟用 6B 參數，原生 262K 上下文，官方定位是極致成本效率。
閱讀文章 ↗DuckDB v2.0 預覽：新解析器、新儲存格式與伺服器模式
DuckDB 團隊於 8 月 17 日預覽今秋的 v2.0「Cyanoptera」：原生伺服器模式、PEG 新解析器、儲存格式 2.0、非同步 I/O、觸發器，遞迴查詢快了約 40 倍。
閱讀文章 ↗Nari Labs 把 Qwen3-TTS 壓進 50 毫秒內開口
Nari Labs 於 8 月 19 日公開 Qwen3-TTS 1.7B 優化成果：單張 H100 上達到每秒 10 次請求、p95 首音延遲低於 50 毫秒，並開源整套服務實作與基準測試。
閱讀文章 ↗Go 1.27 登場：泛型方法、json v2 與後量子加密
Go 1.27 於 8 月 19 日發布：方法終於能宣告型別參數，encoding/json 底層改由 v2 實作驅動，ML-DSA 後量子簽章進入 TLS，小物件配置成本最多降 30%。
閱讀文章 ↗Mojo 1.0 正式登場：給 AI 時代的穩定系統語言
Modular 於 2026 年 8 月 11 日宣布 Mojo 語言正式抵達 1.0：以穩定為承諾的 1.x 系列，讓開發者能長期建置；標準庫開源以來已有近 200 位貢獻者與超過 1,100 個 PR。
閱讀文章 ↗FFmpeg 9.0「Lei」發布：swscale 重寫與更安全的預設
2026 年 8 月 4 日，FFmpeg 9.0「Lei」亮相：七個函式庫同步升版打破 ABI、swscale 多年重寫落地、動畫 WebP 解碼補上、TLS 憑證驗證預設開啟，開發主場遷往自家 Forgejo。
閱讀文章 ↗在 8GB Mac 上跑 26B 模型：TurboFieldfare 的 SSD 串流推理
開源專案 TurboFieldfare 以 Swift 與 Metal 打造推理引擎：只常駐約 2GB 記憶體，把 Gemma 4 26B-A4B 的 MoE 專家權重從 SSD 逐 token 串流載入，在 8GB MacBook Air 上跑出每秒 5 到 6 個 token。
閱讀文章 ↗DeepSeek V4-Flash 0731：只重做後訓練，代理能力越級跳
2026 年 7 月 31 日，DeepSeek 推出 V4-Flash-0731：架構與規模不變、僅重新後訓練，代理基準大幅超越 V4-Pro-Preview，輸出速度每秒 210 個 token，權重續以 MIT 授權開放。
閱讀文章 ↗Firefox 153 推出：Vulkan 影片解碼與 JPEG XL 終於上船
Firefox 153 開始向 Release 頻道推出，帶來 Vulkan 硬體影片解碼、Firefox Labs 實驗性 JPEG XL 支援與 Windows HDR 播放，並把本機網路存取改為預設需詢問。
閱讀文章 ↗
2025
1 篇文章2026
13 ARTICLESWhen Your Storage Layer Is Python: Tail Latency Lessons from Habitat
OpenAI's Habitat shows why a Python storage service at 70M requests/sec lives or dies on asyncio tail latency.
READ POST ↗A Single Persistent Kernel Changes How You Serve Code Models
Cohere's North Mini Code megakernel serving engine hits 62% of H100 memory bandwidth, 1.58× faster than vLLM at batch size 1.
READ POST ↗Haiku R1/beta6 Arrives: Two Years of Work After Beta5
Two years after beta5, Haiku ships R1/beta6 in the project's 25th anniversary week: 530+ tickets resolved, official Firefox branding, NVMM virtualization for QEMU, and a Go port.
READ POST ↗Hot Chips 2026: Samsung Puts AI Compute Inside LPDDR Memory
At Hot Chips 2026 Samsung detailed LPDDR5X-PIM: MAC units in 16 banks, 614 GB/s internal bandwidth (8x external), 2.4 TOPS per package - with real software catches.
READ POST ↗Qwen3.8-Flash-Next: 125B MoE with only 6B active parameters
Qwen open-sourced Qwen3.8-Flash-Next: a 125B main model plus a 51B n-gram embedding table, only 6B parameters active per token, 262K context, built for cost efficiency.
READ POST ↗DuckDB v2.0 Preview: Server Mode, New Parser, New Storage
DuckDB v2.0 lands this fall: server mode, a new PEG-based SQL parser, storage format 2.0, asynchronous I/O, triggers, and 40x faster recursive queries.
READ POST ↗Nari Labs Gets Qwen3-TTS Talking in Under 50 ms
Nari Labs open-sourced a Qwen3-TTS 1.7B serving stack that hits 10 requests per second with sub-50 ms p95 time-to-first-audio on a single H100.
READ POST ↗Go 1.27 Lands: Generic Methods, json/v2, Post-Quantum TLS
Released August 19, Go 1.27 adds generic methods, moves encoding/json onto the v2 implementation, brings ML-DSA signatures to TLS, and speeds small allocations.
READ POST ↗Mojo 1.0: A Stable Foundation for AI Systems Programming
Mojo officially reached 1.0 on August 11, 2026: a stable, production-ready foundation that Modular itself relies on daily, with a 1.x path of mostly additive changes.
READ POST ↗FFmpeg 9.0 'Lei': swscale Rewrite and Safer Defaults
FFmpeg 9.0 'Lei' arrived August 4: an ABI break across all seven libraries, the multi-year swscale rewrite, animated WebP decoding, and TLS verification on by default.
READ POST ↗Running Gemma 4 26B in 2 GB of RAM: TurboFieldfare
Open-source Swift and Metal engine TurboFieldfare keeps about 2 GB resident, streaming Gemma 4 26B-A4B MoE experts from SSD per token — 5-6 tok/s on an 8GB MacBook Air.
READ POST ↗DeepSeek V4-Flash 0731: Same Architecture, Sharper Agents
V4-Flash-0731 (July 31, 2026) keeps the same architecture and only redoes post-training — agent benchmarks far exceed V4-Pro-Preview, at 210 tok/s with MIT-licensed weights.
READ POST ↗Firefox 153 Ships Vulkan Video Decoding and JPEG XL
Firefox 153 is rolling out with Vulkan hardware video decoding, experimental JPEG XL in Firefox Labs, HDR playback on Windows, and local network access now asking by default.
READ POST ↗